Chương 419: Đừng tìm sai hướng

Chuơng Vĩ Uyển nhíu mày, điều động hệ thống nhật ký. Phản ứng đầu tiên của anh ấy là rò rỉ bộ nhớ, chạy những phép tính ma trận kích thước lớn như thế này thỉnh thoảng sẽ gặp vấn đề về quản lý bộ nhớ, nhưng sau khi xem qua nhật ký, anh ấy biết không phải vậy.

Băng thông truyền thông gần như bị nuốt chửng, InfiniBand đã tăng vọt tới chín mươi tám phần trăm, và vẫn đang tiếp tục tăng. Nếu tình trạng này cứ tiếp diễn, toàn bộ phân vùng sẽ kích hoạt chế độ bảo vệ quá nhiệt.

Trong lòng anh ấy đột nhiên thắt lại. Hậu quả của việc kích hoạt chế độ bảo vệ quá nhiệt chính là ép xung bắt buộc, sức mạnh tính toán giảm đi một nửa, toàn bộ chu kỳ tính toán sẽ bị kéo dài vô tận.

Phó Lâm đứng ở hàng sau, nhìn chằm chằm vào thanh tiến trình bị kẹt trong một lúc lâu.

Anh ấy là đệ tử cưng của Khôn Vệ Hoa, cũng là người trẻ nhất trong toàn viện nghiên cứu. Anh ấy suốt ngày nghiên cứu tính toán đồ thị quy mô lớn, nhạy cảm với những nút thắt truyền thông hơn bất kỳ ai. Khi nhìn thấy đường cong ấy, trong đầu anh ấy đã bắt đầu nghĩ tới đủ mọi nguyên nhân có thể xảy ra.

Phân chia khối hai chiều ScaLAPACK thông thường trong trường hợp xấu nhất quả thực có lượng truyền thông toàn đối toàn, nhưng về mặt lý thuyết, với quy mô dữ liệu như thế này, ngay cả toàn đối toàn cũng không nên chiếm dụng băng thông nhiều đến vậy.

Trừ phi... trừ phi cấu trúc dữ liệu của mô hình vốn dĩ có gì đó đặc biệt, dẫn tới truyền thông dư thừa.

"Có phải mô hình vốn dĩ không thể thực hiện được...?"

Anh ấy theo đuổi suy nghĩ ấy, miệng không tự chủ thì thầm ra.

Ngay khi lời nói vừa thốt ra, anh ấy vẫn chưa nhận ra vấn đề gì.

Đó cũng là thói quen làm việc của anh ấy, khi gặp nút thắt, đầu tiên là loại trừ mọi khả năng, vấn đề ở tầng mô hình cũng là một trong số đó.

Là một nhà nghiên cứu, phát hiện ra vấn đề đã là một tài năng rồi.

Nhưng điều kiện tiên quyết là, đừng đi sai hướng.

Khi toàn bộ phòng điều khiển quay đầu nhìn anh ấy, anh ấy mới chợt nhận ra mình vừa nói gì.

Người đứng trước mặt anh ấy là ai.

Tiêu Tú.

Người được mệnh danh là "Thần Tiêu", người đã chứng minh giả thuyết Goldbach chỉ trong một tháng, chinh phục dòng chảy rối loạn, đứng trên đỉnh cao của toán học và vật lý.

Và anh ấy vừa mới, trước mặt tất cả mọi người, nghi ngờ mô hình của người ấy không thể thực hiện được.

"Không phải không phải không phải!"

Anh ấy vung hai tay trước ngực, mặt đỏ bừng.

Nếu là người khác, khả năng mô hình gặp vấn đề quả thực tồn tại.

Nhưng khuôn khổ do người này tạo ra, bắt đầu bằng việc nói mô hình có vấn đề, quả thực là ngu ngốc trần trụi.

Anh ấy muốn rút lại ngay lời vừa nói, vội vã giải thích:

"Tôi không có ý đó! Ý tôi là liệu có phải kiến trúc truyền thông siêu máy tính của chúng ta quá cũ, không phải vấn đề của mô hình!"

Khôn Vệ Hoa bên cạnh xoa thái dương, trong lòng thở dài.

Đứa trẻ này nền tảng kỹ thuật không tồi, chỉ là quá trẻ, chưa học được cách suy nghĩ trước khi nói.

Nhưng ông ấy cũng không quá lo lắng, theo hiểu biết của mình về Tiêu Tú, người ấy sẽ không quan tâm đến sai lầm vô tình này.

Tiêu Tú quả thực không quan tâm.

Anh chưa bao giờ tin rằng bất kỳ lời nói nào cũng hoàn toàn chính xác, tất nhiên cũng chẳng bao giờ bắt mọi người phải vô điều kiện tin mình. Chỉ là, anh không thấy Phủ Lân nói đúng.

So với một cỗ máy mà anh còn chưa hiểu hết tính năng, anh rõ ràng tin vào bộ não của mình hơn.

Tiêu Túc trong đầu lặp đi lặp lại toàn bộ quá trình tính toán, cuối cùng, ánh mắt anh dừng lại trên sơ đồ tô pô truyền thông hiển thị trên màn hình.

Có lẽ, anh đã tìm ra vấn đề rồi.

Anh nói với Chu Vĩ:

"Đưa sơ đồ tô pô truyền thông của bước phân tích phổ ra đây."

Chu Vĩ gật đầu, cúi xuống gõ vài lệnh, một sơ đồ truyền thông giữa các nút hiện lên màn hình lớn.

Toàn bộ sơ đồ giống như một quả cầu len bị mèo cào xé, hầu như mọi nút đều trao đổi dữ liệu với tất cả các nút khác, các đường nối chằng chịt chồng chéo lên nhau.

"Truyền thông toàn đối toàn," Tiêu Túc nhìn chằm chằm vào đám len rối rắm, trong lòng xác nhận nhận định của mình, "Các anh phân khối song song theo cách gì?"

"Phân khối hai chiều theo hàng cột của ma trận, chiến lược phân phối chuẩn của ScaLAPACK."

Tiêu Túc lắc đầu.

Vậy thì, vấn đề không nằm ở kiến trúc siêu máy tính, mà ở cách phân khối dữ liệu đã có vấn đề.

Trong phép giảm chiều không gian thương, việc phân lớp tương đương có một đặc tính mà mọi người đều bỏ qua, ấy là bản thân quan hệ tương đương đã mang tính cục bộ.

Hai điểm mẫu trong hầu hết các chiều không cần so sánh toàn cục, chỉ những điểm rơi vào cùng một vùng lân cận cục bộ mới cần so sánh chính xác.

Nhưng cách phân khối tiêu chuẩn lại chẳng tận dụng đặc tính này, coi mỗi nút như cần trao đổi dữ liệu với tất cả các nút khác, coi như tự ném đi một núi chi phí truyền thông vô dụng.

Chỉ cần phân chia đồ thị theo cấu trúc vùng lân cận của lớp tương đương, để truyền thông chỉ xảy ra trên các cạnh cắt của đồ thị, khối lượng trao đổi dữ liệu có thể giảm từ một bậc xuống bậc khác.

Tiêu Túc không giải thích thêm nữa, anh kéo bàn phím về phía mình, bắt đầu gõ code.

Trước tiên dùng băm nhạy cảm cục bộ để phân vùng sơ bộ, hàm băm dùng phép chiếu siêu phẳng ngẫu nhiên, hướng chiếu được lấy ngẫu nhiên từ hướng chủ yếu của dữ liệu, đảm bảo xác suất cao các điểm lân cận rơi vào cùng một thùng.

Sau đó thay đổi chiến lược phân khối, dùng đồ thị kề của các thùng băm để phân chia đồ thị phổ, mỗi tiểu đồ thị nội trong cùng một nút, số lượng cạnh cắt được tối thiểu hóa.

Như vậy, những gì cần truyền thông giữa các nút chỉ còn lại các mẫu biên trên cạnh cắt.

Chu Vĩ nhìn dòng code tăng nhanh trên màn hình, mắt càng mở càng to.

Những gì Tiêu Túc viết bây giờ, xét cho cùng, không phải là đột phá lý thuyết sâu sắc, thậm chí có thể nói ý tưởng kỳ lạ đơn giản.

Nhưng chính kiến trúc đơn giản ấy lại khiến Chu Vĩ nổi da gà.

Băm nhạy cảm cục bộ phân vùng sơ bộ, phân chia đồ thị phổ, đóng gói truyền thông biên giới—ba tầng kiến trúc này, nếu tách ra, mỗi phần đều là những khối thuật toán có sẵn, ai ở đây cũng hiểu.

Nhưng để ráp chúng lại, biến thành một con dao phẫu thuật chuyên giải quyết nút thắt truyền thông toàn đối toàn, chẳng phải ai cũng nghĩ ra được.

Nó đòi hỏi anh phải thấu hiểu cùng lúc tính chất toán học của băm, tối ưu tổ hợp của phân chia đồ thị phổ, và cảm nhận gần như bản năng về logic truyền thông tầng thấp của siêu máy tính.

Đa số người thậm chí không thể ngốn nổi một mảng, nói chi đến ráp cả ba mảng, rồi tự nhiên viết ra một giải pháp có thể chạy trực tiếp trên máy.

Còn Tiêu Túc, anh chẳng do dự một giây.

Chu Vĩ lập tức nhận ra, kiến trúc này không chỉ giải quyết nút thắt truyền thông của giảm chiều không gian thương, phát hiện cộng đồng mạng xã hội, cập nhật danh sách lân cận động lực học phân tử, xây dựng đồ thị chồng lấn hệ gen—bất kỳ trường hợp nào cần tính toán đồ thị quy mô lớn đều có thể hưởng ngay lợi ích này.

Anh gần như chắc chắn, một khi đoạn code này chạy thông, toàn bộ kiến trúc truyền thông của trung tâm sắp phải được viết lại từ đầu.