Meta hợp tác với NVIDIA xây dựng siêu máy tính nghiên cứu trí tuệ nhân tạo khổng lồ

Siêu máy tính AI của Meta – hệ thống NVIDIA DGX A100 dành cho khách hàng lớn nhất cho đến nay – sẽ cung cấp cho các nhà nghiên cứu của Meta 5 exaflops hiệu suất AI, sở hữu các máy chủ NVIDIA DGX A100 tiên tiến, được kết nối qua mạng InfiniBand và phần mềm cho phép tối ưu hóa trên hàng nghìn GPU A100.

Meta, công ty mẹ của Facebook, đã chọn công nghệ của NVIDIA cho một hệ thống mà họ tin rằng sẽ là hệ thống nghiên cứu mạnh mẽ nhất cho đến nay.

AI Research SuperCluster (RSC), được công bố hôm nay, trên thực tế đã được sử dụng để đào tạo các mô hình mới để phát triển AI.

Sau khi được triển khai đầy đủ, hệ thống RSC của Meta dự kiến sẽ là khách hàng lớn nhất lắp đặt hệ thống NVIDIA DGX A100.

“Chúng tôi hy vọng RSC sẽ giúp chúng tôi xây dựng các hệ thống AI hoàn toàn mới, chẳng hạn như cung cấp khả năng dịch giọng nói theo thời gian thực cho nhiều nhóm người, mỗi người nói một ngôn ngữ khác nhau, để họ có thể cộng tác liền mạch trong một dự án nghiên cứu hoặc chơi một trò chơi AR cùng nhau”, công ty cho biết trong một bài blog.

Đào tạo các mô hình lớn nhất của AI

Khi RSC được xây dựng hoàn chỉnh, dự kiến vào cuối năm nay, Meta đặt mục tiêu sử dụng nó để đào tạo các mô hình AI với hơn một nghìn tỷ tham số. Điều đó có thể thúc đẩy các lĩnh vực như xử lý ngôn ngữ tự nhiên (NLP) cho các công việc như xác định nội dung vi phạm theo thời gian thực.

Ngoài hiệu suất trên quy mô lớn, Meta cho biết độ tin cậy cao, tính bảo mật, quyền riêng tư và tính linh hoạt để xử lý hàng loạt các mô hình AI làm các tiêu chí chính cho RSC.

>>> Xem thêm: Card Dell HBA355i



Thành phần hệ thống bên trong

Hệ siêu máy tính AI mới sử dụng 760 máy chủ NVIDIA DGX A100 làm các node xử lý (compute node). Chúng chứa tổng cộng 6.080 GPU NVIDIA A100 được liên kết trên mạng NVIDIA Quantum 200Gb/s HDR InfiniBand, cung cấp 1.895 petaflop hiệu suất TF32 tổng thể.

Về mặt thiết kế, hệ thống có một bộ CDU (Cooling Distribution Unit) và phân phối làm mát bằng chất lỏng được bố trí trong các rack mạng. Ở đây các ống màu đỏ ở bên trái là chất lỏng ấm trong khi màu xanh lam ở bên phải là chất lỏng lạnh hơn:

Hệ thống của Meta có kiểu phân phối cáp quang nằm bên trên hạ tầng rack:

Bộ phân phối MPO / MTP:

Các kênh cáp quang được dẫn đến các node hoạt động theo cơ chế multi-mode MPO/MTP:

Về phần lưu trữ, hệ thống trang bị 175PB dung lượng lưu trữ từ Pure Storage FlashArray cho bulk storage và 10PB FlashBlade array cho việc lưu trữ NFS.

Có tổng cộng 46PB bộ nhớ cache trong các hệ thống Altus của Penguin Computing. Altus là dòng máy chủ AMD EPYC của Penguin.

Ngoài ra cũng có các tủ rack không chứa các thành phần xử lý GPU.

Mặc dù đây là giai đoạn đầu, Meta có kế hoạch mở rộng hơn gấp 2 lần diện tích giai đoạn 1 này trong tương lai.

Bất chấp những thách thức từ COVID-19, RSC chỉ mất 18 tháng để đi từ một ý tưởng trên giấy thành một siêu máy tính AI hoạt động (được hiển thị trong video bên dưới) một phần nhờ vào công nghệ NVIDIA DGX A100 trên nền móng của Meta RSC.

Penguin Computing là đối tác NPN của NVIDIA trong việc triển khai RSC. Ngoài 760 node DGX A100 và mạng InfiniBand, Penguin cung cấp các dịch vụ được quản lý và cơ sở hạ tầng được tối ưu hóa bằng AI cho Meta bao gồm 46 petabyte bộ nhớ đệm lưu trữ thông qua các hệ thống Altus.

>>> Xem thêm: máy chủ Fujitsu



Tăng hiệu suất gấp 20 lần

Đây là lần thứ hai Meta chọn công nghệ NVIDIA làm nền tảng cho cơ sở hạ tầng nghiên cứu của mình. Vào năm 2017, Meta đã xây dựng thế hệ đầu tiên của cơ sở hạ tầng này cho nghiên cứu AI với 22.000 GPU NVIDIA V100 Tensor Core xử lý 35.000 công việc đào tạo AI mỗi ngày.

Các điểm benchmark ban đầu của Meta cho thấy RSC có thể đào tạo các mô hình NLP lớn nhanh hơn gấp 3 lần và chạy các công việc về thị giác máy tính nhanh hơn 20 lần so với hệ thống trước đó.

Trong giai đoạn thứ hai vào cuối năm nay, RSC sẽ mở rộng lên 16.000 GPU mà Meta tin rằng sẽ cung cấp 5 exaflop hiệu suất AI mixed precision. Và Meta đặt mục tiêu mở rộng hệ thống lưu trữ của RSC để cung cấp tới một exabyte dữ liệu với tốc độ 16 terabyte mỗi giây.

Công ty cổ phần thương mại Máy Chủ Hà Nội

- Trụ sở Hà Nội: Tầng 1,2,4 - Tòa nhà PmaxLand số 32 ngõ 133 Thái Hà - Q. Đống Đa

Hotline mua hàng Hà Nội: 0979 83 84 84 Điện thoai: 024 6296 6644

- CN Hồ Chí Minh: Lầu 1- Tòa nhà 666/46/29 Đường 3/2- Phường 14 - Quận 10

Hotline mua hàng Hồ Chí Minh: 0945 92 96 96 Điện thoai: 028 2244 9399

- Email: [email protected]

- website: https://maychuhanoi.vn/

- facebook: https://www.facebook.com/maychuhanoi