Tổng quan về GPU cho Deep Learning – RTX 3090, RTX 3080 và RTX 3070

Linh vattubk · 16/03/2022

Nếu bạn đang nghĩ đến việc xây dựng máy trạm trang bị dòng GPU RTX 30XX cho riêng mình, hãy đọc tiếp. Trong bài đăng này, chúng tôi bàn về kích tấc, sức mạnh, khả năng làm mát và hiệu năng của những GPU mới này. Nhưng trước hết, chúng tôi sẽ trả lời câu hỏi phổ thông nhất:

Tôi có thể lắp được bao nhiêu card GPU RTX 30XX vào máy trạm của mình?

Máy trạm của bạn không được vượt quá:

2x RTX 3090 – có thể đến 3x với bộ làm mát bằng chất lỏng / bộ mở mang PCIe*; 4x không được khuyến khích vì nó sẽ đề xuất hai PSU được cắm vào các board riêng biệt hoặc trang bị thêm thiết kế nguồn riêng của bạn.
2x RTX 3080 – 3x có thể sẽ đề xuất làm mát bằng chất lỏng / bộ mở mang PCIe * để tránh điều tiết; 4x không được khuyến khích vì nó sẽ đề xuất hai PSU được cắm vào các mạch riêng biệt hoặc trang bị thêm thiết lập điện của bạn.
4x RTX 3070 – điều này có thể đề xuất card phiên bản blower.

* Bộ mở rộng PCIe gây ra các vấn đề về cấu trúc và không nên sử dụng nếu bạn định vận chuyển (đặc biệt là vận chuyển đi xa) máy trạm.

Các GPU này lớn đến mức nào?

RTX 3090 – 3 khe PCIe, dài 313mm
RTX 3080 – 2x khe PCIe *, dài 266mm
RTX 3070 – 2x khe PCIe *, dài 242mm

kích tấc của RTX 3090 có vẻ không chính thống: nó chiếm 3 khe cắm PCIe và chiều dài của nó sẽ khiến nó không phù hợp với nhiều case PC. RTX 3070 và RTX 3080 có kích tấc tiêu chuẩn, tương tự như RTX 2080 Ti.

* Các OEM như PNY, ASUS, GIGABYTE và EVGA sẽ phát hành các mẫu GPU dòng 30XX của riêng họ. Một số mẫu RTX 3080 và RTX 3070 sắp ra mắt sẽ chiếm 2,7 khe PCIe.

Các GPU này sử dụng bao nhiêu điện năng?

Các GPU dòng 3000 tiêu thụ nhiều điện năng hơn các thế hệ trước:

RTX 3090 – 350W (nhiều hơn 40% so với RTX 2080 Ti)
RTX 3080 – 320W (nhiều hơn 28% so với RTX 2080 Ti)
RTX 3070 – 220W (88% của RTX 2080 Ti)

Để tham khảo, RTX 2080 Ti tiêu thụ 250W.

Các GPU này có thể làm quá chuyển vận mạch của bạn (hoặc làm cháy luôn PSU!)

Mức tiêu thụ điện của máy trạm của bạn không được vượt quá công suất của PSU hoặc các board mà nó được cắm vào.

Các giới hạn của mạch

Các chuẩn ổ cắm thông dụng có thể cung cấp đến 8 ampe ở điện thế 220V.
Bộ luật điện nhà nước quy định rằng tải mạch của thiết bị điện không được vượt quá 80%.
(1), (2), tương đương với mức vận tải thiết bị tại nhà / văn phòng của ở Việt Nam không được vượt quá 1408W = 8A * 220v * 0,8 hệ số định mức.

phân tách trên gợi ý ra các giới hạn sau:

3x RTX 3090 / mỗi ổ cắm
3x RTX 3080 / mỗi ổ cắm
5x RTX 3070 / mỗi ổ cắm (mặc dù không có case PC nào có PCIe 4.0 có thể lắp hơn 4x)

tỉ dụ, chúng ta hãy xem vì sao một máy trạm với bốn RTX 3090 và một bộ xử lý cao cấp là không thực tế:

4x RTX 3090 = 4 * 350W = 1400W
1x Threadripper 3960X = 280W
1x bo mạch chủ = 80W

GPU + CPU + bo mạch chủ tiêu thụ 1760W, vượt xa giới hạn mạch 1408W.

>>> Xem thêm: giá bán máy chủ dell r450

Hạn chế của PSU

Máy trạm được đánh giá cao nhất trên thị trường cung cấp tối đa 1600W ở điện áp tiêu chuẩn gia đình / văn phòng. Các PSU máy trạm vượt quá khả năng này là không thực tại vì chúng sẽ làm quá chuyên chở nhiều bo mạch. Ngay cả khi tại nhà / văn phòng của bạn có mạch điện có cường độ dòng điện cao hơn, chúng tôi khuyên bạn không nên sử dụng các máy trạm vượt quá 1408W. PSU có thể có định mức 1600W, nhưng chúng tôi nhận thấy tỷ lệ PSU bị lỗi cao hơn khi mức tiêu thụ điện của máy trạm đạt đến 1500W.

Có cách giải quyết nào cho những hạn chế về nguồn điện tại nhà / văn phòng không?

Có, mặc dù chúng tôi khuyên bạn không nên:

Xây dựng một PC với hai PSU được cắm vào hai ổ cắm trên các mạch riêng biệt.
Trang bị thêm thiết lập điện của bạn để cung cấp nguồn điện 240V, 3 pha hoặc mạch có amp cao hơn.
di chuyển máy trạm của bạn đến trung tâm dữ liệu với nguồn điện 3 pha (điện áp cao).

Cảnh báo: Tham khảo ý kiến của thợ điện trước khi sửa đổi thiết lập điện trong nhà hoặc văn phòng của bạn.

Tôi nên làm mát máy trạm của mình như thế nào?

Các yêu cầu làm mát của chúng tôi cho các máy trạm GPU 1x, 2x, 3x và 4x:

RTX 3090

1x – Không cần quan hoài.
2x – Sử dụng GPU tiêu chuẩn, không có quạt gió, quạt áo quan lớn, tấm chắn khí và có một kênh trống rộng ít ra 2x khe PCIe giữa các GPU.
3x – Chưa được khuyến khích. Làm mát bằng chất lỏng có thể hoạt động, nhưng điều này cần thử nghiệm.
4x – Không thực tiễn do các hạn chế về nguồn điện đã đề cập ở trên.

RTX 3080

1x – Không cần quan tâm.
2x – Sử dụng GPU tiêu chuẩn, không có quạt gió, quạt quan tài lớn, tấm chắn khí và có một kênh trống rộng ít ra 2x khe PCIe giữa các GPU.
3x – Chưa được khuyến khích. Làm mát bằng chất lỏng có thể hoạt động, nhưng điều này cần thử nghiệm.
4x – Không thực tế do các hạn chế về nguồn điện đã đề cập ở trên.

RTX 3070

1x – Không cần quan hoài.
2x / 3x – Nếu không sử dụng card phiên bản blower, hãy chừa một kênh trống rộng ít nhất 1x khe PCIe giữa các GPU. Sử dụng loại quạt lớn.
4x – Có thể đề xuất card phiên bản blower, nhưng điều này cần thể nghiệm.

GPU dạng blower và non-blower (tiêu chuẩn)

Card blower hút không khí từ bên trong và thải ra phía sau hòm máy; điều này trái ngược với các card tiêu chuẩn giúp thoát khí nóng vào vỏ máy. Dưới đây là hình ảnh của hai loại:

Card blower hiện đang phải đối mặt với những thách thức về nhiệt do mức tiêu thụ điện năng cao của dòng 3000. Chúng tôi hoàn toàn trong đợi vào card blower RTX 3070, nhưng không kiên cố đối với 2 mẫu RTX 3080 và RTX 3090.

Làm mát bằng chất lỏng thì sao?

Làm mát bằng chất lỏng sẽ giảm tiếng ồn và mức nhiệt. Hiện vẫn chưa rõ liệu làm mát bằng chất lỏng có xứng đáng với tổn phí, độ phức tạp và tỷ lệ hỏng hóc gia tăng hay không. Chúng tôi sẽ thí nghiệm làm mát bằng chất lỏng trong thời kì tới và cập nhật phần này cho phù hợp.

GPU sẽ thật sự tăng tốc?

Khi nhiệt độ của GPU vượt quá ngưỡng được xác định trước, nó sẽ tự động giảm xung nhịp (điều tiết) để tránh thiệt hại do nhiệt. Downclocking biểu lộ bằng sự chậm lại của thông lượng training. Với các thiết lập đa GPU, nếu việc làm mát không được kiểm soát đúng cách, thì khả năng điều tiết hiệu suất là có thật. Các hãng máy chủ như Supermicro đã thiết kế các mẫu máy trạm, máy chủ GPU chuyên dụng có thể tránh được việc điều tiết, nhưng nếu bạn đang xây dựng cho riêng mình, có thể mất khá nhiều thời kì thử nghiệm trước khi bạn đạt được hiệu suất như mong muốn.

>>> Xem thêm: review dell R550