Bài viết này đề cập đến nhu cầu điện năng ngày càng tăng của môi trường máy chủ AI, do mức tiêu thụ điện năng của GPU cao hơn, tập trung vào quá trình chuyển đổi từ kiến trúc nguồn điện 48 V sang 800 V. Bài viết cũng khám phá những cải tiến liên tục của Analog Devices trong lĩnh vực bảo vệ thay nóng đối với điện áp cao khi cơ sở hạ tầng trung tâm dữ liệu phát triển.

Tương lai của bộ điều khiển thay nóng trong trung tâm dữ liệu

Khi khối lượng công việc AI tăng lên, các bộ xử lý đồ họa (GPU) trong môi trường máy chủ đòi hỏi mức điện năng chưa từng có, dẫn đến sự chuyển dịch sang kiến trúc nguồn điện 800 V gắn trên giá đỡ. Điện áp cao hơn này đặt ra những thách thức mới cho việc bảo vệ và giám sát hệ thống, đặc biệt là trong quá trình lắp đặt và tháo khay khi hệ thống đang hoạt động. Để giải quyết những thách thức này, cần có một thế hệ bộ điều khiển thay nóng mới, có khả năng xử lý dòng điện đột biến cao đồng thời cung cấp dữ liệu đo từ xa mạnh mẽ cho việc chẩn đoán và đảm bảo an toàn hệ thống. Analog Devices, một công ty hàng đầu được công nhận trong công nghệ thay nóng 12 V và 48 V, đang mở rộng chuyên môn của mình để hỗ trợ quá trình chuyển đổi của ngành sang 800 V.

Tại sao điện áp 800 V lại quan trọng?

Hai xu hướng chính đang thúc đẩy sự chuyển đổi sang các bộ nguồn gắn trên giá đỡ có điện áp cao hơn cho cơ sở hạ tầng máy chủ AI.

1. ‍Mức tiêu thụ điện năng của GPU đang tăng lên: Khi hiệu năng xử lý của GPU tiếp tục được cải thiện, nhu cầu điện năng đã tăng lên đáng kể.‍
2. Mật độ xử lý cao hơn trên mỗi giá đỡ: Để tối đa hóa hiệu năng và giảm thiểu độ trễ kết nối cho việc huấn luyện và suy luận AI quy mô lớn, một số lượng lớn GPU được nhóm lại với nhau trong một giá đỡ duy nhất. Sự sắp xếp này cải thiện việc sử dụng băng thông và giảm tải truyền thông bằng cách giảm thiểu khoảng cách dữ liệu giữa các bộ tăng tốc.

Để đáp ứng nhu cầu ngày càng tăng về nguồn điện cấp cho tủ rack, ngành công nghiệp đang chuyển sang kiến trúc nguồn điện dạng mô-đun. Trong mô hình này, các thành phần nguồn điện truyền thống như bộ phân phối điện (PDU), bộ dự phòng pin (BBU) và bộ tụ điện (CU) được di chuyển từ tủ rack CNTT chính sang các tủ điện phụ liền kề. Tính mô-đun này không chỉ hỗ trợ nguồn điện áp cao hơn, chẳng hạn như 800 V, mà còn giải phóng không gian quý giá bên trong tủ rack cho các tài nguyên điện toán bổ sung.

Các phương pháp truyền tải năng lượng hiện có

Giá đỡ AI hoạt động bằng thanh dẫn điện 48 V (Hình 1). Dòng điện xoay chiều (AC) được chuyển đổi thành dòng điện một chiều 48 V bởi bộ nguồn (PSU) bên trong. Thanh dẫn 48 V này cấp nguồn cho thiết bị CNTT (bộ nguồn máy chủ, các nút GPU, bộ chuyển mạch), bộ dự phòng pin (BBU) tích hợp bộ chuyển đổi DC-to-DC hai chiều và bộ siêu tụ điện (SCU) để xử lý nhanh chóng các điều kiện quá áp và biến đổi đột ngột.

Mỗi nút trên giá đỡ (ví dụ: khay máy chủ) cần có khả năng được bật và tắt trong quá trình hoạt động. Hãy tưởng tượng một kỹ thuật viên đến địa điểm để thay thế một máy chủ. Việc tắt toàn bộ giá đỡ để thay thế một máy chủ duy nhất là không thực tế. Làm như vậy sẽ gây gián đoạn nghiêm trọng hoạt động của trung tâm dữ liệu và phát sinh chi phí đáng kể do thời gian máy chủ ngừng hoạt động. Giá đỡ chỉ được tắt trong trường hợp xảy ra sự cố điện lớn liên quan đến thanh dẫn điện hoặc nguồn điện, v.v. Ngược lại, việc thay nóng các nút cho phép các kỹ thuật viên tháo, thay thế và lắp lại các nút mà không cần tắt bất kỳ hệ thống nào khác.

Trong quá trình này, bộ điều khiển thay nóng (Hot Swap Controller) sẽ ngắt nguồn điện bên trong, cho phép tháo thiết bị một cách an toàn. Thanh dẫn điện của giá đỡ vẫn được cấp điện, tiếp tục cung cấp năng lượng cho các thành phần khác, bao gồm cả BBU và SCU. Sau khi thiết bị thay thế được cắm vào, mạch tiền nạp sẽ giới hạn dòng điện đột biến trước khi thiết lập kết nối hoàn chỉnh — một chức năng quan trọng của bộ điều khiển thay nóng. Sau đó, thiết bị sẽ tự động khởi động và tham gia vào cụm AI (thường với sự hỗ trợ của công cụ quản lý cân bằng lại).

Hình 2 thể hiện nguồn cấp điện cho máy chủ AI từ thanh dẫn 48 V đến bộ xử lý. Bộ điều khiển thay nóng minh họa rõ điều này như một giao diện đầu tiên cho phép các kỹ thuật viên tháo gỡ các nút một cách an toàn và hiệu quả.

ADI cung cấp nhiều loại bộ điều khiển thay nóng 48 V với chức năng giám sát nguồn PMBus®, chẳng hạn như LTC4286 và LTC4287, là các bộ điều khiển thay nóng QFN 7 mm × 7 mm với cấu hình chân tương thích và có sẵn các phiên bản cổng đơn và cổng kép. Gần đây, ADI đã bổ sung giải pháp cổng kép LTC4284 trong gói QFN 5 mm × 8 mm vào dòng sản phẩm này.

Tiến hóa hướng tới điện áp cao hơn

Với mức tiêu thụ điện năng ngày càng tăng của bộ xử lý AI, nhu cầu về hệ thống nguồn điện DC điện áp cao hơn cho các thiết bị rack cũng ngày càng cao. ADI dẫn đầu trong các giải pháp này và hợp tác chặt chẽ với các nhà lãnh đạo ngành để giải quyết những thách thức này.

Phạm vi điện áp cho giá đỡ được xác định lại thành 800 V, cung cấp điện trực tiếp từ thiết bị phụ trợ đến giá đỡ CNTT, như thể hiện trong Hình 3, đây là kiến trúc được đề xuất.

Nguyên nhân chính dẫn đến việc chuyển sang điện áp cao hơn ở cấp độ rack là do yêu cầu công suất trên mỗi rack ngày càng tăng. Khi công suất tăng, dòng điện chạy qua các thanh dẫn cũng tăng theo. Sự gia tăng dòng điện này đòi hỏi các thanh dẫn phải lớn hơn và nặng hơn để duy trì hiệu suất nhiệt và điện chấp nhận được, đặt ra những thách thức đáng kể về tính phù hợp cơ học và thiết kế hệ thống. Việc tăng điện áp nguồn có thể làm giảm dòng điện cần thiết một cách tương ứng, cho phép sử dụng các thanh dẫn và đầu nối nhỏ gọn và dễ quản lý hơn. Việc chuyển sang điện áp cao hơn này rất quan trọng để duy trì khả năng phân phối điện có thể mở rộng, hiệu quả và phù hợp về mặt cơ học trong các rack máy chủ AI thế hệ tiếp theo.

Cần lưu ý rằng có thể có một giai đoạn trung gian trong quá trình phát triển kiến trúc này, liên quan đến việc sử dụng thanh dẫn điện 48 V trong các giá đỡ. Trong trường hợp này, bộ nguồn (PSU) sẽ được nâng cấp lên mức công suất cao hơn, nhận điện áp 800 V tại giá đỡ và giảm xuống 48 V để phù hợp với các thanh dẫn điện hiện có. Tuy nhiên, đây không phải là trạng thái lâu dài, vì công suất sẽ bị giới hạn (có thể tối đa 250 kW mỗi giá đỡ), và mục tiêu là cho phép khả năng tính toán tối đa trong một giá đỡ duy nhất, đẩy công suất lên 1 MW mỗi giá đỡ vào cuối thập kỷ này. Do đó, bộ nguồn (PSU) và bộ điều khiển thanh dẫn điện (BBU) nên được đặt bên ngoài giá đỡ máy tính CNTT, như thể hiện trong Hình 3.

Trong tương lai, các máy biến áp bán dẫn có thể sẽ được sử dụng để cung cấp trực tiếp điện áp cao cho từng tủ rack CNTT, loại bỏ nhu cầu sử dụng các đầu nối bổ sung này.

Nâng tầm việc thay nóng linh kiện lên một cấp độ mới

ADI có chuyên môn sâu rộng về hệ thống cung cấp điện cho trung tâm dữ liệu và đang hợp tác với các nhà cung cấp dịch vụ đám mây và các nhà sản xuất chất bán dẫn để phát triển các hệ thống cung cấp điện cao áp gắn trên giá đỡ có khả năng đáp ứng nhu cầu trong tương lai.

Để thay thế thiết bị hoạt động ở điện áp cao, cần phải hiểu rõ nhiều yếu tố thiết kế và vượt qua một số thách thức kỹ thuật để đạt được giải pháp tối ưu nhất.

Mật độ công suất: Đây là yếu tố quan trọng, vì các mạch thay nóng 800 V được đặt trên các bo mạch máy chủ bên trong giá đỡ CNTT. Không gian trên các bo mạch này rất quý giá và ngày càng bị hạn chế khi mật độ giá đỡ tăng lên, cho phép lắp đặt nhiều máy chủ hơn trên mỗi giá đỡ. Do đó, các giải pháp thay nóng điện áp cao phải được thiết kế để sử dụng càng ít không gian càng tốt.

Kiểm soát và bảo vệ điện áp cao: Việc chuyển sang điện áp 800 V đặt ra những thách thức đáng kể về an toàn. Trong khi điện áp 48 V có nguy cơ điện giật thấp hơn đáng kể, điện áp cao hơn có thể gây nguy hiểm đến tính mạng. Do đó, các mạch thay nóng phải xử lý dòng điện đột biến lớn trong vòng vài micro giây, khiến việc kiểm soát chính xác trở nên vô cùng quan trọng. Quản lý dòng điện đột biến một cách từ từ là điều cần thiết để tránh làm hỏng giá đỡ hoặc gây nguy hiểm cho kỹ thuật viên. Hệ thống cũng phải được đồng bộ hóa thời gian, phát hiện các sự kiện quá dòng hoặc thiếu áp và tự động tắt khi cần thiết.

Thu thập dữ liệu đo từ xa: Là thành phần đầu tiên trong đường dẫn nguồn của một nút, bộ điều khiển thay nóng (hot-swap) có vị trí lý tưởng để thu thập dữ liệu. Các bộ điều khiển này phải đo chính xác điện áp, dòng điện và công suất để đáp ứng các yêu cầu của hệ thống, đồng thời ghi lại các sự kiện như quá dòng, thiếu điện áp và tắt máy do quá nhiệt. Chúng cũng cần báo cáo nhiệt độ từ công tắc nguồn (MOSFET) hoặc các khu vực lân cận trên bảng mạch in (PCB). Việc thu thập dữ liệu đo từ xa chính xác từ các bộ điều khiển thay nóng làm tăng đáng kể giá trị hệ thống, cho phép phân tích dòng điện tải theo thời gian thực và cải thiện dự báo nhu cầu điện năng. Dữ liệu dòng điện lịch sử được thu thập từ các bộ điều khiển thay nóng hỗ trợ bảo trì dự đoán, chẳng hạn như xác định các nguồn điện bị lỗi trước khi xảy ra sự cố và đưa vào các mô hình lập kế hoạch điện năng cấp tủ rack để phân phối điện. Analog Devices liên tục phát triển các giải pháp bộ điều khiển thay nóng điện áp cao mới để hỗ trợ các kiến trúc điện năng cấp tủ rack mới nổi, tận dụng tài sản trí tuệ đã được chứng minh của mình trong lĩnh vực bảo vệ nguồn điện và đo từ xa. ADI đang mở rộng khả năng của mình vào lĩnh vực 800 V với sự hợp tác của các nhà sản xuất thiết bị trung tâm dữ liệu hàng đầu và các nhà cung cấp công tắc nguồn. ADI đã phát triển các giải pháp mới để đáp ứng nhu cầu ngày càng tăng của các hệ thống thay nóng, bao gồm kiểu dáng nhỏ gọn, điều khiển công suất cao chính xác và độ chính xác thu thập dữ liệu được nâng cao. Những cải tiến này rất quan trọng đối với hoạt động an toàn và hiệu quả trong môi trường máy chủ AI công suất cao.

Bản tóm tắt

Bài viết này nhấn mạnh sự chuyển đổi đáng kể sang hệ thống cấp nguồn 800 V trong các rack máy chủ AI để hỗ trợ nhu cầu điện năng ngày càng tăng của các GPU tiên tiến và đáp ứng mật độ tính toán cao hơn. Kiến trúc mới này bao gồm việc di chuyển các thành phần nguồn sang các sidecar riêng biệt, tối ưu hóa không gian cho các tài nguyên tính toán trong rack chính. ADI đang dẫn đầu sự phát triển này bằng cách tạo ra thế hệ bộ điều khiển điện áp cao, có khả năng thay nóng mới, xử lý hiệu quả các xung điện, cung cấp các số liệu toàn diện cho việc chẩn đoán và an toàn hệ thống, đồng thời đảm bảo hoạt động đáng tin cậy. Bằng cách cung cấp cái nhìn toàn diện về sự phát triển của nguồn điện trong rack, các nhà phát triển có thể giúp các nhà cung cấp máy chủ đám mây và các nhà tích hợp hệ thống có được những hiểu biết mới và tiết kiệm chi phí.