Ampere hợp tác với Qualcomm để ra mắt máy chủ AI dựa trên Arm
Ampere và Qualcomm không phải là đối tác rõ ràng nhất. Cả hai, cuối cùng, đều cung cấp các vi chip dựa trên Arm để chạy máy chủ trung tâm dữ liệu (mặc dù thị trường lớn nhất của Qualcomm vẫn là di động). Nhưng như hai công ty đã công bố hôm nay, họ hiện đang kết hợp sức mạnh để cung cấp một máy chủ tập trung vào trí tuệ nhân tạo sử dụng CPU của Ampere và vi chip AI nhúng Cloud AI 100 Ultra của Qualcomm để chạy — không phải làm dữ liệu mô hình huấn luyện.
Giống như mọi nhà sản xuất vi chip khác, Ampere đang tìm cách tận dụng sự bùng nổ của trí tuệ nhân tạo. Tuy nhiên, tập trung của công ty luôn đặt ở vi chip máy chủ nhanh và tiết kiệm năng lượng, do đó trong khi nó có thể sử dụng IP Arm để thêm một số tính năng này vào vi chip của mình, đó không nhất thiết là một năng lực cốt lõi. Đó là lý do Ampere quyết định làm việc với Qualcomm (và SuperMicro để tích hợp hai giải pháp), Giám đốc công nghệ Arm Jeff Wittich cho biết.
'Ý tưởng ở đây là trong khi tôi sẽ cho bạn thấy một hiệu suất tuyệt vời cho CPU Ampere chạy trí tuệ nhân tạo chỉ trên CPU, nếu bạn muốn mở rộng ra thành mô hình lớn hơn — mô hình có nhiều hơn 100 tỷ tham số, ví dụ như thế — giống như tất cả các khối làm việc khác, trí tuệ nhân tạo không phải một kích thước phù hợp cho tất cả', Wittich cho biết với TechCrunch. 'Chúng tôi đã làm việc với Qualcomm trên giải pháp này, kết hợp CPU siêu hiệu quả của chúng tôi để thực hiện nhiều nhiệm vụ thông dụng mà bạn đang chạy kèm với nhúng, và sau đó sử dụng các thẻ thật sự hiệu quả của họ, chúng tôi có một giải pháp cấp máy chủ'.
Về việc hợp tác với Qualcomm, Wittich nói rằng Ampere muốn xây dựng các giải pháp hàng đầu.
'[R]ất tốt sự hợp tác mà chúng tôi đã có với Qualcomm ở đây', ông nói. 'Đây là một trong những điều mà chúng tôi đã làm việc, tôi nghĩ chúng tôi chia sẻ rất nhiều sở thích tương tự, đó là lý do tôi nghĩ rằng điều này rất thú vị. Họ đang xây dựng các giải pháp thực sự hiệu quả và nhiều phần khác nhau của thị trường. Chúng tôi đang xây dựng các giải pháp thực sự hiệu quả trên mặt phía CPU máy chủ'.
Đối tác Qualcomm là một phần của cập nhật lộ trình hàng năm của Ampere. Một phần của lộ trình đó là vi chip AmpereOne 256 nhân mới, được xây dựng bằng quy trình 3nm hiện đại. Những vi chip mới đó chưa hoàn toàn dành cho mọi người, nhưng Wittich cho biết chúng đã sẵn sàng tại nhà máy và sẽ triển khai vào cuối năm nay.
Ngoài các nhân bổ sung, đặc điểm xác định của thế hệ mới của các vi chip AmpereOne này là RAM DDR5 12 kênh, cho phép khách hàng trung tâm dữ liệu của Ampere điều chỉnh tốt hơn truy cập bộ nhớ của người dùng theo nhu cầu của họ.
Không chỉ là hiệu suất, mà cả tiêu thụ năng lượng và chi phí vận hành của các vi chip này trong trung tâm dữ liệu. Điều đó đặc biệt đúng khi đến inferencing trí tuệ nhân tạo, nơi mà Ampere thích so sánh hiệu suất của mình với GPU A10 của Nvidia.
Đáng chú ý rằng Ampere không ẩn đi bất kỳ vi chip hiện tại nào của mình để ưa thích các vi chip mới này. Wittich nhấn mạnh rằng ngay cả những vi chip cũ này vẫn có rất nhiều trường hợp sử dụng.
Ampere cũng công bố một đối tác khác hôm nay. Công ty đang hợp tác với NETINT để xây dựng một giải pháp cùng nhau kết hợp CPU của Ampere với vi chip xử lý video của NETINT. Máy chủ mới này sẽ có khả năng chuyển mã hóa 360 kênh video trực tiếp song song, tất cả trong khi cũng sử dụng mô hình chuyển đổi dạng văn bản vào lời nói của OpenAI để tạo phụ đề cho 40 luồng.
'Chúng tôi đã bắt đầu trên con đường này sáu năm trước vì rõ ràng nó là con đường đúng', Giám đốc điều hành Ampere Renee James nói trong thông báo hôm nay. 'Tiết kiệm điện từng đồng nghĩa với hiệu suất thấp. Ampere đã chứng minh rằng đó không phải là sự thật. Chúng tôi đã đưa ra phía trước ranh giới hiệu quả của máy tính và cung cấp hiệu suất vượt hơn so với CPU kế thừa trong một bao bì máy tính hiệu quả'.
