Nén đành giá về nén bộ nhớ tỉ mili giây của ZeroPoint có thể kìm hãm cơ sở hạ tầng trí tuệ nhân tạo tiêu thụ năng lượng

AI chỉ là thị trường mới và đói khát nhất cho máy tính hiệu suất cao, và các kiến trúc sư hệ thống đang làm việc không ngừng để bóc tách mọi giọt hiệu suất ra khỏi mỗi watt. Công ty khởi nghiệp Thụy Điển ZeroPoint, với số vốn mới là 5 triệu euro (5,5 triệu USD), muốn giúp họ với một kỹ thuật nén bộ nhớ mới tại tỷ lệ mili giây — và đúng như vậy, nó cũng phức tạp như vẻ ngoài.Ý tưởng là thế này: nén dữ liệu một cách không mất mát ngay trước khi nó nhập vào RAM, và giải nén nó sau đó, hiệu quả mở rộng kênh bộ nhớ lên 50% hoặc hơn chỉ bằng cách thêm một mảnh nhỏ vào chip. Nén, tất nhiên, là một công nghệ cơ bản trong máy tính; như CEO của ZeroPoint Klas Moreau đã chỉ ra: 'Chúng ta không lưu trữ dữ liệu trên ổ cứng ngày nay mà không nén. Nghiên cứu cho thấy 70% dữ liệu trong bộ nhớ là không cần thiết. Vì vậy tại sao chúng ta không nén trong bộ nhớ?' Câu trả lời là chúng ta không có thời gian. Nén một tập tin lớn để lưu trữ (hoặc mã hóa nó, như chúng ta nói khi đó là video hoặc âm thanh) là một nhiệm vụ có thể mất vài giây, vài phút hoặc giờ tùy thuộc vào nhu cầu của bạn. Nhưng dữ liệu truyền qua bộ nhớ trong một phần rất nhỏ của một giây, dịch chuyển vào và ra nhanh chóng theo tốc độ CPU có thể làm được. Một micro giây trễ, để loại bỏ các bit 'không cần thiết' trong một bả đầu dữ liệu vào hệ thống bộ nhớ, sẽ làm hại nang đến hiệu suất. Bộ nhớ không nhất thiết phải tiến triển cùng với tốc độ CPU, mặc dù hai cái (kèm theo nhiều thành phần vi mạch khác) là không thể tách rời. Nếu bộ xử lý quá chậm, dữ liệu tích tụ trong bộ nhớ — và nếu bộ nhớ quá chậm, bộ xử lý sẽ lãng phí chu kỳ chờ đợi trên đống bit tiếp theo. Mọi thứ đều hoạt động trong âm nhạc, như bạn có thể mong đợi. Trong khi nén bộ nhớ siêu nhanh đã được thể hiện, nó dẫn đến vấn đề thứ hai: Về cơ bản, bạn phải giải nén dữ liệu cũng nhanh như bạn đã nén nó, trả về trạng thái ban đầu, hoặc hệ thống sẽ không biết cách xử lý. Vì vậy, trừ khi bạn chuyển đổi toàn bộ cấu trúc của mình sang chế độ bộ nhớ nén mới này, nó là không có ý nghĩa. ZeroPoint tuyên bố đã giải quyết cả hai vấn đề này bằng cách nén bộ nhớ ở tốc độ siêu nhanh, cấp thấp mà không yêu cầu thực sự các thay đổi cho phần còn lại của hệ thống máy tính. Bạn thêm công nghệ của họ vào chip của bạn, và nó như bạn đã kéo dài bộ nhớ của mình. Mặc dù các chi tiết chi tiết có khả năng chỉ có thể được hiểu bởi những người trong lĩnh vực này, nhưng cơ bản là dễ hiểu đối với người không chuyên về nó, như Moreau đã chứng minh khi anh giải thích cho tôi. 'Chúng tôi làm là lấy một lượng dữ liệu rất nhỏ — một dòng bộ đệm, đôi khi 512 bit — và xác định các mẫu trong đó,' anh nói. 'Đó là bản chất của dữ liệu, rằng nó được dẫn đi với thông tin không hiệu quả, thông tin mà phân bố rải rác. Nó phụ thuộc vào dữ liệu: Dữ liệu càng ngẫu nhiên, nó càng khó nén. Nhưng khi chúng tôi nhìn vào phần lớn gánh hàng hóa dữ liệu, chúng tôi thấy rằng chúng ta nằm trong khoảng từ 2-4 lần lưu lượng dữ liệu hơn trước.' Không có bí mật rằng bộ nhớ có thể được nén. Moreau nói rằng mọi người trong máy tính quy mô lớn đều biết về khả năng này (anh cho tôi xem một bản báo cáo từ năm 2012 thể hiện điều đó), nhưng nhiều, ít nhiều cũng đã từng bỏ nó về mặt học thuật, không thể triển khai ở quy mô. Nhưng ZeroPoint, anh nói, đã giải quyết các vấn đề của trạng thái chật chội — tái tổ chức lại dữ liệu nén để trở nên hiệu quả hơn — và sự minh bạch, vì vậy công nghệ không chỉ hoạt động mà hoạt động khá mượt mà trong các hệ thống hiện hữu. Và tất cả diễn ra trong một vài nanogiây. 'Hầu hết các công nghệ nén, cả phần mềm và phần cứng, đều ở mức ngàn nanogiây. CXL [liên kết báo cáo tính toán, chuẩn kết nối tốc độ cao] có thể giảm xuống còn hàng trăm,' Moreau nói. 'Chúng tôi có thể giảm xuống còn 3 hoặc 4.' Dưới đây là CTO Angelos Arelakis giải thích theo cách của anh ấy: Bộ nhớ lưu trữ cho sự ra mắt của ZeroPoint là chắc chắn kịp thời, khi các công ty trên khắp thế giới đang tìm kiếm máy tính nhanh hơn và rẻ hơn để huấn luyện thế hệ AI khác. Đa số các siêu quy mô (nếu chúng ta phải gọi họ là vậy) đều rất muốn các công nghệ có thể cung cấp cho họ nhiều năng lượng trên mỗi watt hoặc cho họ giảm hóa đơn năng lượng một chút. Mô điều kiện chính cho tất cả điều này đơn giản là cần phải bao gồm trên chip và tích hợp từ đầu — bạn không thể đơn giản chỉ cắm một cái USB ZeroPoint vào rack. Với mục tiêu đó, công ty đang làm việc với các nhà sản xuất chip và các nhà tích hợp hệ thống để cấp phép kỹ thuật và thiết kế phần cứng cho chip chuẩn cho máy tính hiệu suất cao. Dĩ nhiên, đó là AMDs và Intels của bạn, nhưng ngày càng còn có các công ty như Meta, Google và Apple, mà đã thiết kế phần cứng tùy chỉnh để chạy trí tuệ nhân tạo và các nhiệm vụ chi phí cao khác bên trong. ZeroPoint đặt công nghệ của mình là chiết khấu chi phí, không phải là premium: Trong khả thi, bằng cách hiệu quả kéo dài bộ nhớ, công nghệ sẽ trả cho bản thân trước khi lâu. Vòng gọi vốn A 5 triệu euro vừa kết thúc đã được dẫn dắt bởi Matterwave Ventures, với Industrifonden đóng vai trò là cái dẫn đầu địa phương Nordic, và các nhà đầu tư hiện tại Climentum Capital và Chalmers Ventures cũng góp vào. Moreau nói rằng số tiền này sẽ cho phép họ mở rộng ra thị trường Mỹ, cũng như tập trung vào thị trường Thụy Điển mà họ đang theo đuổi.