Google vẫn chưa sửa chữa bộ tạo hình ảnh thiên vị của Gemini
Trong tháng 2, Google đã tạm dừng khả năng tạo ra hình ảnh của con chatbot được trao quyền bởi AI của mình, Gemini, sau khi người dùng phàn nàn về sự không chính xác về lịch sử. Khi được yêu cầu biểu diễn 'một phái đoàn La Mã', ví dụ, Gemini sẽ hiển thị một nhóm binh lính chủ yếu về chủng tộc đa dạng trong khi biểu diễn 'chiến binh Zulu' lại là người da đen theo cách rập khuôn.
Thành CEO của Google, Sundar Pichai đã xin lỗi, và Demis Hassabis, người sáng lập DeepMind, phân ban nghiên cứu AI của Google, nói rằng một sửa lỗi sẽ đến "ngay trong thời gian rất ngắn" - trong vòng vài tuần tới. Nhưng chúng ta đã ở cuối tháng 5 rồi, và sự sửa lỗi đã hứa vẫn chưa thấy.
Google quảng cáo rất nhiều tính năng khác của Gemini tại hội nghị phát triển I/O hàng năm của mình vào tuần này, từ bot chat tùy chỉnh đến một trình lập kế hoạch lịch trình nghỉ dưỡng và tích hợp với Google Calendar, Keep và YouTube Music. Nhưng việc tạo hình ảnh của con người vẫn bị tắt trong các ứng dụng Gemini trên web và di động, xác nhận từ một người phát ngôn của Google.
Vậy nguyên nhân việc chần chừ là gì? Chuyện có lẽ phức tạp hơn Hassabis đã khẳng định.
Các bộ dữ liệu được sử dụng để huấn luyện bộ tạo hình ảnh như của Gemini thường chứa nhiều hình ảnh của người da trắng hơn so với những người khác về chủng tộc và dân tộc, và các hình ảnh về những người không phải da trắng trong những bộ dữ liệu đó lại củng cố những khuôn mẫu tiêu cực. Google, trong một nỗ lực rõ ràng để sửa chữa những thiên vị này, đã triển khai cài đặt cứng không linh hoạt dưới nắp xe. Và bây giờ họ gặp khó khăn trong việc tìm ra một lối đi trung lập hợp lý để tránh lặp lại lịch sử.
Google sẽ đạt được điều đó không? Có thể. Cũng có thể không. Dù sao, sự việc kéo dài này là một lời nhắc nhở rằng không có cách nào dễ dàng để sửa chữa AI lỗi lạc - đặc biệt là khi thiên vị nằm ở nguyên nhân của hành vi lỗi đó.
Chúng tôi đang phát hành một bản tin AI! Đăng ký tại đây để bắt đầu nhận nó trong hộp thư của bạn vào ngày 5 tháng 6.
