Microsoft và OpenAI ra mắt quỹ 2 triệu USD để chống lại deepfakes trong bầu cử

Microsoft và OpenAI đã công bố một quỹ trị giá 2 triệu USD để chống lại nguy cơ ngày càng tăng của AI và deepfakes được sử dụng để 'lừa dối cử tri và làm suy yếu dân chủ'.

Năm nay sẽ chứng kiến ​​tới 2 tỉ người đi bỏ phiếu trong cách mạng trải rộng qua khoảng 50 quốc gia, việc lo lắng xoay quanh ảnh hưởng mà AI sẽ có đối với cử tri - đặc biệt là những người thuộc 'cộng đồng dễ tổn thương' có thể dễ bị ảnh hưởng hơn bởi những gì họ thấy mặt trước.

Sự gia tăng của AI tạo ra, bao gồm cả các chatbot vô cùng phổ biến như ChatGPT, đã dẫn đến một cảnh quan đe doạ lớn với deepfakes được tạo ra bởi AI để lan truyền thông tin sai lệch. Việc cần phải giúp đỡ là những công cụ mới này có sẵn rộng rãi và cho phép bất kỳ ai cũng có thể tạo ra video, ảnh, hoặc âm thanh giả mạo về các thực thể chính trị nổi tiếng.

Ngay vào thứ Hai vừa qua, Ủy ban Bầu cử Ấn Độ đã yêu cầu các đảng chính tránh sử dụng deepfakes và thông tin sai lệch tương tự trong chiến dịch trực tuyến xung quanh các cuộc bầu cử.

Trên nền tảng này, tất cả các công ty công nghệ lớn, bao gồm cả Microsoft và OpenAI, đã ký cam kết tự nguyện để chống lại những nguy cơ như vậy, cũng như đã đề ra kế hoạch xây dựng một khung công cộng để đối phó với deepfakes được tạo ra đặc biệt để lừa dối cử tri.

Nơi khác, các công ty AI lớn đã bắt đầu đối phó với những nguy cơ này bằng cách giới hạn trong phần mềm của họ. Ví dụ, Google đã cho biết nó sẽ không cho phép chatbot AI Gemini của mình trả lời câu hỏi về bầu cử, trong khi công ty mẹ Facebook Meta cũng đang hạn chế các câu trả lời liên quan đến bầu cử thông qua chatbot AI của mình.

Sáng nay, OpenAI đã ra mắt một công cụ phát hiện deepfake mới dành cho các nhà nghiên cứu về thông tin sai lệch, được thiết kế để giúp xác định nội dung giả mạo được tạo ra bởi trình tạo hình ảnh DALL-E của chính công ty, cũng như gia nhập ủy ban chỉ đạo cho cơ quan ngành C2PA (Coalition for Content Provenance and Authenticity), mà đã có các thành viên như Adobe, Microsoft, Google, và Intel.

Quỹ 'sự cứu chính trị' mới thành phần của sự đẩy mạnh AI 'chịu trách nhiệm' rộng hơn này, với Microsoft và OpenAI hiện đang cố gắng 'mở rộng giáo dục và sự hiểu biết về AI trong cử tri và các cộng đồng dễ tổn thương,' theo một bài đăng trên blog mà các công ty đã đăng hôm nay. Điều này sẽ bao gồm việc cấp quỹ cho một số tổ chức, bao gồm Older Adults Technology Services (OATS), Coalition for Content Provenance and Authenticity (C2PA), International Institute for Democracy and Electoral Assistance (International IDEA), và Partnership on AI (PAI).

Theo Microsoft, những khoản quỹ này được dành để tạo ra sự hiểu biết tốt hơn về AI và khả năng của nó trên toàn xã hội. Ví dụ, OATS sẽ dùng quỹ của mình để các chương trình đào tạo dành cho những người từ 50 tuổi trở lên ở Mỹ, bao gồm các 'khía cạnh cơ bản của AI.'

“Ra mắt Quỹ sự cứu chính trị chỉ là một bước đại diện cho cam kết của Microsoft và OpenAI để đối phó với những thách thức và nhu cầu trong không gian giáo dục và hiểu biết AI” Teresa Hutson, Phó Chủ tịch Công nghệ và Phụ trách Doanh nghiệp của Microsoft, nói trong bài viết trên blog. 'Microsoft và OpenAI sẽ tiếp tục cam kết với công việc này, và chúng tôi sẽ tiếp tục hợp tác với các tổ chức và sáng kiến ​​mà chia sẻ mục tiêu và giá trị của chúng tôi.'