California tiến hành các biện pháp nhằm vào phân biệt AI và deepfakes
SACRAMENTO, Calif. (AP) — Khi các công ty ngày càng tích hợp công nghệ trí tuệ nhân tạo vào cuộc sống hàng ngày của người Mỹ, các nhà lập pháp California muốn xây dựng niềm tin công cộng, chống phân biệt đối xử thuật toán và cấm deepfakes liên quan đến bầu cử hoặc khiêu dâm.
Những nỗ lực tại California - quê hương của nhiều công ty AI lớn nhất thế giới - có thể mở đường cho việc quy định AI trên toàn quốc. Hoa Kỳ đã đứng sau châu Âu trong việc quy định AI để giới hạn các rủi ro, các nhà lập pháp và chuyên gia nói, và công nghệ đang phát triển nhanh chóng đang tạo ra lo ngại về mất việc, thông tin sai lệch, xâm nhập quyền riêng tư và độc hại của tự động hóa.
Một loạt các đề xuất nhằm giải quyết những lo ngại đó đã tiến xa tuần trước, nhưng phải đạt được sự chấp thuận từ viện còn lại trước khi đến tay Thống đốc Gavin Newsom. Thống đốc đảng Dân chủ đã quảng bá California là một người đưa ra sớm cũng như một người điều chỉnh, nói rằng tiểu bang có thể sớm triển khai các công cụ AI sáng tạo để giải quyết ùn tắc giao thông, làm cho đường đi an toàn hơn và cung cấp hướng dẫn về thuế, ngay cả khi chính phủ của ông xem xét các quy tắc mới chống lại sự phân biệt đối xử AI trong các thực hành tuyển dụng.
Với các luật bảo mật mạnh đã được thiết lập, California đang ở trong một vị thế tốt hơn để ban hành các quy định có tác động mạnh mẽ hơn so với các bang khác có lợi ích lớn từ AI, như New York, nói Tatiana Rice, phó giám đốc hội đồng Tương lai về Bảo mật Thông tin, một tổ chức phi lợi nhuận làm việc với các nhà lập pháp về công nghệ và các đề xuất về quyền riêng tư.
“Bạn cần một luật bảo vệ dữ liệu để có thể thông qua một luật AI,” Rice nói. “Chúng tôi vẫn đang chú ý đến những gì New York đang làm, nhưng tôi sẽ đặt nhiều cơ hội hơn vào California.”
Các nhà lập pháp California nói họ không thể chờ đợi để hành động, trích dẫn những bài học khó khăn mà họ học được từ việc không thể kiềm chế các công ty truyền thông xã hội khi họ có thể có cơ hội. Nhưng họ cũng muốn tiếp tục thu hút các công ty AI đến tiểu bang.
Dưới đây là một cái nhìn cận cảnh về những đề xuất của California:
CHỐNG PHÂN BIỆT ĐỐI XỬ AI VÀ TẠO NIỀM TIN CÔNG CỘNG
Một số công ty, bao gồm các bệnh viện, đã sử dụng các mô hình AI để định nghĩa quyết định về tuyển dụng, nhà ở và các lựa chọn y tế cho hàng triệu người Mỹ mà không có nhiều sự giám sát. Lên đến 83% nhà tuyển dụng đang sử dụng AI để giúp trong tuyển dụng, theo Ủy ban Cơ hội Lao động Công bằng Hoa Kỳ. Cách mà các thuật toán đó hoạt động chủ yếu vẫn là một bí ẩn.
Một trong những biện pháp AI táo bạo nhất ở California trong năm nay sẽ gỡ bỏ tấm màn che trên các mô hình này bằng cách thành lập một khung pháp lý giám sát để ngăn chống đảo chiều và phân biệt đối xử. Nó sẽ yêu cầu các công ty sử dụng công cụ AI tham gia vào các quyết định xác định kết quả và thông báo cho người bị ảnh hưởng khi AI được sử dụng. Các nhà phát triển AI sẽ phải định kỳ kiểm tra các mô hình của họ để phát hiện đến phân biệt đối xử. Và luật sư tỉnh phải có quyền điều tra về các báo cáo về các mô hình phân biệt xử lý và áp dụng tiền phạt 10.000 đô la mỗi vi phạm.
Các công ty AI cũng có thể sớm buộc phải thông báo về dữ liệu họ đang sử dụng để huấn luyện các mô hình của họ.
BẢO VỆ VIỆC LÀM VÀ HÌNH ẢNH
Lấy cảm hứng từ cuộc đình công của các diễn viên Hollywood kéo dài hàng tháng vào năm ngoái, một nhà lập pháp California muốn bảo vệ người lao động khỏi việc bị thay thế bằng những bản sao được tạo bởi AI - một điểm mâu thuẫn chính trong các cuộc thương lượng hợp đồng.
Đề xuất được ủng hộ bởi Liên đoàn Lao động California, sẽ cho phép các diễn viên rút lui khỏi các hợp đồng hiện tại nếu ngôn ngữ mơ hồ có thể cho phép các hãng phim sử dụng tự do AI để tạo bản sao số hóa giọng nói và hình ảnh của họ. Nó cũng yêu cầu các diễn viên được đại diện bởi một luật sư hoặc đại diện của công đoàn khi ký hợp đồng "giọng và hình ảnh" mới.
California cũng có thể tạo ra các hình phạt cho việc tạo bản sao kỹ thuật số của những người đã chết mà không có sự đồng ý của di sản của họ, trích dẫn trường hợp một công ty truyền thông đã sản xuất một chương trình hài sitcom giả tạo được tạo ra bởi AI để tái tạo phong cách và nội dung của danh hài George Carlin đã qua đời mà không có sự đồng ý từ di sản của ông.
QUY ĐỊNH VỀ CÁC HỆ THỐNG AI TÁO RẠP MẠNH MẼ
Rủi ro thực tế đang nổi lên khi AI sáng tạo tạo ra nội dung mới như văn bản, âm thanh và hình ảnh phản ứng với các yêu cầu. Vì vậy, các nhà lập pháp đang xem xét yêu cầu có bờ rào xung quanh các hệ thống AI “rất lớn” có khả năng tạo ra hướng dẫn cho việc tạo ra thảm họa - như xây dựng vũ khí hóa học hoặc hỗ trợ vào các cuộc tấn công mạng - có thể gây ra ít nhất 500 triệu đô la thiệt hại. Nó sẽ yêu cầu các mô hình như vậy phải có một “chìa khóa ngắt” tích hợp, ngoài những điều khác.
Biện pháp này, được ủng hộ bởi một số nhà nghiên cứu AI nổi tiếng nhất, cũng sẽ tạo ra một cơ quan nhà nước mới để giám sát các nhà phát triển và cung cấp các quy cách tốt nhất, bao gồm cho các mô hình mạnh mẽ hơn mà chưa tồn tại. Bộ Tư pháp bang cũng sẽ có thể tiến hành các hành động pháp lý trong trường hợp vi phạm.
CẤM DEEPFAKES LIÊN QUAN ĐẾN CHÍNH TRỊ HOẶC KHIÊU DÂM
Một liên minh đa phương đang cố gắng tạo điều kiện cho việc truy tố những người sử dụng công cụ AI để tạo ra hình ảnh lạm dụng tình dục trẻ em. Luật hiện hành không cho phép viên kiểm sát huyện tiến hành truy tố những người sở hữu hoặc phân phối các hình ảnh lạm dụng tình dục trẻ em được tạo ra bởi AI nếu tài liệu không mô tả một người thật.
Một nhóm các nhà lập pháp Dân chủ cũng đang ủng hộ một dự luật chống lại deepfakes liên quan đến bầu cử, trích dẫn lo ngại sau khi những cuộc gọi giả mạo được tạo ra bởi AI đã giả của Tổng thống Joe Biden trước cuộc bầu cử tổng thống mới đây tại New Hampshire. Đề xuất sẽ cấm deepfakes “đáng kể” liên quan đến bầu cử trong các thông báo thư từ chính trị, cuộc gọi tự động và quảng cáo truyền hình 120 ngày trước Ngày bầu cử và 60 ngày sau đó. Một đề xuất khác sẽ yêu cầu các nền tảng truyền thông xã hội gắn nhãn cho bất kỳ bài đăng liên quan đến bầu cử được tạo ra bởi AI.
