Microsoft cấm các bộ phận cảnh sát Mỹ sử dụng công cụ AI doanh nghiệp cho nhận dạng khuôn mặt
Microsoft đã xác nhận cấm các bộ phận cảnh sát Mỹ sử dụng AI tạo ra cho nhận dạng khuôn mặt thông qua Dịch vụ Azure OpenAI, là lớp bọc dành riêng cho doanh nghiệp của công ty xung quanh công nghệ OpenAI.
Ngôn ngữ được thêm vào điều khoản dịch vụ cho Dịch vụ Azure OpenAI rõ ràng hơn cấm tích hợp với Dịch vụ Azure OpenAI không được sử dụng 'bởi hoặc cho' các bộ phận cảnh sát cho nhận dạng khuôn mặt tại Mỹ, bao gồm các tích hợp với mô hình phân tích hình ảnh hiện tại của OpenAI - và có thể trong tương lại.
Một điểm mới riêng biệt nói về 'bất kỳ tổ chức pháp luật nào trên toàn cầu', và rõ ràng cấm việc sử dụng 'công nghệ nhận dạng khuôn mặt thời gian thực' trên camera di động, như camera cơ thể và camera ô tô, để cố gắng xác định một người trong môi trường 'ngoài vực kiểm soát, tự nhiên'.
Những thay đổi trong chính sách đến một tuần sau khi Axon, một nhà sản xuất các sản phẩm công nghệ và vũ khí cho quân đội và cảnh sát, công bố một sản phẩm mới sử dụng mô hình văn bản tạo ra GPT-4 của OpenAI để tóm tắt âm thanh từ camera cơ thể. Các nhà phê bình nhanh chóng chỉ ra những rủi ro tiềm ẩn, như ảo giác (ngay cả những mô hình AI tạo ra tốt nhất ngày nay cũng tạo ra thông tin không chính xác) và định kiến chủng tộc từ dữ liệu huấn luyện (vấn đề mà đặc biệt đáng lo ngại khi người da màu có khả năng bị cảnh sát kiểm tra nhiều hơn so với đồng bào da trắng).
Chưa rõ liệu Axon đã sử dụng GPT-4 qua Dịch vụ Azure OpenAI, và, nếu có, liệu chính sách cập nhật có phản ứng với việc ra mắt sản phẩm của Axon hay không. OpenAI trước đây đã hạn chế việc sử dụng mô hình của mình cho nhận dạng khuôn mặt thông qua các API. Chúng tôi đã liên hệ với Axon, Microsoft và OpenAI và sẽ cập nhật bài viết này nếu chúng tôi nhận được phản hồi.
Các điều khoản mới để lại chỗ cho Microsoft.
Cấm hoàn toàn việc sử dụng Dịch vụ Azure OpenAI chỉ áp dụng cho cảnh sát Mỹ, không áp dụng cho quốc tế. Và nó không bao gồm nhận dạng khuôn mặt thực hiện bằng camera tĩnh trong môi trường kiểm soát, như một phòng làm việc (mặc dù các điều khoản cấm bất kỳ việc sử dụng nhận dạng khuôn mặt nào của cảnh sát Mỹ).
Điều này khớp với cách tiếp cận gần đây của Microsoft và đối tác chặt chẽ OpenAI đối với các hợp đồng về AI liên quan đến cảnh sát và quốc phòng.
Vào tháng 1, báo cáo của Bloomberg tiết lộ rằng OpenAI đang làm việc với Bộ Quốc phòng về một số dự án bao gồm khả năng bảo mật mạng - một sự thay đổi so với lệnh cấm trước đây của công ty không cung cấp AI của mình cho quân đội. Nơi khác, Microsoft đã đề xuất sử dụng công cụ tạo hình ảnh của OpenAI, DALL-E, để giúp Bộ Quốc phòng (DoD) xây dựng phần mềm thực hiện các thao tác quân sự, theo The Intercept.
Dịch vụ Azure OpenAI đã trở thành sẵn có trong sản phẩm Azure Government của Microsoft từ tháng 2, bổ sung thêm tính năng tuân thủ và quản lý hướng đến các cơ quan chính phủ, bao gồm cảnh sát. Trong một bài đăng trên blog, Candice Ling, Phó Chủ tịch cao cấp của Phân khu Microsoft tập trung vào chính phủ Microsoft Federal, cam kết rằng Dịch vụ Azure OpenAI sẽ được 'đệ trình cho sự ủy quyền bổ sung' cho DoD để hỗ trợ công việc của DoD.
Cập nhật: Sau khi xuất bản, Microsoft nói rằng sự thay đổi ban đầu trong các điều khoản dịch vụ chứa một lỗi, và thực tế cấm chỉ áp dụng cho nhận dạng khuôn mặt tại Mỹ. Đó không phải là cấm một cách toàn diện cho các bộ phận cảnh sát sử dụng dịch vụ này.
