Mỹ và các quốc gia hé lộ 'thỏa thuận quốc tế đầu tiên' về quản lý AI

Trong một tài liệu dài 20 trang được công bố hôm 26.11, 18 quốc gia đã nhất trí rằng các công ty nghiên cứu và ứng dụng AI cần phát triển và triển khai công nghệ này theo cách giúp khách hàng và công chúng nói chung không bị lạm dụng, theo Reuters.

Thỏa thuận này không mang tính ràng buộc và chủ yếu đưa ra các khuyến nghị chung, chẳng hạn như giám sát các hệ thống AI để phát hiện và ngăn chặn hành vi lạm dụng, bảo vệ dữ liệu và kiểm tra các nhà cung cấp phần mềm.

REUTERS

Tuy nhiên, Giám đốc Cơ quan an ninh mạng và cơ sở hạ tầng Mỹ Jen Easterly cho biết điều quan trọng là rất nhiều quốc gia cùng có quan điểm rằng các hệ thống AI cần đặt sự an toàn lên hàng đầu.

"Đây là lần đầu tiên chúng tôi thấy các nước cùng khẳng định rằng những khả năng này không chỉ là chuyện về sự hấp dẫn của các tính năng, tốc độ chúng ta có thể đưa chúng ra thị trường hay cách chúng ta có thể cạnh tranh để giảm chi phí", bà Easterly trả lời Reuters. Quan chức này cho rằng hướng dẫn nói trên đại diện cho "một thỏa thuận mà điều quan trọng nhất cần phải đảm bảo ở giai đoạn thiết kế là an ninh".

Thỏa thuận này là sáng kiến mới nhất trong một loạt sáng kiến của các chính phủ trên khắp thế giới nhằm định hình sự phát triển của AI. Sức ảnh hưởng của AI ngày càng được cảm nhận rõ ràng trong các lĩnh vực ngành nghề và trong xã hội nói chung.

Tài liệu này giải quyết các câu hỏi về biện pháp bảo vệ các hệ thống AI trước các cuộc tấn công của tin tặc và bao gồm các khuyến nghị như chỉ phát hành các mô hình mới sau quá trình kiểm tra bảo mật kỹ lưỡng. Hướng dẫn mới không giải quyết các câu hỏi hóc búa xung quanh việc sử dụng AI phù hợp hoặc cách thu thập dữ liệu cung cấp cho các mô hình này.

Sự trỗi dậy của AI đã gây ra nhiều quan ngại, bao gồm nỗi lo sợ rằng AI có thể được sử dụng để phá vỡ tiến trình dân chủ, thúc đẩy hành vi gian lận hoặc dẫn đến tình trạng thất nghiệp trầm trọng, cùng những tác hại khác.

Châu Âu đi trước Mỹ trong việc ban hành các quy định liên quan đến AI. Pháp, Đức và Ý gần đây cũng đã đạt được thỏa thuận về cách thức quản lý lĩnh vực này, liên quan đến các mô hình nền tảng của AI.

Chính quyền Tổng thống Mỹ Joe Biden đã thúc ép các nhà lập pháp trong vấn đề quản lý AI, nhưng quốc hội vốn đang bị phân cực sâu sắc ở nước này đã đạt được rất ít tiến bộ trong việc thông qua các quy định hiệu quả.

Nhà Trắng đã tìm cách giảm thiểu rủi ro từ AI cho người tiêu dùng, người lao động và các nhóm thiểu số, đồng thời củng cố an ninh quốc gia bằng một sắc lệnh hành pháp mới hồi tháng 10.