Sắc lệnh được ban hành chỉ vài ngày sau khi một số nhân vật trong ngành AI đưa ra những cảnh báo nghiêm trọng về mối đe dọa mà ngành này có thể mang đến cho nhân loại. Còn California là cái nôi của Thung lũng Silicon và là nơi đặt trụ sở của các công ty AI đầu ngành.
Ông Jacob Coxon, nhà nghiên cứu AI từng làm việc cho hãng Anthropic trước khi từ chức, đã kích hoạt làn sóng cảnh báo mới nhất bằng việc mô tả những người phát triển công nghệ này "thực sự tin rằng nó có thể giết sạch loài người vào cuối thập niên hiện tại". Trong bối cảnh đó, sắc lệnh của Thống đốc Newsom không bắt buộc phải áp đặt ngay cơ chế "tắt nguồn", mà chỉ yêu cầu các cơ quan của chính quyền tiểu bang đến ngày 16.11 phải trình báo cáo về tính khả thi của biện pháp này. Sắc lệnh còn chỉ đạo giới chức bang California tính đến việc đề nghị những hãng AI cho phép các kiểm toán viên độc lập làm việc tại phòng thí nghiệm của họ. Việc buộc phía công ty báo cáo những sự cố mất kiểm soát cũng được yêu cầu cân nhắc thực hiện.
Khu vực giới thiệu Anthropic tại một sự kiện công nghệ ở San Francisco (bang California) vào ngày 17.9
Ảnh: Reuters
Còn tại bang Virginia, một trong những trung tâm dữ liệu lớn của thế giới, Thống đốc Abigail Spanberger ngày 18.9 ban hành sắc lệnh hành pháp cấm mọi cơ quan của chính quyền tiểu bang ký thỏa thuận không tiết lộ thông tin trong các dự án xây trung tâm dữ liệu. Sắc lệnh cũng thông qua việc thành lập tổ công tác chuyên về AI nhằm xử lý những rủi ro trong quá trình vận hành AI, như mất việc làm, quyền riêng tư dữ liệu và an ninh mạng.
Trong một diễn biến liên quan, Google cùng ngày thông báo mô hình AI của hãng là Gemini đã xâm nhập dữ liệu một loạt các hệ thống thông qua việc đoán thông tin đăng nhập. Reuters đưa tin các vụ xâm nhập diễn ra từ tháng 5 và phải mất 2 tháng sau Google mới phát hiện, trước khi được tờ The Wall Street Journal lần đầu đưa tin hôm 18.9. Tháng 7 cũng chứng kiến 2 mô hình của OpenAI tự động thoát khỏi môi trường hoạt động khép kín, tự kết nối internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.
Tình hình càng thêm đáng lo ngại sau khi Anthropic cho biết các hệ thống AI đang ngày càng gia tăng năng lực tự xây dựng các phiên bản tương lai của bản thân. Cụ thể, chatbot Claude của hãng giờ đây dẫn đầu hơn 25% công việc nghiên cứu và phát triển của hãng, và phối hợp với các nhân viên trong hơn 90% số nhiệm vụ. Anthropic cảnh báo việc các mô hình AI đẩy nhanh quá trình tự phát triển có thể gây khó khăn cho con người trong việc hiểu hoặc kiểm soát những hệ thống này.
Tổng giám đốc Anthropic Dario Amodei kêu gọi các bên hãy thận trọng trong quá trình phát triển AI, và nêu sáng kiến thành lập một cơ quan quản lý AI toàn cầu do Mỹ dẫn dắt.
Bình luận (0)