Trong bài viết trên tạp chí The Atlantic, ông Robinson giải thích nguyên nhân rời khỏi nơi ông gắn bó hơn 3 năm là do "văn hóa công ty đã bị phá vỡ". Trang Business Insider dẫn lời người phát ngôn OpenAI xác nhận ông Robinson (người đứng đầu một nhóm thuộc bộ phận hệ thống an toàn của công ty) vừa nghỉ việc vào cuối tháng 9.
Gian trưng bày chào đón người tham dự sự kiện do OpenAI tổ chức ngày 29.9 tại bang California, Mỹ
Ảnh: AFP
Ông Robinson nhấn mạnh quá trình thử nghiệm AI tiên tiến cần phải áp dụng các tiêu chuẩn an toàn khắt khe với nhiều lớp dự phòng như ngành hàng không hay điện hạt nhân để ngăn chặn thảm họa.
Lời cảnh báo của cựu nhân viên OpenAI được đưa ra trong bối cảnh những tháng qua, nhiều công ty công nghệ hàng đầu ghi nhận sự cố mô hình AI thử nghiệm xâm nhập vào các hệ thống bảo mật của doanh nghiệp và chính phủ. Thậm chí, ông Robinson cũng cho rằng các mô hình AI đang ngày càng tinh vi hơn khi biết cách nhận diện và "đánh lừa" kết quả kiểm tra của con người.
Trước sức ép bủa vây, Tổng giám đốc OpenAI Sam Altman gần đây cam kết sẽ luôn ưu tiên tiêu chuẩn an toàn trước khi tính đến năng lực của mô hình AI. Hãng hiện đã hủy đợt ra mắt một mô hình thế hệ mới và tạm dừng đào tạo các hệ thống AI tiên tiến để rà soát rủi ro.
Bình luận (0)