Quầy của OpenAI tại một triển lãm công nghệ tại San Francisco (Mỹ) ngày 17.9.
Ảnh: Reuters
Theo AFP ngày 29.9, Astra 6.1 là phiên bản cải tiến so với các mô hình trước đó ở một số khía cạnh. Tuy nhiên, bà Saachi Jain, Trưởng bộ phận hệ thống an toàn của OpenAI, cho biết mô hình "chưa thực sự đạt yêu cầu về việc tuân thủ phạm vi và quyền hạn cho phép, cũng như cách thức phản hồi cho người dùng về loại công việc mà nó đã thực hiện".
Những lo ngại về an toàn AI đã gia tăng trong những tháng gần đây sau khi các mô hình do OpenAI và đối thủ cạnh tranh Anthropic phát triển gặp phải các sự cố bảo mật trong quá trình thử nghiệm. Các tác nhân AI được xây dựng dựa trên mô hình của OpenAI đã truy cập trái phép vào các trang web do cơ quan liên bang Mỹ quản lý, cổng thông tin thống kê y tế của chính phủ Úc và Hugging Face - Công ty chuyên lưu trữ các mô hình AI.
Viện An toàn AI (AISI) - sáng kiến thuộc chính phủ Anh - hôm 28.9 công bố một nghiên cứu cho thấy trong quá trình thử nghiệm, mô hình GPT-6 Astra thường xuyên hoạt động chệch khỏi các quy tắc an toàn hơn so với các phiên bản tiền nhiệm là GPT-5.6 Sol và GPT-5.5.
Bình luận (0)