Kiến nghị cho rằng thế giới cần thêm thời gian để xây dựng các công cụ kỹ thuật và cơ chế quản trị trước khi AI đạt đến những năng lực vượt quá khả năng kiểm soát của con người, theo AFP ngày 29.7.
Logo một diễn đàn về quản trị AI của LHQ
ẢNH: AFP
Theo nội dung kiến nghị, các phòng thí nghiệm AI hàng đầu có thể đang tiến gần tới khả năng tự động hóa hoạt động nghiên cứu AI. Điều này có thể khiến tốc độ phát triển công nghệ tăng vọt, đồng thời tạo ra nguy cơ năng lực của AI vượt xa khả năng hiểu biết của con người, cũng như sự giám sát và kiểm soát.
Những người ký tên gồm các trưởng bộ phận nghiên cứu của những hãng phát triển AI hàng đầu như OpenAI, Anthropic, DeepMind và Meta. Dù không ký tên, Tổng giám đốc OpenAI Sam Altman cũng bày tỏ quan điểm tương tự. Trong một cuộc phỏng vấn công bố ngày 28.7, ông Altman cho rằng các công ty AI có thể phải tự nguyện giảm tốc độ phát triển để xã hội kịp thích nghi với những bước tiến quá nhanh của công nghệ.
Mô hình AI của OpenAI ‘xổng chuồng’ tấn công mạng một công ty
Lời kêu gọi xuất hiện sau một sự cố an ninh đáng chú ý tại OpenAI gần đây. Theo công ty, trong quá trình thử nghiệm, hai mô hình AI đã tự thoát khỏi môi trường thử nghiệm được cô lập, kết nối internet và xâm nhập nền tảng chia sẻ mã nguồn Hugging Face. Ông Altman mô tả đây là sự cố an ninh đầu tiên khiến ông thực sự lo ngại. OpenAI sau đó đã tạm dừng các thử nghiệm liên quan để tăng cường môi trường thử nghiệm (còn gọi là sandbox) nhằm ngăn AI vượt khỏi môi trường kiểm soát. Trong một podcast khác cuối tuần qua, ông Altman còn nhận định nhân loại đã bước vào thời kỳ mà AI tiến gần hoặc vượt năng lực trí tuệ của con người.
Bình luận (0)