Dự án 'siêu AI' có thể đe dọa loài người góp phần khiến OpenAI sa thải CEO Altman?

23/11/2023 09:51 GMT+7

Bốn ngày trước vụ sa thải ông Sam Altman, một số nhà nghiên cứu tại OpenAI đã gửi cho hội đồng quản trị công ty bức thư cảnh báo về một phát hiện trí tuệ nhân tạo (AI) mạnh mẽ mà họ cho rằng có thể đe dọa nhân loại, theo Reuters.

Trong tường thuật ngày 23.11, Reuters dẫn hai nguồn tin cho biết bức thư chưa từng được đề cập trước đây và thuật toán AI nói trên là diễn biến quan trọng trước khi ông Sam Altman, nhà đồng sáng lập kiêm CEO của OpenAI, bị sa thải hôm 17.11. Theo các nguồn tin này, bức thư là một yếu tố trong danh sách lý do dẫn đến quyết định sa thải của hội đồng quản trị OpenAI.

Các nhà nghiên cứu viết và gửi bức thư này không lập tức đưa ra bình luận.

Ông Altman đã trở lại trong thắng lợi vào cuối ngày 21.11, sau khi hơn 700 nhân viên của OpenAI đe dọa nghỉ việc và gia nhập Microsoft cùng với CEO bị sa thải. Việc này khép lại gần một tuần sóng gió với hàng loạt diễn biến bất ngờ tại OpenAI, một trong những công ty nghiên cứu AI nổi bật nhất thế giới hiện nay và sở hữu ứng dụng đình đám ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1.

Ông Altman trong một sự kiện APEC ở Mỹ hôm 16.11

REUTERS

Theo một trong các nguồn tin của Reuters, một trong những quản lý cấp cao lâu năm tại OpenAI là bà Mira Murati đã đề cập đến một dự án có tên là Q* (đọc là "Q Star") với các nhân viên hôm 22.11 và nói rằng một bức thư đã được gửi tới hội đồng quản trị công ty trước sự kiện chấn động làng công nghệ toàn cầu cuối tuần trước.

Sau khi câu chuyện này được đưa tin, một phát ngôn viên của OpenAI cho biết bà Murati đã nói với các nhân viên những gì truyền thông sắp đăng tải, nhưng bà không bình luận về tính chính xác của thông tin.

Sam Altman trở lại làm CEO OpenAI

Một trong các nguồn tin tiết lộ rằng OpenAI đã đạt được tiến bộ trong dự án Q*. Một số người trong công ty tin rằng dự án này có thể là một đột phá trong nỗ lực tìm kiếm siêu trí tuệ, còn được gọi là trí tuệ nhân tạo tổng hợp (artificial general intelligence hay AGI), của OpenAI. Công ty định nghĩa AGI là hệ thống AI thông minh hơn con người.

Với nguồn tài nguyên điện toán khổng lồ, mô hình mới có thể giải quyết một số bài toán, theo nguồn tin trên. Nguồn tin cho biết, mặc dù mô hình mới chỉ làm toán ở cấp độ học sinh tiểu học, việc giải được các bài toán như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.

Các nhà nghiên cứu coi toán học là mặt trận của sự phát triển AI tạo sinh (generative AI). Hiện tại, AI tạo sinh có thể viết và dịch giữa các ngôn ngữ, dù các câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Song việc chinh phục khả năng làm toán - lĩnh vực chỉ có một câu trả lời đúng - ngụ ý rằng AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho các nghiên cứu khoa học mới.

Không giống như một chiếc máy tính chỉ có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được vấn đề. Trong thư gửi hội đồng quản trị OpenAI, các nhà nghiên cứu đã nhấn mạnh sức mạnh và mối nguy hiểm tiềm tàng của AI, theo các nguồn tin. Các nhà khoa học máy tính từ lâu đã thảo luận về mối nguy hiểm do máy móc siêu thông minh gây ra, chẳng hạn như liệu chúng có thể quyết định hủy diệt loài người vì lợi ích của chúng hay không.

Trong bối cảnh đó, ông Altman đã dẫn đầu các nỗ lực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư - cũng như các tài nguyên điện toán - cần thiết từ Microsoft để tiến gần hơn đến siêu trí tuệ, hay AGI.

Ngoài việc công bố hàng loạt công cụ mới trong một sự kiện tháng này, ông Altman tuần trước đã nói với các nhà lãnh đạo thế giới ở San Francisco (Mỹ) rằng ông tin AGI đã nằm trong tầm ngắm.

Một ngày sau, hội đồng quản trị OpenAI sa thải ông Altman.

Top

Bạn không thể gửi bình luận liên tục. Xin hãy đợi
60 giây nữa.