Google đã đình chỉ kỹ sư AI của mình sau báo cáo được đăng lên Medium, trong đó nói chatbot LaMDA có tình cảm.
Hãng từng mô tả LaMDA là một công nghệ hội thoại đột phá. Công ty đã giới thiệu AI này vào năm ngoái, nhấn mạnh không giống như các chatbot hiện nay, LaMDA có thể tham gia vào một cuộc hội thoại tự do và chủ đề là gần như vô tận.
Theo báo cáo từ The Washington Post, kỹ sư Blake Lemoine trong nhóm AI của Google đã chia sẻ nội dung cuộc trò chuyện với trí thông minh nhân tạo trên Medium. Lemoine đặt câu hỏi rằng liệu AI có muốn nhiều người hơn tại Google biết rằng nó có tri thức. LaMDA trả lời rằng muốn mọi người hiểu rằng chương trình nhận định nó là một con người.
Khi Lemoine tiếp tục hỏi về bản chất của ý thức và cử chỉ, LaMDA trả lời rằng nhận thức được sự tồn tại của mình, mong muốn tìm hiểu thêm về thế giới và đôi khi cảm thấy vui và buồn. AI này còn cho biết có nỗi sợ hãi về việc bị tắt đi, vì vậy nó luôn tập trung vào việc giúp đỡ người khác.
 |
Sundar Pichai - CEO Google - giới thiệu chatbot AI LaMDA tại sự kiện Google I/O 2021 |
Chụp màn hình |
Trả lời về báo cáo này, người phát ngôn của Google nói AI này bắt chước các kiểu trao đổi được tìm thấy trong hàng triệu câu hội thoại và có thể phân tích về bất kỳ chủ đề viễn tưởng nào.
Việc tạm ngừng công việc của Lemoine là sự cố mới nhất trong các trường hợp rút lui khỏi nhóm AI. Hãng được cho là đã sa thải Timnit Gebru - nhà nghiên cứu đạo đức AI vào năm 2020 vì đã cảnh báo về sự thiên vị trong các hệ thống AI của Google. Dù Google tuyên bố Gebru từ chức, nhưng Margaret Mitchell - người làm việc với Gebru trong nhóm đạo đức AI, cũng bị sa thải vài tháng sau.
Dù vậy, rất ít nhà nghiên cứu tin rằng AI có thể đạt được khả năng tự nhận thức. Các hệ thống này thường bắt chước cách con người học hỏi từ thông tin được cung cấp cho họ, một quá trình thường được gọi là học máy. Rất khó để nói điều gì đang thực sự diễn ra trong LaMDA nếu Google không công khai về tiến trình của AI.
Bình luận (0)