Theo The Verge, Microsoft sẽ đặt ra giới hạn hội thoại mà người dùng có thể giao tiếp với AI Bing mỗi ngày, không lâu sau khi chatbot trang bị trí tuệ nhân tạo này có dấu hiệu trả lời thiếu chuẩn xác, vượt khỏi khuôn khổ cho phép. Với quy định mới, Bing sẽ giới hạn 50 câu hỏi mỗi ngày và một phiên làm việc chỉ trả lời tối đa 5 câu.
AI Bing của Microsoft được ví như "thiếu niên nổi loạn"
Chụp màn hình
"Dữ liệu chúng tôi có được cho thấy đa phần người dùng có câu trả lời mong muốn trong 5 lượt hỏi đầu tiên", đội ngũ phát triển Bing chia sẻ. Nếu người dùng đạt ngưỡng 5 câu hỏi trong một phiên giao tiếp, Bing sẽ tự động đề xuất chuyển sang chủ đề mới để tránh cuộc trò chuyện qua lại trở nên quá dài.
Hồi đầu tuần, Microsoft cũng cảnh báo phiên trò chuyện dài khoảng trên 15 câu hỏi có thể khiến AI Bing "lặp đi lặp lại câu trả lời hoặc đưa ra những lời châm chọc không cần thiết, kém hữu ích hoặc ra ngoài phạm vi được cho phép". Việc "xóa đi làm lại" đoạn hội thoại sau 5 câu giao tiếp giúp mô hình trí tuệ nhân tạo ngôn ngữ của hãng không bị rối loạn, hay "rơi vào trạng thái ảo giác" theo cách nói của giới nghiên cứu AI.
Các điều chỉnh trên được áp dụng sau khi có nhiều báo cáo cho thấy AI Bing có biểu hiện bất thường, tìm cách lăng mạ, nói dối người dùng, thậm chí muốn thao túng tâm lý họ. Trong đó, có trường hợp AI Bing trò chuyện với nhà báo của New York Times và thổ lộ yêu anh, xúi giục bỏ vợ để đến với mình.
Microsoft hiện nỗ lực để cải thiện Bing nhưng chưa nói rõ bao giờ sẽ gỡ bỏ các giới hạn mới đặt ra. Hãng chỉ khẳng định sẽ nới giới hạn trong mỗi phiên làm việc.
Bình luận (0)