AI trả kết quả sai lệch: Quy trách nhiệm cho ai?

Thời gian gần đây, ChatGPT, một chatbot AI (hệ thống trò chuyện với trí tuệ nhân tạo) nổi lên như một hiện tượng khi có khả năng viết một bài văn hay làm một bài thơ chỉ trong 30 giây và có thể giải đáp thắc mắc của người dùng.

Được công ty công nghệ OpenAI phát triển và ra mắt công chúng vào cuối tháng 11.2022, chỉ trong vòng 5 ngày, ChatGPT đã có hơn 1 triệu người dùng. Mặc dù được dự báo có khả năng sẽ thay thế công cụ tìm kiếm hàng đầu hiện nay là Google, ChatGPT vẫn tiềm ẩn nhiều rủi ro sau khi người dùng cho biết hệ thống này đã cung cấp những thông tin sai lệch, theo tờ Business Insider.

Điều này đặt ra các câu hỏi về nguy cơ của hệ thống chatbot AI, cũng như về việc ai sẽ là người chịu trách nhiệm nếu sơ suất xảy ra.

FUTURE TECHNOLOGY

Các nguy cơ tiềm ẩn

ChatGPT nói riêng và tất cả chatbot nói chung có thể gây ra một số nguy hiểm nếu không được sử dụng hoặc triển khai đúng cách, theo trang TheStreet.

Thứ nhất là thông tin sai lệch. Các chatbot chỉ chính xác và đáng tin cậy khi chúng được lập trình đúng và cung cấp những thông tin xác thực. Nếu một chatbot được lập trình những thông tin không chính xác hoặc gây hiểu lầm, nó sẽ lan truyền thông tin sai lệch đó đến người dùng.

Cụ thể, để có thể trở nên "uyên bác", các chatbot phải được tích lũy một lượng dữ liệu khổng lồ. Bản thân ChatGPT được nạp vào 570 GB dữ liệu, chủ yếu lấy từ internet và phần lớn chưa qua kiểm chứng. Chính vì thế, các chatbot đã trả nhiều kết quả sai lệch cho người dùng. Ngoài ra, các dữ liệu được thu thập từ các nguồn đã cũ cũng có thể không giải quyết được các vấn đề mới phát sinh.

Chatbot cũng có nguy cơ tạo ra và thậm chí khuếch đại các tư tưởng sai lệch và thiên kiến nếu chúng được đào tạo trên dữ liệu không đa dạng hoặc không đủ để đại diện cho một tập thể.

Thứ hai là lo ngại về quyền riêng tư. Các chatbot có thể thu thập và lưu trữ một lượng lớn thông tin cá nhân từ người dùng. Thông tin này có thể dễ trở thành mục tiêu của các cuộc tấn công hoặc xử lý sai dẫn đến bất lợi cho người sử dụng. Cũng không loại trừ khả năng chatbot được lập trình để thao túng và tác động đến người dùng, chẳng hạn như đưa thông tin sai lệch và điều hướng dư luận.

Thứ ba, chatbot không thể hiểu hoặc phản hồi các tín hiệu cảm xúc. Điều này có thể khiến chúng trở thành lựa chọn tồi cho một số hình thức tương tác chẳng hạn như tư vấn khủng hoảng hoặc trị liệu.

ISTOCK

Trách nhiệm thuộc về ai?

Một mối nguy của chatbot là chúng không chịu trách nhiệm pháp lý hay đạo đức cho hành động của chúng. Điều này gây khó khăn trong việc xác định trách nhiệm khi xảy ra lỗi hoặc gây thiệt hại.

Theo ý kiến của chuyên gia Anantharaman Muralidharan thuộc Trung tâm Đạo đức y sinh Đại học Quốc gia Singapore trên đài Channel News Asia, AI là mô hình phức tạp và các nhà sản xuất và lập trình viên khó có thể làm được gì nhiều để ngăn chăn trường hợp AI đưa ra đánh giá sai. Do đó, họ không thể bị quy trách nhiệm về sự cố AI (ngoại trừ một số trường hợp sơ suất nghiêm trọng). Thay vào đó, chính người dùng cần cân nhắc sử dụng thông tin phù hợp và chịu trách nhiệm cho quyết định của mình.

Để đảm bảo giảm thiểu tối đa sai sót, người dùng phải là người ra quyết định cuối cùng vì AI không đưa ra quyết định mà chỉ cung cấp khuyến nghị. Người sử dụng công nghệ cần nắm rõ cách hoạt động và phản ứng đúng đắn để tránh sai sót, và quan trọng nhất là nhận thức được rằng trước pháp luật và các quy chuẩn đạo đức, các bên không thể quy trách nhiệm cho AI.

Dù vậy, nếu được sử dụng một cách có trách nhiệm, các chatbot AI có thể là một công cụ hữu ích cho các doanh nghiệp, tổ chức và cá nhân. Nó có thể cải thiện dịch vụ khách hàng, tự động hóa các công việc tẻ nhạt và thậm chí giúp cải thiện sức khỏe tinh thần.

Điều quan trọng là các nhà phát triển AI và người sử dụng phải nhận thức được những nguy cơ tiềm ẩn và có giải pháp giảm thiểu chúng, chẳng hạn như kiểm tra thường xuyên và minh bạch về các khả năng cũng như hạn chế của chatbot.