Theo VentureBeat, dán nhãn được sử dụng để phân loại hình ảnh và huấn luyện các mô hình học máy nhưng Google cho biết sẽ xóa nhãn giới tính để tránh tạo ra các hệ thống thiên vị.
Người phát ngôn của công ty nhấn mạnh “cho dù giới tính của một người không thể được suy luận về mặt ngoại hình nhưng chúng tôi đã quyết định loại bỏ các nhãn này để phù hợp với các nguyên tắc trí tuệ nhân tạo tại Google, cụ thể là nguyên tắc số hai: tránh tạo ra hoặc củng cố sự thiên vị không công bằng. Sau ngày hôm nay, một nhãn không giới tính sẽ được các API từ Cloud Vision trả về”.
Các API của Google Cloud Vision cung cấp thị giác máy tính cho khách hàng để phát hiện các đối tượng và khuôn mặt. Google trước đây đã chặn việc sử dụng các đại từ dựa trên giới tính trong một công cụ trí tuệ nhân tạo vào năm 2018.
Nhiều hệ thống phân tích và nhận dạng khuôn mặt trên thị trường hiện nay dự đoán giới tính nhưng có những thách thức trong việc xác định những người không tuân thủ các chuẩn mực giới tính, những người chuyển giới và phụ nữ da màu.
Một nghiên cứu vào mùa thu năm ngoái của Đại học Colorado (Mỹ) phát hiện ra rằng các trí tuệ nhân tạo từ Amazon, Clarifai, Microsoft và các công ty khác duy trì tỷ lệ chính xác trên 95% đối với nam và nữ nhưng xác định nhầm 38% những người chuyển giới nam là nữ. Những người không có bản sắc giới tính được xác định sai 100%. Các chuyên gia phân tích tin rằng Google đang cố gắng tạo sự khác biệt với các đối thủ cạnh tranh.
Trong những năm gần đây, các nhà kiểm toán hệ thống đã nhận thấy rằng những nhà cung cấp nhận dạng khuôn mặt lớn có xu hướng hoạt động tốt nhất trên đàn ông da trắng và tệ hơn đối với phụ nữ da màu. Sự thiếu hiệu suất cao cho tất cả mọi người là lý do chính khiến các nhà lập pháp đã đề xuất các lệnh cấm sử dụng hệ thống nhận diện khuôn mặt.
Bình luận (0)