Trong tuần này, Lee Luda - một chatbot (phần mềm máy tính trò chuyện tự động với người dùng) thịnh hành tại Hàn Quốc hoạt động thông qua trí tuệ nhân tạo (AI) và đóng vai một nữ sinh viên 20 tuổi - đã bị dỡ bỏ sau khi bị cáo buộc có thành kiến với người khuyết tật, người đồng tính và phong trào #MeToo.
Lee Luda do công ty khởi nghiệp Scatter Lab phát triển, được kết nối với Facebook Messenger.
Nhờ phản ứng nhanh và tự nhiên, chatbot này đã thu hút hơn 750.000 người dùng sau khi ra mắt vào cuối tháng 12/2020.
Các thuật toán AI của Lee Luda học được từ dữ liệu thu thập từ 10 tỷ cuộc hội thoại trên ứng dụng tin nhắn hàng đầu Hàn Quốc Kakao Talk.
Tuy nhiên, Lee Luda cũng nhanh chóng đối mặt với hàng loạt cáo buộc sử dụng ngôn từ thù ghét đối với những nhóm người thiểu số.
[YouTube xóa 6 kênh chia sẻ video vi phạm quy định phát ngôn thù hận]
Chẳng hạn, Lee Luda nói rằng những người đứng sau phong trào #MeToo là "những kẻ dốt,' hoặc nói cô "khinh thường" người đồng tính, và cô "thà chết còn hơn sống mà bị khuyết tật."
Những hội thoại của Lee Luda đã gây tranh cãi, buộc nhà phát triển Scatter Lab phải dỡ bỏ phần mềm này. Trong một thông báo, đại diện Scatter Lab bày tỏ xin lỗi về những phát ngôn của Lee Luda, khẳng định những phát ngôn này không đại diện cho các giá trị của công ty.
Phía Scatter Lab giải thích những bình luận của chatbot xuất phát từ dữ liệu hàng tỷ cuộc hội thoại mà chương trình AI thu thập.
Công ty trên cho biết sẽ đào tạo Lee Luda biết cách đánh giá những câu trả lời phù hợp và tốt hơn việc học một cách vô điều kiện qua các hội thoại.
Tuy nhiên, công ty chưa thông báo thời gian cụ thể cho phép ứng dụng này hoạt động trở lại./.