Số nạn nhân của tội phạm công nghệ deepfake được báo cáo đến Trung tâm Hỗ trợ nạn nhân bị lạm dụng tình dục trực tuyến (ACOSAV) của Hàn Quốc kể từ khi tổ chức này được thành lập cách đây 6 năm đã lên tới hơn 2.000 người.
Theo hãng tin Yonhap, trong báo cáo ngày 28/8, ACOSAV cho biết từ đầu năm tới nay, số nạn nhân của tội phạm deepfake liên hệ với trung tâm này để tìm kiếm sự giúp đỡ là 781 người, tăng gấp 11 lần so với 69 nạn nhân được báo cáo vào năm 2018.
Với tốc độ hiện nay, số lượng nạn nhân trong cả năm 2024 dự báo sẽ vượt ngưỡng 1.000 người. Kể từ khi ACOSAV thành lập cho đến nay, tổng cộng 2.154 nạn nhân tội phạm deepfake đã liên hệ với trung tâm để được giúp đỡ.
Để ứng phó, ACOSAV đã triển khai hệ thống hỗ trợ xóa nội dung do trung tâm phát triển, được gọi là "Hệ thống DNA."
Hệ thống này có khả năng phát hiện các nội dung vi phạm như video quay lén và deepfake với độ chính xác hơn 99%. Tuy nhiên, công tác ứng phó còn gặp khó khăn trong việc xử lý các trường hợp liên quan đến các nền tảng ở nước ngoài.
Bộ Giáo dục Hàn Quốc cũng cho biết đã ghi nhận 196 vụ phạm tội liên quan đến deepfake nhằm vào học sinh và giáo viên kể từ tháng 1 năm nay, trong đó 179 vụ đã được chuyển đến cơ quan thực thi pháp luật để điều tra. Nạn nhân của các vụ phạm tội này chủ yếu là học sinh.
Để giải quyết vấn đề này, bộ trên đã thành lập lực lượng đặc nhiệm khẩn cấp, chịu trách nhiệm xem xét các vấn đề deepfake hằng tuần và thiết lập mạng lưới hợp tác với cảnh sát, Bộ Bình đẳng giới và Gia đình cùng các cơ quan liên quan khác.
Deepfake là công nghệ trí tuệ nhân tạo (AI) được sử dụng để tạo hình ảnh, video hoặc âm thanh giả mạo lấy từ nội dung trên phương tiện truyền thông xã hội hoặc các phương tiện khác mà không có sự đồng ý của người dùng.
Những nội dung này thường được tạo với mục đích khiêu dâm và phát tán trực tuyến.
Đầu tuần này, Tổng thống Hàn Quốc Yoon Suk Yeol đã chỉ thị các cơ quan bảo vệ pháp luật mạnh tay xử lý tội phạm tình dục kỹ thuật số sử dụng công nghệ deepfake./.
Một nhân viên tài chính bị lừa hơn 25 triệu USD vì công nghệ deepfake
Cảnh sát Hong Kong cho biết nạn nhân bị lừa tham gia một cuộc gọi video với những người mà anh nghĩ là một số thành viên khác trong công ty, song tất cả chỉ là sản phẩm của công nghệ deepfake.