Theo hãng tin Yonhap, ngày 5/3, Văn phòng Điều tra Quốc gia (NOI) Hàn Quốc cho biết cảnh sát nước này đã phát triển phần mềm có thể phát hiện công nghệ deepfake để trấn áp những tội phạm trong lĩnh vực này.
Deepfake là công nghệ sử dụng trí tuệ nhân tạo (AI) để tạo ra hình ảnh, âm thanh và video giả mạo, sai sự thật, để bắt chước giọng nói và gương mặt của người.
Công nghệ này thường được bọn tội phạm dùng vào mục đích xấu như lừa đảo hoặc để truyền bá thông tin sai lệch.
Theo NOI, đơn vị thuộc Cơ quan Cảnh sát Quốc gia Hàn Quốc, phần mềm có thể phân biệt video bị nghi ngờ là deepfake chỉ sau 5-10 phút. Ứng dụng cũng có thể đưa ra kết quả để sử dụng trong các cuộc điều tra.
Cảnh sát cho biết thêm phần mềm có độ chính xác lên đến 80% nhưng họ sẽ sử dụng dữ liệu để yêu cầu điều tra chứ không dùng làm bằng chứng trực tiếp. Để giảm thiểu khả năng sai sót, cảnh sát sẽ kiểm tra chéo với các chuyên gia AI, nhất là khi liên quan đến các hành vi phạm tội làm sai lệch thông tin bầu cử.
Khi công nghệ AI tiếp tục phát triển, các chuyên gia cảnh báo về mức độ phức tạp và tốc độ sản xuất deepfake ngày càng tăng cao, vượt xa các quy trình xác minh truyền thống.
Không chỉ Hàn Quốc, nhiều nước trên khắp thế giới đang ngày càng lo ngại về sự tinh vi của công nghệ deepfake và mục đích sử dụng bất hợp pháp, và đang nỗ lực ngăn chặn những tác động độc hại từ công nghệ này./.
Một nhân viên tài chính bị lừa hơn 25 triệu USD vì công nghệ deepfake
Cảnh sát Hong Kong cho biết nạn nhân bị lừa tham gia một cuộc gọi video với những người mà anh nghĩ là một số thành viên khác trong công ty, song tất cả chỉ là sản phẩm của công nghệ deepfake.
