Tăng cường ngăn chặn nội dung Deepfake khiêu dâm

Những ngày gần đây, tại Hàn Quốc đã xuất hiện một số video Deepfake ghép mặt nữ sinh với nội dung khiêu dâm. Đáng chú ý, những nội dung đồi truỵ này bị phát tán trên ứng dụng Telegram, gây bất an trong xã hội.

Deepfake là công nghệ sử dụng trí tuệ nhân tạo để tạo hình ảnh, video hoặc âm thanh giả mạo mà không có sự đồng ý của người dùng. Những nội dung này thường được tạo với mục đích khiêu dâm và phát tán trực tuyến.

Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc cam kết tăng gấp đôi nhân sự để giám sát các nền tảng truyền thông xã hội nhằm nhanh chóng phát hiện và xóa các nội dung Deepfake bất hợp pháp.

Theo hãng tin Yonhap, số nạn nhân của tội phạm công nghệ Deepfake được báo cáo đến Trung tâm Hỗ trợ nạn nhân bị lạm dụng tình dục trực tuyến (ACOSAV) của Hàn Quốc kể từ khi tổ chức này được thành lập cách đây 6 năm đã lên tới hơn 2.000 người.

Trong báo cáo ngày 28/8, ACOSAV cho biết từ đầu năm tới nay, số nạn nhân của tội phạm Deepfake liên hệ với trung tâm này để tìm kiếm sự giúp đỡ là 781 người, tăng gấp 11 lần so với 69 nạn nhân được báo cáo vào năm 2018. Với tốc độ hiện nay, số lượng nạn nhân trong cả năm 2024 dự báo sẽ vượt ngưỡng 1.000 người.

Để ứng phó, ACOSAV đã triển khai hệ thống hỗ trợ xóa nội dung do trung tâm phát triển, được gọi là "Hệ thống DNA". Hệ thống này có khả năng phát hiện các nội dung vi phạm như video quay lén và Deepfake với độ chính xác hơn 99%. Tuy nhiên, công tác ứng phó còn gặp khó khăn trong việc xử lý các trường hợp liên quan đến các nền tảng ở nước ngoài.

Thách thức mới từ công nghệ Deepfake và AI trong bảo vệ trẻ em

VTV.vn - Trong khi trí tuệ nhân tạo (AI) ngày càng phổ biến trong cuộc sống, tình trạng lạm dụng các tiến bộ của công nghệ này cho các hoạt động tội phạm cũng ngày càng tăng.

* Mời quý độc giả theo dõi các chương trình đã phát sóng của Đài Truyền hình Việt Nam trên TV Online và VTVGo!