Người dùng AI ngày càng lo ngại về lừa đảo, quấy rối, deepfake

AI phát triển mạnh nhưng lo ngại gia tăng

Kết quả khảo sát cho thấy số lượng người dùng AI trên toàn cầu đã tăng đáng kể (51% người đã từng sử dụng AI, so với 39% vào năm 2023). Tuy nhiên, mối lo ngại về AI cũng gia tăng – 88% người được khảo sát bày tỏ lo lắng về AI tạo sinh (generative AI), cao hơn mức 83% của năm trước. Đặc biệt, khảo sát cho thấy người dùng gặp khó khăn trong việc phân biệt nội dung do AI tạo ra, làm gia tăng rủi ro liên quan đến nội dung sai lệch hoặc lạm dụng AI.

Microsoft đã khảo sát gần 15.000 thanh thiếu niên (13-17 tuổi) và người trưởng thành tại 15 quốc gia về nhận thức và trải nghiệm liên quan đến an toàn trực tuyến. Một điểm nổi bật là khả năng nhận diện nội dung AI của người dùng còn hạn chế. Khi xem loạt hình ảnh từ bài kiểm tra "Thật hay giả" (Real or Not) của Microsoft, 73% số người được hỏi thừa nhận khó phân biệt hình ảnh do AI tạo ra, và chỉ 38% trả lời đúng.

Bên cạnh đó, các mối quan ngại chính về AI tạo sinh gồm: Lừa đảo trực tuyến (73%); Lạm dụng tình dục hoặc quấy rối trực tuyến (73%); Deepfake (72%)

Ảnh: crypton.

Bảo vệ người dùng khỏi nội dung độc hại

Với mục tiêu bảo vệ người dùng khỏi nội dung độc hại, Microsoft phát triển AI một cách có trách nhiệm nhằm khai thác lợi ích, đồng thời, thúc đẩy nhận thức cộng đồng thông qua các chương trình giáo dục. Phía tập đoàn đã ra mắt nhiều tài nguyên mới dựa trên nền tảng của Bộ công cụ An toàn Gia đình (Family Safety Toolkit):

Hợp tác với Childnet: để phát triển tài liệu giáo dục giúp ngăn chặn việc lạm dụng AI, đặc biệt là tạo deepfake. Tài liệu này sẽ được cung cấp cho trường học và gia đình nhằm bảo vệ trẻ em khỏi các rủi ro trực tuyến; Minecraft "CyberSafe AI: Dig Deeper": trò chơi giáo dục mới trong Minecraft được ra mắt với mục tiêu giúp các bạn trẻ tìm hiểu về AI một cách an toàn, hướng dẫn người dùng cách sử dụng AI có trách nhiệm thông qua các thử thách mô phỏng tình huống thực tế; Hướng dẫn AI cho người cao tuổi: hợp tác với tổ chức OATS thuộc AARP và hỗ trợ đào tạo công nghệ miễn phí cho hơn 500.000 người cao tuổi mỗi năm, bao gồm cả cách sử dụng AI an toàn và tránh lừa đảo trực tuyến.

Với cam kết bảo vệ người dùng khỏi nội dung độc hại trên internet và duy trì quyền tự do ngôn luận, quyền riêng tư. Hãng đề xuất áp dụng quy định an toàn dựa trên rủi ro, thay vì những biện pháp hạn chế quá mức có thể làm suy giảm quyền tự do cá nhân.

Đồng thời, tập đoàn cũng thúc đẩy các sáng kiến lập pháp nhằm bảo vệ người dùng khỏi nội dung do AI tạo ra có tính lạm dụng.

Theo báo cáo, Microsoft sẽ tiếp tục hợp tác chặt chẽ với các nhà lập pháp và cơ quan quản lý trên toàn thế giới để tìm ra giải pháp cân bằng giữa bảo vệ người dùng và quyền tự do cá nhân.