Loài người có thể biến mất trong 10 năm nếu mất kiểm soát với AI

Phát biểu tại Hội nghị thượng đỉnh Hành động về AI đang diễn ra tại Paris (Pháp), nhà khoa học máy tính Yoshua Bengio kêu gọi quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI - hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.

Theo chủ nhân giải thưởng Turing danh giá về khoa học máy tính năm 2018, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua không tốt cho sự an toàn.

Ông Yoshua Bengio cảnh báo, nếu mất kiểm soát đối với AI, "loài người có thể biến mất trong 10 năm".

Ông cũng kêu gọi sự dẫn dắt của các chính phủ trong vấn đề quản lý AI. Lời kêu gọi được đưa ra trong bối cảnh quốc gia AI hàng đầu thế giới hiện nay là Mỹ đã có nhiều động thái "cởi trói" cho sự phát triển của công nghệ này dưới thời tân Tổng thống Donald Trump.

Ở thời điểm hiện tại, Báo cáo an toàn AI quốc tế mà ông Yoshua Bengio trình bày tại hội nghị cũng chỉ ra những rủi ro được biết đến nhiều như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trên nền tảng trực tuyến, đồng thời liên tục xuất hiện những rủi ro bổ sung, như các cuộc tấn công sinh học hoặc tấn công mạng.

Với sự đóng góp của khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và Tổ chức Hợp tác và Phát triển Kinh tế (OECD), đây là báo cáo đầu tiên về vấn đề an toàn AI quốc tế, được tiến hành từ sau hội nghị thượng đỉnh về an toàn AI tại Anh vào tháng 11/2023.

Trước đó, Thủ tướng Anh Rishi Sunak từng cảnh báo, "nhân loại có thể mất hoàn toàn quyền kiểm soát AI" nếu công nghệ này không được giám sát thích hợp, ngay cả khi nó tạo ra những cơ hội mới.

Tỷ phú Elon Musk cũng cho rằng: "Lần đầu tiên trong lịch sử loài người chúng ta thực sự đối mặt với một thứ sẽ thông minh hơn chúng ta rất nhiều. Tôi không rõ chúng ta có thể thực sự kiểm soát nó thế nào, nhưng tôi nghĩ chúng ta có thể hy vọng đưa nó theo hướng có lợi cho nhân loại. Tôi thực sự nghĩ nó là một trong những nguy cơ đối với sự tồn tại của con người, có thể là nguy cơ lớn nhất".

Xu hướng trí tuệ nhân tạo được ví như một cơn sóng lớn. Đi kèm với thời cơn luôn có cả những nguy cơ. Những chương trình trí tuệ nhân tạo siêu việt có thể gây ra những rủi ro. Và với sự phát triển vượt sức tưởng tượng của AI, những rủi ro này lại càng đáng quan ngại hơn.

Theo ước tính của các chuyên gia, đến năm 2028, giá trị thị trường AI có thể vượt ngưỡng 1.000 tỷ USD, điều đó đồng nghĩa với việc xây dựng hành lang pháp lý nhằm kiểm soát và ngăn ngừa những nguy cơ tiềm ẩn từ AI ngày càng cấp thiết.

Liên hợp quốc từng khẳng định, các công nghệ AI cần được giám sát chặt chẽ, cho dù công nghệ phát triển đến mức nào cũng phải bảo đảm khía cạnh quyền con người luôn là yếu tố trung tâm.