Google giải thích việc mô hình AI liên tục trả lời sai

Theo Google, các mô hình AI của hãng, gọi chung là AI Overviews, không chỉ đơn giản là đưa ra câu trả lời dựa trên dữ liệu được đào tạo mà còn tích hợp hệ thống xếp hạng các trang web cốt lõi để tăng cường chất lượng tìm kiếm. Điều này đồng nghĩa với việc AI Overviews không chỉ cung cấp đầu ra bằng văn bản mà bao gồm các liên kết có liên quan để người dùng có thể khám phá thêm.

"AI Overviews đang thực hiện việc tìm kiếm thông tin mà không gặp phải tình trạng bịa đặt như những sản phẩm ngôn ngữ lớn khác" - Google cho biết.

Tuy nhiên, chính Google cũng thừa nhận về một số trường hợp mà AI Overviews hiểu nhầm vấn đề. Theo gã khổng lồ tìm kiếm, nguyên nhân là bởi AI Overviews đã "hiểu sai truy vấn, sắc thái của ngôn ngữ trên trang web hoặc cơ sở dữ liệu không có sẵn nhiều thông tin hữu ích".

Trước đó, theo 9to5Google, AI Overviews đã đưa ra một số thông tin sai lệch. Ví dụ, các mô hình AI này đã khuyến cáo người dùng bôi keo lên bánh pizza hay thịt gà chỉ cần được nấu ở nhiệt độ 38,8 độ C, dập lửa bằng cách thêm nhiều dầu hơn… Thậm chí, AI Overviews còn khuyên người dùng nên ăn một viên đá mỗi ngày để tăng cường Vitamin.

Google cho biết, mô hình AI của hãng đã hiểu không đúng thông tin truy vấn hoặc diễn giải không đúng ngôn ngữ trên trang web, khiến việc cung cấp thông tin bị thiếu chính xác. Công ty đã nhanh chóng khắc phục điều này thông qua cải tiến thuật toán.

Theo đại diện của Google, trước mắt, họ sẽ "hạn chế đưa nội dung châm biếm và hài hước" vào dữ liệu đào tạo: "Chúng tôi đã cập nhật hệ thống để hạn chế việc người dùng đưa vào thông tin khiến AI có thể đưa ra lời khuyên sai lệch, không hữu ích. Với nội dung như sức khỏe, chúng tôi cũng có biện pháp kiểm soát nghiêm ngặt".

Tại sự kiện I/O 2024 diễn ra vào giữa tháng 5 vừa qua, Google đã trình làng các phiên bản của mô hình Gemini. Đây được xem là tín hiệu cho công ty sẽ tích hợp AI vào hầu hết sản phẩm trong thời gian tới. Tuy nhiên, không ít người dùng lo ngại khi các phiên bản này liên tục bị phát hiện đưa ra thông tin sai.

Theo Business Insider, Google đang đi theo một "vòng lặp sai lầm" với ba bước, đó là: ra mắt sản phẩm tìm kiếm mới được hỗ trợ bởi AI; người dùng tìm ra sai sót của sản phẩm và đăng trên mạng xã hội; Google thừa nhận thiếu sót và dừng hoạt động của AI để sửa chữa.

Các chuyên gia cho rằng, việc mô hình AI của Google liên tục gặp lỗi là vấn đề đáng lo ngại bởi chúng được tích hợp trong công cụ tìm kiếm cốt lõi. Hậu quả đáng tiếc có thể xảy ra nếu người dùng tin và làm theo những đề xuất sai lệch. Bên cạnh đó, việc mô hình AI liên tục trả lời sai cũng khiến người dùng giảm lòng tin vào sản phẩm của Google.

Google vội vã ra mắt công cụ AI bất chấp cảnh báo về an toàn

VTV.vn - Theo một cựu nhân viên của Google, công ty đã ra mắt sớm công cụ trí tuệ nhân tạo (AI) do lo sợ bị các đối thủ bỏ lại bất chấp những cảnh báo về an toàn từ các chuyên gia.

* Mời quý độc giả theo dõi các chương trình đã phát sóng của Đài Truyền hình Việt Nam trên TV Online và VTVGo!