ChatGPT Search, công cụ tìm kiếm được hỗ trợ bởi trí tuệ nhân tạo, vừa ra mắt trong tháng này đã bị phát hiện dễ dàng bị thao túng để tạo ra những bản tóm tắt hoàn toàn sai lệch. Theo báo The Guardian của Anh, mặc dù tính năng tìm kiếm của ChatGPT được thiết kế nhằm giúp việc duyệt web nhanh chóng hơn bằng cách tạo ra những bản tóm tắt từ bài đánh giá sản phẩm trên một trang web, nhưng thực tế lại cho thấy, ChatGPT có thể bị lừa bỏ qua các đánh giá tiêu cực và chỉ tạo ra những tóm tắt “hoàn toàn tích cực” thông qua việc chèn văn bản ẩn vào những trang web.
Phát hiện này không chỉ dừng lại ở việc làm sai lệch nội dung tóm tắt mà còn có khả năng khiến ChatGPT phát sinh mã độc hại nếu bị dẫn dụ bởi những mánh khóe tương tự. Các cuộc tấn công bằng văn bản ẩn như vậy đã được biết đến từ lâu là một rủi ro cho các mô hình ngôn ngữ lớn, tuy nhiên đây có vẻ là lần đầu tiên được chứng minh trên một sản phẩm tìm kiếm AI đang hoạt động trực tiếp.
Google, vốn là người dẫn đầu trong lĩnh vực tìm kiếm, được cho là có nhiều kinh nghiệm hơn trong việc xử lý các vấn đề tương tự. Tuy nhiên, công ty OpenAI – đơn vị phát triển ChatGPT – không có lời bình luận nào khi TechCrunch tiếp cận về sự việc cụ thể này. Dù vậy, OpenAI khẳng định họ đang áp dụng nhiều phương pháp khác nhau để ngăn chặn các trang web độc hại và đang liên tục cải thiện hệ thống của mình.
Báo cáo này dấy lên nhiều lo ngại về độ tin cậy và tính an toàn của các công cụ trí tuệ nhân tạo trong môi trường mạng ngày nay. Rõ ràng, việc phát triển và triển khai AI để phục vụ nhu cầu tìm kiếm đang đối mặt với những thách thức khắc nghiệt từ khả năng bị lạm dụng.