Gần đây, ChatGPT của OpenAI gặp phải một vấn đề khá đặc biệt khi người dùng phát hiện rằng việc đề cập đến một số tên người sẽ khiến chatbot phải “nghỉ hưu”. Mặc dù là một trong những mô hình ngôn ngữ AI tiên tiến nhất hiện nay, ChatGPT không phải lúc nào cũng trơn tru như vẻ ngoài của nó.
Thực tế được phơi bày khi tên “David Mayer” và các cái tên như “Jonathan Zittrain” và “Jonathan Turley” được nhắc đến, dẫn tới việc ChatGPT ngừng hoạt động giữa chừng. Tình huống này xảy ra do một bộ lọc đã được mã hóa cứng để ngăn chặn các phản hồi không mong muốn hoặc gây hại từ ChatGPT. Các lỗi này đã được phát hiện qua những nghiên cứu chung trên mạng xã hội và trang Reddit.
Theo báo cáo từ Ars Technica, điều đặc biệt là những tên này không ảnh hưởng đến hệ thống API của OpenAI hay trong môi trường thử nghiệm dành cho các nhà phát triển. Dù vậy, vấn đề vẫn đặt ra nhiều câu hỏi về những quyết định điều chỉnh bộ lọc của OpenAI.
Nhiều người cho rằng các bộ lọc này có thể liên quan đến những vụ kiện về phỉ báng nhằm vào OpenAI. Một trường hợp cụ thể là Brian Hood, một thị trưởng từ Úc, người đã phản đối ChatGPT khi nó gán ghép sai sự thật về việc ông bị giam giữ vì tội nhận hối lộ. Cuộc kiện tụng này dẫn đến việc OpenAI phải xóa những tuyên bố sai sót về ông từ hệ thống của họ vào tháng tư năm 2023. Đây rất có thể là trường hợp đầu tiên dẫn đến việc cài đặt bộ lọc mã hóa này.
Jonathan Turley, giáo sư từ Đại học Luật George Washington và nhà báo của Fox News, cũng từng nêu vấn đề khi ChatGPT bịa đặt một vụ bê bối liên quan đến ông. Mặc dù ông không có bất kỳ hành động pháp lý nào, sự việc này cũng khiến OpenAI lưu ý đến những vấn đề nhạy cảm trong các phản hồi của ChatGPT.
Việc số hóa các bộ lọc cứng như vậy có thể được nhìn nhận như một con dao hai lưỡi. Trong một buổi thử nghiệm, kỹ sư Riley Goodside đã trình diễn khả năng gây thất bại cho ChatGPT bằng cách sử dụng hình ảnh chứa một lời nhắc không rõ ràng với tên “David Mayer”. Tiềm năng lợi dụng này đặt ra những rủi ro cho người dùng khi các tên bị chặn ngẫu nhiên, cản trở việc sử dụng hệ thống một cách hiệu quả.
Cuối cùng, nếu ChatGPT không thể xử lý hoặc nhắc đến những tên bị chặn này, tính năng duyệt web của nó cũng có thể bị hạn chế khi gặp các nội dung tương tự. Đây có thể là một cách để ai đó ngăn cản ChatGPT truy cập những trang web nhất định. Điều này đánh dấu một thời kỳ còn sơ khai của AI, với nhiều cơ hội và thách thức đáng để quan sát. OpenAI sẽ cần phải đưa ra những giải pháp thận trọng hơn để cân bằng giữa bảo vệ quyền riêng tư và phục vụ tốt nhất cho người dùng.