Điều này không chỉ ảnh hưởng đến sự tin cậy của các sản phẩm mà còn trở thành thách thức lớn trong việc áp dụng mô hình vào thực tế, nhất là trong những lĩnh vực đòi hỏi độ chính xác cao như pháp lý hay tài chính. Các chuyên gia cũng cho rằng việc tích hợp khả năng tìm kiếm web vào các mô hình này có thể là một giải pháp khả thi, nhất là khi mô hình GPT-4o đã cho thấy tỷ lệ chính xác 90% khi sử dụng công cụ này.

Vấn đề hallucinate cũng đã được nhấn mạnh khi một nghiên cứu từ Transluce cho thấy o3 đã tự tạo ra các hành động không có thật trong quá trình trả lời câu hỏi. Điều này khiến cho mô hình trở nên kém hữu ích khi xử lý thông tin.

OpenAI khẳng định rằng việc nâng cao độ chính xác của các mô hình này là một ưu tiên hàng đầu và họ sẽ tiếp tục nỗ lực để cải thiện chúng. Tuy nhiên, nếu không giải quyết được vấn đề này, việc phát triển mô hình AI trong tương lai sẽ gặp nhiều khó khăn hơn.

The post OpenAI ra mắt mô hình AI mới nhưng càng hallucinate nhiều hơn appeared first on Nhật Phúc.

Không ngờ rằng, Whisper lại biến các đoạn hội thoại âm thanh thành những bản ghi có chứa các nội dung không liên quan, từ những bình luận về chủng tộc đến các phương pháp điều trị y tế tưởng tượng. Điều này đặc biệt gây quan ngại khi công cụ này được áp dụng trong các bệnh viện và bối cảnh y tế khác, nơi mà độ chính xác là điều tối cần thiết.

Một nhà nghiên cứu tại Đại học Michigan đã nhận thấy hiện tượng “ảo giác” trong tám trên mười lần kiểm tra sao chép âm thanh công cộng thông qua Whisper. Một kỹ sư học máy cũng phát hiện ra vấn đề tương tự khi kiểm tra hơn 100 giờ sao chép, với hơn một nửa số bản sao chứa “ảo giác”. Thậm chí, một nhà phát triển đã ghi nhận được gần như tất cả 26,000 bản sao chép của mình với Whisper đều xuất hiện hiện tượng này.

Phát ngôn viên của OpenAI cho biết công ty đang “liên tục cải thiện độ chính xác của các mô hình, bao gồm việc giảm thiểu hiện tượng ảo giác” và ghi nhớ rằng chính sách sử dụng của công ty cấm sử dụng Whisper “trong các tình huống quyết định có độ rủi ro cao”. “Chúng tôi cảm ơn các nhà nghiên cứu đã chia sẻ những phát hiện của họ,” họ nói thêm.

Những thông tin như vậy không chỉ cảnh báo cho cộng đồng kỹ sư và nhà phát triển mà còn thúc đẩy OpenAI trong quá trình tinh chỉnh nhằm tăng tính chính xác và độ tin cậy của Whisper. Với sự phát triển không ngừng của công nghệ AI, việc liên tục đánh giá và nâng cấp là điều tất yếu để đảm bảo sự an toàn và hiệu quả trong mọi ứng dụng.

Cùng chờ xem OpenAI sẽ thực hiện những cải tiến nào tiếp theo cho Whisper và làm thế nào để tránh những sai sót có thể ảnh hưởng lớn đến những quyết định quan trọng như trong ngành y tế.

The post Công cụ sao chép Whisper của OpenAI đối mặt với vấn đề về tính chính xác appeared first on Nhật Phúc.