Theo một báo cáo mới đây từ The Information, mô hình Orion của OpenAI, được đồn đoán sẽ ra mắt cuối năm nay nhưng bị phủ nhận từ phía công ty, có thể không mang lại những cải tiến đáng kể như kỳ vọng. Các nhân viên giấu tên của OpenAI cho biết, Orion chỉ cải thiện một cách “nhỏ nhoi” so với GPT-4 – một sự thay đổi không lớn như sự chuyển mình giữa GPT-3 sang GPT-4. Đặc biệt, Orion không hẳn vượt trội hơn GPT-4 trong việc xử lý các nhiệm vụ mã hóa, dù có những tiến bộ trong việc xử lý ngôn ngữ tổng quát, như tóm tắt văn bản hay tạo email.
Vấn đề lớn hiện nay là nguồn dữ liệu văn bản chất lượng cao để đào tạo các mô hình mới đang dần cạn kiệt. Ngành công nghiệp AI đang đối diện với một cuộc khủng hoảng dữ liệu, khi đã khai thác hầu hết các nguồn dữ liệu dễ dàng từ các nền tảng mạng xã hội như X (Twitter cũ), Facebook và YouTube. Điều này làm giảm hiệu quả đào tạo, ảnh hưởng lớn đến môi trường và thương mại. Khi số lượng tham số của mô hình tăng lên hàng nghìn tỉ, lượng năng lượng và tài nguyên cần thiết cũng tăng lên sáu lần trong thập kỷ tới.
Để khắc phục, OpenAI đã thành lập một “đội ngũ nền tảng” nhằm vượt qua khó khăn về dữ liệu đào tạo. Một số giải pháp có thể bao gồm sử dụng dữ liệu nhân tạo, giống như cách mà Nvidia sử dụng trong các mô hình Nemotron. Đội ngũ này cũng đang tìm cách cải thiện hiệu suất mô hình sau khi đào tạo, nhưng điều này chỉ góp phần hạn chế trong bối cảnh hiện tại.
Orion, theo dự kiến ban đầu là tên gọi mã cho GPT-5, có thể sẽ ra đời vào năm 2025. Tuy nhiên, việc có đủ năng lượng để cho mô hình này hoạt động mà không gây gián đoạn cho hệ thống điện lưới của các thành phố vẫn là một câu hỏi lớn. OpenAI cũng có kế hoạch chỉ cung cấp mô hình này cho một số doanh nghiệp và đối tác chọn lọc, thay vì công khai cho người dùng rộng rãi như các phiên bản trước. Chiến lược này tương tự Nvidia với dòng sản phẩm NVLM 1.0.
Trong khi đó, Perplexity đã ra mắt một ứng dụng mới dành riêng cho Mac, hứa hẹn mang đến trải nghiệm tìm kiếm trí tuệ nhân tạo ngay trên desktop mà không cần trình duyệt web. Ứng dụng này hiện có sẵn trên Apple App Store.
Cùng lúc, một làn sóng phản đối đang đổ dồn vào OpenAI khi 11,500 nghệ sĩ ký vào một tuyên bố kêu gọi chấm dứt việc sử dụng trái phép các tác phẩm sáng tạo để đào tạo công cụ AI như ChatGPT, miêu tả đây là “mối đe dọa” đối với nguồn sống của những người tạo ra các tác phẩm này.
