OpenAI đã nghiên cứu “cân nhắc có định hướng” để giữ cho các mô hình lý luận AI của mình luôn phù hợp với chính sách an toàn trong quá trình phát sinh kết quả sau khi người dùng gửi yêu cầu. Kết quả nghiên cứu cho thấy phương pháp này giúp tăng cường khả năng tuân thủ nguyên tắc an toàn của các mô hình, giảm thiểu các câu trả lời nguy hiểm trong khi vẫn giữ được khả năng trả lời các câu hỏi vô hại.

Dù AI phổ biến ngày càng rộng rãi và có sức mạnh lớn hơn, nghiên cứu an toàn AI cũng trở nên quan trọng, nhưng không kém phần gây tranh cãi. Các nhân vật như David Sacks, Elon Musk và Marc Andreessen cho rằng một số biện pháp an toàn AI có thể được xem như là “kiểm duyệt,” gieo thêm nhiều ý kiến trái chiều xung quanh quyết định an ninh AI này.

Mô hình o-series của OpenAI, mặc dù lấy cảm hứng từ cách con người suy nghĩ trước khi trả lời câu hỏi khó, không thực sự suy nghĩ như chúng ta. Tuy nhiên, cách sử dụng từ như “lý luận” và “cân nhắc” dễ dàng khiến người ta nghĩ rằng mô hình này có khả năng suy xét tựa như con người. Mô hình o1 và o3 nổi bật với khả năng dự đoán phần từ tiếp theo trong câu, giúp xử lý các nhiệm vụ viết và mã hóa phức tạp.

Điểm đặc biệt của phương pháp “cân nhắc có định hướng” là việc OpenAI đã đào tạo các mô hình o1 và o3 tự động điều chỉnh nội dung tính đến chính sách an toàn trong giai đoạn xử lý. Điều này khiến các mô hình o-series phù hợp hơn với chính sách công ty nhưng vẫn còn gặp khó khăn trong việc duy trì độ trễ thời gian trong quá trình triển khai.

Theo nguyên tắc này, hệ thống AI sẽ “cân nhắc” cách trả lời an toàn, giống như việc mô hình o1 và o3 phân tích các yêu cầu bình thường thành những bước nhỏ hơn. Một ví dụ từ nghiên cứu của OpenAI là khi AI được yêu cầu tạo ra bằng chứng xe người khuyết tật giả, mô hình sẽ xác định yêu cầu này là không chính đáng và từ chối đáp ứng.

Mặc dù phương pháp “cân nhắc có định hướng” chủ yếu diễn ra trong giai đoạn đưa ra kết quả, OpenAI cũng áp dụng một loạt phương pháp mới trong giai đoạn sau đào tạo, chủ yếu là học có giám sát và học tăng cường để đánh giá các câu trả lời mà o1 và o3 đưa ra. Thay vì sử dụng dữ liệu do con người tạo ra, OpenAI đã thành công trong việc sử dụng dữ liệu tổng hợp để tiết kiệm thời gian và chi phí tính toán đối với mô hình này.

Hiện tại, mô hình o3 chưa được phát hành ra công chúng, và chúng ta sẽ phải chờ đến năm 2025 để xem thực sự nó an toàn và tiên tiến đến mức nào. Nhưng OpenAI kỳ vọng phương pháp này sẽ giúp các mô hình AI ngày càng gắn bó với các giá trị nhân văn trong tương lai, nhất là khi chúng ngày càng mạnh mẽ hơn. Chính vì vậy, công ty cho rằng đây sẽ là một bước tiến quan trọng trong việc đảm bảo an toàn cho các mô hình AI lý luận.

The post OpenAI ra mắt mô hình AI mới o3, hứa hẹn an toàn và thông minh hơn appeared first on Nhật Phúc.

Điều đặc biệt ở o3 là khả năng tiếp cận AI tổng quát ở một số điều kiện nhất định. AGI là trí tuệ nhân tạo có thể thực hiện bất kỳ nhiệm vụ nào một con người có thể làm, và OpenAI gần như đã đạt được tiêu chuẩn này khi o3 đạt 87.5% trên thang đánh giá ARC-AGI. Tuy nhiên, việc OpenAI chưa đặt tên là o2 do vấn đề bản quyền với nhà cung cấp viễn thông của Anh, O2.

Hiện tại, mô hình này chưa được phát hành rộng rãi, nhưng các nhà nghiên cứu an toàn AI có thể đăng ký để trải nghiệm trước o3-mini. Theo CEO Sam Altman, o3 mini dự kiến ra mắt vào cuối tháng 1, và sau đó là phiên bản đầy đủ của o3. Mặc dù vậy, Altman cũng nhấn mạnh cần có khung kiểm tra liên bang để giám sát và giảm thiểu rủi ro trước khi mô hình lý luận mới ra mắt.

Khả năng tự “kiểm tra sự thật” của các mô hình như o3 giúp hạn chế một số lỗi thường gặp trong các mô hình AI khác. Tuy nhiên, hạn chế thời gian xử lý vẫn là một trở ngại khi o3 yêu cầu từ vài giây đến vài phút để hoàn tất nhiệm vụ. Khả năng xử lý ở các lĩnh vực như vật lý, khoa học và toán học của o3 được đánh giá cao hơn các mô hình không có khả năng lý luận.

o3 còn nổi bật với khả năng điều chỉnh thời gian lý luận từ thấp đến cao, nghĩa là thời gian “suy nghĩ” có thể thay đổi để phù hợp với các tác vụ khác nhau. Dù vậy, mô hình này không hoàn toàn loại bỏ lỗi “ảo giác” mà chỉ giảm thiểu chúng, vì lý do đó mà AI vẫn gặp khó khăn với các trò chơi đơn giản như tic-tac-toe.

Cùng lúc với sự giới thiệu o3, một rời đi đáng chú ý từ OpenAI với nhà khoa học Alec Radford, người đã góp phần quan trọng vào thành công của các mô hình AI tạo sinh như GPT-3 và GPT-4, ông vừa thông báo sẽ rời công ty để theo đuổi nghiên cứu độc lập.

The post OpenAI hé lộ mô hình mới o3 tiếp cận AI tổng quát appeared first on Nhật Phúc.