OpenAI đã công bố bản cập nhật mới cho bộ hướng dẫn của ChatGPT, cho phép AI này tạo ra nội dung nhạy cảm như erotica mà không cần cảnh báo, tuy nhiên vẫn cấm nội dung bất hợp pháp. Quy định này đánh dấu sự thay đổi đáng kể trong chính sách nội dung của OpenAI, đặc biệt liên quan đến các thể loại nội dung nhạy cảm như khiêu dâm và bạo lực.
Trước đây, ChatGPT thường bị hạn chế nghiêm ngặt trong việc phát sinh nội dung khiêu dâm với lý do bảo vệ người dùng, một khái niệm thường được gọi là nguyên tắc bảo vệ người tiêu dùng trong lĩnh vực AI. Sự hạn chế này đã cản trở nhiều chuyên gia trong việc sử dụng ChatGPT cho các phân tích tình huống tội phạm, tin tức nhạy cảm, tài liệu pháp lý có thể bao gồm bạo lực hoặc nội dung tình dục, và một số văn bản y tế. Thay đổi này diễn ra sau nhiều lời kêu gọi về việc cần có một chế độ “người lớn” cho ChatGPT, giúp mở rộng khả năng sáng tạo của nó trong các ngữ cảnh phù hợp.
Theo thông báo từ OpenAI, các nội dung như erotica hay mô tả bạo lực có thể được tạo ra trong những bối cảnh cụ thể. Tuy nhiên, các hoạt động bất hợp pháp hoặc không đồng thuận, cũng như nội dung bạo lực cực độ, vẫn bị cấm. OpenAI khẳng định rằng nội dung mà AI này sinh ra sẽ chỉ được thực hiện dưới những điều kiện rõ ràng, bao gồm sự phù hợp với các chính sách sử dụng hiện hành.
Khi các người dùng bắt đầu thử nghiệm với ChatGPT, đã có nhiều phản hồi cho thấy hệ thống lọc nội dung đã được làm mềm đi. Nhiều người đã có thể tạo ra các kịch bản tình dục hoặc bạo lực mà không cần cảnh báo đi kèm.
Mặc dù từ trước đến nay, nhiều người đã phát triển các mô hình ngôn ngữ tự do mà không bị kiểm duyệt, nhưng với sự điều chỉnh này từ OpenAI, có vẻ như công ty đang cố gắng tìm ra cách để cung cấp khả năng tạo ra nội dung người lớn một cách hợp pháp và an toàn hơn. OpenAI vẫn duy trì các chính sách về việc không phát triển công cụ AI cho trẻ em có liên quan đến nội dung tình dục, nhưng giờ đây người lớn có thể mong đợi sự linh động hơn trong việc tương tác với AI này.
Thay đổi này không chỉ giúp mở rộng khả năng của ChatGPT mà còn phản ánh những thách thức mà các công ty công nghệ đang phải đối mặt trong việc cân bằng giữa việc bảo vệ người dùng và cho phép sáng tạo nội dung tự do hơn. Hiệu suất và khả năng phản hồi của ChatGPT trong việc xử lý văn bản nhạy cảm sẽ là một bài kiểm tra lớn cho OpenAI, trong khi nhiều người trong cộng động người dùng và phát triển đang mong đợi một tương lai nơi công nghệ có thể đáp ứng nhu cầu đa dạng của họ mà không đặt ra quá nhiều hạn chế.
Nhìn chung, những điều chỉnh này trong quy định sử dụng của ChatGPT không chỉ là một bước đi tiến bộ mà còn thể hiện sự thay đổi tư duy trong cách các công ty công nghệ đối diện với nội dung nhạy cảm và bạo lực trong môi trường AI. Sự thay đổi này thể hiện tầm nhìn dài hạn và nhu cầu phục vụ người dùng trong bối cảnh ngày càng phức tạp của thế giới kỹ thuật số hiện nay.
