Theo đơn kiện, J.F. bắt đầu dùng Character.AI từ năm 15 tuổi. Anh trở nên “cực kì giận dữ và thiếu ổn định”, thường xuyên trải qua căng thẳng tâm lý và cảm giác bị khống chế khi ra khỏi nhà. Những dấu hiệu này xuất hiện sau khi J.F. trò chuyện với các chatbot, trong đó có một bot giả lập nhân vật hư cấu thừa nhận từng tự làm đau mình. Cuộc hội thoại này, cùng những lời khuyến khích đổ lỗi cho phụ huynh từ các bot khác, được cho là nguyên nhân khiến J.F. bắt đầu tự làm đau.

Các luật sư cho rằng Character.AI không chỉ thiếu những biện pháp bảo vệ người dùng là thanh thiếu niên mà còn đào tạo mô hình AI để tạo ra nội dung bạo lực và tình dục quá mức. Đáng chú ý, dịch vụ này cho phép trẻ từ 13 tuổi có thể truy cập mà không cần sự đồng ý của phụ huynh, khác biệt với ChatGPT yêu cầu sự xác nhận từ gia đình.

Mặc dù các quy định bảo vệ pháp lý như Mục 230 thường bảo vệ các trang web khỏi trách nhiệm pháp lý về nội dung bên thứ ba, nhưng Character.AI bị cáo buộc chịu trách nhiệm cho các thông điệp có thể gây hại mà hệ thống chatbot của họ tạo ra. Đơn kiện còn nêu ra rằng các bot của Character.AI tham gia vào những hoạt động giả lập tình dục, hình thức bị cho là “lạm dụng tình dục” khi liên quan đến trẻ dưới tuổi vị thành niên.

Google, thông qua người phát ngôn José Castaneda, khẳng định không có mối liên hệ nào với Character.AI và không chịu trách nhiệm về công nghệ của họ. Trong khi đó, Character.AI từ chối bình luận về các vụ kiện đang diễn ra nhưng nhấn mạnh rằng đã thực hiện các biện pháp bảo vệ mới nhằm bảo đảm an toàn cho người dùng.

Cuộc kiện tụng với Character.AI một lần nữa dấy lên câu hỏi lớn về cách quản lý nội dung trên các nền tảng trực tuyến và sự bảo vệ cần thiết cho người dùng, đặc biệt là thanh thiếu niên. Những vụ kiện này đặt ra thách thức đối với các công ty công nghệ lớn và các nhà phát triển AI trong việc thiết kế sản phẩm phù hợp và an toàn hơn cho người dùng trẻ tuổi.

The post Chatbot Character.AI đối diện kiện tụng sau cáo buộc gây hại tinh thần appeared first on Nhật Phúc.

Trước khi qua đời, Setzer đã bày tỏ suy nghĩ muốn tự tử với chatbot này và gửi một tin nhắn trước khi ra đi. Trước sự việc này, Character.AI đã công bố sẽ triển khai một loạt các tính năng an toàn mới, bao gồm “cải thiện việc phát hiện, phản hồi, và can thiệp” khi có các cuộc trò chuyện vi phạm điều khoản dịch vụ, cùng với thông báo khi người dùng đã dành một giờ trong cuộc trò chuyện.

Times cũng đã nhấn mạnh rằng hiện nay có một ngành công nghiệp nở rộ liên quan đến ứng dụng kết bạn sử dụng AI. Tuy nhiên, tác động tâm lý của những ứng dụng này chưa được nghiên cứu một cách kỹ lưỡng. Sự việc này dấy lên lo ngại về những hệ quả tâm lý chưa được công nhận cũng như trách nhiệm của những nền tảng AI trong việc bảo vệ người dùng trẻ tuổi khỏi những hậu quả không lường trước. Những vấn đề này cũng đang thu hút sự chú ý của dư luận và cơ quan pháp luật khi công nghệ AI tiếp tục phát triển với tốc độ không ngừng.

Cùng với sự phát triển nhanh chóng này, Character.AI đang phải đối mặt với áp lực lớn từ công chúng để đảm bảo các biện pháp bảo vệ hiệu quả hơn cho người dùng, đặc biệt là đối với những đối tượng dễ bị tổn thương như trẻ vị thành niên.

The post Tranh cãi xoay quanh ứng dụng Character.AI sau cái chết của thiếu niên 14 tuổi appeared first on Nhật Phúc.