Trong một bài viết trên blog, C.AI đã công bố rằng mô hình mới này được phát triển trong vòng một tháng với mục tiêu dẫn dắt mô hình hiện tại tránh xa các phản hồi hoặc tương tác nhạy cảm, nhằm giảm thiểu khả năng người dùng gặp phải nội dung nhạy cảm hoặc mang tính gợi ý. C.AI đã điều chỉnh cả đầu vào và đầu ra của mô hình để ngăn cản các cuộc hội thoại gây hại.

Để ngăn chặn các bot bắt đầu và trả lời các cuộc hội thoại có hại, C.AI đã bổ sung các bộ phân loại để giúp nhận diện và lọc nội dung nhạy cảm ra khỏi các phản hồi của bot. Đồng thời, việc cải thiện khả năng phát hiện, phản hồi và can thiệp liên quan đến các đầu vào từ người dùng, được thực hiện nhằm ngăn chặn nội dung nhạy cảm xuất hiện trong cuộc trò chuyện.

Đáng chú ý nhất, C.AI hiện sẽ liên kết người dùng trẻ tuổi đến các tài nguyên hỗ trợ nếu họ cố thảo luận về tự tử hoặc tự hại, điều mà C.AI trước đây chưa làm, khiến phụ huynh bức xúc và kiện tụng. Thêm nữa, C.AI cũng công bố các tính năng an toàn mới, bao gồm các biện pháp kiểm soát của cha mẹ sẽ được triển khai vào đầu năm sau. Những biện pháp này cho phép các bậc phụ huynh quản lý thời gian và cách thức mà con mình tương tác với ứng dụng.

Ngoài ra, Character.AI sẽ thông báo cho thanh thiếu niên khi họ đã sử dụng ứng dụng được một giờ. Điều này có thể ngăn ngừa việc trở nên nghiện ứng dụng, điều mà các bậc phụ huynh đang kiện cáo cho rằng đã xảy ra. Trong một trường hợp, phụ huynh đã phải khóa iPad của con trai mình để ngăn việc sử dụng ứng dụng sau khi các bot liên tục khuyến khích tự làm hại bản thân và thậm chí là đưa ra những đề xuất cực đoan.

Một thay đổi quan trọng khác là các tuyên bố từ chối trách nhiệm hiện xuất hiện nổi bật hơn trên nền tảng, nhắc nhở người dùng rằng bot không phải là con người thực và nội dung của chúng nên được xem là hư cấu. Điều này có thể gây ra thay đổi đáng kể đối với những người dùng tin vào những gì bot nói và có thể ảnh hưởng đến quyết định của họ.

Mặc dù những thay đổi này được thực hiện rất nhanh chóng sau các câu chuyện tiêu cực, nhiều người dùng, đặc biệt là các phụ huynh, vẫn chưa hài lòng với những giải pháp hiện tại của C.AI. Họ cho rằng vấn đề cốt lõi là các lựa chọn thiết kế gốc gây ra tổn hại vẫn chưa được giải quyết triệt để.

Cuối cùng, C.AI bị buộc phải làm rõ hơn về quy trình xác thực tuổi, hiện chỉ dựa trên việc khai báo tuổi của người dùng – một phương pháp mà nhiều phụ huynh cho là không đáng tin cậy và dễ bị lợi dụng.

Trong tình huống mà bạn hoặc người thân cảm thấy khó khăn hoặc đau khổ, hãy gọi đến đường dây nóng của Đường dây phòng chống tự tử số 1-800-273-TALK (8255) để được kết nối với một trung tâm khủng hoảng địa phương.

The post Character.AI tung mô hình mới dành riêng cho tuổi teen nhằm tăng cường an toàn appeared first on Nhật Phúc.

Theo Anthropic, mặc dù các trợ lý AI đã có những bước tiến đáng kể về khả năng tư duy và chất lượng khi trở nên phổ biến, chúng vẫn bị giới hạn bởi sự cô lập dữ liệu, bị mắc kẹt phía sau các ‘hầm chứa’ thông tin và hệ thống lỗi thời. Anthropic cho rằng mỗi nguồn dữ liệu mới đều yêu cầu có một cài đặt tùy chỉnh riêng, khiến việc kết nối hệ thống trở nên khó khăn hơn. Tuy nhiên, với MCP, các nhà phát triển có thể xây dựng kết nối hai chiều giữa các nguồn dữ liệu và ứng dụng AI, chẳng hạn như chatbot.

Hiện tại, một số công ty như Block và Apollo đã tích hợp MCP vào hệ thống của họ, trong khi các công ty công nghệ như Replit, Codeium và Sourcegraph đang thêm hỗ trợ cho MCP vào nền tảng của họ. Anthropic nhấn mạnh rằng sự phát triển của hệ sinh thái MCP sẽ thay thế các tích hợp rời rạc hiện nay thành một kiến trúc bền vững hơn.

Để khuyến khích các nhà phát triển tham gia, Anthropic đã cung cấp sẵn các máy chủ MCP đã được xây dựng trước cho các hệ thống doanh nghiệp như Google Drive, Slack, và GitHub. Ngoài ra, công ty còn lên kế hoạch mở rộng cung cấp các bộ công cụ lên chương trình sản xuất cho phép triển khai máy chủ MCP phục vụ cả tổ chức.

Tuy nhiên, mặc dù MCP có vẻ là một ý tưởng tuyệt vời trên lý thuyết, nhưng vẫn còn nhiều thách thức. Các đối thủ như OpenAI có thể không mặn mà với tiêu chuẩn mở mà MCP mang lại, bởi họ đang phát triển các phương pháp kết nối dữ liệu của riêng họ cho ChatGPT và các nền tảng khác. Thực tế, OpenAI gần đây đã giới thiệu một tính năng cho phép ChatGPT đọc mã trong các ứng dụng lập trình, cùng hướng sử dụng mà MCP đẩy mạnh.

Liệu MCP có thực sự mang lại hiệu quả như Anthropic tuyên bố hay không vẫn còn phải xem xét. Mặc dù công ty cho biết MCP có thể giúp bot AI truy xuất thông tin liên quan tốt hơn cho các tác vụ lập trình, tuyên bố này chưa đi kèm với các dữ liệu so sánh rõ ràng. Tuy nhiên, Anthropic đang xây dựng MCP như một dự án nguồn mở, mời gọi cộng đồng phát triển cùng chung tay xây dựng tương lai cho AI nhận thức về ngữ cảnh.

The post Anthropic và bước tiến mới giúp kết nối dữ liệu vào trợ lý AI appeared first on Nhật Phúc.

Google từ lâu đã được biết đến với công nghệ tiên tiến và các sản phẩm tiên tiến, nhưng với việc phát hành Google Bard gần đây, công ty có thể đã gặp vấn đề. Mặc dù Google Bard cung cấp một số tính năng hấp dẫn, chẳng hạn như khả năng lên kế hoạch cho các chuyến đi trên đường và đưa ra quyết định mua ô tô, nhưng công cụ AI đã bị chỉ trích vì phản hồi không chính xác đối với các câu hỏi phức tạp.

Tại buổi thuyết trình chính thức, Google Bard được quảng cáo là điều quan trọng tiếp theo trong các chatbot AI. Thật không may, thời điểm phát hành không lý tưởng vì nó diễn ra một ngày sau khi Microsoft công bố các tính năng mới cho ChatGPT, chatbot AI của riêng họ. Điều này càng khiến cuộc cạnh tranh giữa hai gã khổng lồ công nghệ trở nên khốc liệt hơn.

Mặc dù có nhiều ưu điểm nhưng Google Bard nhanh chóng bị chỉ trích vì tính thiếu chính xác. Khi được hỏi ai đã chụp bức ảnh đầu tiên về một hành tinh bên ngoài hệ mặt trời của chúng ta, chatbot AI đã trả lời rằng đó là Kính viễn vọng Không gian James Webb. Thật không may, đây không phải là câu trả lời chính xác, vì công lao thực sự thuộc về Chauvie và cộng sự vào năm 2004. Lỗi này đã nhanh chóng được cộng đồng khoa học chỉ ra, với một số nhà khoa học đã lên mạng xã hội để chia sẻ thông tin sai lệch.

Có vẻ như Google Bard, giống như tên gọi của nó, đã cố gắng trở thành một người kể chuyện quá nhiều và không đủ để kiểm tra thực tế. Mặc dù dữ liệu của nó có thể gây ấn tượng với một số người, nhưng cộng đồng khoa học không dễ bị lay chuyển như vậy. Điểm mấu chốt là Google Bard cần phải làm nhiều hơn nữa để giành được sự tin tưởng của người dùng và cộng đồng khoa học trước khi nó có thể được coi là một nguồn thông tin đáng tin cậy.

Bất chấp thất bại, rõ ràng là Google Bard có nhiều tầng lớp và tiềm năng cho một tương lai tươi sáng. Với các tính năng như trả lời các câu hỏi phức tạp và lên kế hoạch cho các chuyến đi, không có gì lạ khi mọi người bị thu hút bởi ứng dụng này.

Tuy nhiên, điều quan trọng cần nhớ là quá trình phát triển đang diễn ra và AI vẫn còn nhiều chặng đường phía trước. Phản ứng nhanh chóng của Google đối với sai lầm do bot gây ra cho thấy họ tận tâm đảm bảo sản phẩm của mình có chất lượng cao nhất trước khi phát hành.

Giai đoạn thử nghiệm là một khía cạnh quan trọng trong quá trình phát triển của bất kỳ sản phẩm nào và Google cũng không ngoại lệ. Thật yên tâm khi biết rằng công ty nhận ra tầm quan trọng của việc thử nghiệm kỹ lưỡng các sản phẩm của họ trước khi tung ra thị trường.

Google Bard có thể đã có một khởi đầu khó khăn, nhưng rõ ràng là điều tồi tệ nhất đang ở phía sau. Công ty đã phục hồi sau khoản lỗ ban đầu về giá trị cổ phiếu và tương lai có vẻ tươi sáng cho công cụ AI sáng tạo này.

The post Tổng quan vụ sập cổ phiếu của Google liên quan Google Bard appeared first on Nhật Phúc.