Trước đây, trong các nguyên tắc, Google đã thể hiện rõ ràng rằng họ sẽ không phát triển bất kỳ công nghệ nào nhằm gây hại cho con người. Cụ thể, vào thời điểm đó, dự án Maven – một hợp đồng gây tranh cãi với Bộ Quốc phòng Mỹ nhằm phân tích hình ảnh do drone thu được – đã khiến hàng trăm nhân viên rời bỏ công ty. Nhiều người đã ký tên trong một bản kiến nghị yêu cầu Google không tiếp tục tham gia hợp đồng này, vì điều đó có thể vi phạm đạo đức công nghệ.

Tuy nhiên, trong bản cập nhật gần đây, Google đã tự tin hơn khi khẳng định rằng họ sẽ “phát triển và triển khai một cách có trách nhiệm” và sẽ hoạt động theo các nguyên tắc mà họ đã thiết lập. Công ty nhấn mạnh rằng “sự giám sát của con người là cần thiết” và sẽ tiến hành các cuộc kiểm tra độ tin cậy và trách nhiệm để đảm bảo mọi quyết định đều phù hợp với “mục tiêu xã hội và nguyên tắc nhân quyền đã được công nhận quốc tế”.

Điều này không chỉ đơn thuần là một thay đổi trong chính sách mà còn phản ánh một sự chuyển mình mạnh mẽ trong cách thức mà Google đối xử với công nghệ AI. Nguyên tắc AI trước đó đã nêu rõ rằng công ty sẽ không phát triển công nghệ phục vụ cho vũ khí hoặc các ứng dụng có thể gây hại cho con người. Giờ đây, sự mở rộng này cho thấy Google sẵn sàng tham gia và thậm chí có thể dẫn dắt các lĩnh vực phát triển rất nhạy cảm này.

Các nhà phân tích đã bày tỏ lo ngại về nguy cơ mà sự thay đổi này có thể tạo ra. Nó mở cửa cho việc sử dụng công nghệ AI trong những lĩnh vực gian khổ và có thể cản trở sự bảo mật của hàng triệu người. Hơn nữa, trong bối cảnh này, việc Google ngày càng tham gia vào các hợp đồng quân sự như một phần trong chiến lược mở rộng và phục vụ cho quốc phòng khiến nhiều người băn khoăn về độ tin cậy của những gì công ty này đã cam kết trước đây.

The post Google thay đổi quan điểm về việc sử dụng AI cho vũ khí và giám sát appeared first on Nhật Phúc.

Oracle đã sử dụng Llama để xử lý các tài liệu bảo trì máy bay, trong khi Scale AI đã tinh chỉnh Llama để hỗ trợ các nhiệm vụ cụ thể của đội an ninh quốc gia. Lockheed Martin cung cấp Llama cho các khách hàng trong ngành quốc phòng cho các ứng dụng như phát sinh mã máy tính. Dù chính sách của Meta thường cấm các nhà phát triển sử dụng Llama cho bất kỳ dự án liên quan đến quân sự, chiến tranh, hoặc nhiệm vụ gián điệp nào, nhưng họ đã đưa ra ngoại lệ trong trường hợp này, cũng như cho các chính phủ và nhà thầu tương tự ở Anh, Canada, Úc và New Zealand.

Nỗ lực này xảy ra ngay sau khi một bài báo của Reuters tuần trước tiết lộ rằng các nhà khoa học nghiên cứu Trung Quốc có liên quan với Quân đội Giải phóng Nhân dân (PLA) đã sử dụng phiên bản Llama cũ, Llama 2, để phát triển một công cụ cho các ứng dụng quốc phòng. Công cụ này là một chatbot quân sự tập trung vào việc thu thập và xử lý thông tin tình báo cũng như hỗ trợ quyết định hoạt động. Meta cho biết việc sử dụng mô hình Llama “duy nhất và lỗi thời” này là “không được phép” và trái ngược với chính sách sử dụng chấp nhận được của công ty. Tuy nhiên, báo cáo càng thúc đẩy cuộc tranh luận đang diễn ra về lợi ích và rủi ro của AI mở.

Sử dụng AI, dù là mở hay “đóng” cho quốc phòng, vẫn còn gây tranh cãi. Theo một nghiên cứu gần đây từ tổ chức phi lợi nhuận AI Now Institute, AI được triển khai hiện nay cho quân sự, trinh sát và giám sát có thể gây nguy hiểm vì nó phụ thuộc vào dữ liệu cá nhân có thể bị xâm phạm và sử dụng như vũ khí bởi các đối thủ. Nghiên cứu cũng chỉ ra những điểm yếu như thiên kiến và khả năng “phóng đại” khuyết điểm hiện tại vẫn chưa thể khắc phục được. Nhiều nhân viên tại các công ty công nghệ lớn đã phản đối các hợp đồng của công ty mình với quân đội Mỹ trong việc xây dựng các công cụ AI và cơ sở hạ tầng.

Meta khẳng định AI mở có thể thúc đẩy nghiên cứu quốc phòng và đóng góp vào lợi ích kinh tế, an ninh của Mỹ. Tuy nhiên, quân đội Mỹ vẫn còn dè dặt trong việc tiếp nhận công nghệ này và việc đánh giá lợi ích đầu tư còn chưa thực sự rõ ràng. Hiện tại, quân đội Mỹ mới chỉ có một nhánh là quân đội nước đã triển khai AI sinh sinh.

The post Meta triển khai AI Llama cho ứng dụng an ninh quốc gia Mỹ appeared first on Nhật Phúc.