Tài liệu này dài 108 trang, trình bày bốn loại rủi ro tiềm tàng từ AGI: lạm dụng, sai lệch, sai sót và rủi ro cấu trúc. Trong đó, lạm dụng là loại rủi ro có thể thấy ngay từ các hệ thống AI hiện tại, nhưng với AGI, khả năng gây hại lớn hơn nhiều. Nếu một kẻ xấu nắm trong tay AGI, họ có thể khai thác công nghệ này để gây hại, như tạo ra virus mới hoặc đánh cắp thông tin. Do đó, DeepMind khuyến nghị rằng các công ty phát triển AGI cần thực hiện các bài kiểm tra an toàn nghiêm ngặt và tạo ra các quy trình bảo mật sau khi hoàn thiện.

Sai lệch là một vấn đề nghiêm trọng khác của AGI, có thể dẫn đến một cỗ máy tự do hành động mà không phải chịu sự kiểm soát của con người. DeepMind đề xuất việc áp dụng các kỹ thuật giám sát chặt chẽ, để những hệ thống AGI có thể kiểm soát đầu ra của nhau, từ đó giảm nguy cơ xảy ra sai lệch. Việc giữ AGI trong môi trường ảo với giám sát chặt chẽ cũng là một biện pháp hữu hiệu để giảm thiểu những rủi ro này.

Sai sót có thể xảy ra khi AGI thực hiện các hành động gây hại mà cả con người và cỗ máy đều không dự đoán được. Trong nhiều trường hợp, AGI có thể làm các nhiệm vụ phức tạp hơn hiện tại, dẫn đến sai sót nghiêm trọng. DEEPMind hiểu rằng cách tốt nhất để hạn chế sai sót là không để AGI trở nên quá mạnh, đồng thời cảnh báo rằng nên triển khai AGI một cách từ từ.

Cuối cùng, rủi ro cấu trúc thể hiện sự tương tác giữa các hệ thống AGI có thể dẫn đến những hệ quả không mong muốn cho xã hội. Điều này có thể làm tăng thông tin sai lệch và dẫn đến mất kiểm soát trong các hệ thống kinh tế và chính trị.

Chưa có bằng chứng xác thực rằng AGI sẽ ra đời trong vòng vài năm tới, nhưng nhiều chuyên gia công nghệ vẫn lạc quan về điều này. Họ cho rằng đã có những bước tiến đáng kể trong việc phát triển các mô hình thông minh. Điều này thúc đẩy cuộc tranh luận về an toàn AGI trước khi sự xuất hiện của nó thay đổi thế giới.

Tin rằng việc AGI sẽ sớm trở thành hiện thực đòi hỏi sự chuẩn bị kịp thời để bảo vệ nhân loại khỏi những rủi ro tiềm tàng mà nó có thể gây ra. Những cuộc thảo luận về cách tiếp cận an toàn đối với AGI cần được thúc đẩy ngay bây giờ, nếu không hậu quả có thể nghiêm trọng hơn những gì chúng ta hình dung.

The post DeepMind trình bày cách tránh hiểm họa từ AGI appeared first on Nhật Phúc.

Altman nói rằng mục tiêu tiếp theo của OpenAI là “siêu trí tuệ,” tức là những công cụ có thể thúc đẩy đáng kể khám phá khoa học và đổi mới vượt xa khả năng của con người. Ông nhấn mạnh rằng OpenAI yêu thích các sản phẩm hiện tại nhưng công ty đang hướng tới một tương lai rực rỡ hơn.

Mô tả của Altman về siêu trí tuệ, về cơ bản được hiểu là AI vượt qua trí thông minh của con người, có nhiều nét tương đồng với cách OpenAI từng diễn đạt về AGI – những hệ thống AI “thông minh hơn con người.” Dù vậy, Altman gần đây đã cố gắng giảm bớt kỳ vọng về AGI, cho rằng nó sẽ “ít quan trọng” hơn mọi người nghĩ. Việc giảm bớt sự kỳ vọng này có thể mang lại lợi ích cho OpenAI, nhất là khi công ty này đang có thỏa thuận độc quyền với Microsoft cho đến khi chính thức đạt được AGI.

Thêm vào đó, Altman nhắc đến việc OpenAI không có lãi, kể cả khi họ đang thu phí $200 mỗi tháng từ người dùng ChatGPT Pro. “Mọi người sử dụng nó nhiều hơn chúng tôi dự định,” — Altman thừa nhận, cho thấy tình hình tài chính không mấy khả quan của công ty.

Không dừng lại ở đó, Altman cũng phản ánh về các sự kiện hỗn loạn dẫn đến việc ông bị sa thải khỏi chức vụ CEO tại OpenAI, làm việc tại Microsoft, rồi trở lại OpenAI vào tháng 11 năm 2023. Ông nhấn mạnh rằng lý do chính là sự thất bại trong quản lý bởi những người có ý tốt, và ông hy vọng mình đã trở thành một lãnh đạo chu đáo hơn sau một năm.

Với động thái chuyển đổi từ tổ chức phi lợi nhuận thành công ty vì lợi nhuận, OpenAI đang nỗ lực củng cố hệ thống quản trị để đảm bảo rằng AGI mang lại lợi ích cho toàn nhân loại.

The post Sam Altman và lời tiên tri về siêu trí tuệ nhân tạo của OpenAI appeared first on Nhật Phúc.

Một trong những mục tiêu hàng đầu mà các phòng nghiên cứu AI đặt ra là phát triển trí thông minh nhân tạo tổng quát (AGI) và với kết quả này, OpenAI dường như đã tiến một bước rất lớn về phía trước. Mặc dù vẫn còn nhiều hoài nghi, nhưng không ít các nhà nghiên cứu và phát triển AI cảm thấy rằng viễn cảnh về AGI đang trở nên thực tế và cấp bách hơn bao giờ hết. Vậy kết quả này thực sự có ý nghĩa gì?

Để hiểu được tầm quan trọng của kết quả này, trước tiên cần phải hiểu tiêu chuẩn ARC-AGI là gì. Về mặt kỹ thuật, đây là một bài kiểm tra về “hiệu quả mẫu” của một hệ thống AI, tức là khả năng thích nghi với một tình huống mới – hệ thống cần bao nhiêu ví dụ để nắm bắt cách thức hoạt động của tình huống mới đó. Một hệ thống AI như ChatGPT (GPT-4) không có hiệu quả mẫu cao, vì nó được “huấn luyện” qua hàng triệu ví dụ từ văn bản của con người, xây dựng các “quy tắc” xác suất về các kết hợp lời thoại có khả năng nhất.

Trong khi ChatGPT rất giỏi trong các tác vụ thông thường, nó kém hiệu quả trong các tác vụ không phổ biến vì có ít dữ liệu hơn về những tác vụ đó. Cho tới khi nào các hệ thống AI có thể học hỏi từ một số lượng nhỏ các ví dụ và thích nghi với hiệu quả mẫu cao hơn, chúng chỉ được sử dụng cho những công việc rất lặp đi lặp lại và nơi mà đôi lúc thất bại có thể được chấp nhận.

ARC-AGI đánh giá sự thích nghi hiệu quả mẫu thông qua các vấn đề ô lưới nhỏ, đòi hỏi AI phải tìm ra quy luật từ ba ví dụ để áp dụng cho ví dụ thứ tư – tương tự như các bài kiểm tra IQ mà nhiều người còn nhớ từ thời đi học.

Hiện tại, chưa rõ OpenAI đã đạt được kết quả này như thế nào, nhưng có vẻ hệ thống o3 rất thích nghi. Từ chỉ một vài ví dụ, nó có thể tìm ra các quy luật có thể được tổng quát hóa. Để hiểu một mẫu hình, chúng ta không nên đưa ra những giả định không cần thiết, mà phải cụ thể nhất có thể.

Kết quả khả quan này của o3 chủ yếu nhờ vào việc OpenAI đã bắt đầu với phiên bản chung của mô hình (khác với hầu hết các mô hình khác, vì nó có thể “suy nghĩ” lâu hơn về các câu hỏi khó) và sau đó đã huấn luyện nó cụ thể cho bài kiểm tra ARC-AGI.

Pháp nghiên cứu AI Francois Chollet cho rằng, o3 tìm kiếm thông qua các “chuỗi suy nghĩ” khác nhau để giải quyết vấn đề, sau đó chọn ra “tốt nhất” theo một quy tắc không chính thức nào đó, hoặc “heuristic”. Đây không khác nhiều so với cách mà hệ thống AlphaGo của Google tìm kiếm các chuỗi nước đi khác nhau để đánh bại nhà vô địch cờ vây thế giới.

Khi o3 chính thức ra mắt, chúng ta sẽ có cái nhìn rõ hơn về việc liệu nó có thực sự có khả năng thích nghi như một con người trung bình hay không. Nếu vậy, hệ thống này có thể có ảnh hưởng kinh tế lớn, mở ra một kỷ nguyên mới của trí thông minh tự cải thiện nhanh chóng. Ngược lại, nếu không, đây sẽ vẫn là một kết quả đáng ấn tượng nhưng cuộc sống hàng ngày vẫn sẽ không thay đổi nhiều.

Hai tác giả làm việc trong lĩnh vực này gồm Michael Timothy Bennett, nghiên cứu sinh trường Máy tính tại Đại học Quốc gia Úc và Elija Perrier, nghiên cứu viên tại Trung tâm Công nghệ Lượng tử Có trách nhiệm tại Đại học Stanford.

The post Công nghệ AI của OpenAI đạt cấp độ trí thông minh nhân loại appeared first on Nhật Phúc.

Dấu hiệu nổi bật nhất từ OpenAI trong bức tranh lớn là việc họ vừa hoàn tất “12 ngày shipmas”, giới thiệu loạt dịch vụ và sản phẩm mới. Điều này bao gồm sự ra mắt của phiên bản kế nhiệm OpenAI 01, chuyên về khả năng suy luận nâng cao, và mô hình AI cải tiến với chi phí không rẻ – ChatGPT Pro. Dù vậy, khiến mọi người quan tâm nhất vẫn là khả năng AGI có thể xuất hiện sớm hơn dự đoán.

AGI và siêu trí tuệ không phải là một, với siêu trí tuệ vượt trội hơn đáng kể nhờ khả năng học hỏi, lý luận và thu thập dữ liệu một cách rộng lớn. Altman khẳng định, mặc dù siêu trí tuệ có thể làm thay đổi cách xã hội và nền kinh tế vận hành nhưng sẽ không làm thay đổi các bản năng cơ bản của con người. Ông cũng trấn an rằng, dù AGI khi xuất hiện có thể không gây ra tác động lớn đến xã hội như nhiều người lo ngại.

Trong cuộc đua về AI, các phòng thí nghiệm hàng đầu như OpenAI, Google, Anthropic đang nỗ lực để duy trì vị thế dẫn đầu. Tuy vậy, những mối lo ngại về an toàn của AI vẫn tiếp tục là tâm điểm tranh luận. Một số chuyên gia cảnh báo rằng AI có thể dẫn đến sự diệt vong của nhân loại nếu không kiềm chế tiến độ phát triển của mình.

Tuy nhiên, Altman tin rằng siêu trí tuệ sẽ không nhất thiết đồng nghĩa với sự diệt vong của con người, mà thay vào đó sẽ mở ra những cơ hội chưa từng có. Khi không bận rộn với tin tức công nghệ, cây viết Kevin Okemwa từ Nairobi, Kenya cũng đã theo đuổi các xu hướng công nghệ mới nhất và đóng góp đáng kể cho cộng đồng yêu thích hệ sinh thái của Microsoft tại Windows Central.

The post Dự đoán của CEO OpenAI: Siêu trí tuệ sẽ bùng nổ công nghệ gấp 10 lần appeared first on Nhật Phúc.

Theo các nguồn tin, năm ngoái hai công ty đã ký một thỏa thuận quy định rằng OpenAI chỉ được coi là đã đạt AGI khi phát triển các hệ thống AI có thể tạo ra ít nhất 100 tỷ đô la lợi nhuận. Điều này khác xa với định nghĩa kỹ thuật và triết học khắt khe về AGI mà nhiều người mong đợi.

Năm nay, OpenAI dự kiến sẽ mất hàng tỷ đô la, và startup này cho biết với các nhà đầu tư rằng họ sẽ không có lãi cho tới năm 2029. Đây là một chi tiết quan trọng bởi vì Microsoft sẽ mất quyền truy cập vào công nghệ của OpenAI khi công ty đạt AGI – một thuật ngữ mơ hồ có ý nghĩa khác đối với mỗi người. Một số người suy đoán rằng OpenAI sẽ tuyên bố đạt AGI sớm hơn mong đợi để ngăn chặn Microsoft, nhưng thỏa thuận này có nghĩa là Microsoft có thể truy cập vào các mô hình của OpenAI trong một thập kỷ hoặc hơn nữa.

Tuần trước, nhiều người đã tranh luận liệu mô hình o3 của OpenAI có phải là bước tiến quan trọng hướng tới AGI hay không. Mặc dù o3 có thể hoạt động tốt hơn so với các mô hình AI khác, nó cũng đi kèm với chi phí xử lý đáng kể, điều này không có lợi cho định nghĩa AGI tập trung vào lợi nhuận của OpenAI và Microsoft.

Điều này không chỉ khiến cả hai công ty tập trung hơn vào chiến lược lợi nhuận mà còn cho thấy rằng cuộc hành trình đến AGI còn dài và phức tạp, không đơn thuần chỉ là những bước nhảy vọt về kỹ thuật mà còn cần sự bền vững tài chính lâu dài. Với sự ràng buộc này, mọi ánh mắt đều đổ dồn về OpenAI, chờ đợi những bước tiến tiếp theo để xem liệu họ có thể phá vỡ ranh giới hiện tại và thực sự đạt được mốc lợi nhuận mà họ đã cam kết hay không.

The post Microsoft và OpenAI: Định nghĩa gây sốc về AGI và tương lai tài chính appeared first on Nhật Phúc.

Những tháng cuối năm 2024, Silicon Valley đang hướng mạnh vào việc phát triển trí tuệ nhân tạo. Các công ty công nghệ lớn từ Microsoft, NVIDIA cho đến Apple không ngừng cạnh tranh vị trí công ty giá trị nhất thế giới, nhờ vào đầu tư sớm vào AI. Tuy nhiên, cuộc đua này không hề dễ dàng khi một số báo cáo cho thấy sự hứng thú với công nghệ tiên tiến đang giảm mạnh, với 30% dự án AI có thể bị bỏ rơi vào năm 2025.

OpenAI, trung tâm của bức tranh AI, từng có nguy cơ phá sản, với dự báo lỗ 5 tỷ USD trong vòng một năm. Tuy nhiên, với sự giúp đỡ từ các nhà đầu tư lớn như Microsoft, SoftBank và NVIDIA, OpenAI đã huy động được 6.6 tỷ USD, kéo dài thời gian tồn tại của công ty. CEO OpenAI, Sam Altman cho biết: “Có thể cần 7 nghìn tỷ USD và nhiều năm để xây dựng 36 nhà máy bán dẫn và các trung tâm dữ liệu bổ sung để thực hiện tầm nhìn AI đầy tham vọng.”

Sam Altman cho rằng siêu thông minh có thể chỉ còn “một vài nghìn ngày nữa” trong khi AGI có thể đến sớm hơn. Nhân viên kỹ thuật của OpenAI vừa rồi ám chỉ rằng công ty có thể đã đạt đến ngưỡng AGI với sự ra mắt của OpenAI o1. Mẫu này có khả năng suy luận và thực hiện tốt hơn con người ở nhiều nhiệm vụ.

Nhu cầu cho sức mạnh tính toán và nước làm mát có thể làm chậm tiến độ phát triển AI. Microsoft là nhà đầu tư lớn nhất của OpenAI, nhưng hai công ty có thể phải chia tay sau khi đạt cột mốc AGI. Tuy nhiên, OpenAI đang tìm cách loại bỏ điều khoản này để tiếp tục hợp tác với gã khổng lồ công nghệ Redmond.

Khi được hỏi về dự đoán AGI cho năm 2025, Copilot đã đưa OpenAI đứng đầu trong danh sách, nhờ vào các bước đột phá như mô hình o3 đã vượt qua ARC-AGI. Tuy nhiên, Google, Microsoft và IBM cũng đang đầu tư mạnh vào nghiên cứu AI. Đây là một thời điểm thú vị và cuộc đua đến AGI đang nóng lên.

Theo ChatGPT, AGI sẽ mang lại những thay đổi lớn về công nghệ và xã hội. Nó dự đoán hệ thống AI sẽ tiến hóa thành trí tuệ có thể học và thích nghi “không thể phân biệt với con người” với những đột phá trong lượng tử, thám hiểm không gian và giải pháp khí hậu.

OpenAI được coi là ứng viên hàng đầu với sự tập trung vào an toàn và lợi ích AGI, cùng với sự hợp tác mạnh mẽ với Microsoft. Google DeepMind, Anthropic và Microsoft cũng nằm trong danh sách cạnh tranh cho cột mốc AGI, nhấn mạnh vai trò của Trung Quốc với những tiến bộ nhanh chóng về AI.

Sự phát triển AGI cần được quản lý một cách có trách nhiệm để đảm bảo lợi ích cho nhân loại. OpenAI không chỉ tập trung vào việc đạt ngưỡng AGI mà còn muốn đảm bảo rằng công nghệ này sẽ an toàn và có lợi cho xã hội, điều này tạo nên sự khác biệt lớn trong cuộc đua đầy cạnh tranh này.

The post OpenAI nổi lên như ứng viên hàng đầu trong cuộc đua phát triển AGI appeared first on Nhật Phúc.

Trong bài viết, OpenAI khẳng định: “Không thể kiện tụng để đạt được trí tuệ nhân tạo tổng quát (AGI)”, nhấn mạnh tầm quan trọng của cạnh tranh tự do trên thị trường. “Chúng tôi rất tôn trọng những thành tựu của Elon và vô cùng biết ơn các đóng góp ban đầu của ông ấy cho OpenAI, nhưng ông ấy nên cạnh tranh trên thị trường thay vì trong phòng xử án. Quan trọng là Hoa Kỳ phải duy trì vị thế lãnh đạo toàn cầu về AI. Sứ mệnh của chúng tôi là đảm bảo AGI mang lại lợi ích cho toàn nhân loại, và chúng tôi đã và sẽ tiếp tục là tổ chức định hướng sứ mệnh.”

Một số tin nhắn mới được tiết lộ cho thấy vào tháng 7 năm 2017, Brockman đã nói với Zilis về cuộc họp với Musk, trong đó Musk cho rằng cấu trúc phi lợi nhuận là phù hợp ban đầu nhưng “có thể không còn phù hợp bây giờ.” Brockman sau đó đã viết cho Musk về kế hoạch cho OpenAI gồm ba giai đoạn: “1. Nghiên cứu AI phi lợi nhuận (đến cuối năm 2017) 2. Nghiên cứu AI + phần cứng vì lợi nhuận (bắt đầu từ 2018) 3. Dự án chính phủ (khi nào: ??).”

Bài viết cũng nhấn mạnh đến những nỗ lực của Musk nhằm đạt quyền kiểm soát OpenAI. Ông đã cố gắng điều hành OpenAI và đề xuất rằng công ty nên sát nhập với Tesla. Tuy nhiên, khi các cuộc đàm phán đổ vỡ do các nhà sáng lập OpenAI lo sợ sự đấu tranh quyền lực, Musk đã từ nhiệm. Sau khi từ nhiệm, Musk đã tổ chức một buổi chia tay với nhân viên, khuyến khích họ theo đuổi những mục tiêu mới và ông sẽ tiếp tục nghiên cứu AI tiên tiến tại Tesla.

Gần đây, vào thời điểm Musk đang trong quá trình mua lại Twitter, ông đã nhắn tin cho Altman bày tỏ sự lo ngại khi thấy định giá mới của công ty lên tới 20 tỷ USD: “De facto. Tôi đã cung cấp gần như toàn bộ nguồn vốn ban đầu, A và hầu hết vòng B,” theo các tin nhắn được tiết lộ. Chỉ vài tháng sau, Musk bắt đầu xây dựng đối thủ cạnh tranh với OpenAI, xAI.

Những tin nhắn mà OpenAI chia sẻ đã xuất hiện trước đó trong các hồ sơ toà án mà Musk đệ trình trong vụ kiện đang diễn ra chống lại OpenAI và đối tác Microsoft. Vụ kiện, được Musk đệ trình vào tháng Ba, cáo buộc OpenAI đã đi chệch khỏi sứ mệnh phi lợi nhuận ban đầu hòng phát triển AI vì lợi ích công cộng, và mặc dù đã rút vào tháng Sáu 2024 nhưng lại đệ trình lại vào tháng Tám cùng năm. Cập nhật mới nhất từ OpenAI nhằm bác bỏ các cáo buộc của Musk, chứng minh rằng chính Musk, chứ không phải Altman, đã từng có ý đồ chiếm quyền kiểm soát công ty khi nó mới thành lập.

The post Căng thẳng leo thang: Elon Musk kiện OpenAI, lộ tin nhắn nội bộ gây sốc appeared first on Nhật Phúc.

Điều đặc biệt là sự thành công này không đến từ các chiến dịch quảng cáo rầm rộ hay từ những người nổi tiếng mà chính nhờ những video giới thiệu sản phẩm đầy sáng tạo, trình diễn cách hoạt động của ứng dụng. Được thành lập bởi doanh nhân kỳ cựu người New York Willem Simons, Daze mang đến trải nghiệm nhắn tin tự do, không bị giới hạn bởi những bong bóng xanh hay xanh lá như các ứng dụng khác.

Daze cho phép người dùng biến chuyển cuộc trò chuyện của mình thành một tác phẩm nghệ thuật sống động, tương tự như tạo một câu chuyện trên Instagram với nhiều lựa chọn phông chữ, kiểu dáng, đồ họa, ảnh động, sticker và nền trang trí đa dạng. Đặc biệt, ứng dụng cũng tích hợp AI để cải thiện các công cụ sáng tạo và dự kiến sẽ mở rộng khả năng tích hợp AI trong tương lai.

Nhà sáng lập Simons chia sẻ với TechCrunch rằng mục tiêu của Daze là cung cấp một ứng dụng nhắn tin đầy đủ tính năng, có thể cạnh tranh với iMessage và WhatsApp, nhưng vẫn giữ được sự thú vị và sáng tạo. Người dùng có thể dễ dàng nhập tin nhắn và gửi đi, hoặc thậm chí kéo thả tin nhắn đến bất kỳ vị trí nào trong cuộc trò chuyện, tạo ra trải nghiệm sử dụng rất tự do và không bị ràng buộc.

Trước đây, Simons đã từng thử nghiệm với một ứng dụng tương tự có tên Muze, nhưng dự án này kết thúc vào năm 2022. So với Muze, Daze là dự án riêng của Simons, phát triển từ ý tưởng ban đầu là một lịch xã hội. Daze được xây dựng hoàn toàn bằng React Native, cho phép phát hành đồng thời trên iOS và Android, dự kiến chính thức ra mắt vào ngày 4 tháng 11. Hiện tại, ứng dụng đã được thử nghiệm bởi 1.400 người dùng beta.

Dữ liệu thử nghiệm cho thấy Daze có tỷ lệ giữ chân người dùng sau 60 ngày là hơn 50% đối với những người đã gửi tin nhắn. Điều này cho thấy sự hấp dẫn của ứng dụng đối với nhóm người dùng trẻ, chủ yếu trong độ tuổi từ 13 đến 22.

Đội ngũ phát triển của Daze gồm bảy nhân viên toàn thời gian và một nhân viên bán thời gian, chủ yếu làm việc tại New York, chỉ có vài người làm việc từ xa. Trước khi ra mắt, Daze đã huy động được 5,7 triệu đô la từ các nhà đầu tư uy tín như a16z, Kindred Ventures, Alpaca Ventures và nhiều công ty khác. Đây là một minh chứng cho sự kỳ vọng lớn từ thị trường đối với ứng dụng này.

The post Ứng dụng nhắn tin AI Daze chinh phục Gen Z trước khi ra mắt appeared first on Nhật Phúc.