Tài liệu này dài 108 trang, trình bày bốn loại rủi ro tiềm tàng từ AGI: lạm dụng, sai lệch, sai sót và rủi ro cấu trúc. Trong đó, lạm dụng là loại rủi ro có thể thấy ngay từ các hệ thống AI hiện tại, nhưng với AGI, khả năng gây hại lớn hơn nhiều. Nếu một kẻ xấu nắm trong tay AGI, họ có thể khai thác công nghệ này để gây hại, như tạo ra virus mới hoặc đánh cắp thông tin. Do đó, DeepMind khuyến nghị rằng các công ty phát triển AGI cần thực hiện các bài kiểm tra an toàn nghiêm ngặt và tạo ra các quy trình bảo mật sau khi hoàn thiện.

Sai lệch là một vấn đề nghiêm trọng khác của AGI, có thể dẫn đến một cỗ máy tự do hành động mà không phải chịu sự kiểm soát của con người. DeepMind đề xuất việc áp dụng các kỹ thuật giám sát chặt chẽ, để những hệ thống AGI có thể kiểm soát đầu ra của nhau, từ đó giảm nguy cơ xảy ra sai lệch. Việc giữ AGI trong môi trường ảo với giám sát chặt chẽ cũng là một biện pháp hữu hiệu để giảm thiểu những rủi ro này.

Sai sót có thể xảy ra khi AGI thực hiện các hành động gây hại mà cả con người và cỗ máy đều không dự đoán được. Trong nhiều trường hợp, AGI có thể làm các nhiệm vụ phức tạp hơn hiện tại, dẫn đến sai sót nghiêm trọng. DEEPMind hiểu rằng cách tốt nhất để hạn chế sai sót là không để AGI trở nên quá mạnh, đồng thời cảnh báo rằng nên triển khai AGI một cách từ từ.

Cuối cùng, rủi ro cấu trúc thể hiện sự tương tác giữa các hệ thống AGI có thể dẫn đến những hệ quả không mong muốn cho xã hội. Điều này có thể làm tăng thông tin sai lệch và dẫn đến mất kiểm soát trong các hệ thống kinh tế và chính trị.

Chưa có bằng chứng xác thực rằng AGI sẽ ra đời trong vòng vài năm tới, nhưng nhiều chuyên gia công nghệ vẫn lạc quan về điều này. Họ cho rằng đã có những bước tiến đáng kể trong việc phát triển các mô hình thông minh. Điều này thúc đẩy cuộc tranh luận về an toàn AGI trước khi sự xuất hiện của nó thay đổi thế giới.

Tin rằng việc AGI sẽ sớm trở thành hiện thực đòi hỏi sự chuẩn bị kịp thời để bảo vệ nhân loại khỏi những rủi ro tiềm tàng mà nó có thể gây ra. Những cuộc thảo luận về cách tiếp cận an toàn đối với AGI cần được thúc đẩy ngay bây giờ, nếu không hậu quả có thể nghiêm trọng hơn những gì chúng ta hình dung.

The post DeepMind trình bày cách tránh hiểm họa từ AGI appeared first on Nhật Phúc.

Tại sao DeepMind lại quan tâm đến một cuộc thi toán cho học sinh cấp 3? Theo các nhà nghiên cứu, họ tin rằng cách giải quyết các bài toán hình học phức tạp, đặc biệt là trong hình học Euclid, có thể mở ra những tiến bộ quan trọng cho AI trong tương lai. Để chứng minh điều này, DeepMind đã tổ chức một buổi trình diễn hệ thống kết hợp giữa AlphaGeometry2 và AlphaProof, một mô hình AI cho lý luận toán học, cho thấy khả năng giải quyết bốn trong số sáu bài toán từ IMO 2024.

AlphaGeometry2 được xây dựng dựa trên nền tảng của mô hình ngôn ngữ từ dòng sản phẩm Gemini của Google và một “công cụ ký hiệu”. Mô hình Gemini hỗ trợ công cụ ký hiệu này, giúp suy diễn các giải pháp cho các bài toán hình học và đưa ra các bằng chứng có thể cho các định lý hình học cụ thể. Thao tác này diễn ra qua việc thêm các “hằng số” như điểm, đường thẳng, hoặc hình tròn vào một sơ đồ để giải quyết bài toán.

Cách thức hoạt động của AlphaGeometry2 rất đặc biệt: mô hình Gemini gợi ý các bước và cấu trúc trong một ngôn ngữ toán học chính thức cho công cụ ký hiệu, sau đó, công cụ này tuân theo các quy tắc để kiểm tra tính nhất quán logic của các bước này. Một thuật toán tìm kiếm cho phép AlphaGeometry2 thực hiện nhiều tìm kiếm giải pháp song song và lưu trữ những phát hiện có khả năng hữu ích trong một cơ sở tri thức chung. AlphaGeometry2 xem một bài toán là “đã được giải quyết” khi nó đạt được một bằng chứng kết hợp các gợi ý từ mô hình Gemini cùng với các nguyên lý đã biết trong công cụ ký hiệu.

Đáng chú ý, DeepMind đã tạo ra dữ liệu tổng hợp để huấn luyện mô hình ngôn ngữ của AlphaGeometry2, với hơn 300 triệu định lý và bằng chứng khác nhau về độ phức tạp. Nhóm nghiên cứu đã chọn 45 bài toán hình học từ các kỳ thi IMO trong 25 năm qua và “dịch” chúng thành một bộ lớn hơn với 50 bài toán khác nhau. Theo công bố, AlphaGeometry2 đã giải quyết được 42 trên tổng số 50 bài, vượt khỏi điểm số trung bình của thí sinh đoạt huy chương vàng là 40.9.

Dù vậy, AlphaGeometry2 vẫn còn một số hạn chế. Hệ thống này gặp khó khăn với các bài toán có số lượng điểm biến đổi, phương trình phi tuyến và bất đẳng thức. Đáng lưu ý, dù AlphaGeometry2 không phải là hệ thống AI đầu tiên đạt được hiệu suất tương đương với huy chương vàng trong hình học, nhưng đây là lần đầu tiên hệ thống này thực hiện thành công trên một bộ bài toán lớn như vậy.

Kết quả nghiên cứu này có thể góp phần khơi dậy cuộc tranh luận về việc liệu các hệ thống AI nên được xây dựng dựa trên việc thao tác biểu tượng hay không — cụ thể là việc thao tác các ký hiệu đại diện cho tri thức bằng cách sử dụng các quy tắc — hay là những mạng nơ-ron “giống như não bộ hơn”. AlphaGeometry2 kết hợp cả hai cách tiếp cận này, với mô hình Gemini có kiến trúc mạng nơ-ron và công cụ ký hiệu theo quy tắc.

Tuy nhiên, vẫn còn nhiều điều cần tìm hiểu về cách giải quyết AI trong tương lai, nhất là khi những hệ thống này có thể có ảnh hưởng lớn. AlphaGeometry2 có thể trở thành một ví dụ điển hình cho thấy rằng cách tiếp cận kết hợp giữa thao tác biểu tượng và mạng nơ-ron có thể là một con đường tiềm năng cho việc phát triển AI có thể tổng quát hơn.

Những kết quả ban đầu cũng chỉ ra rằng mô hình ngôn ngữ của AlphaGeometry2 có thể tạo ra các giải pháp một phần cho các vấn đề mà không cần phụ thuộc vào công cụ ký hiệu. Điều này cho thấy một tương lai sáng về khả năng tự cung cấp trong lĩnh vực AI, khi mà những công cụ này vẫn cần thiết cho các ứng dụng toán học cho đến khi tốc độ giải quyết và khả năng sản sinh thông tin của các mô hình được cải thiện hoàn toàn.

The post DeepMind công bố AI vượt trội hơn các thí sinh đoạt huy chương vàng Olympic Toán học quốc tế appeared first on Nhật Phúc.

Brooks tiết lộ trong bài đăng của mình rằng “DeepMind đang có những kế hoạch đầy tham vọng để tạo ra các mô hình thế hệ mới có khả năng mô phỏng thế giới thực.” Ông đang tuyển dụng cho một đội ngũ mới với nhiệm vụ này. Các thông tin tuyển dụng cũng cho thấy nhóm mô hình mới sẽ hợp tác và xây dựng dựa trên công việc từ các đội Gemini, Veo, và Genie của Google để giải quyết “những vấn đề mới quan trọng” và mở rộng mô hình lên “các cấp độ tính toán cao nhất.”

Gemini là một chuỗi mô hình AI nổi bật của Google cho các nhiệm vụ như phân tích hình ảnh và tạo văn bản, trong khi Veo là mô hình tạo video của Google. Còn Genie là phiên bản của Google về mô hình thế giới — AI có khả năng mô phỏng các trò chơi và môi trường 3D theo thời gian thực. Mô hình Genie mới nhất của Google, được giới thiệu vào tháng 12, có thể tạo ra một loạt các thế giới 3D có thể chơi đa dạng.

Theo mô tả công việc, đội ngũ mới của Brooks sẽ phát triển các công cụ “tạo ra tương tác theo thời gian thực” dựa trên các mô hình mà họ xây dựng và nghiên cứu cách tích hợp các mô hình của họ với các mô hình đa phương tiện hiện có như Gemini. Một số công ty khởi nghiệp và các công ty công nghệ lớn đang theo đuổi các mô hình thế giới, bao gồm World Labs của nhà nghiên cứu AI nổi tiếng Fei-Fei Lee, Descart tại Israel, và Odyssey. Họ tin rằng mô hình thế giới có thể được sử dụng để tạo ra truyền thông tương tác, như trò chơi video và phim ảnh, và chạy các mô phỏng thực tế như môi trường luyện tập cho robot.

Tuy nhiên, những người sáng tạo có cảm nhận khác nhau về công nghệ này. Một điều tra từ Wired gần đây cho thấy các studio game như Activision Blizzard, đã cắt giảm nhiều nhân sự, đang sử dụng AI để cắt giảm chi phí, tăng năng suất, và bù đắp cho sự thiếu hụt nhân lực. Một nghiên cứu ước tính do Animation Guild ủy quyền thậm chí đã dự báo rằng hơn 100.000 công việc trong ngành phim, truyền hình, và hoạt hình ở Mỹ sẽ bị tác động bởi AI vào năm 2026. Một số công ty khởi nghiệp trong lĩnh vực mô hình thế giới, như Odyssey, đã cam kết hợp tác với các chuyên gia sáng tạo thay vì thay thế họ.

Ngoài ra, vấn đề bản quyền cũng là một mối lo ngại chưa được giải quyết. Một số mô hình thế giới dường như được đào tạo dựa trên các đoạn video chơi game, điều này có thể khiến các công ty phát triển những mô hình đó bị kiện nếu video được đào tạo không có bản quyền. Google, sở hữu YouTube, khẳng định rằng họ có quyền sử dụng các video trên YouTube để đào tạo mô hình của mình theo điều khoản sử dụng của nền tảng này, nhưng công ty chưa tiết lộ cụ thể các video nào đang được sử dụng cho việc đào tạo.

The post Google thành lập đội nghiên cứu AI mới có thể mô phỏng thế giới vật lý appeared first on Nhật Phúc.

Ngoài Astra, Google cũng đang thử nghiệm một dự án khác mang tên Mariner. Đây là một công cụ AI điều khiển trình duyệt thông qua tiện ích mở rộng của Chrome để thực hiện các tác vụ mặc dù chỉ mới đang ở giai đoạn đầu và đang thử nghiệm cùng một nhóm người dùng “được chọn lọc”. Điều thú vị là khi Mariner được sử dụng để mở Google Docs và thêm nguyên liệu từ một công thức vào giỏ hàng Safeway, nó diễn ra chậm chạp đến mức người dùng có thể tự làm nhanh hơn. Tuy nhiên, đại diện sản phẩm của Google, Jaclyn Konzelmann, cho biết đây là một phần của thiết kế ban đầu để giúp người dùng có thể dừng hoặc tạm dừng quá trình nếu cần thiết và điều này sẽ được cải thiện trong tương lai.

Các công ty AI khác như OpenAI và Anthropic cũng đang đẩy mạnh công nghệ “agents”. Sundar Pichai, CEO của Google, xác định các agents là các mô hình có khả năng “thấu hiểu nhiều hơn về thế giới xung quanh bạn, suy nghĩ nhiều bước phía trước, và hành động thay bạn, dưới sự giám sát của bạn”. Mặc dù các sản phẩm agents nghe có vẻ hứa hẹn, nhưng việc triển khai rộng rãi gặp nhiều khó khăn do tính không dự đoán được của hệ thống AI.

Dù Google đã cố gắng giữ các thử nghiệm của mình ở mức an toàn nhất có thể, vẫn có những lo ngại về bảo mật và vi phạm dữ liệu nhạy cảm. Ví dụ, Project Astra hiện vẫn chỉ là nguyên mẫu nghiên cứu và không biết khi nào sẽ sẵn sàng cho người tiêu dùng hay sản phẩm cuối cùng sẽ trông như thế nào. Thực tế là Astra có một chút kỳ quặc và một chút khó xử trong giao tiếp thực tế. Các công ty AI hiện đang phải đối mặt với những thách thức để đưa các agent trở thành ứng dụng “sát thủ” cho các mô hình ngôn ngữ lớn. Mặc dù vậy, chắc chắn rằng những dự án như Astra hay Mariner thể hiện một bước tiến lớn trong hành trình chinh phục AI của Google.

The post Google thử nghiệm AI tiên phong với dự án Astra và Mariner appeared first on Nhật Phúc.

DeepMind giải thích rằng mô hình cũ của họ chỉ đưa ra một dự đoán duy nhất về thời tiết, trong khi GenCast bao gồm một tổ hợp trên 50 dự đoán khác nhau, mỗi dự đoán là một khả năng diễn tiến của điều kiện thời tiết tương lai. Từ đó, GenCast tạo ra một phân bố xác suất phức tạp về các kịch bản thời tiết trong tương lai. Với khả năng này, khi đối chiếu với dữ liệu năm 2019, GenCast đã dự đoán chính xác hơn ENS đến 97.2%.

Google cho biết GenCast hiện là một phần trong bộ mô hình dựa trên AI của họ và đang dần được tích hợp vào các dịch vụ như Google Search và Google Maps. Ngoài ra, Google còn lên kế hoạch phát hành các dự báo thời tiết theo thời gian thực và theo lịch sử từ GenCast, cho phép các nhà nghiên cứu và nhà phát triển sử dụng trong các nghiên cứu và mô hình của riêng họ.

Sự ra đời của GenCast đánh dấu bước tiến quan trọng trong lĩnh vực dự báo thời tiết, không chỉ cải thiện độ chính xác mà còn mở ra cơ hội ứng dụng AI trong các lĩnh vực nghiên cứu khác. Với GenCast, Google không chỉ đơn thuần nâng cấp khả năng dự báo thời tiết mà con giúp cải thiện trải nghiệm người dùng thông qua tích hợp vào các dịch vụ hàng ngày.

Có thể nói, sự đột phá công nghệ của Google đang tiếp tục thay đổi bức tranh toàn cầu về cách chúng ta tiếp cận và dự báo những biến đổi của khí hậu, đóng góp quan trọng đối với nghiên cứu khoa học và bảo vệ môi trường.

The post Google ra mắt AI tiên tiến dự đoán thời tiết chính xác đến 97% appeared first on Nhật Phúc.

Habermas Machine, lấy cảm hứng từ triết gia Đức Jürgen Habermas, được thiết kế dựa trên triết lý rằng mọi vấn đề có thể được giải quyết nếu chúng ta có thể thiết lập một hệ thống giao tiếp lý tưởng. Ý tưởng này được hiện thực hóa bằng cách sử dụng công nghệ tiên tiến để tạo ra môi trường thảo luận hiệu quả.

Trên thực tế, AI của DeepMind đã thể hiện khả năng thuyết phục vượt trội hơn cả các nhà hòa giải chuyên nghiệp. Trong một thử nghiệm với hơn 5000 người thảo luận về các vấn đề chính trị lớn ở Anh, chẳng hạn như độ tuổi hợp pháp để bầu cử hay việc liệu Dịch vụ Y tế Quốc gia của Anh có nên được tư nhân hóa, Habermas Machine cho thấy khả năng vượt trội khi đạt tỉ lệ chấp nhận 56% so với 44% của các nhà hòa giải nhân sự.

Cơ chế hoạt động của AI này là tạo ra các tuyên bố nhóm dựa trên các ý kiến của nhiều người và tìm cách đưa ra phương án mọi người có thể đồng ý. AI sẽ kiên trì lặp lại quy trình này cho đến khi đạt được sự đồng thuận. Điều thú vị là hệ thống này đã được thử nghiệm với một nhóm người đại diện cho xã hội Anh, cho kết quả tích cực trong việc thúc đẩy sự đồng thuận về các vấn đề khó nhằn như giảm số người bị tống giam hay nới lỏng điều kiện cho người xin tị nạn.

Tuy nhiên, cũng có nhiều câu hỏi đặt ra xoay quanh sự thành công của hệ thống này. Habermas Machine đã tránh né những vấn đề nhạy cảm hơn như quyền của người chuyển giới, nhằm tránh gây ra những tranh luận có thể khiến mọi người cảm thấy không an toàn. Bên cạnh đó, còn nhiều tranh cãi về sự khách quan của AI này khi một số ý kiến cho rằng AI có thể bị thiên vị.

Dù vậy, Habermas Machine vẫn mang đến cái nhìn lạc quan về một tương lai nơi AI không chỉ là công cụ giải trí hay phục vụ cuộc sống hàng ngày, mà còn có thể trở thành giải pháp cho những bất đồng tưởng chừng không thể dung hòa.

The post Trợ lý AI của DeepMind: giải pháp cho mâu thuẫn xã hội? appeared first on Nhật Phúc.