Trước đó, Meta đã sử dụng chip AI tùy chỉnh, nhưng chỉ để vận hành các mô hình chứ không phải để đào tạo chúng. Một số nỗ lực thiết kế chip của công ty trong quá khứ đã bị hủy bỏ do không đạt yêu cầu nội bộ. Kế hoạch đầu tư của Meta cho năm nay lên tới 65 tỷ USD chủ yếu nhằm vào các GPU của Nvidia. Nếu công ty có thể tiết kiệm một phần chi phí này bằng việc chuyển đổi sang chip sản xuất nội bộ, đó sẽ là một thành công lớn cho gã khổng lồ mạng xã hội này.

The post Meta thí điểm chip AI sản xuất nội bộ để giảm chi phí appeared first on Nhật Phúc.

Arm là công ty không sở hữu nhà máy sản xuất chip và đã có kế hoạch hợp tác với TSMC (Công ty Sản xuất Chất bán dẫn Đài Loan), nhà sản xuất chip theo hợp đồng lớn nhất thế giới. Dự kiến, các bộ xử lý mới của Arm có thể được công bố sớm nhất vào mùa hè này, theo các nguồn tin trong ngành.

Thông tin này cũng đến chỉ một tháng sau khi Softbank, công ty mẹ của Arm, ký kết hợp tác với OpenAI để xây dựng cơ sở hạ tầng AI với tổng trị giá lên đến 500 tỷ USD. Dự án lớn này sẽ bao gồm Arm cùng với Microsoft và cả Nvidia như những đối tác công nghệ chính. Điều này có thể chỉ ra rằng Arm sẽ đảm nhận vai trò quan trọng trong các thiết bị cá nhân sử dụng AI được phát triển bởi John Ive (nhà thiết kế cũ của Apple) và Sam Altman từ OpenAI.

Đối với những người chưa biết, thiết kế của Arm hiện tại có mặt trên gần như mọi smartphone trên thị trường. Chúng phổ biến trong hầu hết các thiết bị di động và ngay cả trên các mẫu máy tính Mac của Apple, cũng như các máy tính Windows sử dụng vi xử lý Qualcomm. Các CPU sử dụng kiến trúc ARM không chỉ cung cấp hiệu suất tốt và khả năng tiết kiệm năng lượng, mà còn có thể cạnh tranh về hiệu suất với các chipset Intel và AMD. Đây chính là lý do khiến chúng ngày càng được ưa chuộng trong các trung tâm dữ liệu phục vụ ứng dụng AI.

The post Arm phát triển chip nội bộ với Meta có thể là khách hàng đầu tiên appeared first on Nhật Phúc.

Trước đây, chúng ta đã thấy những công ty công nghệ khác như Microsoft, Amazon, Google, và Meta tự phát triển chip tăng tốc AI. Các công ty này nhắm tới nhiều lý do, từ giảm thiểu chi phí cho tới giải quyết tình trạng thiếu hụt chip AI do Nvidia đang chiếm ưu thế lớn trong thị trường cao cấp với GPU như dòng Blackwell dành cho trung tâm dữ liệu. OpenAI đã tiết lộ kế hoạch phát triển chip AI từ tháng 10 năm 2023. Đặc biệt, CEO OpenAI Sam Altman đã dành nhiều thời gian để đi khắp thế giới nhằm huy động tới 7 triệu USD để tăng cường khả năng sản xuất chip toàn cầu.

Việc tạo ra một chip AI tùy chỉnh yêu cầu nguồn lực lớn. Các chuyên gia trong ngành cho biết rằng chi phí thiết kế một phiên bản chip như vậy có thể lên tới 500 triệu USD, và chi phí phát triển phần mềm và phần cứng hỗ trợ có thể gấp đôi số đó. Dự án chip OpenAI, do nhà thiết kế chip cũ của Google Richard Ho dẫn dắt, bao gồm một đội ngũ 40 kỹ sư hợp tác với Broadcom để thiết kế chip. TSMC, công ty sản xuất chip cho Nvidia, cũng sẽ đảm nhận việc sản xuất chip cho OpenAI bằng công nghệ quy trình 3 nanomet.

Chip đầu tiên của OpenAI sẽ chủ yếu tập trung vào việc chạy các mô hình AI thay vì đào tạo chúng, với mức độ triển khai hạn chế trong nội bộ công ty. Dự kiến, quá trình sản xuất hàng loạt có thể bắt đầu tại TSMC vào năm 2026, tuy nhiên, việc tái thiết kế và sản xuất chip có thể gặp rủi ro kỹ thuật và gây ra sự chậm trễ cần thiết trong quá trình hoàn thiện dự án. Sự xuất hiện của OpenAI trong lĩnh vực phần cứng AI diễn ra trong bối cảnh các công ty công nghệ lớn đang đầu tư mạnh vào cơ sở hạ tầng AI, trong đó Microsoft dự kiến đầu tư 80 tỷ USD trong năm 2025, trong khi Meta đã dành 60 tỷ USD cho năm tới. Tháng trước, OpenAI (làm việc cùng SoftBank, Oracle và MGX) đã công bố dự án cơ sở hạ tầng “Stargate” 500 tỷ USD nhằm xây dựng các trung tâm dữ liệu AI mới tại Mỹ.

The post OpenAI phát triển chip AI riêng nhằm giảm phụ thuộc vào Nvidia appeared first on Nhật Phúc.

Trong khi chờ đợi đường đi mới này đến ngày thành hiện thực, OpenAI đã lồng ghép các chip của AMD vào cơ sở hạ tầng đám mây Microsoft Azure của mình. Loại chip MI300 của AMD, giới thiệu từ năm ngoái, đã góp phần lớn vào việc kinh doanh trung tâm dữ liệu của hãng tăng gấp đôi chỉ trong vòng một năm, khi theo đuổi sự bành trướng thị phần mà Nvidia hiện đang dẫn đầu.

Thông tin trước đó hồi tháng Bảy cho biết OpenAI đã bàn luận với Broadcom và các nhà thiết kế bán dẫn khác về việc phát triển chip AI riêng. Trước đó trong năm, Bloomberg cũng tiết lộ rằng OpenAI đang nỗ lực xây dựng mạng lưới cơ sở chế tạo chip của mình. Tuy nhiên, theo nguồn tin mới nhất từ Reuters, các kế hoạch này đã bị trì hoãn do chi phí và thời gian không khả thi.

Chiến lược mới này cho thấy OpenAI đang tiếp bước các công ty công nghệ lớn khác nhằm kiểm soát chi phí và cải thiện quyền tiếp cận đến các phần cứng máy chủ AI với những thiết kế chip tùy chỉnh. Tuy nhiên, Google, Microsoft và Amazon đã đi trước vài thế hệ trong nỗ lực này, và OpenAI có thể cần một nguồn tài trợ khổng lồ để trở thành đối thủ cạnh tranh thực sự.

The post OpenAI bắt tay cùng Broadcom phát triển chip AI tùy chỉnh đột phá appeared first on Nhật Phúc.