Với công nghệ đột phá này, Toolformer có thể chèn lệnh gọi tới các API cho phép nó sử dụng nhiều công cụ bên ngoài khác nhau, chẳng hạn như máy tính, công cụ tìm kiếm, trình dịch ngôn ngữ và tài liệu tham khảo thực tế. Phần tốt nhất? Toolformer có thể tự quyết định sử dụng công cụ nào cho phù hợp với ngữ cảnh và cách sử dụng nó.
Công nghệ này dựa trên mô hình GPT-J được đào tạo trước với 6,7 tỷ tham số và có thể thực hiện các tác vụ sử dụng công cụ khác nhau với độ chính xác cao hơn so với mô hình GPT-3 lớn hơn nhiều, chứa 175 tỷ tham số. Khả năng học cách sử dụng các công cụ bên ngoài một cách tổng quát của Toolformer mà không cần đào tạo chuyên biệt cho các nhiệm vụ cụ thể khiến nó trở thành một công cụ thay đổi cuộc chơi trong thế giới của các mô hình ngôn ngữ.
Với Toolformer, chúng ta có thể mong đợi một tương lai nơi các mô hình ngôn ngữ được tăng cường khả năng sử dụng các ứng dụng bên ngoài sẽ trở thành những trợ lý đáng tin cậy và linh hoạt hơn rất nhiều. Tuy nhiên, có những lo ngại về khả năng Toolformer có thể gây hại cho dữ liệu người dùng hoặc gây rắc rối ở thế giới bên ngoài nếu khả năng gọi API của nó không được giám sát.
Meta’s Toolformer là một bước tiến quan trọng trong lĩnh vực xử lý ngôn ngữ tự nhiên và có khả năng cách mạng hóa cách chúng ta tương tác với các mô hình ngôn ngữ. Khi công nghệ này phát triển hơn nữa, chúng ta có thể mong đợi thấy nhiều sự phát triển thú vị hơn trong thế giới của các mô hình ngôn ngữ, ứng dụng và trò chơi.
