Nếu bạn quản lý một website ngày nay, có khả năng cao là các bot AI đang cố gắng lập chỉ mục và thu thập nội dung của bạn. Cloudflare ghi nhận hơn 50 tỷ yêu cầu từ các crawler AI mỗi ngày trên mạng của mình. Nhiều bot trong số này phớt lờ các quy tắc “không thu thập” tiêu chuẩn và lấy nội dung mà không có sự đồng ý của chủ sở hữu trang để huấn luyện các mô hình ngôn ngữ lớn. Chặn chúng hoàn toàn thường chỉ làm cho chúng cảnh giác, thúc đẩy chúng thay đổi chiến thuật.

Đó là lý do tại sao tôi rất quan tâm đến tính năng mới AI Labyrinth của Cloudflare. Nó đảo ngược tình thế bằng cách cung cấp cho các bot một loạt các trang được tạo bởi AI. Các bot lãng phí thời gian và tài nguyên tính toán vào nội dung vô giá trị này thay vì đánh cắp dữ liệu thực. Thậm chí tốt hơn, AI Labyrinth âm thầm nhận diện dấu vân tay của các bot này, cho phép chặn chúng hiệu quả hơn trong tương lai. Đây là một tính năng đơn giản nhưng có tiềm năng lớn, và có sẵn cho tất cả khách hàng của Cloudflare, dù miễn phí hay trả phí.

AI Labyrinth của Cloudflare hoạt động như thế nào

Biến nội dung do AI tạo thành công cụ phòng thủ

Cloudflare AI Bots Daily Requests
Nguồn: Cloudflare

Về cốt lõi, AI Labyrinth sử dụng AI tạo sinh để tạo ra toàn bộ mạng lưới các trang mồi nhử liên kết. Khi Cloudflare phát hiện hoạt động bot vi phạm hướng dẫn của mình, thay vì chặn ngay lập tức, nó phục vụ cho các bot này một loạt trang có vẻ hợp lệ nhưng vô dụng. Đối với các crawler, đó có vẻ là nội dung hợp lệ có thể được lập chỉ mục và xử lý. Đối với khách truy cập thực sự, các liên kết này vô hình, do đó trải nghiệm duyệt web thông thường không bị ảnh hưởng.

Cloudflare sử dụng Workers AI để tạo nội dung này trước thời hạn. Các trang được lưu trữ trong kho R2 để truy xuất nhanh chóng, và cẩn thận để tránh các lỗ hổng cross-site scripting. Các chủ đề do AI tạo ra là có thật nhưng không liên quan đến trang web thực sự được bảo vệ, nhờ đó tránh được việc góp phần vào thông tin sai lệch. Hãy nghĩ về việc tạo nội dung về sửa chữa tivi cổ điển cho một trang về chương trình sức khỏe và thể dục. Các crawler theo các liên kết này sẽ sớm bị mắc kẹt trong một mê cung các trang không có giá trị thực sự nào để thu hoạch.

Một tác dụng phụ thông minh của cách tiếp cận này là nó hoạt động như một cái bẫy tinh vi. Khách truy cập thực sự sẽ không bao giờ đi sâu vào mê cung do AI tạo ra. Vì vậy, nếu một crawler theo các liên kết này một cách rộng rãi, Cloudflare có được tín hiệu có độ tin cậy cao rằng nó đang xử lý một bot không được phép. Dữ liệu đó sau đó được đưa vào các mô hình học máy của Cloudflare để cải thiện việc phát hiện trong tương lai.

Tại sao cách tiếp cận này hiệu quả

Lãng phí tài nguyên của bot trong khi nhận diện kẻ xấu

Gallery Image

Điều làm cho AI Labyrinth thông minh là nó lãng phí tài nguyên của bot mà không cảnh báo cho người điều hành bot. Các phương pháp chặn truyền thống có thể cảnh báo kẻ tấn công, khiến chúng điều chỉnh chiến thuật trong một trò chơi mèo vờn chuột liên tục. Nhưng việc gửi bot vào một mê cung vô tận của các trang do AI tạo ra âm thầm tiêu tốn thời gian và chu kỳ tính toán của chúng mà không gây nghi ngờ.

Đồng thời, Cloudflare thu thập thông tin tình báo quý giá. AI Labyrinth không chỉ hoạt động như một chướng ngại vật. Thay vào đó, nó còn là một hệ thống nhận diện dấu vân tay. Các bot tương tác sâu với nội dung giả mạo tiết lộ các mẫu hành vi mà hệ thống phát hiện của Cloudflare có thể phân tích. Điều này sẽ dẫn đến việc nhận diện và chặn tốt hơn các bot tương tự trên tất cả các trang được bảo vệ bởi Cloudflare trong tương lai.

Một điểm mạnh khác là nội dung do AI tạo ra được chuẩn bị trước và tích hợp liền mạch. Điều này có nghĩa là không có tác động đến hiệu suất đối với khách truy cập thực sự. Các liên kết ẩn chỉ được phục vụ cho các crawler AI nghi ngờ, và SEO được bảo vệ bằng cách đảm bảo các trang không được lập chỉ mục bởi công cụ tìm kiếm. Đây là một thiết kế chu đáo nhằm giảm thiểu các tác động phụ.

Cách kích hoạt AI Labyrinth trên trang của bạn

Bắt đầu chỉ với một cú bật

Nếu bạn sử dụng Cloudflare, việc kích hoạt AI Labyrinth không thể dễ dàng hơn. Đây là một tính năng tùy chọn có sẵn cho tất cả khách hàng, bao gồm cả những người dùng gói miễn phí. Bạn sẽ tìm thấy tùy chọn trong phần Quản lý Bot của bảng điều khiển Cloudflare. Chỉ cần chuyển trạng thái AI Labyrinth sang “bật” và hệ thống sẽ tự động bảo vệ trang của bạn — không cần cấu hình thêm.

Đây là hướng dẫn từng bước nhanh chóng để kích hoạt:

  1. Đăng nhập vào bảng điều khiển Cloudflare của bạn.
  2. Điều hướng đến cài đặt Bảo mật -> Quản lý Bot của trang web của bạn.
  3. Cloudflare - turn on AI Labyrinth 1
    Nguồn: Cloudflare
  4. Tìm tùy chọn AI Labyrinth.
  5. Cloudflare Turn on AI Labyrinth - 2
    Nguồn: Cloudflare
  6. Chuyển nó sang Bật.
  7. Đó là tất cả những gì bạn cần làm. AI Labyrinth bắt đầu hoạt động ngay lập tức.

Một khi đã kích hoạt, Cloudflare sẽ theo dõi hoạt động của bot và phục vụ các trang mồi nhử do AI tạo ra khi cần thiết. Bạn không cần viết bất kỳ quy tắc nào hoặc tự duy trì hệ thống. Đây là một lớp phòng thủ “cài đặt một lần và quên đi” bổ sung cho các tính năng giảm thiểu bot khác.

AI Labyrinth sẽ phát triển như thế nào

Một kỹ thuật phòng thủ liên tục phát triển

labyrinth of hedges suggesting time and resource expenditure like AI Labyrinth requires for AI crawlers
Nguồn: Vlad/Pexels

AI Labyrinth vẫn đang trong giai đoạn đầu, nhưng Cloudflare đã lên kế hoạch cho những cải tiến trong tương lai. Hiện tại, các trang do AI tạo ra tạo thành một mạng lưới mồi nhử thuyết phục nhưng chung chung. Vấn đề là, các trang được tạo ra sẽ không nhất thiết phải giống với nội dung còn lại của trang web. Các crawler AI có thể, về mặt lý thuyết, được huấn luyện để nhận ra sự lừa đảo này và tránh các trang đó.

Để giải quyết điều này, kế hoạch tương lai của Cloudflare cho bẫy AI bao gồm việc tích hợp các trang này sâu hơn với cấu trúc của trang web mục tiêu. Nó sẽ tạo ra một cấu trúc liên kết phù hợp với nội dung hợp pháp của trang web và định dạng các trang để áp dụng thương hiệu và tổ chức của trang web. Điều này sẽ làm cho các bot khó nhận biết bẫy hơn.

Cloudflare cũng lên kế hoạch mở rộng tích hợp của hệ thống với các mô hình học máy rộng hơn của mình. Mỗi bot bị bắt trong mê cung cung cấp dữ liệu quý giá cho hệ thống phát hiện của Cloudflare. Theo thời gian, điều này tạo ra một vòng phản hồi mạnh mẽ bảo vệ hàng triệu trang web.

Điều tuyệt vời hơn nữa là AI Labyrinth hoạt động âm thầm trong nền, cho phép nó bổ sung cho các công cụ bảo mật khác của Cloudflare mà không làm gián đoạn trang web hoặc khách truy cập thực sự. Khi các chiến thuật thu thập dữ liệu bot phát triển, loại phòng thủ chủ động và thích ứng này sẽ rất quan trọng trong việc bảo vệ nội dung của bạn.

Tại sao tôi nghĩ tính năng này cần được kích hoạt

AI Labyrinth của Cloudflare là một trong những phản ứng thông minh nhất mà tôi từng thấy đối với sự bùng nổ của việc thu thập dữ liệu AI trái phép. Nó dễ dàng kích hoạt, không cần điều chỉnh, và âm thầm biến cơn khát tính toán của bot thành lợi thế. Đồng thời, nó cung cấp các tín hiệu quý giá để cải thiện việc phát hiện trên toàn bộ mạng lưới Cloudflare. Nếu bạn đã sử dụng Cloudflare, không có lý do gì để không kích hoạt AI Labyrinth ngay hôm nay. Cuộc đua vũ trang chống lại các trình thu thập dữ liệu AI có thể không bao giờ biến mất. Các công cụ như thế này mang lại cho chủ sở hữu trang web một cách mới giá trị để đối phó, mà không làm lộ diện.

AI Labyrinth của Cloudflare là một công nghệ phòng thủ đầy hứa hẹn. Mặc dù tôi không quản lý bất kỳ trang web nào cần đến dịch vụ này, tôi sẽ theo dõi sát sao khi Cloudflare tiếp tục phát triển kỹ thuật này.