Jeff Hancock, người sáng lập Phòng Thí nghiệm Truyền thông Xã hội Stanford, đang đối mặt với chỉ trích sau khi thừa nhận sử dụng AI trong việc tổ chức tài liệu pháp lý, dẫn đến lỗi “ảo tưởng” mà một số người cho rằng làm giảm độ tin cậy của toàn bộ hồ sơ đệ trình. Ông Hancock đã đệ trình tờ khai ủng hộ đạo luật “Sử dụng Công nghệ Deepfake để Ảnh hưởng đến Cuộc bầu cử” của Minnesota, hiện đang bị thách thức tại tòa án liên bang. Đối mặt với vấn đề này là Christopher Khols, một YouTuber bảo thủ được biết dưới tên Mr. Reagan, và đại diện bang Minnesota Mary Franson. Khám phá rằng các trích dẫn trong tài liệu của Hancock dường như không tồn tại, các luật sư của Khols và Franson đã cho rằng hồ sơ này “không đáng tin cậy” và yêu cầu loại bỏ nó khỏi xem xét.
Trong một bản tuyên bố mới đây, Hancock thừa nhận ông sử dụng ChatGPT để phác thảo bản tuyên bố nhưng phủ nhận việc sử dụng nó để viết nội dung. “Tôi đã viết và xem xét kỹ lưỡng nội dung tuyên bố, và tôi kiên định với từng khẳng định được nêu ra, tất cả đều được hỗ trợ bởi nghiên cứu khoa học gần đây nhất trong lĩnh vực này và phản ánh quan điểm của tôi với tư cách là một chuyên gia về ảnh hưởng của công nghệ AI đối với thông tin sai lệch và tác động xã hội của nó,” Hancock viết.
Khi nói tới lỗi trích dẫn, Hancock giải thích rằng ông đã sử dụng Google Scholar và GPT-4o để “xác định các bài viết có khả năng liên quan đến tuyên bố, nhằm kết hợp thông tin đang có với các nghiên cứu mới.” Theo ông, việc sử dụng GPT-4o chỉ nhằm tạo danh sách trích dẫn chứ không phải để viết tài liệu, và ông không nhận ra rằng công cụ này tạo ra “hai lỗi trích dẫn, thường gọi là ‘ảo tưởng'” và thêm tác giả không chính xác vào một trích dẫn khác. “Tôi không có ý định đánh lừa Tòa án hay luật sư,” Hancock viết trong hồ sơ gần đây nhất. “Tôi xin lỗi chân thành về bất kỳ sự nhầm lẫn nào mà điều này có thể gây ra. Dù thế nào, tôi vẫn kiên định với tất cả các điểm nội dung được nêu trong tuyên bố.”