Midjourney, một cái tên nổi bật trong lĩnh vực AI tạo sinh, đang chuẩn bị tung ra một công cụ web mới, cho phép người dùng chỉnh sửa bất kỳ hình ảnh nào tải lên từ web sử dụng AI của hãng. Theo CEO David Holtz của Midjourney, công cụ này sẽ chính thức được giới thiệu vào “đầu tuần tới,” và hứa hẹn mang đến khả năng tái tạo bề mặt và thay đổi màu sắc, chi tiết của các đối tượng trong ảnh thông qua chú thích.
Xu hướng chỉnh sửa ảnh bằng AI gần đây đã gây ra nhiều tranh cãi. Các nền tảng như Meta đã đối mặt với thách thức trong việc gắn nhãn cho các ảnh được chỉnh sửa bằng công cụ AI so với ảnh tạo mới hoàn toàn từ mô hình AI. Trong khi đó, Google cũng đã tung ra các tính năng AI mạnh mẽ nhưng không cung cấp dấu hiệu nào cho thấy hình ảnh đã bị sửa đổi với AI.
Năm ngoái, Midjourney đã cam kết sử dụng chuẩn IPTC’s Digital Source Type, một tiêu chuẩn kỹ thuật để nhúng metadata vào hình ảnh chỉ ra sự tham gia của AI trong quá trình tạo ra chúng. Tuy nhiên, công ty này vẫn chưa áp dụng C2PA, một công nghệ metadata có khả năng theo dõi nguồn gốc đầy đủ của hình ảnh, bao gồm thiết bị và phần mềm đã được sử dụng.
Trong một bài đăng trên server Discord chính thức của Midjourney, Holz tiết lộ rằng công cụ chỉnh sửa ảnh mới sẽ chỉ mở cho một “nhóm chọn lọc trong cộng đồng hiện tại” ban đầu, kết hợp với việc gia tăng mức độ kiểm duyệt của con người và sự tham gia của những “người điều hành AI tiên tiến hơn” để ngăn ngừa những lạm dụng có thể xảy ra.
Holz thừa nhận rằng việc kiểm soát chỉnh sửa trên diện rộng bằng AI không hề đơn giản. Midjourney đang thu thập ý kiến phản hồi từ cộng đồng thông qua một cuộc thăm dò để xác định những người dùng nào sẽ được ưu tiên truy cập.
Việc ra mắt các công cụ chỉnh sửa AI không đảm bảo an toàn có thể gây ra vấn đề về vi phạm bản quyền hoặc lan truyền các thông tin sai lệch, ví dụ như deepfakes. Sự gia tăng chóng mặt của deepfakes trên mạng xã hội đang khiến việc phân biệt sự thật và thông tin sai lệch trở nên khó khăn hơn.
Dữ liệu từ Clarity, một công ty phát hiện deepfake, cho thấy số lượng deepfake được tạo ra và công bố năm nay đã tăng 900% so với cùng kỳ năm trước. Điều này dẫn đến nhiều lo ngại là điều dễ hiểu, khi một cuộc khảo sát gần đây từ YouGov cho thấy 85% người Mỹ lo lắng về việc thông tin sai lệch từ deepfakes lan rộng trên mạng.
Dù chưa có luật liên bang ở Mỹ về việc xử lý deepfake, hơn 10 tiểu bang đã ban hành luật chống lại việc mạo danh với sự trợ giúp của AI. Luật của California, hiện đang trong trạng thái chờ thông qua, sẽ là đạo luật đầu tiên cho phép các thẩm phán yêu cầu gỡ bỏ deepfakes hoặc có thể áp đặt tiền phạt đối với người đăng tải.
Midjourney không hẳn là hình mẫu cho việc triển khai AI có trách nhiệm. Họ đã bị kiện vì cáo buộc sử dụng nội dung có bản quyền để huấn luyện mô hình AI của mình. Tuy nhiên, trong vài tháng gần đây, nền tảng này đã thực hiện các bước để hạn chế sự lan truyền của deepfakes, bao gồm cả việc áp dụng các bộ lọc đối với nhân vật chính trị trước thềm bầu cử tổng thống Mỹ sắp tới.
