Theo một cuộc khảo sát của Pew vào đầu mùa thu này, số người Mỹ lo ngại về khả năng AI được sử dụng với mục đích xấu trong bầu cử 2024 cao gấp tám lần so với những người cho rằng nó sẽ mang lại lợi ích. Dù có thực, nguy cơ từ việc sử dụng AI trong chính trị không phải hoàn toàn là tiêu cực. “Cái chết của sự thật” mà nhiều người sợ hãi đã không xảy ra – ít nhất, không phải vì AI.

Các ứng cử viên đã nhanh chóng áp dụng AI ở nhiều lĩnh vực, nếu được sử dụng một cách thận trọng và có trách nhiệm. Một trong những ứng dụng ấn tượng và có lợi nhất của AI chính là việc dịch ngôn ngữ, được triển khai rộng rãi trong các chiến dịch. Các chính quyền địa phương ở Nhật Bản và California, cùng những chính trị gia nổi bật như Thủ tướng Ấn Độ Narenda Modi và Thị trưởng New York Eric Adams, đã sử dụng AI để dịch các cuộc họp và diễn văn tới các cử tri đa dạng của họ. Google cung cấp dịch vụ dịch thuật miễn phí cho 110 ngôn ngữ bổ sung, có sẵn trên toàn thế giới qua smartphone.

Thay vào đó, nhiều ứng cử viên đã sử dụng khả năng tương tác của AI để tiếp cận cử tri. Tại Mỹ, các chính trị gia như Asa Hutchinson, Dean Phillips và Francis Suarez đã sử dụng chatbot trong các chiến dịch tranh cử sơ bộ của mình. Jason Palmer, một ứng cử viên thuộc nhóm nhỏ, đã đánh bại Joe Biden trong vòng sơ bộ ở American Samoa, nhờ vào việc sử dụng email, tin nhắn văn bản, âm thanh và video do AI sinh ra. Tại Pakistan, cựu thủ tướng Imran Khan đã dùng phiên bản giọng nói AI của mình để phát biểu từ trong tù.

Bên cạnh đó, AI đã được sử dụng nhiều trong việc gây quỹ chính trị. Các công ty như Quiller và Tech for Campaigns cung cấp AI để giúp viết mail gây quỹ, và có những hệ thống giúp các ứng cử viên gửi thông điệp cá nhân hóa cho từng nhà tài trợ.

Dù vậy, vẫn còn đó nỗi lo về thông tin giả mạo do AI tạo ra, dù nó không gây hậu quả như lo ngại. Trước cuộc bầu cử ở Slovakia năm 2023, một đoạn âm thanh giả mạo thảo luận về việc can thiệp bầu cử đã lan truyền nhanh chóng. Những sự kiện như vậy xảy ra nhiều lần trong năm 2024, nhưng chưa rõ chúng có ảnh hưởng thực sự không.

AI cũng góp phần bảo vệ hệ sinh thái thông tin. OpenAI đã dùng AI tự động của mình để phá hoạt động gây ảnh hưởng từ nước ngoài của Iran nhằm chia rẽ trước bầu cử tổng thống Mỹ. Các nền tảng công nghệ cũng sử dụng AI để tự động quản lý nội dung như ngôn từ thù địch và cực đoan. Tuy nhiên, vẫn còn nhiều việc phải làm để các hệ thống này trở nên công bằng và hiệu quả hơn.

The post Công nghệ AI phủ sóng bầu cử 2024 nhưng deepfake không tạo bất ngờ appeared first on Nhật Phúc.

Bản khai của Hancock trích dẫn một nghiên cứu năm 2023 được công bố trên Tạp chí Công nghệ Thông tin và chính trị với tiêu đề “Ảnh Hưởng của Video Deepfake đối với Thái Độ và Hành Vi Chính Trị”. Tuy nhiên, theo Reformer, không có bất kỳ hồ sơ nào về nghiên cứu này trong tạp chí hoặc bất kỳ ấn phẩm nào khác. Một nguồn khác được Hancock dẫn chứng, “Deepfakes và Ảo Tưởng Tính Xác Thực: Quy Trình Nhận Thức Phía Sau Việc Chấp Nhận Thông Tin Sai Lệch,” cũng không hề tồn tại.

Hancock không trả lời yêu cầu bình luận của The Verge. Trong hồ sơ pháp lý, các luật sư của Nghị sĩ bang Minnesota Mary Franson và Youtuber bảo thủ Christopher Khols — người hoạt động dưới tên Mr. Reagan — viết rằng: “Sự trích dẫn này mang các đặc trưng của ‘ảo giác’ trí tuệ nhân tạo (AI), cho thấy ít nhất là phần trích dẫn được tạo ra bởi một mô hình ngôn ngữ lớn như ChatGPT.” Các nguyên đơn không rõ tại sao sự ‘ảo giác’ này lại xuất hiện trong tuyên bố của Hancock, nhưng điều này đặt dấu hỏi lớn lên toàn bộ tài liệu, đặc biệt khi phần lớn bình luận không có phương pháp luận hay phân tích logic rõ ràng nào.\n\nSự việc này đưa ra ánh sáng về những thách thức và rủi ro liên quan đến việc sử dụng AI trong các lĩnh vực phức tạp như pháp lý, đặt ra câu hỏi nghiêm túc về độ tin cậy của các thông tin khi được hỗ trợ bởi AI, nhất là trong bối cảnh nhạy cảm như các quy định bầu cử.

The post Luật sư Minnesota đối mặt vụ kiện liên quan deepfake và AI appeared first on Nhật Phúc.

Điều đáng lo ngại là các AI influencer này không chỉ “mượn” thân thể và hình ảnh của các người mẫu thực sự, mà còn kiếm tiền từ việc này thông qua các đường dẫn đến các trang web hẹn hò, Patreon, hay các đối thủ của OnlyFans – những nền tảng nổi tiếng về nội dung phụ thuộc vào sự hấp dẫn của các cá nhân tự sáng tạo. Bên cạnh đó, họ còn tận dụng sự quan tâm của người dùng để quảng bá các ứng dụng AI khác, tạo ra một vòng xoáy mới trong ngành công nghiệp mạng xã hội.

Thực trạng này không chỉ đặt ra câu hỏi về vấn đề đạo đức và bản quyền, mà còn làm nổi bật sự phát triển nhanh chóng của công nghệ AI trong việc tạo ra nhân vật ảo đang khiến cả thế giới phải dõi theo. Những influencer ảo là minh chứng sống động cho thấy cách AI có thể định hình lại hiện thực kỹ thuật số, tạo ra một sự đan xen phức tạp giữa con người thật và sản phẩm số hóa.

Bằng cách khai thác hình ảnh và danh tiếng của những người mẫu thật, các chủ tài khoản ảo này đang gia tăng nhanh chóng số lượng người xem và người theo dõi, từ đó dẫn dắt một làn sóng mới của ngành giải trí ảo. Tuy nhiên, các cơ quan chức năng và nền tảng mạng xã hội chắc chắn sẽ cần phải vào cuộc để thiết lập lại trật tự, đảm bảo quyền lợi và bảo vệ hình ảnh của những người bị mạo danh.

The post Cuộc xâm lăng của các influencer ảo trên Instagram đang gây náo loạn appeared first on Nhật Phúc.

Xu hướng chỉnh sửa ảnh bằng AI gần đây đã gây ra nhiều tranh cãi. Các nền tảng như Meta đã đối mặt với thách thức trong việc gắn nhãn cho các ảnh được chỉnh sửa bằng công cụ AI so với ảnh tạo mới hoàn toàn từ mô hình AI. Trong khi đó, Google cũng đã tung ra các tính năng AI mạnh mẽ nhưng không cung cấp dấu hiệu nào cho thấy hình ảnh đã bị sửa đổi với AI.

Năm ngoái, Midjourney đã cam kết sử dụng chuẩn IPTC’s Digital Source Type, một tiêu chuẩn kỹ thuật để nhúng metadata vào hình ảnh chỉ ra sự tham gia của AI trong quá trình tạo ra chúng. Tuy nhiên, công ty này vẫn chưa áp dụng C2PA, một công nghệ metadata có khả năng theo dõi nguồn gốc đầy đủ của hình ảnh, bao gồm thiết bị và phần mềm đã được sử dụng.

Trong một bài đăng trên server Discord chính thức của Midjourney, Holz tiết lộ rằng công cụ chỉnh sửa ảnh mới sẽ chỉ mở cho một “nhóm chọn lọc trong cộng đồng hiện tại” ban đầu, kết hợp với việc gia tăng mức độ kiểm duyệt của con người và sự tham gia của những “người điều hành AI tiên tiến hơn” để ngăn ngừa những lạm dụng có thể xảy ra.

Holz thừa nhận rằng việc kiểm soát chỉnh sửa trên diện rộng bằng AI không hề đơn giản. Midjourney đang thu thập ý kiến phản hồi từ cộng đồng thông qua một cuộc thăm dò để xác định những người dùng nào sẽ được ưu tiên truy cập.

Việc ra mắt các công cụ chỉnh sửa AI không đảm bảo an toàn có thể gây ra vấn đề về vi phạm bản quyền hoặc lan truyền các thông tin sai lệch, ví dụ như deepfakes. Sự gia tăng chóng mặt của deepfakes trên mạng xã hội đang khiến việc phân biệt sự thật và thông tin sai lệch trở nên khó khăn hơn.

Dữ liệu từ Clarity, một công ty phát hiện deepfake, cho thấy số lượng deepfake được tạo ra và công bố năm nay đã tăng 900% so với cùng kỳ năm trước. Điều này dẫn đến nhiều lo ngại là điều dễ hiểu, khi một cuộc khảo sát gần đây từ YouGov cho thấy 85% người Mỹ lo lắng về việc thông tin sai lệch từ deepfakes lan rộng trên mạng.

Dù chưa có luật liên bang ở Mỹ về việc xử lý deepfake, hơn 10 tiểu bang đã ban hành luật chống lại việc mạo danh với sự trợ giúp của AI. Luật của California, hiện đang trong trạng thái chờ thông qua, sẽ là đạo luật đầu tiên cho phép các thẩm phán yêu cầu gỡ bỏ deepfakes hoặc có thể áp đặt tiền phạt đối với người đăng tải.

Midjourney không hẳn là hình mẫu cho việc triển khai AI có trách nhiệm. Họ đã bị kiện vì cáo buộc sử dụng nội dung có bản quyền để huấn luyện mô hình AI của mình. Tuy nhiên, trong vài tháng gần đây, nền tảng này đã thực hiện các bước để hạn chế sự lan truyền của deepfakes, bao gồm cả việc áp dụng các bộ lọc đối với nhân vật chính trị trước thềm bầu cử tổng thống Mỹ sắp tới.

The post Midjourney sắp ra mắt công cụ chỉnh sửa ảnh AI cho mọi người trực tuyến appeared first on Nhật Phúc.

Để bắt đầu, người dùng sẽ cần ghi lại một video ban đầu để AI của Zoom sử dụng trong việc tạo ra avatar kỹ thuật số giống hệt bạn, từ ngoại hình đến giọng nói. Sau đó, người dùng có thể viết tin nhắn mà mình muốn và để avatar AI thực hiện phần còn lại của công việc nói chuyện. Tính năng này sẽ hoạt động thông qua tính năng Clips của Zoom, cho phép bạn ghi lại các video ngắn để cập nhật thông tin cho đồng nghiệp.

Zoom cam kết sẽ xử lý cẩn thận vấn đề deepfakes tiềm tàng. Trong một cuộc họp báo, Smita Hashim, Giám đốc sản phẩm của Zoom, nói rằng công ty đang “xử lý điều này rất cẩn thận với công nghệ xác thực tiên tiến, công nghệ đóng dấu chữ ký số và các chính sách sử dụng nghiêm ngặt.” Các avatar AI tùy chỉnh dự kiến sẽ ra mắt vào đầu năm sau, trong gói bổ trợ AI Companion của Zoom với giá thêm 12 USD mỗi tháng. Nếu bạn không có gói bổ trợ này, nhưng vẫn có tài khoản Zoom trả phí, bạn vẫn có thể sử dụng các clip với các avatar và giọng nói AI mặc định, tuy không thật sự khác biệt so với việc tự tạo một avatar AI của chính bạn.

Trong một cuộc phỏng vấn trên Decoder vào tháng 6, CEO Zoom, ông Eric Yuan, đã nói về mục tiêu gửi “bản sao kỹ thuật số” để tham gia các cuộc họp và cuộc gọi trong khi bạn có thể làm những việc khác. “Cho phiên họp hôm nay, lý tưởng nhất, tôi không cần phải tham gia. Tôi có thể gửi bản kỹ thuật số của mình để tham gia và tận hưởng công việc khác như đi biển,” Yuan chia sẻ. “Hoặc tôi không cần phải kiểm tra email; phiên bản kỹ thuật số của tôi có thể đọc hầu hết các email… Làm thế nào để chúng tôi tận dụng AI và Zoom Workplace, để tự động hóa hoàn toàn kiểu công việc này? Đó là vấn đề rất quan trọng với chúng tôi.”

Cùng với các avatar AI, bổ trợ mới của Zoom còn cho phép tích hợp thêm với nhiều ứng dụng năng suất bên thứ ba, như Zendesk và Asana, cũng như giới thiệu các tùy chọn cá nhân hóa mới để tạo mẫu tóm tắt cuộc họp tùy chỉnh.

The post Zoom tiến gần hơn tới việc để AI “thế thân” tham gia cuộc họp thay bạn appeared first on Nhật Phúc.