Theo phân tích mà nhà nghiên cứu độc lập Genevieve Oh chia sẻ với hãng tin AP, hơn 143.000 video deepfake mới đã được đăng trực tuyến trong năm nay, vượt qua mọi năm trước cộng lại. Deepfake là công nghệ tạo ra những nội dung giả mạo, bao gồm tài liệu, hình ảnh, âm thanh, mã… với mục đích truyền bá thông tin sai lệch.

Ở thị trấn Westfield, bang New Jersey - Mỹ, một nhóm nữ sinh vừa trở thành nạn nhân của deepfake sau khi những bức ảnh khỏ‌ּa thâ‌ּn giả mạo của các em - do trí tuệ nhân tạo (AI) tạo ra - bị lan truyền.

Tại một trường học khác ở vùng ngoại ô TP Seattle, bang Washington, nhà chức trách đang điều tra vụ một thiếu niên dùng AI để gây hại tương tự cho các bạn học nữ.

Những gia đình bị ảnh hưởng đang thúc đẩy các nhà lập pháp Mỹ thực hiện những biện pháp bảo vệ mạnh mẽ hơn đối với nạn nhân của deepfake. Những người ủng hộ và một số chuyên gia pháp lý cũng kêu gọi ban hành quy định liên bang nhằm cung cấp các biện pháp bảo vệ thống nhất trên toàn quốc và răn đe tội phạm tìn‌ּh dụ‌ּc trực tuyến hoặc người có ý định phạm tội.

Vấn nạn liên quan deepfake không mới nhưng các chuyên gia cho rằng tình hình ngày một tồi tệ khi các công nghệ hỗ trợ phổ biến hơn nhiều. Nhiều bang của Mỹ đã thông qua luật riêng để cố gắng giải quyết vấn đề này.

Texas, Minnesota và New York cùng thông qua luật trong năm nay để Hình Sự hóa nội dung khi‌ּêu dâ‌ּm deepfake không có sự đồng thuận, tiếp bước các bang Virginia, Georgia và Hawaii. Một số bang khác như California và Illinois lại chỉ cho phép nạn nhân khởi kiện thủ phạm để yêu cầu bồi thường thiệt hại tại tòa án dân sự.

Tổng thống Mỹ Joe Biden đã ký một sắc lệnh hành pháp vào tháng 10, trong đó kêu gọi cấm sử dụng Generative AI (GenAI, còn gọi là AI tạo sinh) để tạo ra các nội dung lạ‌m dụn‌g tìn‌ּh dụ‌ּc trẻ em hoặc "hình ảnh riêng tư của các cá nhân thực" mà không có sự đồng thuận.

Lệnh này cũng chỉ đạo chính phủ liên bang ban hành hướng dẫn và đánh dấu nội dung do GenAI tạo ra nhằm phân biệt với các nội dung thực.

Hạ nghị sĩ Mỹ Tom Kean đại diện thị trấn Westfield đã đệ trình một dự luật hôm 11-12, yêu cầu các nhà phát triển nội dung số tiết lộ nội dung nào là do AI tạo ra. Trước đó, Hạ nghị sĩ Joe Morelle từ bang New York cũng trình dự luật quy định việc chia sẻ hình ảnh khi‌ּêu dâ‌ּm deepfake là bất hợp pháp.

Trong khi đó, Ấn Độ sẽ trấn áp các thông tin sai lệch do AI tạo ra bằng một quy định mới cho phép phạt tiền những người sáng tạo cũng như các nền tảng số phát tán chúng.

Bộ trưởng Bộ Công nghệ thông tin và viễn thông Ấn Độ Ashwini Vaishnaw cho rằng deepfake là mối đe dọa mới nổi, làm suy yếu xã hội và các thể chế.

Ông Vaishnaw đã gặp đại diện của các gã khổng lồ công nghệ Meta, Google và Amazon để ghi nhận cách xử lý nội dung deepfake, trong bối cảnh mạng xã hội đang là con đường để chúng lan truyền nhanh hơn mà không bị kiểm duyệt đúng mức.

Theo báo The Guardian (Anh), Úc cũng đang xem xét lệnh cấm sử dụng AI để tạo ra những nội dung "có rủi ro cao". Sự phát triển nhảy vọt của GenAI - đại diện bởi các chatbot như ChatGPT của OpenAI, Bard của Google… - cũng song hành với các nguy cơ ngày càng nghiêm trọng.