Trung Quốc tuyên chiến với video giả mạo

Trung Quốc ra luật cấm dùng trí tuệ nhân tạo sản xuất và phát tán video, âm thanh giả mạo.

Luật mới được chính phủ Trung Quốc ban hành ngày 29/11. Theo đó, cả nhà cung cấp và người dùng dịch vụ âm thanh, video trực tuyến đều không được phép sử dụng công nghệ trí tuệ nhân tạo (AI), như học sâu (deep learning) và thực tế ảo (AR), để sản xuất hoặc và phát tán tin giả, trong đó có deepfake.

Deepfake là thuật ngữ kết hợp giữa "deep learning" và "fake", chỉ hệ thống máy học (machine learning) được thiết kế để quét video và ảnh chân dung của một người, hợp nhất nó với video riêng biệt bằng thuật toán và thay thế các chi tiết trên gương mặt như mắt, mũi, miệng... Nói cách khác, deepfake có thể gán khuôn mặt của người này sang người khác với độ chân thực gần như tuyệt đối.

Luật ngăn chặn tin giả có hiệu lực từ ngày 1/1/2020, yêu cầu nhà cung cấp và người dùng dịch vụ âm thanh, video trực tuyến phải dán nhãn rõ ràng nội dung liên quan đến công nghệ học sâu trong quá trình tạo, phân phối và phát sóng. Đồng thời, các công ty cung cấp dịch vụ mạng nước này có trách nhiệm sử dụng công nghệ để phát hiện và loại bỏ video và âm thanh bị xuyên tạc nội dung.

"Việc áp dụng công nghệ mới, như deepfake, trong ngành công nghiệp video và âm thanh trực tuyến tiềm ẩn rủi ro phá vỡ chất tự xã hội và vi nhân quyền. Các nội dung giả mạo có thể gây bất ổn chính trị, đe dọa an ninh quốc gia và trật tự xã hội", phát ngôn viên Cục quản lý không gian mạng Trung Quốc (CAC) nhấn mạnh.

Khuôn mặt diễn viên Leonardo Dicaprio bị thay thế bằng khuôn mặt của một người dùng Trung Quốc. Ảnh: IntelligentLiving.

Các nhà chức trách Trung Quốc bắt đầu lo ngại về sự phát triển của công nghệ sản xuất video deepfake kể từ tháng 9/2019, khi ứng dụng Zao cho phép người dùng ghép khuôn mặt với các nhân vật trong phim trở nên phổ biến. Chỉ trong hai ngày ra mắt, sản phẩm của nhà phát triển Momo đã nhanh chóng trở thành ứng dụng được tải xuống nhiều nhất trên kho ứng dụng App Store.

Khi smartphone và các ứng dụng máy ảnh ngày càng tiên tiến, người dùng phổ thông cũng có thể tự tạo hiệu ứng cho ảnh, video như làm trắng da, thay đổi màu mắt hay thậm chí là biến trẻ thành già như ứng dụng FaceApp "gây bão" giữa năm nay.

Trung Quốc không phải quốc gia duy nhất quan ngại về hiểm họa từ video deepfake. Tháng trước, bang California khép tội hình sự với hành vi sản xuất và phân phối video, hình ảnh hoặc âm thanh giả mạo chính trị gia trong chiến dịch tranh cử. Hồi tháng 4, Liên minh châu Âu (EU) cũng đã mở cuộc điều tra các loại hình thông tin sai lệch phát tán trên mạng.

Việt Anh (theo SCMP)