Hành vi tạo hoặc phát tán deepfake, tin giả
Theo quy định được nêu tại tọa đàm của Bộ Công an: Hành vi tạo ra hình ảnh, video giả bằng AI (deepfake); phát tán, lan truyền nội dung giả mạo đều có thể bị xử lý vi phạm hành chính với chế tài nghiêm khắc, tùy tính chất và mức độ vi phạm.
Mức phạt cụ thể có thể áp dụng theo các nhóm hành vi liên quan trong dự thảo, trong đó có thể lên đến 50 - 70 triệu đồng hoặc cao hơn (đối với hành vi nghiêm trọng, kèm xâm phạm dữ liệu cá nhân) theo hệ thống khung xử phạt mới.
Nhóm hành vi giả mạo danh tính, dữ liệu (liên quan trực tiếp deepfake)
Dự thảo quy định mức phạt 25 - 50 triệu đồng đối với hành vi vi phạm xác thực, định danh tài khoản số. Bao gồm: Dùng giấy tờ giả, giấy tờ người khác để xác thực tài khoản; không đảm bảo định danh chính xác; không lưu trữ dữ liệu đăng nhập theo quy định; Không cảnh báo giao dịch bất thường.
Đây là nhóm quy định quan trọng vì deepfake thường được dùng để giả khuôn mặt khi xác thực (eKYC), giả giọng nói để vượt bảo mật tài khoản.
Hành vi dùng AI/deepfake giả sinh trắc học (mức nguy hiểm cao)
Dự thảo nhấn mạnh: Sử dụng AI, deepfake để giả mạo khuôn mặt, giọng nói nhằm xác thực tài khoản hoặc chiếm đoạt quyền truy cập bị xem là hành vi gian lận công nghệ cao và thuộc nhóm vi phạm nghiêm trọng trong an ninh mạng.
Có thể bị xử phạt hành chính mức cao nhất trong khung (tới 50 triệu đồng hoặc hơn tùy hành vi kèm theo), và có thể bị truy cứu hình sự nếu gây hậu quả nghiêm trọng theo quy định pháp luật hiện hành.
Lưu ý quan trọng về bản chất quy định
Theo Bộ Công an không chỉ “người tạo deepfake” bị xử lý mà cả người phát tán, nền tảng không gỡ bỏ, người sử dụng để lừa đảo đều có thể bị xử lý theo từng mức độ vi phạm.
Tại Hàn Quốc, Quốc hội nước này đang xem xét sửa đổi luật theo hướng yêu cầu tất cả nội dung do AI tạo ra phải gắn watermark nhận diện trực tiếp trong tệp dữ liệu.
Quy định nhằm khắc phục tình trạng nội dung bị chỉnh sửa, cắt ghép hoặc đăng lại khiến dấu nhận diện bị mất, gây khó khăn trong việc phân biệt thật - giả.
Dự luật cũng cấm hành vi xóa, làm giả hoặc can thiệp vào watermark AI. Người vi phạm có thể đối mặt án tù lên đến 2 năm hoặc phạt tiền.
