AI mở ra nhiều cơ hội trong học tập, lao động và sáng tạo nội dung, song cũng khiến việc tạo ra hình ảnh, video, giọng nói hay văn bản giả mạo trở nên dễ dàng hơn bao giờ hết. Những sản phẩm có hình thức giống tài liệu của cơ quan Nhà nước, giống phát ngôn của cá nhân hoặc sự kiện có thật hoàn toàn có thể được tạo ra chỉ trong thời gian ngắn. Nếu không được nhận diện và kiểm chứng, người dùng rất dễ trở thành nạn nhân hoặc vô tình tiếp tay lan truyền thông tin sai sự thật, ảnh hưởng đến quyền, lợi ích hợp pháp của tổ chức, cá nhân và gây mất an ninh, trật tự trên không gian mạng.
Trào lưu "Tôi là trưởng thôn" đang được chia sẻ rộng rãi trên mạng xã hội, Công an xã Lâm Giang đã chủ động đăng tải thông tin cảnh báo trên trang thông tin chính thức của đơn vị nhằm giúp người dân nhận diện đây là hình ảnh được tạo bằng AI, không phải thông tin do cơ quan có thẩm quyền ban hành. Đồng thời, đơn vị khuyến cáo người dân không đăng tải, chia sẻ hoặc phát tán nội dung chưa được kiểm chứng, tránh gây hiểu nhầm về hoạt động của chính quyền địa phương.
Trung tá Hoàng Vũ Trung - Trưởng công an xã Lâm Giang cho biết: Phần lớn người dân tham gia trào lưu với mục đích giải trí, không có động cơ xấu. Tuy nhiên, việc sử dụng AI để tạo dựng hình ảnh, thông tin liên quan đến người khác khi chưa được sự đồng ý hoặc giả mạo cơ quan, tổ chức, cá nhân có thể vi phạm pháp luật và sẽ bị xử lý theo quy định.
Không chỉ tuyên truyền trên môi trường mạng, Công an xã Lâm Giang còn phân công cán bộ bám sát cơ sở, trực tiếp gặp gỡ, tuyên truyền, hướng dẫn người dân nhận diện thông tin giả và sử dụng mạng xã hội an toàn. Trong đó, thanh, thiếu niên - nhóm thường xuyên tiếp cận các nền tảng số và dễ bị cuốn theo các xu hướng trên internet - là đối tượng được đơn vị đặc biệt quan tâm.
Bà Bàn Thị Chỉnh, xã Lâm Giang chia sẻ: Lúc đầu tôi cũng nghĩ hình ảnh "Tôi là trưởng thôn" được đăng trên Facebook là thông tin thật. Sau khi được lực lượng công an tuyên truyền, tôi mới biết đó là sản phẩm do AI tạo ra. Giờ đây, trước khi chia sẻ bất kỳ thông tin nào trên mạng xã hội, tôi đều tìm hiểu kỹ nguồn gốc, tránh hiểu nhầm.
Theo lực lượng chức năng, trào lưu "Tôi là trưởng thôn" chỉ là một ví dụ cho thấy tốc độ phát triển của AI. Thực tế, công nghệ này còn có thể tạo video giả người dẫn chương trình, nhân bản giọng nói, ghép khuôn mặt, làm giả văn bản, thông báo của cơ quan Nhà nước hoặc tạo các video "deepfake" với độ chân thực rất cao. Nếu bị các đối tượng xấu lợi dụng, đây sẽ trở thành công cụ phục vụ hành vi mạo danh, lừa đảo, chiếm đoạt tài sản, bôi nhọ danh dự, phát tán thông tin sai sự thật, gây hoang mang dư luận và ảnh hưởng đến an ninh, trật tự trên không gian mạng.
Trước thực tế đó, Công an phường Văn Phú đã tăng cường nắm tình hình trên không gian mạng; thường xuyên theo dõi các hội, nhóm và tài khoản mạng xã hội để kịp thời phát hiện, xác minh, xử lý các trường hợp đăng tải, phát tán thông tin sai sự thật hoặc lợi dụng AI tạo dựng nội dung gây hoang mang trong dư luận.
Thượng tá Hoàng Văn Tuân - Trưởng Công an phường Văn Phú cho biết: Đơn vị duy trì lực lượng thường xuyên rà soát các nền tảng mạng xã hội nhằm phát hiện sớm các dấu hiệu vi phạm; chủ động xác minh, răn đe và xử lý nghiêm các trường hợp lợi dụng AI để tạo dựng, phát tán thông tin giả, ảnh hưởng đến an ninh, trật tự và quyền, lợi ích hợp pháp của tổ chức, cá nhân.
Theo Thượng tá Đỗ Quang Huy - Phó Trưởng phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Công an tỉnh Lào Cai: Người dân cần nâng cao nhận thức, trang bị kỹ năng số, kiểm chứng thông tin từ các nguồn chính thống trước khi đăng tải hoặc chia sẻ trên mạng xã hội; tuyệt đối không tạo, phát tán hoặc tiếp tay lan truyền các sản phẩm AI giả mạo, sai sự thật hoặc có nội dung gây hiểu nhầm.
Mỗi người dân cần trở thành "lá chắn" đầu tiên trước thông tin giả trên không gian mạng. Chỉ một thao tác chia sẻ thiếu kiểm chứng cũng có thể khiến thông tin sai sự thật lan truyền với tốc độ rất nhanh, gây ảnh hưởng đến cá nhân, tổ chức và xã hội. Sử dụng AI có trách nhiệm, tỉnh táo trước các trào lưu trên mạng xã hội và chỉ tin tưởng thông tin từ các nguồn chính thống chính là cách mỗi người góp phần xây dựng môi trường số an toàn, lành mạnh và văn minh.
