Một đoạn video lan truyền trên nền tảng mạng xã hội X, được cho là ghi lại cảnh binh sĩ Israel bật khóc phía sau một bức tường, đã thu hút hơn 1,6 triệu lượt xem trước khi bị phát hiện là sản phẩm do trí tuệ nhân tạo (AI) tạo ra.
Vụ việc mới đây tiếp tục làm dấy lên lo ngại về việc công nghệ AI đang làm mờ ranh giới giữa nội dung thật và giả, đặt ra thách thức lớn đối với độ tin cậy của thông tin số.
Theo các chuyên gia, sự phát triển nhanh chóng của AI không chỉ khiến việc nhận diện nội dung giả trở nên khó khăn hơn mà còn làm thay đổi cách thông tin được tạo ra và lan truyền trong xã hội.
Trong bối cảnh xung đột quốc tế ngày càng phức tạp, “chiến trường” thông tin giờ đây không chỉ tồn tại ngoài thực địa mà còn diễn ra mạnh mẽ trên không gian mạng.
Một cuộc điều tra của đài truyền hình công Đức ZDF đã chỉ ra nhiều điểm bất thường trong đoạn video nói trên. Cụ thể, trong một số cảnh, phù hiệu trên quân phục binh sỹ có hình quốc kỳ Israel, nhưng ở cảnh khác lại biến mất; phần chữ trên phù hiệu cũng vô nghĩa - dấu hiệu thường gặp trong các sản phẩm do AI tạo ra.
Ngoài ra, người dùng mạng xã hội cũng phát hiện nhiều chi tiết thiếu nhất quán về trang phục, âm thanh và vũ khí, càng làm dấy lên nghi vấn về tính xác thực của video.
Sự lan rộng của các nội dung do AI tạo ra đang đặt ra thách thức trực tiếp đối với uy tín của các cơ quan báo chí.
Trước đó, chính ZDF đã phải triệu hồi và sau đó cho thôi việc một phóng viên tại New York sau khi một phóng sự của người này sử dụng hình ảnh do AI tạo ra mà không được kiểm chứng.
Tổng biên tập ZDF, bà Bettina Schausten, cảnh báo việc xem nhẹ các tiêu chuẩn báo chí có thể gây tổn hại nghiêm trọng đến niềm tin của công chúng.
Không chỉ dừng lại ở việc tạo ra nội dung giả, AI còn có khả năng định hình nhận thức xã hội theo những cách tinh vi hơn.
Các nhà nghiên cứu quốc tế cảnh báo rằng công nghệ này đang bước vào giai đoạn mới với sự xuất hiện của các “bầy đàn AI” - tức mạng lưới các tài khoản giả mạo được vận hành có phối hợp, giả danh người dùng thật để lan truyền thông tin sai lệch.
Theo nhà nghiên cứu dữ liệu xã hội David Garcia tại Đại học Konstanz, các hệ thống này có thể do cá nhân hoặc tổ chức kiểm soát, có khả năng ghi nhớ, duy trì “danh tính” và bắt chước hành vi con người. Chúng có thể hoạt động đồng bộ nhằm phục vụ một mục tiêu chung, đồng thời điều chỉnh ngôn ngữ, giọng điệu và phản ứng theo thời gian thực. Điều này cho phép tạo ra “ảo giác đồng thuận xã hội," khiến một quan điểm có vẻ như được số đông ủng hộ, dù thực tế không phải vậy.
Trước những nguy cơ gia tăng, các nhà nghiên cứu và tổ chức đang đẩy mạnh các giải pháp phát hiện và kiểm soát. Một số chuyên gia đề xuất cần sàng lọc nội dung dựa trên các dấu hiệu phối hợp bất thường nhằm nhận diện sớm các mạng lưới AI. Đồng thời, việc tăng cường giám sát và minh bạch hóa hoạt động của các tài khoản do AI tạo ra cũng được coi là cần thiết để bảo vệ không gian thông tin.
Tại Đức, Trung tâm nghiên cứu về trí tuệ nhân tạo (AI), đã khởi động dự án phát hiện deepfake mang tên “Check First. Vote Smart." Công cụ này cho phép người dùng gửi các hình ảnh nghi vấn trên mạng xã hội để hệ thống phân tích và đánh giá khả năng bị thao túng hoặc được AI tạo ra.
Theo các chuyên gia, trong bối cảnh người dân ngày càng thường xuyên tiếp xúc với nội dung bị chỉnh sửa hoặc giả mạo, khả năng đánh giá và kiểm chứng thông tin đang trở thành một kỹ năng thiết yếu. Việc nâng cao nhận thức và năng lực tiếp cận thông tin đúng đắn được xem là yếu tố then chốt để hạn chế tác động tiêu cực của công nghệ AI đối với xã hội hiện đại.
