Nạn lừa đảo bằng giọng AI gieo rắc rối khắp nước Mỹ

Giọng nói trong điện thoại có vẻ thật đến đáng sợ. Một bà mẹ đã nghe thấy tiếng con gái khóc nức nở trước khi một người đàn ông giật lấy điện thoại rồi đòi tiền chuộc.

0:00 / 0:00
0:00
  • Nam miền Bắc
  • Nữ miền Bắc
  • Nữ miền Nam
  • Nam miền Nam

70% số người được hỏi không tin bản thân có thể phân biệt được giọng AI và giọng người thật.

Nhưng theo hãng thông tấn AFP, thực chất, tiếng nói của cô con gái đó lại là sản phẩm của trí tuệ nhân tạo (AI) và vụ bắt cóc là hoàn toàn không có thật.

Đối mặt với vấn nạn lừa đảo này, các chuyên gia cho rằng mối nguy hiểm lớn nhất của AI là xóa nhòa ranh giới giữa thực tế và hư cấu, tiếp tay cho bọn tội phạm mạng có được một công nghệ rẻ tiền mà hiệu quả để thực hiện ý đồ xấu.

Trong một loạt vụ lừa đảo mới làm chấn động nước Mỹ, những kẻ lừa đảo đang sử dụng các công cụ nhân bản giọng nói AI với mức độ giống thật đáng kinh ngạc - nhưng lại dễ dàng tiếp cận trên mạng - để đánh cắp tài sản bằng cách mạo danh thành viên trong gia đình của nạn nhân.

“Cứu con với, mẹ ơi, cứu con với,” bà Jennifer DeStefano sống ở Arizona đã nghe thấy một giọng nói hoảng hốt đầu dây bên kia.

Cô DeStefano 100% tin tưởng cô con gái 15 tuổi của mình bị gặp nạn khi đi trượt tuyết. “Tôi chẳng mảy may nghi vấn. Đó rõ ràng là giọng nói của con bé. Đó là cách con bé sẽ bật khóc. Tôi chưa bao giờ nghi ngờ dù chỉ một giây thôi”, bà DeStefano kể lại trên sóng một đài truyền hình địa phương hồi tháng 4.

Kẻ lừa đảo đã thực hiện cuộc gọi, hiển thị số lạ trên điện thoại của bà DeStefano, đòi số tiền chuộc lên tới 1 triệu đô la Mỹ. Âm mưu tống tiền được AI hỗ trợ này đã đổ bể sau vài phút khi bà DeStefano liên lạc được với con gái mình.

Nhưng vụ án kinh hoàng trên đã nhấn mạnh khả năng bọn tội phạm mạng lạm dụng các công nghệ AI để giả danh người khác.

Ông Wasim Khaled, Giám đốc điều hành tại công ty Blackbird.AI, nói với AFP: “Khả năng nhân bản giọng nói của AI hiện gần như không thể phân biệt được với giọng nói thật của con người. Yếu tố này cho phép những kẻ lừa đảo lấy thông tin và tiền từ nạn nhân một cách hiệu quả hơn”.

Một lệnh tìm kiếm đơn giản trên mạng Internet đã đề xuất rất nhiều ứng dụng có sẵn miễn phí để tạo giọng nói AI chỉ bằng một đoạn ghi âm nguyên mẫu ngắn, thậm chí chỉ kéo dài vài giây. Hậu quả, giọng nói thật của một người có thể dễ dàng bị đánh cắp từ phần nội dung mà họ đăng trực tuyến.

“Với một mẫu âm thanh nhỏ, bản sao giọng nói AI có thể bị lợi dụng để gửi thư thoại và văn bản thoại. Nó thậm chí có thể được sử dụng như một công cụ thay đổi giọng nói trực tiếp trong các cuộc gọi điện thoại”, ông Khaled lưu ý.

Bọn lừa đảo có thể sử dụng các giọng, giới tính khác nhau hoặc thậm chí bắt chước cách nói của những người thân của nạn nhân.

Trong một cuộc khảo sát toàn cầu trên 7.000 người ở 9 quốc gia, trong đó có Mỹ, cứ 4 người thì có 1 người cho biết họ đã từng bị lừa đảo bằng giọng nói AI, hoặc biết đến một trường hợp từng bị lừa đảo theo cách đó.

70% số người được hỏi cho biết họ không tự tin rằng mình có thể phân biệt được sự khác biệt giữa giọng nói nhân bản và giọng nói thật.

Trong khi đó, các quan chức Mỹ gần đây đã liên tục cảnh báo về tần suất gia tăng của các vụ lừa đảo nhằm vào ông bà lớn tuổi. Theo kịch bản chung, kẻ mạo danh sẽ đóng giả một người cháu của nạn nhân đang cần tiền gấp trong một tình huống khó khăn.

“Bạn nhận được một cuộc gọi. Có một giọng nói hoảng hốt trên đường dây. Đó là cháu trai của bạn. Người đó nói rằng đang gặp rắc rối lớn. Cậu ta làm hư hại xe ô tô và phải ngồi tù. Nhưng bạn có thể giúp đỡ bằng cách gửi tiền”, Ủy ban Thương mại Liên bang Mỹ (FTC) mô tả về chiêu thức lừa đảo này.

Trong các bình luận bên dưới bản tin cảnh báo của FTC, nhiều người cho biết người thân lớn tuổi trong gia đình họ đã bị lừa theo cách đó.

Đó là câu chuyện của anh Eddie, 19 tuổi, ở Chicago. Ông nội của Eddie nhận được cuộc gọi từ một người mạo danh anh, nói rằng anh cần tiền vì đã gây ra tại nạn xe hơi.

Theo báo cáo của hãng McAfee Labs, mưu mẹo này thuyết phục đến mức ông nội của Eddie khẩn trương gom góp tiền và thậm chí còn cân nhắc đến cách thế chấp nhà để lấy tiền trước khi lời nói dối đó bị phát hiện.

Giáo sư Hany Farid của Trường Thông tin UC Berkeley nói với AFP: “Vì hiện nay rất dễ tạo ra các bản sao giọng nói có độ chân thực cao nên gần như bất kỳ ai có hiện diện trực tuyến nào đều dễ bị tấn công. Những trò lừa đảo này đang rộ lên và lan rộng”.

Đầu năm 2023, công ty khởi nghiệp AI ElevenLabs thừa nhận rằng công cụ sao chép giọng nói của họ có thể bị lạm dụng vào mục đích xấu. Cụ thể, một người dùng sản phẩm của công ty này đăng một đoạn âm thanh giả mạo cho thấy nữ diễn viên Emma Watson đang đọc cuốn tiểu sử Mein Kampf của trùm phát xít Đức Adolf Hitler.

Ông Gal Tal-Hochberg, Giám đốc công nghệ tại công ty đầu tư mạo hiểm Team8, nói với AFP rằng chúng ta đang tiến nhanh đến mức bạn không thể tin vào những thứ bạn nhìn thấy trên Internet. Do đó, chúng ta cần công nghệ mới để biết liệu người đang nói chuyện với bạn có thực sự là người đó hay không.

TTXVN/Báo Tin tức

Có thể bạn quan tâm

Tin cùng chuyên mục

Mua bán trái phép hóa đơn có thể sẽ bị truy cứu trách nhiệm hình sự

Mua bán trái phép hóa đơn có thể sẽ bị truy cứu trách nhiệm hình sự

Với mục đích để được khấu trừ thuế giá trị gia tăng đầu vào, giảm nghĩa vụ thuế, hợp thức hóa cho hàng hóa trôi nổi, nhiều doanh nghiệp đã có hành vi mua bán hóa đơn. Tổng cục Thuế khẳng định hành vi trái pháp luật này không chỉ gây thất thu cho ngân sách Nhà nước mà còn ảnh hưởng đến môi trường kinh doanh lành mạnh.

Khởi tố thêm 41 bị can vụ vẽ dự án bất động sản "ảo" tại Công ty Lộc Phúc

Khởi tố thêm 41 bị can vụ vẽ dự án bất động sản "ảo" tại Công ty Lộc Phúc

Theo tài liệu điều tra ban đầu, một lô đất có giá chỉ khoảng vài trăm triệu đồng, nhưng công ty này đã tự vẽ lên dự án, rao bán với giá từ 2 - 3 tỷ đồng. Khách hàng có nhu cầu mua nhà ở TP.HCM được đối tượng hẹn chở đi xem nhà, nhưng lại chở thẳng xuống tỉnh Đồng Nai xem đất của những dự án mà công ty vẽ ra các viễn cảnh giống "trong mơ".

Quy định ghi âm, ghi hình tại phiên tòa: Cần hài hòa giữa các bên để bảo đảm thông tin báo chí

Quy định ghi âm, ghi hình tại phiên tòa: Cần hài hòa giữa các bên để bảo đảm thông tin báo chí

Hiện nay, dự thảo Luật Tổ chức Tòa án nhân dân (TAND) sửa đổi (dự thảo Luật) đang được trình Quốc hội. Tuy nhiên xung quanh quy định hạn chế ghi âm, ghi hình tại phiên tòa của dự thảo Luật, nhiều ý kiến cho rằng cần quy định hài hòa giữa các bên, tạo điều kiện thuận lợi cho các cơ quan, cá nhân, tổ chức, đặc biệt là cơ quan báo chí thực hiện chức năng, nhiệm vụ của mình.

Cảnh báo lừa đảo chiếm đoạt tài sản từ hình thức hụi, họ

Cảnh báo lừa đảo chiếm đoạt tài sản từ hình thức hụi, họ

Thời gian qua, trên địa bàn cả nước liên tiếp xảy ra các vụ vỡ họ, hụi, hoặc bị đối tượng chủ họ lừa đảo chiếm đoạt tài sản khiến nhiều người bị mất tài sản, với số bị tiền chiếm đoạt lên tới hàng tỷ đồng. Mặc dù cơ quan chức năng thường xuyên tuyên truyền, cảnh báo, song sự việc vỡ hụi, họ vẫn xảy ra. Do nhiều người tham gia thiếu sự cảnh giác, không nắm rõ quy định pháp luật, quyền, nghĩa vụ và trách nhiệm pháp lý liên quan và còn sự chủ quan khi tham gia vào các dây họ.

"Tấn công" người dùng di động bằng tổng đài ảo

"Tấn công" người dùng di động bằng tổng đài ảo

Vấn nạn quấy rối qua điện thoại bằng cuộc gọi rác, tin nhắn rác đã trở thành nỗi ám ảnh của không ít người trong thời gian dài. Sau khi sim rác bị kiểm soát gắt gao, thì nay, cuộc gọi rác, tin nhắn rác từ tổng đài ảo ứng dụng trí tuệ nhân tạo (AI) lại nổi lên, dai dẳng “tấn công” người dùng di động.

Triệt phá đường dây vận chuyển ma túy xuyên quốc gia, thu giữ 198 kg ma túy các loại

Triệt phá đường dây vận chuyển ma túy xuyên quốc gia, thu giữ 198 kg ma túy các loại

Ngày 30/5, thông tin từ Cục Phòng, chống ma túy và tội phạm (Bộ Tư lệnh Bộ đội Biên phòng) cho biết, đơn vị vừa chủ trì, phối hợp Cục Cửa khẩu và Bộ đội Biên phòng tỉnh Quảng Nam phát hiện, bắt giữ vụ vận chuyển trái phép số lượng lớn ma túy từ Lào về Việt Nam tiêu thụ.

fb yt zl tw