Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Sớm “gỡ vướng” trong hỗ trợ trồng rừng cây gỗ lớn

Sớm “gỡ vướng” trong hỗ trợ trồng rừng cây gỗ lớn

Nguồn vốn 51 tỷ đồng đã sẵn sàng, hàng nghìn ha rừng đã bén rễ phủ xanh những khoảnh đồi trọc, nhưng các hộ dân ở nhiều địa phương vẫn đang từng ngày chờ đợi tiền hỗ trợ. "Nút thắt" phát sinh sau quá trình sắp xếp địa giới hành chính và thay đổi mô hình quản lý khiến chính sách chưa thể đi vào cuộc sống.

Ngân hàng Nhà nước Việt Nam Chi nhánh Khu vực 4 triển khai nhiệm vụ năm 2026 trên địa bàn tỉnh Lào Cai

Ngân hàng Nhà nước Việt Nam Chi nhánh Khu vực 4 triển khai nhiệm vụ năm 2026 trên địa bàn tỉnh Lào Cai

Chiều 12/1, Ngân hàng Nhà nước Việt Nam Chi nhánh khu vực 4 tổ chức Hội nghị đánh giá kết quả hoạt động ngân hàng năm 2025; triển khai phương hướng, nhiệm vụ năm 2026 trên địa bàn tỉnh Lào Cai. Dự và chỉ đạo hội nghị có đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh; đồng chí Ngô Hạnh Phúc - Ủy viên Ban Thường vụ Tỉnh ủy, Phó Chủ tịch UBND tỉnh.

Chung tay chữa lành “vết thương”

Chung tay chữa lành “vết thương”

Sau những cơn bão, khi dòng nước xiết đã rút, những dải mây xám rời đi, thôn Tả Trang, xã Bát Xát dần trở lại nhịp sinh hoạt thường ngày. Thế nhưng, trên tuyến đường nhỏ dẫn vào thôn, dấu vết của thiên tai vẫn còn hiện hữu. Mặt đường bê tông bị xé toạc, đất đá trôi đi, để lộ những vết rãnh sâu hoắm, như “vết thương” chưa kịp liền da.

Triệu phú hoa đào ở Cán Chư Sử

Triệu phú hoa đào ở Cán Chư Sử

Ở thôn Cán Chư Sử (xã Si Ma Cai) có một nông dân người Mông đã tận dụng tốt lợi thế khí hậu, thổ nhưỡng và vẻ đẹp của giống đào bản địa để trồng đào cảnh bán, đem lại thu nhập 150 triệu đồng đến 200 triệu đồng mỗi năm. Đó là ông Giàng A Pùa, được người dân thôn Cán Chư Sử quen gọi với cái tên “triệu phú hoa đào”.

Ước mong Suối Chải

Ước mong Suối Chải

Thôn Suối Chải, xã Bát Xát ở độ cao khoảng 1.500 m so với mực nước biển, hiện ra như một chấm nhỏ giữa đại ngàn trùng điệp. Tuyến đường độc đạo dẫn lên thôn uốn lượn theo triền núi, hẹp và dốc, có đoạn chỉ vừa hai xe máy tránh nhau. Một bên là vách đá dựng đứng, một bên là vực sâu hun hút. Đoạn đường ấy chính là “nút thắt” lớn nhất, kìm hãm bước phát triển của Suối Chải suốt nhiều năm qua.

Kinh tế vững vàng, tạo đà vào kỷ nguyên mới

Kinh tế vững vàng, tạo đà vào kỷ nguyên mới

Nhiệm kỳ Đại hội XIII của Đảng khép lại trong một bối cảnh đặc biệt: thế giới đầy biến động, trong nước đối diện với vô vàn khó khăn, nhưng kinh tế Việt Nam vẫn giữ được ổn định vĩ mô, duy trì tăng trưởng, củng cố niềm tin xã hội và nâng cao vị thế quốc gia.

Yêu cầu truy xuất triệu hồi sản phẩm đồ hộp Hạ Long không đảm bảo an toàn

Yêu cầu truy xuất triệu hồi sản phẩm đồ hộp Hạ Long không đảm bảo an toàn

Trước sự việc Công an thành phố Hải Phòng phát hiện đường dây thu mua thịt lợn bị nhiễm bệnh dịch tả châu Phi và khởi tố vụ án để điều tra hành vi vi phạm các điều kiện về an toàn thực phẩm tại Công ty cổ phần đồ hộp Hạ Long, Cục Chất lượng, Chế biến và Phát triển thị trường (Bộ Nông nghiệp và Môi trường) đã có văn bản đề nghị Sở Nông nghiệp và Môi trường thành phố Hải Phòng chủ động, khẩn trương báo cáo cung cấp thông tin liên quan đến vụ việc.

Châu Quế phát triển kinh tế rừng

Châu Quế phát triển kinh tế rừng

Xác định lâm nghiệp có vai trò quan trọng trong phát triển kinh tế - xã hội địa phương, xã Châu Quế đã vận động Nhân dân đẩy mạnh hoạt động trồng, chăm sóc, bảo vệ rừng; gắn chế biến, tiêu thụ với quản lý rừng bền vững. 

"Vượt" rét sản xuất vụ xuân

"Vượt" rét sản xuất vụ xuân

Theo kế hoạch, vụ Đông Xuân năm 2026, toàn tỉnh gieo cấy 29.000 ha lúa, phấn đấu sản lượng đạt 170.000 tấn. Nhằm thực hiện thắng lợi mục tiêu đã đề ra, ngành nông nghiệp và môi trường đã chủ động xây dựng kế hoạch sản xuất cũng như ban hành văn bản hướng dẫn lịch thời vụ và cơ cấu giống cây trồng vụ Đông Xuân 2025 - 2026.

Niềm vui ở khu tái định cư Sài Lương

Niềm vui ở khu tái định cư Sài Lương

Sau nhiều năm sống trong nỗi lo thường trực về sạt lở đất, lũ quét và thiếu hạ tầng thiết yếu, hôm nay, cuộc sống của người dân khu tái định cư Sài Lương, xã Gia Hội đã bước sang một trang mới với những điều tốt đẹp hơn.

Hiệu quả kép từ dự án hỗ trợ sinh kế

Hiệu quả kép từ dự án hỗ trợ sinh kế

Sau gần hai năm triển khai, dự án “Hỗ trợ mô hình sinh kế và nâng cao năng lực tiếp cận chuỗi giá trị nông nghiệp cho cộng đồng nhằm góp phần tăng thu nhập và bình đẳng giới tại 3 xã của tỉnh Lào Cai” do Tổ chức Oxfam tại Việt Nam tài trợ, Trung tâm Hỗ trợ phát triển bền vững cộng đồng các dân tộc miền núi (SUDECOM) thực hiện, đã cho thấy hiệu quả rõ nét. Dự án không chỉ góp phần cải thiện sinh kế, tăng thu nhập cho người dân mà còn thúc đẩy bình đẳng giới tại địa phương.

Thành lập 7 đoàn công tác kiểm tra, bình ổn thị trường dịp Tết Bính Ngọ 2026

Thành lập 7 đoàn công tác kiểm tra, bình ổn thị trường dịp Tết Bính Ngọ 2026

Cục Quản lý và Phát triển thị trường trong nước, Bộ Công Thương vừa ký ban hành Quyết định số 07 về việc thành lập các đoàn công tác kiểm tra, đôn đốc và hướng dẫn công tác phòng, chống buôn lậu, gian lận thương mại và hàng giả; bảo đảm cân đối cung cầu, bình ổn thị trường tại một số tỉnh, TP đợt Tết Bính Ngọ.

Bát Xát: Người dân đồng thuận di chuyển mộ bàn giao mặt bằng phục vụ dự án đường sắt

Bát Xát: Người dân đồng thuận di chuyển mộ bàn giao mặt bằng phục vụ dự án đường sắt

Dự án San gạt mặt bằng và hạ tầng kỹ thuật khu Bản Qua là một trong hai dự án trọng điểm triển khai tại xã Bát Xát nhằm phục vụ xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng. Theo kết quả rà soát, kiểm đếm và lập hồ sơ thực tế, trong phạm vi giải phóng mặt bằng của dự án hiện có khoảng hơn 210 ngôi mộ của các gia đình cần thực hiện di dời.

fb yt zl tw