Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Những đảng viên tiên phong trong phát triển kinh tế ở Hưng Khánh

Những đảng viên tiên phong trong phát triển kinh tế ở Hưng Khánh

Tận dụng lợi thế địa phương, nhiều đảng viên ở xã Hưng Khánh đã tiên phong phát triển kinh tế hộ gia đình thông qua trồng quế, tre măng bát độ, cây dược liệu, cây ăn quả có múi và chăn nuôi gia súc, gia cầm. Từ những mô hình hiệu quả này, phong trào thi đua phát triển kinh tế lan tỏa trong Nhân dân, góp phần xây dựng địa phương ngày càng phát triển.

Cảm Nhân triển khai hiệu quả Chương trình mục tiêu quốc gia

Cảm Nhân triển khai hiệu quả Chương trình mục tiêu quốc gia

Năm 2025 đánh dấu giai đoạn đặc biệt đối với xã Cảm Nhân khi địa phương chính thức vận hành theo mô hình mới sau hợp nhất đơn vị hành chính. Trong bối cảnh bộ máy còn đang từng bước ổn định, việc triển khai Chương trình mục tiêu quốc gia phát triển kinh tế - xã hội vùng đồng bào dân tộc thiểu số và miền núi vẫn được duy trì đồng bộ, qua đó từng bước tạo chuyển biến rõ nét trong đời sống người dân.

Xuất khẩu gạo tăng 5% về lượng, giá bình quân giảm mạnh

Xuất khẩu gạo tăng 5% về lượng, giá bình quân giảm mạnh

Bộ Nông nghiệp và Môi trường cho biết, khối lượng xuất khẩu gạo tháng 2/2026 ước đạt 640 nghìn tấn, với giá trị 289,4 triệu USD. Tính chung 2 tháng đầu năm 2026, xuất khẩu gạo đạt 1,3 triệu tấn với 599,3 triệu USD, tăng 5% về khối lượng nhưng giảm 11,2% về giá trị so với cùng kỳ năm trước.

Tháo gỡ vướng mắc các dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng tại xã Bảo Hà

Tháo gỡ vướng mắc các dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng tại xã Bảo Hà

Xã Bảo Hà được quy hoạch xây dựng 9 khu tái định cư để sắp xếp các hộ dân ảnh hưởng bởi Dự án đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng, tuy nhiên đến nay mới triển khai được 3 khu, còn 6 khu chưa khởi công do nhiều nguyên nhân. Nếu không được tháo gỡ kịp thời sẽ ảnh hưởng đến tiến độ giải phóng mặt bằng (GPMB) của dự án.

Tạo động lực phát triển bền vững

Tạo động lực phát triển bền vững

Trong bối cảnh đẩy mạnh công nghiệp hóa – hiện đại hóa và hội nhập, công tác quy hoạch đô thị được tỉnh Lào Cai xác định là nhiệm vụ quan trọng, mang tính chiến lược nhằm tạo nền tảng cho kinh tế - xã hội phát triển nhanh và bền vững.

Người chăn nuôi chủ động tái đàn sau Tết

Người chăn nuôi chủ động tái đàn sau Tết

Sau cao điểm tiêu thụ dịp Tết Nguyên đán Bính Ngọ 2026, hoạt động chăn nuôi bước vào giai đoạn tái đàn với yêu cầu thận trọng và kiểm soát chặt chẽ dịch bệnh. Đây là yếu tố then chốt để bảo đảm nguồn cung thực phẩm và giữ vững đà tăng trưởng của ngành trong năm 2026.

Quốc tế đánh giá: Việt Nam tiếp tục nổi lên như một động lực tăng trưởng mới

Quốc tế đánh giá: Việt Nam tiếp tục nổi lên như một động lực tăng trưởng mới

Trong bối cảnh chuỗi cung ứng và cấu trúc thương mại toàn cầu đang thay đổi, nhiều nghiên cứu quốc tế cho thấy các nền kinh tế châu Á tiếp tục nổi lên như động lực tăng trưởng. Việt Nam được chú ý nhờ tốc độ phát triển nhanh, hội nhập sâu rộng và chuyển dịch mạnh mẽ cơ cấu sản xuất.

Mở lối thoát nghèo cho phụ nữ vùng cao Sa Pa

Mở lối thoát nghèo cho phụ nữ vùng cao Sa Pa

Những năm gần đây, phường Sa Pa đã triển khai nhiều hoạt động thiết thực nhằm hỗ trợ phụ nữ hoàn cảnh khó khăn vươn lên thoát nghèo. Các mô hình đào tạo nghề, hỗ trợ sản xuất, chăn nuôi không chỉ mang lại thu nhập ổn định cho chị em mà còn tạo nền tảng phát triển bền vững, vươn lên thoát nghèo.

Sôi động thị trường quà tặng 08/3

Sôi động thị trường quà tặng 08/3

Những ngày đầu tháng 3, thị trường quà tặng dành cho phái đẹp trên địa bàn tỉnh trở nên nhộn nhịp. Tại các cửa hàng hoa, trang sức, mỹ phẩm hay quà lưu niệm, nhiều sản phẩm được bày bán đa dạng về mẫu mã, kiểu dáng và mức giá, đáp ứng nhu cầu mua sắm dịp Ngày Quốc tế Phụ nữ 08/3. Không chỉ là món quà vật chất, đó còn là cách để nhiều người bày tỏ tình cảm và sự trân trọng với những người phụ nữ mà mình quý mến, thương yêu.

Giá xăng dầu tăng mạnh, nhiều lĩnh vực kinh tế chịu áp lực

Giá xăng dầu tăng mạnh, nhiều lĩnh vực kinh tế chịu áp lực

Chiều 07/3, giá xăng dầu trong nước đồng loạt tăng mạnh. Giá xăng, dầu liên tục tăng mạnh tạo ra những tác động dây chuyền tới nhiều lĩnh vực của đời sống kinh tế - xã hội. Từ vận tải, logistics, phân phối hàng hóa đến chi tiêu của người dân đều chịu áp lực khi chi phí nhiên liệu tăng mạnh.

fb yt zl tw