Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Xây dựng những miền quê hạnh phúc

Xây dựng những miền quê hạnh phúc

Khắc ghi lời dạy của Chủ tịch Hồ Chí Minh: “Nếu nước độc lập mà dân không hưởng hạnh phúc tự do, thì độc lập cũng chẳng có nghĩa lý gì”, sau cuộc hợp nhất lịch sử, tỉnh Lào Cai chọn triết lý phát triển nhân văn, lấy “chỉ số hạnh phúc” làm thước đo cao nhất cho mọi thành quả phát triển.

Tăng tốc thông tuyến đoạn nối Nghĩa Lộ với cao tốc Nội Bài - Lào Cai trước ngày 30/6

Tăng tốc thông tuyến đoạn nối Nghĩa Lộ với cao tốc Nội Bài - Lào Cai trước ngày 30/6

Những ngày này các hạng mục cuối cùng của Dự án Kết nối giao thông các tỉnh miền núi phía Bắc tại đoạn nối thị xã Nghĩa Lộ (cũ) với nút giao IC14 cao tốc Nội Bài – Lào Cai đang được chủ đầu tư phối hợp cùng với nhà thầu thi công tăng tốc về đích, đảm bảo thông tuyến trước 30/6.

Triển khai chính sách chi trả dịch vụ môi trường rừng gắn với công tác quản lý, bảo vệ rừng

KHU VỰC BẢO YÊN: Triển khai chính sách chi trả dịch vụ môi trường rừng gắn với công tác quản lý, bảo vệ rừng

Sáng 08/6, tại Hội trường Hạt Kiểm lâm khu vực Bảo Yên (xã Bảo Yên), Quỹ Bảo vệ và Phát triển rừng tỉnh Lào Cai phối hợp với Chi cục Kiểm lâm tỉnh tổ chức Hội nghị triển khai thực hiện chính sách chi trả dịch vụ môi trường rừng (DVMTR) gắn với công tác quản lý, bảo vệ rừng đối với UBND các xã, phường sau khi thực hiện mô hình chính quyền địa phương hai cấp.

Cảnh báo mưa lớn diện rộng: Chủ động bảo đảm an toàn công trình thủy lợi tại Lào Cai và khu vực miền núi phía Bắc

Cảnh báo mưa lớn diện rộng: Chủ động bảo đảm an toàn công trình thủy lợi tại Lào Cai và khu vực miền núi phía Bắc

Trước diễn biến thời tiết phức tạp, ngày 8/6/2026, Cục Quản lý và Xây dựng công trình thủy lợi (Bộ Nông nghiệp và Môi trường) đã ban hành công điện yêu cầu các địa phương, đơn vị liên quan chủ động triển khai biện pháp bảo đảm an toàn công trình thủy lợi, hồ chứa nước và hệ thống cấp nước sạch nông thôn, nhằm ứng phó với đợt mưa lớn diện rộng tại khu vực Tây Bắc Bộ và Bắc Trung Bộ.

"Đánh thức" tiềm năng kinh tế dưới tán rừng

"Đánh thức" tiềm năng kinh tế dưới tán rừng

Lào Cai có lợi thế lớn về tài nguyên rừng, đa dạng sinh học cùng nhiều sản vật bản địa như mật ong, trà khôi nhung, cây dược liệu, quế, măng, sơn tra... Thông qua chương trình OCOP, các sản phẩm gắn với rừng đang từng bước được chuẩn hóa chất lượng, xây dựng thương hiệu, mở rộng thị trường, góp phần tạo sinh kế bền vững và nâng cao thu nhập cho người dân vùng cao.

Giá điện tăng 15% sau 5 năm

Giá điện tăng 15% sau 5 năm

Sau nhiều năm giữ ổn định, giá bán lẻ điện bình quân tại Việt Nam đã liên tục được điều chỉnh tăng trong giai đoạn 2023 - 2025, góp phần cải thiện đáng kể kết quả kinh doanh của Tập đoàn Điện lực Việt Nam (EVN).

Gỡ “nút thắt” giao thông liên vùng ở thượng nguồn sông Chảy

Gỡ “nút thắt” giao thông liên vùng ở thượng nguồn sông Chảy

Vùng thượng nguồn sông Chảy với địa hình núi cao, chia cắt mạnh khiến kết nối giao thông giữa các xã vùng cao khu vực Bắc Hà, Mường Khương, Si Ma Cai gặp nhiều khó khăn. Thiếu các tuyến giao thông liên vùng đồng bộ nên tiềm năng về sản xuất nông nghiệp, du lịch, giao thương..., chưa được phát huy.

Xóa đường đất quyết tâm từ Kế hoạch 213

Xóa đường đất quyết tâm từ Kế hoạch 213

Bằng việc tập trung phân bổ gần 9.000 tỷ đồng vốn ngân sách và áp dụng nhất quán cơ chế “Nhân dân làm, Nhà nước hỗ trợ”, tỉnh Lào Cai đặt mục tiêu giai đoạn 2026 - 2030 có trên 80% hệ thống đường giao thông tại các xã được nhựa hóa, bê tông hóa,  tạo đòn bẩy giúp đồng bào vùng cao thay đổi phương thức sản xuất, chuyển dịch từ tự cung tự cấp sang kinh tế hàng hóa và ổn định cuộc sống ngay tại quê hương.

Nông dân Lào Cai gửi gắm khát vọng phát triển vào Đại hội IX Hội Nông dân Việt Nam

Nông dân Lào Cai gửi gắm khát vọng phát triển vào Đại hội IX Hội Nông dân Việt Nam

Từ những trang trại doanh thu hàng tỷ đồng đến các hợp tác xã mạnh dạn chuyển đổi số, cán bộ, hội viên nông dân Lào Cai đang lập nhiều thành tích thiết thực hướng tới Đại hội đại biểu toàn quốc Hội Nông dân Việt Nam lần thứ IX, đồng thời gửi gắm nhiều kỳ vọng vào những chủ trương mới cho nông nghiệp, nông dân và nông thôn.

fb yt zl tw