Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tháo gỡ khó khăn giải phóng mặt bằng dự án kế nối giao thông miền núi phía Bắc

Tháo gỡ khó khăn giải phóng mặt bằng dự án kế nối giao thông miền núi phía Bắc

Dự án kết nối giao thông các tỉnh miền núi phía Bắc với tổng mức đầu tư hơn 6.018 tỷ đồng, là công trình hạ tầng chiến lược, không chỉ mở ra cơ hội phát triển kinh tế - xã hội mà còn hoàn thiện mạng lưới giao thông vùng Tây Bắc, tăng cường năng lực phòng thủ - an ninh và liên kết vùng.

Xót xa lúa, gạo ở Phú Yên mọc mầm, mốc meo sau trận lũ lịch sử

Xót xa lúa, gạo ở Phú Yên mọc mầm, mốc meo sau trận lũ lịch sử

Sau trận lũ lịch sử ở phía Đông tỉnh Đắk Lắk (tỉnh Phú Yên cũ), hàng nghìn tấn lúa, gạo của người dân bị ngâm nước nhiều ngày, mọc mầm, mốc trắng và hư hỏng. Bà con tuyệt vọng mang lúa ra phơi vớt vát, trong khi các lời kêu gọi “giải cứu lúa vùng lũ” đang lan tỏa trên mạng nhằm hỗ trợ người dân vượt qua khó khăn.

Sa Pa nâng cấp gần 50 tuyến đường ngõ xóm trong 100 ngày

Sa Pa nâng cấp gần 50 tuyến đường ngõ xóm trong 100 ngày

Từ trung tuần tháng 11 năm 2025, phường Sa Pa bắt đầu thực hiện chiến dịch 100 ngày nâng cấp gần 50 tuyến đường ngõ xóm và đường trong tổ dân phố - những tuyến giao thông ảnh hưởng trực tiếp đến cuộc sống của người dân cũng như trải nghiệm của khách du lịch.

Lào Cai rà soát tiến độ điều chỉnh Quy hoạch tỉnh thời kỳ 2021 - 2030, tầm nhìn đến năm 2050

Lào Cai rà soát tiến độ điều chỉnh Quy hoạch tỉnh thời kỳ 2021 - 2030, tầm nhìn đến năm 2050

Sáng 26/11, Ban Chỉ đạo lập điều chỉnh Quy hoạch tỉnh Lào Cai tổ chức Hội nghị rà soát, đánh giá tiến độ và cho ý kiến hoàn thiện hồ sơ điều chỉnh Quy hoạch tỉnh thời kỳ 2021 - 2030, tầm nhìn đến năm 2050. Đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh chủ trì hội nghị. 

Khẩn trương hỗ trợ khách hàng khắc phục hậu quả thiên tai bão lũ

Khẩn trương hỗ trợ khách hàng khắc phục hậu quả thiên tai bão lũ

Ngân hàng Nhà nước Việt Nam vừa có công văn số 10328/NHNN-TD yêu cầu các tổ chức tín dụng, chi nhánh ngân hàng nước ngoài (gọi tắt là các tổ chức tín dụng) và Ngân hàng Nhà nước chi nhánh tại các Khu vực (8, 9, 10, 11) triển khai các giải pháp hỗ trợ khách hàng khắc phục hậu quả thiên tai tại khu vực miền trung sau bão số 12,13.

Dành nguồn để thực hiện điều chỉnh tiền lương, lương hưu, phụ cấp

Dành nguồn để thực hiện điều chỉnh tiền lương, lương hưu, phụ cấp

Chủ tịch Quốc hội Trần Thanh Mẫn đã ký chứng thực Nghị quyết số 246 vừa được Quốc hội thông qua về phân bổ ngân sách trung ương năm 2026. Trong đó, nghị quyết nêu rõ việc dành nguồn để thực hiện điều chỉnh tiền lương, lương hưu, trợ cấp bảo hiểm xã hội, trợ cấp hàng tháng, trợ cấp ưu đãi người có công.

Cơ hội lớn cho nông sản Việt xuất khẩu

Hội chợ Thương mại Quốc tế Việt - Trung 2025 khép lại: Cơ hội lớn cho nông sản Việt xuất khẩu

Hội chợ Thương mại Quốc tế Việt – Trung 2025 đã khép lại, nhưng những dấu ấn và tác động tích cực của sự kiện vẫn lan tỏa mạnh mẽ trong cộng đồng doanh nghiệp và người nông dân Việt Nam. Không chỉ là một hội chợ xúc tiến thương mại quy mô lớn, sự kiện còn trở thành điểm hội tụ của hàng trăm đơn vị sản xuất, chế biến và xuất khẩu nông sản đến từ khắp các vùng miền.

Mùa quế dóc vỏ

Mùa quế dóc vỏ

Những ngày này, người dân tại các vùng trồng quế trong tỉnh đang tất bật vào mùa thu hoạch vỏ quế cuối năm. Cây quế vừa tăng thu nhập cho nhiều gia đình vừa cung cấp nguyên liệu cho cơ sở chế biến, sản xuất đồ gỗ và các nhà máy chưng cất tinh dầu trên địa bàn.

fb yt zl tw