Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đoàn kết tạo sức mạnh ở thôn vùng cao

Đoàn kết tạo sức mạnh ở thôn vùng cao

Thôn Lao Chải 1, xã Si Ma Cai nằm dọc quốc lộ 4E với 100% đồng bào Mông sinh sống. Cuộc sống của các hộ dân trong thôn từng khó khăn là thế nhưng nhờ sự năng động dám nghĩ dám làm cùng ngọn cờ đoàn kết tập hợp cộng đồng, Lao Chải 1 hôm nay đã đổi khác.

 Năng lượng mặt trời - giải pháp xanh cho sản xuất chế biến

Năng lượng mặt trời - giải pháp xanh cho sản xuất chế biến

Trong bối cảnh chi phí năng lượng tăng cao và yêu cầu sản xuất bền vững ngày càng cấp thiết, việc tận dụng năng lượng mặt trời đang mở ra hướng đi mới cho các hợp tác xã, doanh nghiệp và hộ chế biến nông sản ở Lào Cai. Giải pháp này vừa giúp tiết kiệm chi phí sản xuất, giảm áp lực lên hệ thống điện lưới, vừa góp phần bảo vệ môi trường, hạn chế phát thải khí nhà kính và thúc đẩy mô hình sản xuất xanh.

"Bộ đệm" chính sách trước cú sốc năng lượng

"Bộ đệm" chính sách trước cú sốc năng lượng

Trong bối cảnh thị trường năng lượng thế giới biến động mạnh và nhu cầu năng lượng trong nước tiếp tục gia tăng, việc sử dụng linh hoạt các công cụ tài chính đang trở thành giải pháp quan trọng nhằm giữ ổn định thị trường và củng cố an ninh năng lượng quốc gia, tạo “bộ đệm” chính sách cho nền kinh tế trước các cú sốc năng lượng.

Tư vấn, hỗ trợ pháp lý cho phụ nữ khởi nghiệp, phát triển kinh doanh

Tư vấn, hỗ trợ pháp lý cho phụ nữ khởi nghiệp, phát triển kinh doanh

Hội nghị tập huấn là hoạt động phối hợp đầu tiên giữa Bộ Tư pháp và Trung ương Hội Liên hiệp Phụ nữ Việt Nam trong triển khai Đề án của Chính phủ "Hỗ trợ phụ nữ khởi nghiệp giai đoạn 2026-2035" (Đề án 2415) và Chương trình hỗ trợ pháp lý liên ngành cho doanh nghiệp nhỏ và vừa, hộ kinh doanh giai đoạn 2026-2030.

Bộ Xây dựng triển khai tiết kiệm năng lượng và giao thông điện

Bộ Xây dựng triển khai tiết kiệm năng lượng và giao thông điện

Bộ Xây dựng vừa ban hành văn bản yêu cầu các đơn vị trực thuộc khẩn trương triển khai Chỉ thị số 09/CT-TTg của Thủ tướng Chính phủ về tăng cường tiết kiệm năng lượng, thúc đẩy chuyển dịch năng lượng và phát triển phương tiện giao thông điện. Mục tiêu hướng tới sử dụng năng lượng tiết kiệm, hiệu quả.

"Bám" đồng ruộng bảo vệ cây trồng vụ xuân

"Bám" đồng ruộng bảo vệ cây trồng vụ xuân

Cây trồng vụ xuân năm 2026 đang bước vào giai đoạn sinh trưởng quan trọng, đặc biệt với cây lúa, loại cây trồng chủ lực trong cơ cấu sản xuất nông nghiệp của nhiều địa phương. Tuy nhiên, thời tiết diễn biến bất lợi với nền nhiệt dao động thấp, độ ẩm cao, mưa rải rác kéo dài gây nguy cơ phát sinh và lây lan sinh vật gây hại.

Kinh tế tư nhân mở ra yêu cầu bứt phá thực chất

Kinh tế tư nhân mở ra yêu cầu bứt phá thực chất

Tại hội nghị đánh giá kết quả và triển khai nhiệm vụ thực hiện Nghị quyết số 68-NQ/TW của Bộ Chính trị về phát triển kinh tế tư nhân diễn ra vào tháng 1/2026, Chủ tịch UBND tỉnh Nguyễn Tuấn Anh nhấn mạnh: Nghị quyết 68 có ý nghĩa đặc biệt quan trọng đối với tăng trưởng kinh tế của tỉnh, đòi hỏi quyết tâm chính trị cao và hành động đồng bộ của cả hệ thống.

Khơi thông các động lực tăng trưởng kinh tế

Khơi thông các động lực tăng trưởng kinh tế

Những tháng đầu năm 2026, kinh tế Lào Cai tiếp tục duy trì đà tăng trưởng tích cực, với nhiều chỉ tiêu đạt kết quả khả quan. Dự ước tốc độ tăng trưởng GRDP quý I đạt khoảng 9%, tiệm cận kịch bản đề ra. Tuy nhiên, phía sau những con số tích cực đó vẫn còn không ít “điểm nghẽn” cần được tháo gỡ, đặt ra yêu cầu phải khơi thông các động lực tăng trưởng, tạo dư địa cho các quý tiếp theo.

"Lợi ích kép" từ sử dụng điện thông minh

"Lợi ích kép" từ sử dụng điện thông minh

Trong bối cảnh tình hình địa chính trị thế giới diễn biến phức tạp, nguồn cung nhiên liệu bị ảnh hưởng, nhu cầu sử dụng điện tiếp tục gia tăng, cùng với thời tiết cực đoan khó dự báo, áp lực bảo đảm điện cho phát triển kinh tế - xã hội ngày càng lớn.

Hiệu quả mô hình nuôi cá tầm ở Phúc Lợi

Hiệu quả mô hình nuôi cá tầm ở Phúc Lợi

Tận dụng lợi thế nguồn nước sạch, mát từ đầu nguồn và điều kiện khí hậu phù hợp, mô hình nuôi cá tầm của Hợp tác xã VTP tại thôn Nà Hiên, xã Phúc Lợi, tỉnh Lào Cai đang mang lại hiệu quả kinh tế rõ nét, mở ra hướng phát triển mới cho sản xuất nông nghiệp địa phương.

fb yt zl tw