Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Khởi nghiệp tại quê hương từ công nghệ số

Khởi nghiệp tại quê hương từ công nghệ số

Nếu nhiều bạn trẻ ở thành phố khởi nghiệp với những mô hình kinh doanh hiện đại, thì không ít bạn trẻ dân tộc thiểu số lại chọn hành trình khởi nghiệp ngay tại bản làng của mình. Họ tận dụng sức mạnh của công nghệ số để lan tỏa nét văn hóa bản địa, đồng thời đưa những sản vật vùng cao đến với thị trường và người tiêu dùng ở khắp mọi nơi.

Ông Nguyễn Văn Vinh (bên trái) tranh thủ lên nương từ sớm để thu hái chè.

Hưng Khánh phát triển sản phẩm chè hữu cơ

Giữa ngày thu mát lành, khi cơn mưa nhẹ rải xuống khắp triền đồi cũng là lúc những nương chè tại xã Hưng Khánh căng tràn sức sống. Búp chè non xanh mướt, tỏa hương dịu nhẹ như báo hiệu một vụ mùa bội thu. Với người dân nơi đây, chè không chỉ là cây trồng chủ lực mà còn là “linh hồn” của vùng đất, gắn bó qua nhiều thế hệ, góp phần làm nên thương hiệu nông sản đặc trưng.

Các cơ sở lưu trú sẵn sàng đón khách dịp Festival Sông Hồng

Các cơ sở lưu trú sẵn sàng đón khách dịp Festival Sông Hồng

Từ ngày 18 - 24/11/2025, tỉnh Lào Cai sẽ tổ chức Festival Sông Hồng năm 2025 - sự kiện quan trọng mang tầm cỡ quốc gia và quốc tế. Dự kiến, trong thời gian diễn ra Festival Sông Hồng, lượng khách du lịch đến Lào Cai sẽ tăng mạnh. Để đáp ứng nhu cầu ngày càng cao, các cơ sở lưu trú, dịch vụ du lịch trên địa bàn tỉnh tích cực triển khai nhiều biện pháp nhằm nâng cao chất lượng phục vụ.

Bàn giao hồ sơ cọc giải phóng mặt bằng thuộc Dự án Đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng

Bàn giao hồ sơ cọc giải phóng mặt bằng thuộc Dự án Đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng

Ngày 13/11, Ban Quản lý dự án Đường sắt (Bộ Xây dựng), Sở Xây dựng tỉnh Lào Cai và UBND phường Lào Cai đã khảo sát địa điểm khởi công xây dựng ga Lào Cai; bàn giao cọc giải phóng mặt bằng và hồ sơ cọc Dự án thành phần 1: Đầu tư hạ tầng kết nối các ga trên tuyến và quảng trường ga thuộc Dự án Đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng.

Cơ hội cho doanh nghiệp kết nối, mở rộng thị trường

Hội chợ Thương mại Quốc tế Việt – Trung (Lào Cai) lần thứ 25: Cơ hội cho doanh nghiệp kết nối, mở rộng thị trường

Tham gia Hội chợ Thương mại Quốc tế Việt – Trung (Lào Cai) lần thứ 25 năm 2025, các doanh nghiệp trong và ngoài tỉnh đang tất bật chuẩn bị hàng hóa, lên phương án thiết kế gian hàng để trưng bày, giới thiệu, quảng bá và kết nối tiêu thụ sản phẩm.

Nỗ lực đưa các dự án trọng điểm "về đích"

Nỗ lực đưa các dự án trọng điểm "về đích"

Trong bối cảnh chỉ còn chưa đầy hai tháng là kết thúc năm tài chính 2025, tỉnh Lào Cai đang bước vào "cuộc đua nước rút" nhằm giải ngân vốn đầu tư công, đặc biệt là đối với các dự án trọng điểm. Với quyết tâm chính trị cao, sự chỉ đạo quyết liệt và các giải pháp tháo gỡ linh hoạt, tỉnh đang nỗ lực vượt qua hàng loạt "điểm nghẽn" để đưa các công trình "về đích" đúng tiến độ.

Yên Bình khai trương mô hình hợp tác xã nông nghiệp thông minh

Yên Bình khai trương mô hình hợp tác xã nông nghiệp thông minh

Ngày 12/11, UBND xã Yên Bình phối hợp với VNPT Lào Cai tổ chức nghi thức bấm nút khai trương mô hình hợp tác xã nông nghiệp thông minh, trong khuôn khổ Lễ ký kết thỏa thuận hợp tác về chuyển đổi số, giai đoạn 2025 - 2030. Sự kiện đánh dấu bước khởi đầu quan trọng, hướng tới tăng cường hỗ trợ chính quyền số và phát triển kinh tế số tại địa phương.

Xây dựng khu công nghiệp Tằng Loỏng “xanh và sinh thái”

Xây dựng khu công nghiệp Tằng Loỏng “xanh và sinh thái”

Lào Cai đang triển khai các giải pháp nhằm xây dựng khu công nghiệp (KCN) Tằng Loỏng thành KCN sinh thái đầu tiên ở khu vực miền núi phía Bắc. Đây không chỉ là bước chuyển về công nghệ mà còn thể hiện quyết tâm phát triển kinh tế gắn với bảo vệ môi trường theo nghị quyết Đại hội Đảng bộ tỉnh Lào Cai lần thứ I, nhiệm kỳ 2025 - 2030.

“Phao cứu sinh” giúp người dân vực dậy sau thiên tai

“Phao cứu sinh” giúp người dân vực dậy sau thiên tai

Sau hoàn lưu bão số 10 và 11 vừa qua, hàng trăm hộ vay vốn chính sách ở Lào Cai chịu thiệt hại nặng nề. Chi nhánh Ngân hàng Chính sách xã hội tỉnh Lào Cai đã kịp thời triển khai khoanh nợ, giãn nợ và giải ngân khẩn cấp 400 tỷ đồng trong hai tháng, trở thành “phao cứu sinh” giúp không ít hộ dân ổn định cuộc sống, khôi phục sản xuất.

Hội Liên hiệp Phụ nữ tỉnh và Agribank Chi nhánh Lào Cai ký thỏa thuận phối hợp triển khai tín dụng nông nghiệp, nông thôn

Hội Liên hiệp Phụ nữ tỉnh và Agribank Chi nhánh Lào Cai ký thỏa thuận phối hợp triển khai tín dụng nông nghiệp, nông thôn

Sáng 12/11, Hội Liên hiệp Phụ nữ tỉnh Lào Cai và Ngân hàng Nông nghiệp và Phát triển Nông thôn Việt Nam - Chi nhánh Lào Cai (Agribank Chi nhánh Lào Cai) tổ chức lễ ký thỏa thuận liên ngành về tổ chức thực hiện chính sách tín dụng phục vụ phát triển nông nghiệp, nông thôn theo Nghị định số 55/2015/NĐ-CP của Chính phủ.

fb yt zl tw