Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tuyến đường tạo “đòn bẩy” phát triển kinh tế cho các xã Bảo Thắng, Xuân Quang

Tuyến đường tạo “đòn bẩy” phát triển kinh tế cho các xã Bảo Thắng, Xuân Quang

Tuyến đường kết nối từ cầu Làng Giàng đến Quốc lộ 70, chạy qua 5 thôn của xã Bảo Thắng và 7 thôn của xã Xuân Quang, đang từng ngày phát huy hiệu quả rõ rệt, trở thành động lực quan trọng thúc đẩy phát triển kinh tế - xã hội của khu vực. Với hơn 2.200 hộ dân trong vùng được hưởng lợi trực tiếp, tuyến đường không chỉ đơn thuần là công trình giao thông, mà còn là “đòn bẩy” chiến lược, mở ra hướng phát triển kinh tế bền vững cho địa phương.

[Infographic] Mức xử phạt vi phạm hành chính về thuế đối với tổ chức, cá nhân từ tháng 1/2026

[Infographic] Mức xử phạt vi phạm hành chính về thuế đối với tổ chức, cá nhân từ tháng 1/2026

Nghị định 310/2025/NĐ-CP của Chính phủ sửa đổi, bổ sung một số điều của Nghị định số 125/2020/NĐ-CP quy định xử phạt vi phạm hành chính về thuế, hóa đơn có hiệu lực từ 16/1/2026. Tổ chức, cá nhân cần nắm rõ các thay đổi này để tuân thủ đúng quy định, tránh bị xử phạt khi áp dụng quy định mới.

Tiềm năng và hướng đi bền vững từ du lịch chinh phục đỉnh Lùng Cúng

Tiềm năng và hướng đi bền vững từ du lịch chinh phục đỉnh Lùng Cúng

Nằm ở độ cao gần 2.913 mét so với mực nước biển, đỉnh Lùng Cúng, xã Nậm Có, tỉnh Lào Cai, sở hữu khí hậu trong lành, cảnh quan thiên nhiên hùng vĩ cùng những giá trị văn hóa đặc sắc của đồng bào Mông. Những năm gần đây, cùng với xu hướng chinh phục các đỉnh núi cao, du lịch trải nghiệm gắn với khám phá bản sắc vùng cao tại Lùng Cúng đang dần trở thành điểm đến hấp dẫn của nhiều du khách trong và ngoài nước.

Siết chặt quản lý, bảo đảm ổn định thị trường trước Tết Nguyên đán

Siết chặt quản lý, bảo đảm ổn định thị trường trước Tết Nguyên đán

Những tháng cuối năm và thời điểm trước Tết Nguyên đán luôn là giai đoạn cao điểm về lưu thông, tiêu dùng hàng hóa và hoạt động xuất, nhập khẩu. Theo quy luật, đây cũng là thời điểm các hành vi buôn lậu, gian lận thương mại, sản xuất, kinh doanh hàng giả, vi phạm an toàn thực phẩm và vận chuyển trái phép hàng hóa qua biên giới có xu hướng gia tăng với phương thức, thủ đoạn ngày càng tinh vi, phức tạp.

Lào Cai ban hành chỉ thị về việc tổ chức thực hiện tổng điều tra kinh tế năm 2026 trên địa bàn tỉnh

Lào Cai ban hành chỉ thị về việc tổ chức thực hiện tổng điều tra kinh tế năm 2026 trên địa bàn tỉnh

Nhằm thực hiện hiệu quả Quyết định số 2837/QĐ-BTC ngày 18/8/2025 của Bộ trưởng Bộ Tài chính về việc tổ chức tổng điều tra kinh tế năm 2026; Quyết định số 3100/QĐ-BTC ngày 04/9/2025 của Bộ trưởng Bộ Tài chính về việc ban hành Phương án tổng điều tra kinh tế năm 2026, UBND tỉnh Lào Cai ban hành chỉ thị 06/CT-UBND về việc tổ chức thực hiện tổng điều tra kinh tế năm 2026 trên địa bàn tỉnh.

Cần giải bài toán thiếu nước tại Pha Long

Cần giải bài toán thiếu nước tại Pha Long

Tình trạng thiếu nước sinh hoạt kéo dài suốt mùa khô, trở thành nỗi trăn trở của người dân xã vùng cao biên giới Pha Long. Trước áp lực nhu cầu ngày càng tăng, một giải pháp căn cơ với dự án dẫn nước quy mô lớn đang là mong mỏi từng ngày của chính quyền và người dân nơi đây.

Bát Xát: Mở ra hướng đi mới từ cây bí xanh thơm

Bát Xát: Mở ra hướng đi mới từ cây bí xanh thơm

Dù mới được đưa vào trồng thử nghiệm nhưng cây bí xanh thơm đã nhanh chóng "bén rễ" và cho năng suất tốt tại xã Bát Xát, mở ra hướng đi mới, hứa hẹn hình thành vùng sản xuất hàng hóa tập trung giúp người dân địa phương nâng cao thu nhập.

Đường hoa ở Bảo Hà

Đường hoa ở Bảo Hà

Xây dựng nông thôn mới không chỉ thể hiện qua những tuyến đường bê tông hay nhà văn hóa khang trang, còn được khẳng định bằng chuyển biến trong nếp nghĩ, cách làm của người dân. Tại xã Bảo Hà, các tuyến đường hoa nông thôn đang dần trở thành điểm nhấn “xanh - sạch - đẹp”, góp phần cải thiện cảnh quan và lan tỏa ý thức giữ gìn môi trường trong cộng đồng.

Viết tiếp ước mơ

Viết tiếp ước mơ

Hoàn cảnh gia đình khó khăn buộc Lồ Seo Chơ, chàng thanh niên dân tộc Mông ở xã Sín Chéng phải gác lại giấc mơ nơi giảng đường Đại học Nông Lâm Thái Nguyên. Thế nhưng, ước mơ khởi nghiệp từ nông nghiệp chưa bao giờ tắt trong anh. Trở về quê hương, từ chính những thiếu thốn của ngày hôm qua, Lồ Seo Chơ đã bền bỉ viết nên câu chuyện khởi nghiệp hôm nay bằng mô hình nuôi gà đen bản địa nơi vùng đất quanh năm mù sương Nàn Sín.

Kiến tạo những vùng quê mới

Chương trình mục tiêu quốc gia xây dựng nông thôn mới đã và đang làm thay đổi diện mạo nông thôn Lào Cai, từng bước kiến tạo những vùng quê mới - nơi người dân thực sự là chủ thể của sự đổi thay và trực tiếp thụ hưởng thành quả từ quá trình phát triển.

fb yt zl tw