Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hiện thực hoá Quyết định 13: Khơi dòng vốn hỗ trợ nông dân

Hiện thực hoá Quyết định 13: Khơi dòng vốn hỗ trợ nông dân

Nghị quyết số 21/2025/NQ-HĐND ngày 09/12/2025 của HĐND tỉnh Lào Cai được ban hành với kỳ vọng tạo bước ngoặt chiến lược cho nông nghiệp hàng hóa. Tuy nhiên, để những con số trên văn bản thực sự biến chuyển thành cây giống, vật tư và chuồng trại tại các bản làng, Quyết định số 13/2026/QĐ-UBND chính là “chìa khóa” then chốt cụ thể hóa quy trình thực hiện.

Đổi thay ở Khe Loóng

Đổi thay ở Khe Loóng

Từ một thôn có trên 70% hộ nghèo, đời sống người dân còn nhiều khó khăn, đến nay thôn Khe Loóng, xã Trấn Yên đã vươn lên trở thành điểm sáng trong phát triển kinh tế của địa phương. Những đổi thay rõ nét ấy bắt nguồn từ việc người dân mạnh dạn chuyển đổi cơ cấu cây trồng, thay đổi tư duy trong phát triển sản xuất.

Trải nghiệm "nông trại bốn mùa": Nông sản trở thành sản phẩm du lịch hút khách

Trải nghiệm "nông trại bốn mùa": Nông sản trở thành sản phẩm du lịch hút khách

Vượt ra khỏi khuôn khổ sản xuất nông nghiệp thuần túy, mô hình “nông trại bốn mùa” tại tổ dân phố 21, phường Trung Tâm đang mở ra không gian trải nghiệm mới. Tại đây, du khách có thể trực tiếp thu hoạch và thưởng thức mận đầu vụ ngay tại vườn, tạo điểm nhấn hấp dẫn cho du lịch địa phương dịp lễ 30/4 - 01/5.

Phát triển mô hình trồng rau hữu cơ vì sức khỏe cộng đồng

Phát triển mô hình trồng rau hữu cơ vì sức khỏe cộng đồng

Trong bối cảnh người tiêu dùng ngày càng quan tâm đến chất lượng bữa ăn và sức khỏe, lựa chọn thực phẩm sạch, an toàn đang trở thành ưu tiên hàng đầu. Tại tỉnh Lào Cai, các mô hình trồng rau hữu cơ đang dần khẳng định hiệu quả, mang lại thu nhập ổn định cho người dân, góp phần bảo vệ môi trường và nâng cao chất lượng cuộc sống cộng đồng.

Làm giàu từ mô hình kinh tế tổng hợp ở Lương Thịnh

Làm giàu từ mô hình kinh tế tổng hợp ở Lương Thịnh

Những ngày trung tuần tháng 4, trở lại xã Lương Thịnh, diện mạo nông thôn nơi đây đã có nhiều thay đổi. Những triền đồi phủ xanh quế, tre Bát độ, xen lẫn là các khu chuồng trại, ao nuôi được đầu tư bài bản. Từ sản xuất nhỏ, manh mún, người dân nơi đây đang từng bước chuyển sang phát triển các mô hình kinh tế tổng hợp, mang lại hiệu quả rõ rệt.

Cuộc sống mới ở Hoàng Hạ

Cuộc sống mới ở Hoàng Hạ

Trở lại Hoàng Hạ, chúng tôi không khỏi bất ngờ trước sự đổi thay rõ nét. Những triền đồi xám bạc ngày nào giờ phủ kín màu xanh của cây ăn quả. Những vườn lê nối nhau trải dài, báo hiệu một hướng đi mới cho bản Mông nơi non cao. Giữa biển mây bồng bềnh, một cuộc sống mới đã bắt đầu.

Khai mạc chợ đêm Si Ma Cai

Khai mạc chợ đêm Si Ma Cai

Tối 25/4, tại chợ Xanh Si Ma Cai, lễ khai mạc chợ đêm Si Ma Cai diễn ra trong không khí sôi động, thu hút đông đảo Nhân dân và du khách đến tham quan, trải nghiệm.

Xây dựng thương hiệu từ sự đồng lòng

Xây dựng thương hiệu từ sự đồng lòng

Giữa "lòng chảo" Mường Lò, hạt gạo Séng Cù của tổ dân phố An Sơn (phường Cầu Thia) không chỉ nuôi sống bao thế hệ mà còn trở thành biểu tượng gắn kết cộng đồng. Từ những thửa ruộng vàng óng, bà con đã cùng nhau xây dựng Hợp tác xã, tạo nên thương hiệu gạo Séng Cù đạt chuẩn OCOP 3 sao - mang hương vị đất trời và khát vọng vươn xa.

Giải bài toán cho lối đi tự mở qua đường sắt ở Trấn Yên

Giải bài toán cho lối đi tự mở qua đường sắt ở Trấn Yên

Là địa phương có tuyến đường sắt Hà Nội - Lào Cai, từ lâu câu chuyện về lối đi tự mở ở thôn Nhân Nghĩa, xã Trấn Yên, tỉnh Lào Cai vẫn chưa có lời giải dứt điểm, đặt ra bài toán vừa bảo đảm an toàn giao thông, vừa không để ảnh hưởng đến phát triển kinh tế - xã hội. 

"Vàng xanh" trên đất Mỏ Vàng

"Vàng xanh" trên đất Mỏ Vàng

Suối Dầm, xã Mỏ Vàng cheo leo giữa núi cao, nơi mây phủ quanh năm và cuộc sống của đồng bào Mông vẫn còn nhiều khó khăn, nhọc nhằn. Ở đó, những cây chè Shan cổ thụ hàng trăm năm tuổi lặng lẽ tồn tại như chứng nhân của thời gian. Không theo hàng lối như những nương chè hiện đại mà mọc rải rác trên sườn núi, sau nếp nhà, ven rừng như thể được thiên nhiên gìn giữ qua bao thế hệ.

Chính quyền đồng hành cùng thương hiệu Việt

Chính quyền đồng hành cùng thương hiệu Việt

Xây dựng thương hiệu Việt không còn là việc riêng của doanh nghiệp mà đã trở thành nhiệm vụ chung, đòi hỏi sự đồng hành chặt chẽ của chính quyền các cấp, các ngành bằng những hành động cụ thể. Tỉnh Lào Cai đã và đang tích cực đồng hành cùng doanh nghiệp trong duy trì, xây dựng và đưa thương hiệu Việt vươn xa.

Rào cản từ thực tiễn

PHÁT TRIỂN KINH TẾ NÔNG NGHIỆP: Rào cản từ thực tiễn

Những năm gần đây, nông nghiệp Lào Cai tiếp tục khẳng định vai trò “trụ đỡ” của nền kinh tế, nhất là trong bối cảnh thị trường và thiên tai diễn biến phức tạp. Tuy nhiên, phía sau những con số tăng trưởng, thực tế đặt ra là sản xuất nông nghiệp vẫn chưa chuyển hóa rõ nét sang kinh tế nông nghiệp; giá trị gia tăng thấp, liên kết chuỗi lỏng lẻo, đầu ra thiếu ổn định.

Mở rộng vùng lúa năng suất, chất lượng cao

Mở rộng vùng lúa năng suất, chất lượng cao

Giai đoạn 2026 - 2030, Lào Cai đặt mục tiêu phát triển hơn 3.300 ha lúa năng suất, chất lượng cao tại 46 xã, phường, hướng tới sản xuất hàng hóa tập trung, quy mô lớn, ứng dụng khoa học - kỹ thuật, nâng cao giá trị gia tăng. Các địa phương đang tập trung xây dựng vùng sản xuất, lựa chọn giống phù hợp và đẩy mạnh liên kết sản xuất - tiêu thụ.

fb yt zl tw