Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Xã biên giới Mường Khương đẩy mạnh phát triển kinh tế, giữ vững an ninh quốc phòng

Xã biên giới Mường Khương đẩy mạnh phát triển kinh tế, giữ vững an ninh quốc phòng

Năm 2025, tình hình kinh tế - xã hội trên địa bàn xã Mường Khương (Lào Cai) cơ bản ổn định, đạt được nhiều kết quả tích cực. Đảng ủy, Hội đồng nhân dân và Ủy ban nhân dân xã đã tập trung lãnh đạo, chỉ đạo quyết liệt các nhiệm vụ trọng tâm, đẩy mạnh sản xuất, bảo đảm an sinh xã hội và giữ vững quốc phòng, an ninh.

Chợ Tết truyền thống 2026 “xoay mình” thích nghi trước làn sóng mua sắm online

Chợ Tết truyền thống 2026 “xoay mình” thích nghi trước làn sóng mua sắm online

Không khí mua sắm Tết đang đổi khác khi thương mại điện tử len sâu vào thói quen tiêu dùng của người Việt. Trước sức ép cạnh tranh chưa từng có, chợ Tết truyền thống không bị thay thế mà chủ động thích nghi, giữ vai trò riêng như điểm giao thoa giữa tiện lợi số và trải nghiệm văn hóa.

Đòn bẩy giảm nghèo ở Mỏ Vàng

Đòn bẩy giảm nghèo ở Mỏ Vàng

Đường vào Mỏ Vàng - xã đặc biệt khó khăn của tỉnh Lào Cai, những ngày cuối năm vẫn gập ghềnh, quanh co, nhưng nơi đây đã hiện hữu sự khởi sắc, bởi nhiều gia đình mạnh dạn chăn nuôi, phát triển kinh tế hiệu quả, nâng cao thu nhập và cải thiện đời sống.

Nhộn nhịp thị trường cá chép đỏ

Nhộn nhịp thị trường cá chép đỏ

Cận ngày 23 tháng Chạp, thị trường cá chép đỏ càng trở nên nhộn nhịp, từ các vùng nuôi cá đến chợ dân sinh, hàng vạn chú cá chép đỏ được đưa đến tay mọi nhà để phục vụ nhu cầu cúng Tết ông Công, ông Táo.

Để Lào Cai trở thành trung tâm dược liệu quốc gia

Để Lào Cai trở thành trung tâm dược liệu quốc gia

Ôm trọn dãy Hoàng Liên Sơn, Lào Cai sở hữu hệ sinh thái đặc thù - môi trường lý tưởng của hàng trăm loài dược liệu quý. Từ lợi thế đó, những năm qua, tỉnh đã từng bước hình thành vùng trồng dược liệu với hơn 6.500 ha, sản lượng khoảng 30.000 tấn mỗi năm, tổng giá trị ước gần 900 tỷ đồng.

Đẩy nhanh tiến độ san tạo mặt bằng, khôi phục sản xuất tại Làng Nủ

Đẩy nhanh tiến độ san tạo mặt bằng, khôi phục sản xuất tại Làng Nủ

Những ngày này, trên công trường dự án san tạo mặt bằng, khôi phục sản xuất tại khu vực Làng Nủ (xã Phúc Khánh), không khí làm việc trở nên hối hả hơn bao giờ hết. Đơn vị thi công đang tranh thủ thời tiết thuận lợi, huy động tối đa nhân lực và phương tiện, nỗ lực đẩy nhanh tiến độ nhằm sớm bàn giao đất cho người dân khôi phục sản xuất.

Chủ động sản xuất phục vụ thị trường Tết

Chủ động sản xuất phục vụ thị trường Tết

Thời điểm này, nhu cầu thị trường tăng cao, đặc biệt là các mặt hàng nông sản và thực phẩm. Do đó, các hợp tác xã (HTX), cơ sở sản xuất... trên địa bàn tỉnh đã chủ động mở rộng quy mô, đa dạng hóa sản phẩm đáp ứng nhu cầu mua sắm tăng cao của người dân.

Phát triển công nghiệp xanh - “chìa khóa” để Lào Cai bứt phá và phát triển bền vững

Phát triển công nghiệp xanh - “chìa khóa” để Lào Cai bứt phá và phát triển bền vững

Lào Cai là tỉnh công nghiệp trọng điểm của khu vực trung du và miền núi phía Bắc, với các ngành khai khoáng, hóa chất, luyện kim giữ vai trò chủ lực. Trong bối cảnh đó, phát triển công nghiệp xanh không chỉ là yêu cầu tất yếu, mà còn là “chìa khóa” để giải quyết hài hòa bài toán môi trường, tài nguyên, đồng thời tạo dư địa cho tăng trưởng bền vững trong dài hạn.

Ngày mới ở Tân Tiến

Ngày mới ở Tân Tiến

Những ngày này, thôn Tân Tiến, xã Gia Phú như một đại công trường. Các dự án trọng điểm như đường Trần Hưng Đạo kéo dài, Dự án tái định cư phục vụ giải phóng mặt bằng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng hay Dự án hạ tầng kỹ thuật Cụm công nghiệp Thống Nhất đều đang được đẩy nhanh tiến độ. Cả vùng quê Tân Tiến đang chuyển mình, mang theo hy vọng về diện mạo mới, hiện đại và phát triển.

fb yt zl tw