Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Chương trình tuyên truyền, hướng dẫn người tiêu dùng nhận biết hàng thật - hàng giả

Chương trình tuyên truyền, hướng dẫn người tiêu dùng nhận biết hàng thật - hàng giả

Sáng 16/5, tại phường Cam Đường, Chi cục Quản lý thị trường tỉnh phối hợp cùng Siêu thị Go! Lào Cai và một số đơn vị phân phối tổ chức chương trình tuyên truyền, hướng dẫn người dân cách nhận biết hàng thật - hàng giả. Hoạt động nhằm trang bị kỹ năng mua sắm an toàn và bảo vệ quyền lợi người tiêu dùng trước vấn nạn hàng nhái.

Xăng dầu hạ nhiệt, doanh nghiệp Lào Cai đẩy mạnh sản xuất kinh doanh

Xăng dầu hạ nhiệt, doanh nghiệp Lào Cai đẩy mạnh sản xuất kinh doanh

Xăng dầu từ lâu được xem như “huyết mạch” của nền kinh tế. Khi nguồn cung và giá cả của mặt hàng chiến lược này biến động, đều tác động đến nhiều lĩnh vực đời sống xã hội, ảnh hưởng trực tiếp đến mặt bằng giá hàng hóa và nhịp độ sản xuất, kinh doanh. Điều này đặc biệt rõ nét đối với các ngành có chi phí vận tải chiếm tỷ trọng lớn trong cơ cấu giá thành.

Quy Mông giữ màu xanh đồi quế

Quy Mông giữ màu xanh đồi quế

Thời gian qua, khi thời tiết chuyển mùa, nền nhiệt cao, độ ẩm lớn, mưa nắng xen kẽ, trên địa bàn xã Quy Mông xuất hiện sâu đo, sâu róm gây hại trên cây quế. Với đặc tính phát sinh nhanh, gây hại mạnh, sâu ăn lá đã ảnh hưởng trực tiếp đến sinh trưởng của cây, đặt ra yêu cầu cấp thiết về công tác kiểm tra, phòng trừ kịp thời.

Dâu tằm trên đất Đông Cuông

Dâu tằm trên đất Đông Cuông

Trên cánh đồng bãi ven sông Hồng thuộc thôn Sài Lương, xã Đông Cuông, cùng với lúa, ngô... đã xuất hiện thêm những khoảnh dâu xanh. Người dân nơi đây đang viết tiếp câu chuyện về cây dâu - con tằm với niềm tin vào hướng đi mới cho kinh tế và du lịch địa phương.

Xe máy thế hệ nào dùng được xăng E10?

Xe máy thế hệ nào dùng được xăng E10?

Sau khi xăng E10 được bán trên toàn quốc từ ngày 30/4/2026, nhiều người dùng ôtô, xe máy tỏ ra lo lắng việc liệu xe của mình có thể sử dụng E10 hay không, nếu sử dụng thì ảnh hưởng của loại xăng này tới các chi tiết trên xe như thế nào?

Người dân Tả Van "khát" nước sinh hoạt!

Người dân Tả Van "khát" nước sinh hoạt!

Giữa những ngày nắng nóng đầu hè, tại xã Tả Van, câu chuyện thiếu nước sinh hoạt lại trở thành nỗi ám ảnh thường trực của hàng trăm hộ dân. Những chiếc bể chứa cạn khô, vòi nước “im lìm” suốt nhiều tháng qua khiến cuộc sống của người dân đảo lộn. Đằng sau tình trạng ấy là bài toán tranh chấp nguồn nước giữa nhu cầu sản xuất và sinh hoạt vẫn chưa tìm được lời giải.

“Đòn bẩy” khát vọng phát triển của nông dân Lào Cai

“Đòn bẩy” khát vọng phát triển của nông dân Lào Cai

Nguồn vốn luôn giữ vai trò quan trọng, là “đòn bẩy” giúp nông dân phát triển kinh tế, nâng cao thu nhập và đời sống. Thời gian qua, cùng với các nguồn vốn chính sách, Quỹ Hỗ trợ nông dân tỉnh Lào Cai đã khẳng định vai trò là kênh tín dụng đặc thù, giúp bà con thực hiện khát vọng vươn lên trong thời kỳ hội nhập.

Kiên định mục tiêu tăng trưởng hai con số

Kiên định mục tiêu tăng trưởng hai con số

Nghị quyết Đại hội Đảng bộ tỉnh nhiệm kỳ 2025 - 2030 xác định mục tiêu tăng trưởng GRDP bình quân giai đoạn 2026 - 2030 đạt từ 10%/năm trở lên, thể hiện quyết tâm chính trị cao của Lào Cai trong tạo đột phá phát triển. Đây không chỉ là chỉ tiêu kinh tế mang tính định lượng mà còn là định hướng chiến lược xuyên suốt, gắn với đổi mới mô hình tăng trưởng, nâng cao năng suất, chất lượng và sức cạnh tranh của nền kinh tế địa phương.

Hội nghị tháo gỡ khó khăn cho ngành hàng quế Lào Cai

Hội nghị tháo gỡ khó khăn cho ngành hàng quế Lào Cai

Chiều 15/5, tại xã Mậu A, Hội Quế hồi tỉnh Lào Cai tổ chức hội nghị “Tháo gỡ khó khăn ngành hàng quế”, nhằm hỗ trợ doanh nghiệp, hợp tác xã và hộ sản xuất giải quyết các vướng mắc trong hoạt động sản xuất, kinh doanh và xuất khẩu.

Bắc Hà sẽ tổ chức hoạt động quảng bá mận Tam hoa tại Festival mùa Hè 2026

Bắc Hà sẽ tổ chức hoạt động quảng bá mận Tam hoa tại Festival mùa Hè 2026

Trong khuôn khổ Festival mùa Hè năm 2026 với chủ đề “Vang xa vó ngựa cao nguyên”, UBND xã Bắc Hà sẽ tổ chức hoạt động trưng bày, quảng bá mận Tam hoa vào ngày 23 - 24/5/2026 tại Quảng trường Dinh thự Hoàng A Tưởng. Đây được xem là điểm nhấn đặc sắc nhằm tôn vinh thương hiệu nông sản nổi tiếng của vùng “cao nguyên trắng”.

fb yt zl tw