Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Những phụ nữ Dao cùng nhau thu hoạch vỏ quế tươi.

Xuân ấm bản Dao

Những con đường bê tông uốn lượn dẫn vào các bản người Dao như đẹp hơn bởi sắc đào đỏ thắm xen lẫn màu xanh ngút ngàn của những rừng quế. Những căn nhà khang trang đầy ắp tiếng cười. Một mùa xuân ấm no, yên bình đang gõ cửa từng nếp nhà.

Kiên quyết đấu tranh chống buôn lậu, hàng giả

Kiên quyết đấu tranh chống buôn lậu, hàng giả

Mỗi sản phẩm thật được lựa chọn, mỗi hành vi gian lận bị lên án sẽ góp phần chung tay đẩy lùi nạn buôn lậu, gian lận thương mại và hàng giả, làm trong sạch thị trường, bảo vệ sản xuất trong nước và sức khỏe người dân.

Để sớm đưa Nghị quyết 22 về phát triển giao thông nông thôn vào cuộc sống

Để sớm đưa Nghị quyết 22 về phát triển giao thông nông thôn vào cuộc sống

Những chính sách hỗ trợ xây dựng đường giao thông nông thôn (GTNT) tỉnh Lào Cai đề ra trong giai đoạn 2026 - 2030 sẽ tạo “cú huých” quan trọng để hoàn thiện mạng lưới giao thông cơ sở trong bối cảnh tỉnh bước vào thời kỳ phát triển mới. Tuy nhiên, những khó khăn từ cơ sở đang đặt ra yêu cầu phải có cách làm linh hoạt, sáng tạo và quyết liệt hơn để nghị quyết sớm vào cuộc sống.

Bát Xát: Chi trả gần 60 tỷ đồng kinh phí giải phóng mặt bằng dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng

Bát Xát: Chi trả gần 60 tỷ đồng kinh phí giải phóng mặt bằng dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng

Trong những ngày làm việc cuối cùng trước kỳ nghỉ Tết Nguyên đán Bính Ngọ 2026, UBND xã Bát Xát đã chỉ đạo các đơn vị liên quan phối hợp chặt chẽ với Ban Quản lý dự án Đầu tư xây dựng khu vực Bát Xát, khẩn trương hoàn thiện thủ tục để thực hiện chi trả kinh phí bồi thường, giải phóng mặt bằng Dự án San gạt mặt bằng và hạ tầng kỹ thuật Khu Bản Qua cho người dân theo quy định.

“Dân vận khéo” - “đòn bẩy” trong phát triển kinh tế, giảm nghèo ở Mù Cang Chải

“Dân vận khéo” - “đòn bẩy” trong phát triển kinh tế, giảm nghèo ở Mù Cang Chải

Thời gian qua, phong trào thi đua “Dân vận khéo” trên địa bàn xã Mù Cang Chải được triển khai đồng bộ, gắn với nhiệm vụ phát triển kinh tế - xã hội và xây dựng nông thôn mới của địa phương. Với những cách làm linh hoạt, sát thực tiễn, nhiều mô hình kinh tế hiệu quả đã được hình thành, nhân rộng, góp phần nâng cao thu nhập, ổn định đời sống Nhân dân và tạo chuyển biến tích cực ở cơ sở.

 Nông dân Quyết Tâm vào vụ Tết

Nông dân Quyết Tâm vào vụ Tết

Những ngày cận Tết, không khí sản xuất tại thôn Quyết Tâm, xã Bảo Thắng trở nên nhộn nhịp hơn bao giờ hết. Trên khắp các cánh đồng, bà con tập trung chăm sóc, thu hoạch rau xanh và hoa lay ơn phục vụ thị trường. Sản xuất vụ đông đang trở thành hướng phát triển kinh tế chủ lực, góp phần nâng cao thu nhập và tạo việc làm ổn định cho người dân địa phương.

“Đòn bẩy” giúp nông dân phường Nghĩa Lộ vươn lên phát triển sản xuất

“Đòn bẩy” giúp nông dân phường Nghĩa Lộ vươn lên phát triển sản xuất

Năm 2025, phường Nghĩa Lộ còn 160 hộ nghèo, chiếm 3,46% và 103 hộ cận nghèo chiếm 2,23% - những con số cho thấy thách thức giảm nghèo bền vững vẫn hiện hữu. Trước thực tế đó, việc tạo “đòn bẩy” hỗ trợ người dân phát triển sản xuất, nâng cao thu nhập và chủ động vươn lên thoát nghèo là nhiệm vụ chính trị trọng tâm của cả hệ thống chính trị địa phương.

Gặp triệu phú dâu tằm ở Trấn Yên

Gặp triệu phú dâu tằm ở Trấn Yên

Dân gian có câu: “Nuôi lợn ăn cơm nằm, nuôi tằm ăn cơm đứng” ý nói sự vất vả, bận rộn của nghề trồng dâu nuôi tằm. Vậy nhưng cái nghề vất vả này đang được nhiều hộ dân ở các thôn trên địa bàn xã Trấn Yên chọn làm hướng thoát nghèo và vươn lên làm giàu…

Lào Cai phát triển thương mại và dịch vụ, nâng cao đời sống Nhân dân

Lào Cai phát triển thương mại và dịch vụ, nâng cao đời sống Nhân dân

Xác định thương mại dịch vụ là lĩnh vực giữ vai trò then chốt trong quá trình phát triển kinh tế - xã hội, năm 2025, tỉnh đã tập trung chỉ đạo, quan tâm phát triển theo hướng hiện đại, đồng bộ và bền vững. Qua đó, thương mại dịch vụ đang trở thành động lực quan trọng trong phát triển kinh tế - xã hội của tỉnh. 

Chính sách cụ thể, triển khai linh hoạt

Chính sách cụ thể, triển khai linh hoạt

Năm 2025, tỉnh Lào Cai đã nỗ lực vượt qua nhiều khó khăn, thách thức để đạt mức tăng trưởng tổng sản phẩm trên địa bàn (GRDP) khoảng 8,5%, tạo nền tảng quan trọng cho giai đoạn phát triển 2026 - 2030. Kết quả đó có đóng góp không nhỏ của ngành ngân hàng với hành động cụ thể của các tổ chức tín dụng trong bối cảnh nền kinh tế đối mặt với nhiều thách thức, thiên tai, dịch bệnh.

Doanh nghiệp chủ động chuẩn bị hàng Tết, giữ nhịp sản xuất đầu năm

Doanh nghiệp chủ động chuẩn bị hàng Tết, giữ nhịp sản xuất đầu năm

Những ngày giáp Tết Nguyên đán, nhiều doanh nghiệp trên địa bàn tỉnh đã hoàn tất kế hoạch sản xuất, cho công nhân nghỉ Tết theo đúng quy định. Phía sau việc tạm dừng dây chuyền là quá trình chuẩn bị kỹ lưỡng, bài bản: đơn hàng được ký kết từ sớm, nguồn nguyên liệu dự trữ đầy đủ, sẵn sàng tái khởi động ngay sau kỳ nghỉ bước sang năm mới Bính Ngọ 2026. Sự chuẩn bị kỹ lưỡng ấy không chỉ bảo đảm nguồn cung cho thị trường Tết mà còn tạo thế chủ động cho nhịp sản xuất ngay từ đầu năm.

Mỏ Vàng nâng cao giá trị nông, lâm nghiệp

Mỏ Vàng nâng cao giá trị nông, lâm nghiệp

Là xã vùng cao còn nhiều khó khăn của tỉnh Lào Cai, Mỏ Vàng phải đối mặt với địa hình chia cắt, hạ tầng chưa đồng bộ, đời sống người dân còn không ít khó khăn, vất vả. Thế nhưng, bằng quyết tâm chính trị cao và cách làm linh hoạt, phát huy hiệu quả tiềm năng đất đai, rừng và thế mạnh cây quế, năm 2025 kinh tế nông, lâm nghiệp của xã tiếp tục giữ đà tăng trưởng, tạo nền tảng nâng cao thu nhập, cải thiện đời sống vật chất và tinh thần cho Nhân dân.

Nối mạch giao thông trên núi dốc

Nối mạch giao thông trên núi dốc

Do địa hình đồi núi dốc, việc đầu tư hạ tầng giao thông tại xã Chế Tạo gặp nhiều khó khăn, chi phí lớn. Không trông chờ vào nguồn lực Nhà nước, người dân đã chủ động góp công, góp của mở nên những tuyến đường đặc thù, rộng 80 cm đến 1 mét, men theo sườn núi. Dù nhỏ hẹp, những con đường ấy chính là “cao tốc” của bà con - kết nối các bản làng giữa đại ngàn, mở lối cho phát triển và đổi thay.

fb yt zl tw