Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Thích ứng linh hoạt giữ vững đà tăng trưởng

Thích ứng linh hoạt giữ vững đà tăng trưởng

Khép lại năm 2025 với nhiều biến động, nông nghiệp Lào Cai không chỉ đứng vững trước thiên tai, dịch bệnh và những rủi ro của thị trường, mà còn từng bước chuyển mình theo hướng chủ động, linh hoạt và bền vững; tiếp tục khẳng định vai trò trụ đỡ của nền kinh tế. Toàn ngành đã tạo dựng những nền tảng quan trọng, tự tin bước vào năm mới với nhiều kỳ vọng.

Thi công xuyên kỳ nghỉ các dự án, công trình giao thông trọng điểm

Thi công xuyên kỳ nghỉ các dự án, công trình giao thông trọng điểm

Trong kỳ nghỉ Tết Dương lịch 2026, tại các công trình, dự án giao thông trọng điểm trên địa bàn tỉnh Lào Cai, không khí lao động vẫn diễn ra khẩn trương. Tranh thủ điều kiện thời tiết thuận lợi, các chủ đầu tư, ban quản lý dự án và nhà thầu đã chủ động xây dựng phương án tổ chức thi công, làm việc tăng ca, tăng kíp nhằm bảo đảm tiến độ các công trình.

Tái cấu trúc toàn diện không gian phát triển

Tái cấu trúc toàn diện không gian phát triển

Từ ngày 1/7, tỉnh Lào Cai được thành lập trên cơ sở hợp nhất hai tỉnh Lào Cai và Yên Bái, mở ra nhiều cơ hội phát triển, nhưng đồng thời cũng đặt ra yêu cầu cấp bách về điều chỉnh và lập mới quy hoạch tổng thể của tỉnh trên các lĩnh vực, nhằm bảo đảm định hướng phát triển đồng bộ, hiện đại và bền vững.

Cây quế nâng tầm, cuộc sống vùng cao Lào Cai thay đổi

Cây quế nâng tầm, cuộc sống vùng cao Lào Cai thay đổi

Trên những triền đồi vùng cao Lào Cai, cây quế - loài cây bản địa gắn bó với đồng bào Dao qua nhiều thế hệ, đang vươn lên trở thành cây trồng chủ lực, mang lại sinh kế bền vững, góp phần làm thay đổi căn bản đời sống kinh tế - xã hội của nhiều địa phương vùng cao.

“Thấy rác là dọn” - từ phong trào đến thói quen ở Khánh Yên

“Thấy rác là dọn” - từ phong trào đến thói quen ở Khánh Yên

Đầu tháng 11/2025, khi Đảng ủy xã Khánh Yên triển khai chiến dịch vệ sinh môi trường nông thôn tại khu vực Khánh Yên Trung (cũ), không khí ở 7 thôn trên địa bàn đã có sự chuyển biến rõ rệt. Chiến dịch được tổ chức bài bản, có lộ trình, phân công cụ thể đến từng thôn, từng nhóm hộ gia đình với tinh thần xuyên suốt: “Mỗi người dân là một chủ thể bảo vệ môi trường sống của chính mình”.

Tiềm năng phát triển du lịch ở Tà Cua Y

Tiềm năng phát triển du lịch ở Tà Cua Y

Nằm ở độ cao trên 2.300m so với mực nước biển, Tà Cua Y là một địa danh còn nguyên nét hoang sơ thuộc xã Mù Cang Chải, giáp ranh với xã Nậm Có. Với tổng diện tích khoảng 380 ha, trong đó khu vực lòng chảo rộng tới 190 ha, với suối uốn lượn giữa thung lũng tạo nên cảnh quan đặc trưng. Với lợi thế tự nhiên nổi bật, Tà Cua Y được đánh giá là điểm đến giàu tiềm năng cho phát triển du lịch nghỉ dưỡng, sinh thái và trải nghiệm thiên nhiên.

Ngành đường sắt và những kỳ vọng trong năm 2026

Ngành đường sắt và những kỳ vọng trong năm 2026

Trong không khí rộn ràng ngày đầu năm mới 2026, Ga Lào Cai trở thành tâm điểm nhộn nhịp với hơn 1.000 hành khách đổ về. Những chuyến tàu đầu tiên khởi hành đầy ắp khách đã mở ra một năm mới đầy hứa hẹn, không chỉ với du lịch mà còn với các hoạt động kinh tế, giao thương của tỉnh Lào Cai.

Kế hoạch triển khai Chương trình mục tiêu quốc gia xây dựng nông thôn mới vùng dân tộc miền núi

Kế hoạch triển khai Chương trình mục tiêu quốc gia xây dựng nông thôn mới vùng dân tộc miền núi

Chính phủ vừa có Nghị quyết số 424/NQ-CP ban hành Kế hoạch triển khai thực hiện Nghị quyết số 257/2025/QH15 của Quốc hội phê duyệt chủ trương đầu tư Chương trình mục tiêu quốc gia xây dựng nông thôn mới, giảm nghèo bền vững và phát triển kinh tế - xã hội vùng đồng bào dân tộc thiểu số và miền núi giai đoạn 2026 - 2035 (Kế hoạch).

Chậm nhất cuối tháng 1, toàn bộ trạm dừng nghỉ phải hoàn thành dịch vụ thiết yếu

Chậm nhất cuối tháng 1, toàn bộ trạm dừng nghỉ phải hoàn thành dịch vụ thiết yếu

Theo chỉ đạo của Thủ tướng Chính phủ, Bộ Xây dựng, các trạm dừng nghỉ trên tuyến cao tốc bắc-nam phải hoàn thành hạng mục công trình dịch vụ công thiết yếu (bãi đỗ xe, khu vệ sinh) trước ngày 31/12/2025 để khai thác đồng bộ. Tuy nhiên, do nhiều nguyên nhân, nhiều trạm dừng nghỉ chưa thể hoàn thành theo đúng mốc tiến độ.

fb yt zl tw