Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Nậm Có - Khi tiềm năng được đánh thức

Nậm Có - Khi tiềm năng được đánh thức

Có những vùng đất chỉ cần mở thêm một con đường là mở ra một hướng phát triển mới. Có những địa phương chỉ cần tìm đúng lợi thế để khơi dậy nội lực sẽ tạo nên bước chuyển mình mạnh mẽ. Xã Nậm Có, tỉnh Lào Cai là như vậy. Từ một xã vùng cao nhiều khó khăn, địa phương đang khai thác lợi thế rừng, nông nghiệp và du lịch để tạo động lực phát triển kinh tế.

Giá gas tháng 8/2026: Tăng chóng mặt, cao nhất gần 150.000 đồng/bình

Giá gas tháng 8/2026: Tăng chóng mặt, cao nhất gần 150.000 đồng/bình

Bước sang tháng 8, thị trường gas bán lẻ trong nước ghi nhận đợt điều chỉnh giá tăng rất mạnh, chấm dứt chuỗi ngày giảm giá trước đó. Theo thông báo từ các doanh nghiệp và đại lý kinh doanh gas, mức giá mới bắt đầu được áp dụng từ 7 giờ sáng ngày 1/8. Đây được đánh giá là đợt tăng giá gas "chóng mặt" nhất kể từ đầu năm đến nay.

Đảm bảo an toàn thanh toán, giao dịch điện tử

Đảm bảo an toàn thanh toán, giao dịch điện tử

Trước diễn biến phức tạp của tội phạm mạng, các chi nhánh ngân hàng trên địa bàn tỉnh đang quyết liệt đẩy mạnh đổi mới công nghệ và thắt chặt quy trình nghiệp vụ để bảo vệ khách hàng. Hệ thống ngân hàng đã xây dựng "hàng rào" đa tầng bằng các giải pháp số tiên tiến, chủ động nhận diện và chặn đứng các hành vi lừa đảo.

Giá xăng dầu hôm nay (2/8): Giá dầu Brent vượt mốc 90 USD/thùng, giá xăng dầu trong nước thế nào?

Giá xăng dầu hôm nay (2/8): Giá dầu Brent vượt mốc 90 USD/thùng, giá xăng dầu trong nước thế nào?

Tình hình địa chính trị căng thẳng tại khu vực Trung Đông và nguy cơ gián đoạn hoạt động vận tải qua các eo biển chiến lược tiếp tục đẩy giá dầu thế giới lên mức cao. Cùng chiều với xu hướng toàn cầu, giá xăng dầu trong nước cũng ghi nhận đợt điều chỉnh tăng đồng loạt.

Khẩn trương rà soát hộ kinh doanh chưa thông báo doanh thu sau hạn 31/7

Khẩn trương rà soát hộ kinh doanh chưa thông báo doanh thu sau hạn 31/7

Ngày 31/7/2026, Cục Thuế ban hành Công điện số 28/CĐ-CT yêu cầu Trưởng Thuế các tỉnh, thành phố tập trung nguồn lực hỗ trợ hộ, cá nhân kinh doanh thực hiện các quy định về quản lý thuế; đồng thời tăng cường rà soát, hướng dẫn, đôn đốc và theo dõi việc thông báo doanh thu, kê khai thuế theo đúng quy định.

Tái sinh đất dốc, mở hướng sinh kế bền vững ở Bắc Hà

Tái sinh đất dốc, mở hướng sinh kế bền vững ở Bắc Hà

Địa hình đồi núi dốc, chia cắt mạnh khiến sản xuất nông nghiệp ở Bắc Hà từ lâu đối mặt với tình trạng đất bạc màu, xói mòn và năng suất thấp. Nhiều diện tích nương rẫy của người dân chỉ canh tác ngô với hiệu quả kinh tế không cao, trong khi độ phì của đất ngày càng suy giảm. Tuy nhiên, từ các mô hình nông - lâm kết hợp và thực hành nông nghiệp sinh thái đang được triển khai, nhiều vùng đất dốc đã dần được phục hồi, mở ra hướng phát triển sinh kế bền vững, thích ứng với biến đổi khí hậu.

Kiểm tra tiến độ các dự án chế biến nông sản, định hướng phát triển chuỗi giá trị

Kiểm tra tiến độ các dự án chế biến nông sản, định hướng phát triển chuỗi giá trị

Chiều 31/7, Đoàn công tác do ông Trần Minh Sáng - Giám đốc Sở Nông nghiệp và Môi trường làm trưởng đoàn, đã kiểm tra thực tế một số mô hình sản xuất nông, lâm nghiệp và các dự án chế biến nông sản trên địa bàn tỉnh, nhằm đánh giá hiệu quả đầu tư, nắm bắt tình hình sản xuất, kịp thời tháo gỡ khó khăn và định hướng phát triển ngành nông nghiệp theo hướng hiện đại, bền vững.

Nâng cao ý thức chấp hành pháp luật trong hoạt động kinh doanh

Nâng cao ý thức chấp hành pháp luật trong hoạt động kinh doanh

Trước yêu cầu ngày càng cao của người tiêu dùng và sự quyết liệt của các lực lượng chức năng trong đấu tranh, ngăn chặn hàng giả, hàng nhái và hàng không rõ xuất xứ, nhiều tiểu thương tại Lào Cai đã chủ động thay đổi cách kinh doanh, ưu tiên hàng hóa có nguồn gốc rõ ràng để giữ uy tín và giữ chân khách hàng.

fb yt zl tw