Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Kiểm tra kết quả thực hiện mô hình trồng giống dứa mới theo tiêu chuẩn VietGAP tại xã Bản Lầu

Kiểm tra kết quả thực hiện mô hình trồng giống dứa mới theo tiêu chuẩn VietGAP tại xã Bản Lầu

Ngày 03/7, Đoàn công tác Sở Khoa học và Công nghệ đã kiểm tra thực địa kết quả thực hiện đề tài khoa học và công nghệ cấp tỉnh “Nghiên cứu thử nghiệm một số giống dứa có năng suất cao, chất lượng tốt và hoàn thiện quy trình kỹ thuật thâm canh đạt tiêu chuẩn VietGAP” tại xã Bản Lầu. Đề tài do Đại học Thái Nguyên thực hiện.

Cầu Pờ Hồ nối những niềm vui

Cầu Pờ Hồ nối những niềm vui

Mỗi mùa mưa đến, đồng bào các dân tộc ở các thôn Pờ Hồ, Trung Hồ, Séo Tả Lé, xã Trung Lèng Hồ cũ (nay là xã Mường Hum) lại thấp thỏm, lo lắng vì lũ từ thượng nguồn đổ về các con suối, chia cắt giao thông, tiềm ẩn nhiều nguy hiểm. Thế nhưng từ tháng 7 năm nay, khi hai cây cầu kiên cố bắc qua suối Pờ Hồ và Trung Hồ hoàn thành, nỗi lo ấy dần lùi lại phía sau, mở ra cơ hội phát triển mới cho vùng đất dưới chân núi Pu Ta Leng.

Đánh thức giá trị đẳng sâm dưới tán rừng

Đánh thức giá trị đẳng sâm dưới tán rừng

Không mở rộng diện tích bằng cách tác động vào rừng tự nhiên, xã Lao Chải đang lựa chọn một hướng đi khác: phát triển cây đẳng sâm dưới tán sơn tra nhằm gia tăng giá trị trên cùng một diện tích đất. Từ mô hình thí điểm, địa phương kỳ vọng hình thành sinh kế bền vững, bảo tồn nguồn gen dược liệu bản địa và tạo động lực cho phát triển kinh tế xanh ở vùng cao, nơi bảo vệ rừng và phát triển sản xuất không còn là hai mục tiêu tách rời.

Lào Cai triển khai quyết liệt các biện pháp cấp bách phòng cháy, chữa cháy rừng theo chỉ đạo của Thủ tướng Chính phủ

Lào Cai triển khai quyết liệt các biện pháp cấp bách phòng cháy, chữa cháy rừng theo chỉ đạo của Thủ tướng Chính phủ

UBND tỉnh Lào Cai vừa ban hành Công văn số 6730/UBND-NLN gửi các Sở: Nông nghiệp và Môi trường, Tài chính, Công Thương; Công an tỉnh; Bộ Chỉ huy Quân sự tỉnh; UBND các xã, phường; các vườn quốc gia: Hoàng Liên, Bát Xát; các ban quản lý rừng đặc dụng, phòng hộ; các công ty lâm nghiệp về việc triển khai các biện pháp cấp bách về phòng cháy, chữa cháy rừng theo Công điện số 43/CĐ-TTg ngày 25/6/2026 của Thủ tướng Chính phủ.

Điều chỉnh mức giảm trừ gia cảnh: Giữ lại nhiều hơn

Điều chỉnh mức giảm trừ gia cảnh: Giữ lại nhiều hơn

Sau nhiều năm giữ nguyên, mức giảm trừ gia cảnh chính thức được điều chỉnh. Sự thay đổi này không chỉ giúp người lao động giảm bớt gánh nặng thuế, mà còn cho thấy một bước chuyển trong tư duy chính sách giữ lại nhiều hơn thành quả lao động của người dân để nuôi dưỡng động lực tăng trưởng.

Mỏ Vàng phê duyệt 9 dự án giao thông nông thôn, tạo động lực phát triển các thôn vùng cao

Mỏ Vàng phê duyệt 9 dự án giao thông nông thôn, tạo động lực phát triển các thôn vùng cao

Nhằm từng bước hoàn thiện hạ tầng giao thông, tạo điều kiện thuận lợi cho phát triển kinh tế - xã hội và nâng cao đời sống Nhân dân, UBND xã Mỏ Vàng đã phê duyệt 9 dự án giao thông nông thôn, gồm 6 dự án xây dựng đường bê tông và 3 dự án mở rộng đường giao thông tại nhiều thôn trên địa bàn. Đây được xem là bước đi quan trọng trong thực hiện mục tiêu xây dựng hệ thống hạ tầng đồng bộ, mở rộng không gian phát triển và cải thiện điều kiện đi lại của người dân.

Việc giảm 2% thuế GTGT góp phần kích cầu tiêu dùng

Đòn bẩy kích cầu tiêu dùng trong bối cảnh kinh tế khó khăn

Trong bối cảnh nền kinh tế toàn cầu và trong nước đối mặt với nhiều thách thức, sức mua giảm sút, người tiêu dùng thắt chặt chi tiêu, việc Quốc hội ban hành các nghị quyết kéo dài thời gian giảm thuế giá trị gia tăng (VAT) được xem là một trong những chính sách tài khóa quan trọng, mang lại lợi ích thiết thực cho cả doanh nghiệp bán lẻ và người tiêu dùng. 

Giá vàng hôm nay 2/7: SJC, BTMC, PNJ, DOJI tiếp tục giảm?

Giá vàng hôm nay 2/7: SJC, BTMC, PNJ, DOJI tiếp tục giảm?

Giá vàng hôm nay 2/7/2026 tiếp tục giảm tại nhiều thương hiệu lớn, trong đó vàng SJC lùi về 143,4 - 146,4 triệu đồng/lượng. Trong khi đó, giá vàng thế giới tăng lên 4.065 USD/ounce, khiến chênh lệch giữa giá trong nước và thế giới thu hẹp còn khoảng 16,7 triệu đồng/lượng.

fb yt zl tw