Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tăng giá trị nguồn nguyên liệu nông - lâm sản địa phương

Tăng giá trị nguồn nguyên liệu nông - lâm sản địa phương

Từ hoạt động sản xuất, kinh doanh, Công ty Cổ phần Lâm nông sản thực phẩm Yên Bái đang tạo ra việc làm, thu nhập cho người lao động, đầu ra cho nông sản, nguồn thu cho ngân sách và những đóng góp thiết thực cho cộng đồng. Hiệu quả sản xuất, kinh doanh vì thế trở thành nền tảng để doanh nghiệp đồng hành với sự phát triển kinh tế - xã hội địa phương.

Trồng rừng đạt 94,6% kế hoạch năm

Trồng rừng đạt 94,6% kế hoạch năm

Theo Chi cục Kiểm lâm tỉnh, từ đầu năm đến nay, toàn tỉnh trồng mới được trên 13.240 ha rừng, đạt 94,6% kế hoạch năm. Các địa phương chú trọng chăm sóc diện tích rừng mới trồng, khoanh nuôi tái sinh và theo dõi, phòng trừ sâu bệnh hại.

Lương Thịnh: Tạo nền tảng vững chắc để giảm nghèo bền vững

Lương Thịnh: Tạo nền tảng vững chắc để giảm nghèo bền vững

Không dừng lại ở những con số thống kê hay nỗ lực rút ngắn tỷ lệ hộ nghèo, xã Lương Thịnh đang tập trung giải bài toán căn cơ: giữ vững thành quả và ngăn ngừa nguy cơ tái nghèo. Bằng việc trao “cần câu” sinh kế kết hợp phát huy nội lực của người dân, địa phương từng bước tạo dựng nền tảng vững chắc cho lộ trình giảm nghèo thực chất, lâu dài.

Chủ tịch UBND xã Yên Bình làm việc với hai doanh nghiệp xi măng trên địa bàn

Chủ tịch UBND xã Yên Bình làm việc với hai doanh nghiệp xi măng trên địa bàn

Chiều 29/9, đồng chí Bùi Ngọc Hùng - Phó Bí thư Đảng ủy, Chủ tịch UBND xã Yên Bình cùng đoàn công tác của xã đã làm việc với Công ty Cổ phần Xi măng và Khoáng sản Yên Bái và Công ty Cổ phần Xi măng Yên Bình nhằm nắm bắt tình hình sản xuất, kinh doanh, tháo gỡ khó khăn và kiểm tra công tác bảo vệ môi trường tại các nhà máy.

Lào Cai chuẩn bị điều kiện tham gia thị trường tín chỉ carbon rừng

Lào Cai chuẩn bị điều kiện tham gia thị trường tín chỉ carbon rừng

Chiều 29/9, đồng chí Phan Trung Bá - Phó Chủ tịch UBND tỉnh chủ trì cuộc họp bàn về phát triển các dịch vụ hấp thụ, lưu giữ carbon, giảm phát thải khí nhà kính và khai thác hiệu quả tiềm năng, lợi thế từ rừng, qua đó chuẩn bị các điều kiện cần thiết để tham gia thị trường tín chỉ carbon rừng của Lào Cai.

Phát triển thủy sản ở Tân Lĩnh: Cần gỡ những điểm nghẽn

Phát triển thủy sản ở Tân Lĩnh: Cần gỡ những điểm nghẽn

Với nguồn nước và diện tích mặt nước thuận lợi, xã Tân Lĩnh có nhiều tiềm năng phát triển nuôi thủy sản. Từ cá bỗng đặc sản trong ao hộ gia đình đến cá tầm, cá lăng nuôi lồng, những mô hình bước đầu mở ra hướng phát triển kinh tế mới. Tuy nhiên, để chuyển tiềm năng thành giá trị, địa phương cần tháo gỡ những điểm nghẽn về vốn, kỹ thuật và thị trường tiêu thụ.

Lào Cai: Phát hiện, xử lý hơn 1.900 vụ buôn lậu, gian lận thương mại và hàng giả

Lào Cai: Phát hiện, xử lý hơn 1.900 vụ buôn lậu, gian lận thương mại và hàng giả

Trong 9 tháng năm 2026, các lực lượng chức năng tỉnh Lào Cai đã phát hiện, xử lý 1.916 vụ vi phạm về buôn lậu, gian lận thương mại và hàng giả, tăng 10,75% so với cùng kỳ năm 2025. Qua đó, góp phần giữ ổn định thị trường, bảo vệ quyền lợi người tiêu dùng và tạo môi trường kinh doanh lành mạnh trên địa bàn.

Lào Cai có trên 1.460 dự án đầu tư còn hiệu lực

Lào Cai có trên 1.460 dự án đầu tư còn hiệu lực

Thời gian qua, hoạt động đầu tư trên địa bàn tỉnh Lào Cai tiếp tục có những chuyển biến tích cực, khi nhiều dự án hoàn thành, đi vào sản xuất, kinh doanh và phát huy hiệu quả. Đến nay, toàn tỉnh có 1.464 dự án đầu tư còn hiệu lực, với tổng vốn đăng ký 311.561 tỷ đồng; trong đó, 1.012 dự án đã đi vào hoạt động, chiếm 69,1% tổng số dự án.

Phường Âu Lâu tháo gỡ vướng mắc mặt bằng Dự án Khu đô thị mới đường Âu Cơ

Phường Âu Lâu tháo gỡ vướng mắc mặt bằng Dự án Khu đô thị mới đường Âu Cơ

Ngày 28/9, UBND phường Âu Lâu tổ chức đối thoại với các hộ dân liên quan nhằm giải đáp kiến nghị, tháo gỡ những vướng mắc còn tồn tại trong công tác giải phóng mặt bằng Dự án Xây dựng Khu đô thị mới tại đường Âu Cơ, tổ dân phố số 5. Phường yêu cầu các đơn vị liên quan xử lý dứt điểm các vấn đề về hạ tầng, đất đai và đôn đốc các hộ dân bàn giao mặt bằng trước ngày 30/9/2026.

fb yt zl tw