Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Mở lối thị trường cho sản phẩm OCOP Lào Cai

Mở lối thị trường cho sản phẩm OCOP Lào Cai

Giữa nhịp sống sôi động của đô thị, điểm bán hàng và giới thiệu sản phẩm OCOP của Hợp tác xã Chế biến Nông sản Tây Bắc Hiền Vinh, trên đường Điện Biên, phường Yên Bái, đang trở thành địa chỉ thu hút người dân và du khách. Từ không gian này, nhiều sản vật đặc trưng của địa phương đến gần hơn với người tiêu dùng, mở rộng cơ hội kết nối thị trường.

"Kho báu" trăm tuổi

"Kho báu" trăm tuổi

Giữa đại ngàn Dền Sáng, nơi mây núi bao phủ quanh năm, hơn 1.000 gốc chè Shan tuyết cổ thụ vẫn xanh tươi qua hơn một thế kỷ. Những thân chè sần sùi, phủ rêu phong, vươn cao giữa núi rừng không chỉ lưu giữ dấu ấn của nhiều thế hệ mà còn trở thành “kho báu” được người dân địa phương gìn giữ, chăm sóc.

Vàng miếng, vàng nhẫn bật tăng mạnh

Vàng miếng, vàng nhẫn bật tăng mạnh

Sau nhiều phiên đi ngang và giảm giá, sáng 9/10, vàng miếng và vàng nhẫn các thương hiệu trong nước đồng loạt tăng mạnh. Vàng miếng SJC tăng 1,3 triệu đồng/lượng, lên 141,3-144,3 triệu đồng/lượng (mua vào - bán ra). Trên thị trường thế giới, vàng cũng hồi phục về quanh mức 4.170 USD/ounce khi lợi suất trái phiếu kho bạc Mỹ hạ nhiệt.

Giữ chặt địa bàn giáp ranh, bảo vệ tài nguyên sông Hồng

Giữ chặt địa bàn giáp ranh, bảo vệ tài nguyên sông Hồng

Trên sông Hồng, cát, sỏi không chỉ là nguồn nguyên liệu phục vụ xây dựng mà còn là tài nguyên cần được quản lý chặt chẽ, khai thác đúng quy định. Tuy nhiên, với địa bàn trải dài qua nhiều xã, phường, công tác kiểm soát sẽ khó đạt hiệu quả nếu mỗi địa phương chỉ quản lý phần sông thuộc địa giới của mình. Từ thực tế đó, xã Quy Mông và các địa phương giáp ranh đang tăng cường phối hợp, chia sẻ thông tin, kiểm tra và xử lý vi phạm, từng bước khép kín những khoảng trống trong quản lý khoáng sản.

Đồng bào Mông Xanh ở Tu Thượng lần đầu trồng cây vụ đông

Đồng bào Mông Xanh ở Tu Thượng lần đầu trồng cây vụ đông

Vụ đông năm nay, xã Nậm Xé triển khai trồng 20 ha rau, đậu các loại, trong đó thôn Tu Thượng thực hiện 5 ha. Đây là lần đầu đồng bào Mông Xanh tại thôn đưa cây vụ đông vào trồng trên đất ruộng một vụ, từng bước thay đổi tập quán canh tác, tạo thêm nguồn thu cho gia đình.

Phong Hải công bố quy hoạch chung, hướng tới đô thị loại III

Phong Hải công bố quy hoạch chung, hướng tới đô thị loại III

Ngày 8/10, UBND xã Phong Hải, tỉnh Lào Cai tổ chức Hội nghị công bố quyết định phê duyệt Quy hoạch chung xã Phong Hải đến năm 2035, định hướng đến năm 2050. Đây là cơ sở quan trọng để địa phương mở rộng không gian phát triển, đầu tư hạ tầng, từng bước đáp ứng các tiêu chí đô thị loại III vào năm 2040.

Lào Cai giới thiệu 98 sản phẩm đặc trưng tại Hội chợ Làng nghề Việt Nam 2026

Lào Cai giới thiệu 98 sản phẩm đặc trưng tại Hội chợ Làng nghề Việt Nam 2026

Hội chợ Làng nghề Việt Nam lần thứ 22 năm 2026 diễn ra từ ngày 7 - 13/10 tại Hà Nội, thu hút sự tham gia của nhiều địa phương, doanh nghiệp, hợp tác xã và cơ sở sản xuất trên cả nước. Tại hội chợ, Trung tâm Khuyến nông tỉnh Lào Cai tổ chức 2 gian hàng, trưng bày, giới thiệu 98 sản phẩm của các hợp tác xã, doanh nghiệp và hộ kinh doanh trong tỉnh.

Phó Chủ tịch UBND tỉnh Giàng Quốc Hưng định hướng nhân rộng mô hình trồng cây bồ đề tại Bảo Yên

Phó Chủ tịch UBND tỉnh Giàng Quốc Hưng định hướng nhân rộng mô hình trồng cây bồ đề tại Bảo Yên

Chiều 8/10, đồng chí Giàng Quốc Hưng - Ủy viên Ban Thường vụ Tỉnh ủy, Phó Chủ tịch UBND tỉnh kiểm tra tình hình triển khai nhiệm vụ khoa học và công nghệ cấp tỉnh tại xã Bảo Yên; đánh giá kết quả bước đầu của mô hình trồng cây bồ đề, định hướng phát triển, nhân rộng mô hình phù hợp với điều kiện thực tiễn của địa phương.

Chính sách thuế góp phần thúc đẩy kinh tế tập thể

Chính sách thuế góp phần thúc đẩy kinh tế tập thể

Khu vực kinh tế tập thể, đặc biệt là hợp tác xã có vai trò quan trọng trong phát triển kinh tế địa phương, tạo việc làm, khai thác tiềm năng sản xuất tại khu vực nông thôn, miền núi, vùng sâu, vùng xa. Thông qua hoạt động sản xuất, kinh doanh, các hợp tác xã thực hiện nghĩa vụ kê khai, nộp các loại thuế theo quy định, góp phần tăng nguồn thu ngân sách Nhà nước và thúc đẩy phát triển kinh tế - xã hội.

fb yt zl tw