Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đưa sản phẩm truyền thống ra thị trường

Đưa sản phẩm truyền thống ra thị trường

Từ những món ăn dân dã gắn bó với đời sống sinh hoạt của đồng bào dân tộc Tày, nhiều hộ dân đã chủ động đưa ẩm thực truyền thống ra thị trường theo hướng sản xuất hàng hóa. Mô hình phát triển xôi ngũ sắc, bánh dày, bánh chưng gù của cơ sở sản xuất Vũ Thị Thủy Tiên, xã Gia Phú cho thấy cách làm hiệu quả trong việc vừa bảo tồn giá trị văn hóa, vừa tạo việc làm và nâng cao thu nhập cho người dân nông thôn.

Xã Mường Khương chỉ đạo xử lý tình trạng túi nilon bủa vây Quốc lộ 4D sau phản ánh của Báo và Phát thanh, Truyền hình Lào Cai

Xã Mường Khương chỉ đạo xử lý tình trạng túi nilon bủa vây Quốc lộ 4D sau phản ánh của Báo và Phát thanh, Truyền hình Lào Cai

Ngay sau khi Báo và Phát thanh, Truyền hình Lào Cai đăng tải phóng sự ảnh “Rác thải nhựa bủa vây cung đường từ xã Bản Lầu lên xã Mường Khương”  phản ánh về tình trạng túi nilon vứt dọc Quốc lộ 4D, UBND xã Mường Khương đã ban hành văn bản chỉ đạo khẩn trương xử lý dứt điểm tình trạng ô nhiễm, trả lại cảnh quan cho tuyến đường.

Lực lượng Kiểm lâm tỉnh Lào Cai trồng rừng năm 2025

Lào Cai trồng mới rừng sản xuất tăng 39% kế hoạch

Thời gian qua, Chi cục Kiểm lâm tỉnh Lào Cai đã chủ động xây dựng các phương án quản lý bảo vệ rừng phù hợp với tình hình thực tế tại cơ sở, trong đó phát huy vai trò nòng cốt của lực lượng kiểm lâm địa bàn đồng hành với Nhân dân trong giữ rừng và phát triển lâm nghiệp.

Ký cam kết bảo vệ rừng với gần 3.000 hộ dân

Ký cam kết bảo vệ rừng với gần 3.000 hộ dân

Nhằm nâng cao hiệu quả công tác quản lý, bảo vệ rừng và phòng cháy, chữa cháy rừng, Khu Bảo tồn thiên nhiên Bát Xát đã đẩy mạnh tuyên truyền, vận động người dân sinh sống gần rừng nâng cao ý thức, trách nhiệm trong bảo vệ tài nguyên rừng.

Khẩn trương hoàn thiện tiêu chuẩn, quy chuẩn, đẩy nhanh tiến độ các dự án tuyến đường sắt

Khẩn trương hoàn thiện tiêu chuẩn, quy chuẩn, đẩy nhanh tiến độ các dự án tuyến đường sắt

Chiều 23/12, tại Trụ sở Chính phủ, Thủ tướng Phạm Minh Chính chủ trì cuộc họp Thường trực Chính phủ cho ý kiến về các vấn đề liên quan hoàn thiện tiêu chuẩn, quy chuẩn, công nghệ, tháo gỡ khó khăn, đẩy nhanh tiến độ Dự án tuyến đường sắt tốc độ cao trục bắc - nam và các dự án tuyến đường sắt khổ tiêu chuẩn kết nối Trung Quốc.

Bàn giao gần 6 ha mặt bằng để san nền Trường phổ thông nội trú Tiểu học và THCS Mường Khương

Bàn giao gần 6 ha mặt bằng để san nền Trường phổ thông nội trú Tiểu học và THCS Mường Khương

UBND xã Mường Khương cho biết, đến ngày 23/12, địa phương đã giải phóng mặt bằng và bàn giao 59.657 m2 trên tổng 8,2 ha cho chủ đầu tư để giao cho đơn vị thi công thực hiện san gạt mặt bằng xây dựng Trường phổ thông nội trú Tiểu học và THCS Mường Khương.

Lào Cai gỡ "nút thắt" tâm lý cho hộ kinh doanh

Lào Cai gỡ "nút thắt" tâm lý cho hộ kinh doanh

Tâm lý ngại thay đổi, sợ phức tạp trong sổ sách kế toán là rào cản lớn nhất khiến nhiều hộ kinh doanh tại Lào Cai ngần ngại từ bỏ thuế khoán. Nhận diện rõ điểm nghẽn này, Thuế tỉnh Lào Cai đã thay đổi cách tiếp cận từ mệnh lệnh hành chính sang mô hình hỗ trợ dịch vụ công chuyên sâu. 

Dự án SPRINT trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã

Dự án SPRINT trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã

Sáng 23/12, Liên minh Hợp tác xã tỉnh phối hợp với Dự án “Thúc đẩy khả năng chống chịu, bao trùm và chuyển đổi sáng tạo của các doanh nghiệp vừa và nhỏ” (SPRINT), do Bộ Các vấn đề toàn cầu Canada tài trợ, tổ chức Lễ công bố và ký thỏa thuận trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã trên địa bàn tỉnh.

fb yt zl tw