Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Ký cam kết bảo vệ rừng với gần 3.000 hộ dân

Ký cam kết bảo vệ rừng với gần 3.000 hộ dân

Nhằm nâng cao hiệu quả công tác quản lý, bảo vệ rừng và phòng cháy, chữa cháy rừng, Khu Bảo tồn thiên nhiên Bát Xát đã đẩy mạnh tuyên truyền, vận động người dân sinh sống gần rừng nâng cao ý thức, trách nhiệm trong bảo vệ tài nguyên rừng.

Khẩn trương hoàn thiện tiêu chuẩn, quy chuẩn, đẩy nhanh tiến độ các dự án tuyến đường sắt

Khẩn trương hoàn thiện tiêu chuẩn, quy chuẩn, đẩy nhanh tiến độ các dự án tuyến đường sắt

Chiều 23/12, tại Trụ sở Chính phủ, Thủ tướng Phạm Minh Chính chủ trì cuộc họp Thường trực Chính phủ cho ý kiến về các vấn đề liên quan hoàn thiện tiêu chuẩn, quy chuẩn, công nghệ, tháo gỡ khó khăn, đẩy nhanh tiến độ Dự án tuyến đường sắt tốc độ cao trục bắc - nam và các dự án tuyến đường sắt khổ tiêu chuẩn kết nối Trung Quốc.

Bàn giao gần 6 ha mặt bằng để san nền Trường phổ thông nội trú Tiểu học và THCS Mường Khương

Bàn giao gần 6 ha mặt bằng để san nền Trường phổ thông nội trú Tiểu học và THCS Mường Khương

UBND xã Mường Khương cho biết, đến ngày 23/12, địa phương đã giải phóng mặt bằng và bàn giao 59.657 m2 trên tổng 8,2 ha cho chủ đầu tư để giao cho đơn vị thi công thực hiện san gạt mặt bằng xây dựng Trường phổ thông nội trú Tiểu học và THCS Mường Khương.

Lào Cai gỡ "nút thắt" tâm lý cho hộ kinh doanh

Lào Cai gỡ "nút thắt" tâm lý cho hộ kinh doanh

Tâm lý ngại thay đổi, sợ phức tạp trong sổ sách kế toán là rào cản lớn nhất khiến nhiều hộ kinh doanh tại Lào Cai ngần ngại từ bỏ thuế khoán. Nhận diện rõ điểm nghẽn này, Thuế tỉnh Lào Cai đã thay đổi cách tiếp cận từ mệnh lệnh hành chính sang mô hình hỗ trợ dịch vụ công chuyên sâu. 

Dự án SPRINT trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã

Dự án SPRINT trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã

Sáng 23/12, Liên minh Hợp tác xã tỉnh phối hợp với Dự án “Thúc đẩy khả năng chống chịu, bao trùm và chuyển đổi sáng tạo của các doanh nghiệp vừa và nhỏ” (SPRINT), do Bộ Các vấn đề toàn cầu Canada tài trợ, tổ chức Lễ công bố và ký thỏa thuận trao các gói hỗ trợ tăng trưởng sạch cho 7 hợp tác xã trên địa bàn tỉnh.

Phường Lào Cai quan tâm nâng cấp các tuyến đường nội thị

Phường Lào Cai quan tâm nâng cấp các tuyến đường nội thị

Cùng với tốc độ đô thị hóa nhanh, phường Lào Cai đã và đang tập trung nhiều nguồn lực để đầu tư nâng cấp, cải tạo hệ thống hạ tầng giao thông nội thị, coi đây là nhiệm vụ trọng tâm nhằm từng bước hoàn thiện diện mạo đô thị theo hướng hiện đại, văn minh.

Làng miến ngày cuối năm

Khi những đợt gió se lạnh bắt đầu tràn về, người dân 2 làng miến nổi tiếng bên bờ sông Hồng là Ngòi Đong (phường Âu Lâu) và Quy Mông (xã Quy Mông) lại bước vào mùa sản xuất cao điểm nhất trong năm.

Chi cục Quản lý thị trường tỉnh Lào Cai phát hiện xử lý 75 vụ vi phạm hành chính

Chi cục Quản lý thị trường tỉnh Lào Cai phát hiện xử lý 75 vụ vi phạm hành chính

Bám sát chỉ đạo của Thủ tướng Chính phủ, Bộ Công Thương, Tỉnh ủy, UBND tỉnh, Ban Chỉ đạo 389 tỉnh, Sở Công Thương tỉnh Lào Cai, Chi cục Quản lý thị trường tỉnh đã ban hành văn bản chỉ đạo các phòng, các đội, đơn vị triển khai công tác chống buôn lậu, gian lận thương mại, hàng giả trên địa bàn.

fb yt zl tw