Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Nỗ lực thu ngân sách từ cấp xã, phường

Nỗ lực thu ngân sách từ cấp xã, phường

Trong bối cảnh kinh tế có nhiều biến động, nhiệm vụ thu ngân sách nhà nước trên địa bàn các xã, phường mới sau hợp nhất của tỉnh cũng gặp không ít khó khăn, nhưng đây được xem là tiêu chí quan trọng đánh giá năng lực quản lý, điều hành của chính quyền cơ sở. Nhiều địa phương đã chủ động, linh hoạt triển khai các biện pháp, đảm bảo thu đúng, thu đủ, góp phần tạo nguồn lực cho phát triển kinh tế - xã hội, ổn định tài chính địa phương.

Khắc phục hậu quả mưa lũ phục hồi sản xuất nông nghiệp và những vấn đề đặt ra

Khắc phục hậu quả mưa lũ phục hồi sản xuất nông nghiệp và những vấn đề đặt ra

Mưa lũ do hoàn lưu bão số 10 và số 11 đã gây thiệt hại nặng nề đối với sản xuất nông nghiệp ở các địa phương trên địa bàn tỉnh. Hiện nay, người dân và chính quyền các địa phương đang tích cực khắc phục hậu quả, cải tạo đất, để sớm khôi phục sản xuất ổn định đời sống. Tuy nhiên, do diện tích thiệt hại quá lớn nên công tác khắc phục đang đặt ra nhiều thách thức.

Vườn thảo dược trên mây

Vườn thảo dược trên mây

So với những xã khác trên địa bàn tỉnh, Y Tý có đặc thù riêng vì ở độ cao từ 1.800 m đến trên 2.000 m so với mực nước biển, nơi có khí hậu mát mẻ, rừng núi hoang sơ. Ở nơi xa xôi ấy, cách đây 10 năm có chàng dược sĩ từ vùng quê Ninh Bình lên lập nghiệp, với ước mơ ươm một khu vườn thảo dược trên mây, giúp người dân giảm nghèo từ những loài cây thuốc quý của núi rừng.

Chàng trai người Dao khởi nghiệp từ trồng nấm

Chàng trai người Dao khởi nghiệp từ trồng nấm

Dáng nhỏ nhắn, cao và có phần hơi gầy, giọng nói đậm “chất Dao”, đặc biệt là tác phong nhanh nhẹn của anh Đặng Văn Bình, Giám đốc Hợp tác xã Nông - lâm nghiệp và Dịch vụ Bình Phú (trụ sở tại thôn Lâm Sinh, xã Khánh Yên, tỉnh Lào Cai) khiến chúng tôi có thiện cảm ngay khi vừa gặp.

Phía sau những con số giảm nghèo

Phía sau những con số giảm nghèo

Theo Văn phòng Quốc gia về giảm nghèo, đến cuối năm 2025, tỷ lệ hộ nghèo đa chiều của cả nước sẽ chỉ còn khoảng 1%, đưa Việt Nam vào nhóm quốc gia giảm nghèo nhanh nhất thế giới. Phía sau thành quả ấy là hành trình nỗ lực bền bỉ và sự vào cuộc quyết liệt của cả hệ thống chính trị và nhân dân trong những năm qua, đặc biệt giai đoạn 2021 - 2025.

Nâng cao năng lực cạnh tranh của hợp tác xã

Nâng cao năng lực cạnh tranh của hợp tác xã

Trong khuôn khổ Dự án “Thúc đẩy khả năng chống chịu, bao trùm và chuyển đổi sáng tạo của các doanh nghiệp vừa và nhỏ” (SPRINT) do Chính phủ Canada tài trợ, tỉnh Lào Cai đang triển khai nhiều hoạt động hỗ trợ khu vực kinh tế tập thể theo hướng tăng trưởng sạch, thúc đẩy bình đẳng giới và nâng cao năng lực cạnh tranh bền vững.

Tăng tốc chuyển đổi mô hình từ thuế khoán sang kê khai

Tăng tốc chuyển đổi mô hình từ thuế khoán sang kê khai

Cục Thuế vừa ký ban hành Quyết định số 3352/QĐ-CT về việc chỉ đạo các đơn vị trong toàn ngành thuế tập trung triển khai kế hoạch “60 ngày cao điểm chuyển đổi mô hình từ thuế khoán sang kê khai đối với hộ kinh doanh”. Đây là chiến dịch đặc biệt quan trọng của ngành thuế nhằm thực hiện chủ trương lớn của Đảng và Nhà nước về thúc đẩy khu vực kinh tế tư nhân phát triển bền vững theo tinh thần Nghị quyết số 68-NQ/TW của Bộ Chính trị.

Mường Bo ra mắt sản phẩm nấm hương tươi đầu tiên

Mường Bo ra mắt sản phẩm nấm hương tươi đầu tiên

Gắn thực tiễn địa phương với tinh thần Nghị quyết 68-NQ/TW của Ban Chấp hành Trung ương về đổi mới, phát triển và nâng cao hiệu quả kinh tế tập thể trong giai đoạn mới, Hợp tác xã Nông lâm nghiệp và Dịch vụ Mường Bo vừa ra mắt sản phẩm nấm hương tươi xã Mường Bo - minh chứng hướng đi sáng tạo, bền vững trong phát triển nông nghiệp vùng cao.

fb yt zl tw