Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Mỏ Vàng: Nỗ lực đưa điện về bản

Mỏ Vàng: Nỗ lực đưa điện về bản

Điện lưới quốc gia không chỉ là nguồn năng lượng mà còn là biểu tượng của tiến bộ, văn minh, là động lực thắp sáng tri thức và cuộc sống. Tại vùng đất còn nhiều khó khăn nhưng mang cái tên ngược lại - Mỏ Vàng, cấp ủy và chính quyền địa phương đang nỗ lực thực hiện mục tiêu đưa điện lưới quốc gia về 7 thôn trên địa bàn.

Phường Trung Tâm phát triển thương hiệu bưởi da xanh

Phường Trung Tâm phát triển thương hiệu bưởi da xanh

Bưởi da xanh đang là cây trồng mũi nhọn, góp phần nâng cao thu nhập và hình thành thương hiệu nông sản đặc trưng của phường Trung Tâm, tỉnh Lào Cai. Những năm gần đây, địa phương đẩy mạnh mở rộng diện tích, chuẩn hóa quy trình sản xuất và kết nối thị trường, tạo động lực quan trọng phát triển kinh tế nông nghiệp.

Púng Luông giữ vững thương hiệu chè Shan tuyết

Púng Luông giữ vững thương hiệu chè Shan tuyết

Tại xã Púng Luông, chè Shan tuyết từ lâu đã là sản phẩm nổi tiếng của địa phương. Khi được chứng nhận OCOP, cây chè trở thành nông sản chủ lực, tạo thương hiệu và sinh kế bền vững giúp người dân vùng cao vươn lên thoát nghèo. Để giữ vững và nâng tầm thương hiệu trong bối cảnh cạnh tranh ngày càng khốc liệt, Púng Luông đang triển khai đồng bộ nhiều giải pháp, từ duy trì vùng nguyên liệu, cải tiến quy trình sản xuất đến mở rộng thị trường tiêu thụ.

GCAP – Giải pháp hiện thực hóa tầm nhìn đô thị xanh tại Việt Nam

GCAP – Giải pháp hiện thực hóa tầm nhìn đô thị xanh tại Việt Nam

Trong bối cảnh các đô thị nước ta đang đối mặt với nhiều thách thức về môi trường và biến đổi khí hậu, việc xây dựng và triển khai các kế hoạch hành động đô thị xanh được coi là kim chỉ nam, định hướng quan trọng, đảm bảo sự hài hoà giữa phát triển kinh tế và bảo vệ môi trường, hướng tới phát triển bền vững.

“Điểm nghẽn” kéo chậm tiến độ các dự án trọng điểm

“Điểm nghẽn” kéo chậm tiến độ các dự án trọng điểm

Năm 2025, Lào Cai đặt mục tiêu “tăng tốc, bứt phá”, hướng tới mục tiêu tăng trưởng GRDP 8,5% và hoàn thành kế hoạch phát triển kinh tế - xã hội 5 năm 2021 - 2025. Hàng loạt dự án hạ tầng chiến lược, nhất là các công trình giao thông liên vùng được coi là động lực mở ra dư địa phát triển mới sau hợp nhất. Tuy vậy, nhiều dự án trọng điểm vẫn chậm so với yêu cầu, mà “điểm nghẽn” lớn nhất là công tác giải phóng mặt bằng.

Đa dạng sinh kế, giảm nghèo bền vững cho người dân

Đa dạng sinh kế, giảm nghèo bền vững cho người dân

Những năm gần đây, nhiều địa phương trong tỉnh đã chủ động tìm hướng đi mới trong phát triển nông nghiệp, đa dạng sinh kế, tận dụng lợi thế đất đai và khí hậu để nâng cao thu nhập, hướng tới phát triển kinh tế bền vững cho người dân.

Dấu ấn giảm nghèo ở Pha Long

Dấu ấn giảm nghèo ở Pha Long

Trong những năm gần đây, xã Pha Long đã chủ động và quyết liệt thực hiện nhiều giải pháp đồng bộ, hướng tới mục tiêu giảm nghèo bền vững và thúc đẩy phát triển kinh tế - xã hội, tạo chuyển biến rõ nét trong đời sống của người dân.

Bảo Yên tháo nút thắt hạ tầng giao thông

Bảo Yên tháo nút thắt hạ tầng giao thông

Xã Bảo Yên được thành lập trên cơ sở sáp nhập các xã Yên Sơn, Lương Sơn, Xuân Thượng và thị trấn Phố Ràng, là khu vực trung tâm, có vị trí chiến lược quan trọng trong phát triển kinh tế - xã hội của huyện Bảo Yên cũ. Tuy nhiên những nút thắt về hạ tầng giao thông kết nối đang khiến địa phương này chưa phát huy tiềm năng, lợi thế, chưa phát huy hết vai trò là hạt nhân phát triển của vùng.

Gia nhập thị trường tín chỉ các-bon: Tìm lời giải cho bài toán khó

Sở hữu độ che phủ rừng lên tới 61,5% cùng hệ sinh thái đa dạng bậc nhất Tây Bắc, Lào Cai đang đứng trước cơ hội thu “tỷ đô” từ thị trường tín chỉ các-bon. Tuy nhiên, để biến những cánh rừng thành nguồn tài chính “xanh” bền vững, tỉnh Lào Cai phải giải quyết bài toán về hoàn thiện khung pháp lý, hạ tầng kỹ thuật và thay đổi tư duy của những người đang ngày đêm bám đất, giữ rừng.

fb yt zl tw