Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tái sinh đất dốc, mở hướng sinh kế bền vững ở Bắc Hà

Tái sinh đất dốc, mở hướng sinh kế bền vững ở Bắc Hà

Địa hình đồi núi dốc, chia cắt mạnh khiến sản xuất nông nghiệp ở Bắc Hà từ lâu đối mặt với tình trạng đất bạc màu, xói mòn và năng suất thấp. Nhiều diện tích nương rẫy của người dân chỉ canh tác ngô với hiệu quả kinh tế không cao, trong khi độ phì của đất ngày càng suy giảm. Tuy nhiên, từ các mô hình nông - lâm kết hợp và thực hành nông nghiệp sinh thái đang được triển khai, nhiều vùng đất dốc đã dần được phục hồi, mở ra hướng phát triển sinh kế bền vững, thích ứng với biến đổi khí hậu.

Kiểm tra tiến độ các dự án chế biến nông sản, định hướng phát triển chuỗi giá trị

Kiểm tra tiến độ các dự án chế biến nông sản, định hướng phát triển chuỗi giá trị

Chiều 31/7, Đoàn công tác do ông Trần Minh Sáng - Giám đốc Sở Nông nghiệp và Môi trường làm trưởng đoàn, đã kiểm tra thực tế một số mô hình sản xuất nông, lâm nghiệp và các dự án chế biến nông sản trên địa bàn tỉnh, nhằm đánh giá hiệu quả đầu tư, nắm bắt tình hình sản xuất, kịp thời tháo gỡ khó khăn và định hướng phát triển ngành nông nghiệp theo hướng hiện đại, bền vững.

Nâng cao ý thức chấp hành pháp luật trong hoạt động kinh doanh

Nâng cao ý thức chấp hành pháp luật trong hoạt động kinh doanh

Trước yêu cầu ngày càng cao của người tiêu dùng và sự quyết liệt của các lực lượng chức năng trong đấu tranh, ngăn chặn hàng giả, hàng nhái và hàng không rõ xuất xứ, nhiều tiểu thương tại Lào Cai đã chủ động thay đổi cách kinh doanh, ưu tiên hàng hóa có nguồn gốc rõ ràng để giữ uy tín và giữ chân khách hàng.

Vì sao nhiều tuyến đường ở xã Nậm Chày dừng thi công?

Vì sao nhiều tuyến đường ở xã Nậm Chày dừng thi công?

Công tác giải phóng mặt bằng đã hoàn tất, nhưng 2 dự án giao thông quan trọng trên địa bàn xã Nậm Chày, tỉnh Lào Cai thi công dang dở, khiến đi lại của người dân gặp nhiều khó khăn. Tháo gỡ vướng mắc pháp lý, sớm thanh lý hợp đồng với các nhà thầu yếu kém và tái khởi động dự án là mong muốn của cấp ủy, chính quyền và người dân xã Nậm Chày.

Theo mùa trái ngọt về “Nông trại bốn mùa” phường Trung Tâm

Theo mùa trái ngọt về “Nông trại bốn mùa” phường Trung Tâm

Những ngày này, tại tổ dân phố 7, phường Trung Tâm, nhiều nhà vườn đang bước vào mùa thu hoạch nhãn, thanh long và vú sữa Hoàng Kim. Những khu vườn trĩu quả không chỉ báo hiệu một vụ mùa bội thu mà còn phản ánh hiệu quả từ mô hình “Nông trại bốn mùa” - hướng phát triển nông nghiệp xanh đang từng bước gắn với du lịch trải nghiệm, góp phần quảng bá hình ảnh vùng đất Mường Lò.

Gần 300 hiện vật được trưng bày tại Ga Lào Cai với chủ đề “Từ cảng biển đến biên giới - Trăm năm lưu giữ ký ức đường ray”

Gần 300 hiện vật được trưng bày tại Ga Lào Cai với chủ đề “Từ cảng biển đến biên giới - Trăm năm lưu giữ ký ức đường ray”

Sáng 31/7, tại Ga Lào Cai (phường Lào Cai, tỉnh Lào Cai), Sở Văn hóa, Thể thao và Du lịch tỉnh Lào Cai phối hợp với Tổng công ty Đường sắt Việt Nam và Bảo tàng thành phố Hải Phòng tổ chức khai mạc trưng bày chuyên đề "Từ cảng biển đến biên giới - Trăm năm trên những đường ray"; phát động hiến tặng hiện vật và tổ chức tọa đàm "Ký ức trên đường ray".

Bảo Ái: Mở lối sinh kế bền vững cho nông dân

Bảo Ái: Mở lối sinh kế bền vững cho nông dân

Từ những buổi sinh hoạt trên đồng ruộng đến các lớp tập huấn kỹ thuật, Hội Nông dân xã Bảo Ái đang đưa thông tin, tri thức sản xuất đến gần hơn với hội viên. Sự thay đổi trong cách nghĩ, cách làm của người nông dân đã tạo nên nhiều mô hình kinh tế hiệu quả, góp phần mở lối sinh kế bền vững trên chính mảnh đất quê hương.

Nâng tầm giá trị OCOP bằng chuỗi liên kết và công nghệ số

Nâng tầm giá trị OCOP bằng chuỗi liên kết và công nghệ số

Chuyển dịch từ sản xuất nhỏ lẻ sang hình thành các vùng chuyên canh gắn kết chặt chẽ với doanh nghiệp, nông nghiệp Lào Cai đang bước vào giai đoạn phát triển mới. Trong đó, việc chuẩn hóa chuỗi giá trị và ứng dụng công nghệ số là chìa khóa cốt lõi để minh bạch chất lượng và chinh phục thị trường.

Lá chắn bảo vệ đàn gia súc trước dịch bệnh

Lá chắn bảo vệ đàn gia súc trước dịch bệnh

Ngay sau khi có kết quả giám sát chủ động với 9/72 mẫu dương tính với virus lở mồm long móng tuýp A và tuýp O tại Chợ gia súc Bắc Hà, UBND xã cùng ngành chức năng đã khẩn trương triển khai đồng bộ các giải pháp. Trong đó, chính quyền quyết định tạm dừng hoạt động chợ gia súc từ ngày 11/7 nhằm ngăn chặn chuỗi lây nhiễm, nhanh chóng kiểm soát, khoanh vùng và dập dịch.

Phường Nghĩa Lộ chủ động phòng, chống dịch tả lợn châu Phi

Phường Nghĩa Lộ chủ động phòng, chống dịch tả lợn châu Phi

Trước diễn biến phức tạp của bệnh dịch tả lợn châu Phi tại một số địa phương trong tỉnh, phường Nghĩa Lộ đã chủ động triển khai đồng bộ các biện pháp phòng, chống dịch nhằm bảo vệ đàn vật nuôi, hạn chế thấp nhất nguy cơ dịch bệnh xâm nhập và lây lan trên địa bàn.

fb yt zl tw