Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Ban Dân tộc, HĐND tỉnh khảo sát tiến độ xây dựng đường giao thông nông thôn tại Xuân Quang

Ban Dân tộc, HĐND tỉnh khảo sát tiến độ xây dựng đường giao thông nông thôn tại Xuân Quang

Chiều 7/10, Đoàn công tác của Ban Dân tộc, HĐND tỉnh Lào Cai do đồng chí Trần Xuân Thủy, Ủy viên Thường trực, Trưởng Ban Dân tộc HĐND tỉnh làm trưởng đoàn đã khảo sát thực tế một số tuyến đường và làm việc với UBND xã Xuân Quang về tình hình triển khai xây dựng đường giao thông nông thôn.

Phường Trung Tâm tiên phong mở hướng phát triển dược liệu theo chuỗi giá trị

Phường Trung Tâm tiên phong mở hướng phát triển dược liệu theo chuỗi giá trị

Chiều 7/10, UBND phường Trung Tâm tổ chức Hội nghị triển khai kế hoạch phát triển cây dược liệu trên địa bàn. Đây là địa phương đầu tiên trong 99 xã, phường của tỉnh triển khai hội nghị về phát triển dược liệu trong thực hiện Đề án 48, mở hướng xây dựng vùng nguyên liệu gắn với sản xuất, chế biến và tiêu thụ sản phẩm.

Bản Xèo: Để những tuyến đường nối dài thôn, bản

Bản Xèo: Để những tuyến đường nối dài thôn, bản

Nhiều năm qua, giao thông nông thôn là một trong những “điểm nghẽn” ảnh hưởng đến đi lại, giao thương và phát triển sản xuất ở xã Bản Xèo. Từ nguồn lực Nhà nước cùng sự chung sức của tổ chức, cá nhân và Nhân dân, nhiều tuyến đường đang được đầu tư, nâng cấp, từng bước hoàn thiện kết nối giữa các khu dân cư, thúc đẩy phát triển kinh tế - xã hội tại địa phương.

Giữ chữ tín khi livestream bán hàng trên mạng xã hội

Giữ chữ tín khi livestream bán hàng trên mạng xã hội

Từ chiếc điện thoại nhỏ, những sản phẩm vốn quen thuộc trong căn bếp, trên nương đồi, bản làng Lào Cai đang tìm đường đến với người tiêu dùng ở những thị trường xa hơn. Livestream không chỉ mở thêm kênh bán hàng mà còn thay đổi cách quảng bá nông sản, sản phẩm OCOP và câu chuyện văn hóa địa phương. 

Bảo Hà mở rộng nghề trồng dâu nuôi tằm

Bảo Hà mở rộng nghề trồng dâu nuôi tằm

Từ những mô hình cho thu nhập khá, nghề trồng dâu, nuôi tằm đang được người dân xã Bảo Hà quan tâm mở rộng. Địa phương chú trọng phát triển vùng nguyên liệu, hỗ trợ kỹ thuật, đồng thời tăng cường liên kết tiêu thụ, từng bước nâng cao hiệu quả sản xuất và thu nhập cho người dân.

Cần quan tâm chỉnh trang hệ thống dây điện, cáp quang trên các tuyến đường phường Yên Bái

Cần quan tâm chỉnh trang hệ thống dây điện, cáp quang trên các tuyến đường phường Yên Bái

Là trung tâm hành chính, chính trị của tỉnh, phường Yên Bái đã được đầu tư tương đối đồng bộ về kết cấu hạ tầng kỹ thuật đô thị. Tuy nhiên, hiện nay, hệ thống điện trung áp, hạ áp và cáp viễn thông tại nhiều tuyến phố vẫn đan xen, chồng chéo, ảnh hưởng đến mỹ quan đô thị và tiềm ẩn những vấn đề về an toàn.

Tập trung cao độ giải phóng mặt bằng, xây dựng khu tái định cư

Tập trung cao độ giải phóng mặt bằng, xây dựng khu tái định cư

Tập trung cao độ giải phóng mặt bằng, thi công các khu tái định cư, bảo đảm điều kiện bố trí nơi ở cho người dân bị ảnh hưởng Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng. Đó là yêu cầu của đồng chí Nguyễn Thế Phước - Phó Bí thư Tỉnh ủy, Chủ tịch Ủy ban MTTQ Việt Nam tỉnh khi kiểm tra thực tế tình hình triển khai Dự án tại một số địa phương trong tỉnh.

Khơi dậy sức dân trong xây dựng nông thôn mới

Khơi dậy sức dân trong xây dựng nông thôn mới

Phát huy vai trò chủ thể của nông dân trong xây dựng nông thôn mới, các cấp Hội Nông dân trong tỉnh đẩy mạnh tuyên truyền, vận động hội viên tham gia bằng những việc làm cụ thể, thiết thực. Từ hiến đất, đóng góp ngày công đến sửa chữa đường giao thông, kênh mương, cầu dân sinh..., sự chung sức của người dân đang góp phần hoàn thiện hạ tầng, tạo thuận lợi cho sản xuất, đi lại và nâng cao chất lượng cuộc sống ở nông thôn.

Chủ động thời vụ, giảm rủi ro, tăng hiệu quả

Chủ động thời vụ, giảm rủi ro, tăng hiệu quả

Vụ đông ngày càng giữ vai trò quan trọng trong sản xuất nông nghiệp ở Lào Cai, góp phần tăng thu nhập trên cùng đơn vị diện tích. Tuy nhiên, đây cũng là vụ sản xuất có thời gian ngắn, yêu cầu chặt về thời vụ và chịu tác động lớn của thời tiết, sâu bệnh và thị trường. Vì vậy, các địa phương trong tỉnh cần chuẩn bị sớm, làm đất nhanh và chọn cây trồng phù hợp.

fb yt zl tw