Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hành trình 20 năm hình thành hạt gạo ngon nhất thế giới - ST25

Hành trình 20 năm hình thành hạt gạo ngon nhất thế giới - ST25

Bắt đầu từ những trăn trở, khao khát hồi sinh giá trị hạt gạo thơm truyền thống trên chính quê hương mình, Anh hùng Lao động Hồ Quang Cua (thành phố Cần Thơ) và cộng sự đã bền bỉ suốt 20 năm lai tạo ra giống lúa ST25, góp phần đưa câu chuyện về hạt gạo thơm Việt Nam vươn tầm thế giới.

Những mô hình kinh tế làm thay đổi diện mạo Bản Mo

Những mô hình kinh tế làm thay đổi diện mạo Bản Mo

Với gần 300 hộ dân, chủ yếu là đồng bào dân tộc Mông và Xa Phó, Bản Mo, xã Xuân Hòa từng được biết đến với điều kiện kinh tế khó khăn, giao thông cách trở. Tuy nhiên, nhờ sự quan tâm của Nhà nước và nỗ lực của người dân, bản vùng cao này đang dần thay đổi diện mạo, trở thành điểm sáng trong chuyển đổi cơ cấu kinh tế nông nghiệp.

Động lực mới giúp Lào Cai phát triển

Khởi công tuyến đường sắt Lào Cai – Hà Nội – Hải Phòng: Động lực mới giúp Lào Cai phát triển

Ngày 19/12, Chính phủ khởi công xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng, ghi thêm dấu mốc quan trọng kết nối giao thông và tăng cường liên kết vùng cho các tỉnh khu vực phía Bắc. Trong đó, tỉnh Lào Cai là điểm quan trọng kết nối của tuyến đường sắt này với Trung Quốc, đây thực sự là dấu mốc quan trọng, khởi đầu một chương mới cho kết nối giao thông của Lào Cai để khai thác tối đa tiềm năng, lợi thế phát triển trên hành trình khẳng định vị thế của cực tăng trưởng.

Phường Sa Pa đã khởi công 23 tuyến đường ngõ xóm trong "Chiến dịch 100 ngày đêm"

Phường Sa Pa đã khởi công 23 tuyến đường ngõ xóm trong "Chiến dịch 100 ngày đêm"

Thực hiện "Chiến dịch 100 ngày đêm" nâng cấp, cải tạo, làm mới các tuyến đường ngõ xóm, tổ dân phố, khu dân cư trên địa bàn, qua rà soát, đánh giá, phường Sa Pa xác định 49 tuyến đường cần đầu tư nâng cấp, cải tạo, làm mới, tăng 2 tuyến so với kế hoạch ban đầu, với tổng chiều dài hơn 20 km.

Hợp tác xã Thịnh Phong - nòng cốt liên kết sản xuất, tiêu thụ nông sản ở xã Bản Lầu

Hợp tác xã Thịnh Phong - nòng cốt liên kết sản xuất, tiêu thụ nông sản ở xã Bản Lầu

Trong tiến trình tái cơ cấu nông nghiệp, Hợp tác xã Thịnh Phong, xã Bản Lầu, nổi bật trong tổ chức sản xuất, liên kết tiêu thụ và chuyển giao tiến bộ khoa học - công nghệ, góp phần nâng cao giá trị nông sản, cải thiện đời sống người dân và thúc đẩy phát triển kinh tế nông thôn.

Liên minh Hợp tác xã Việt Nam bàn giao 80 con bò giống cho 40 hộ dân ở xã Khánh Hòa

Liên minh Hợp tác xã Việt Nam bàn giao 80 con bò giống cho 40 hộ dân ở xã Khánh Hòa

Ngày 18/12, Trung tâm Xúc tiến Thương mại và Đầu tư Liên minh Hợp tác xã Việt Nam và Liên minh Hợp tác xã tỉnh Lào Cai phối hợp với xã Khánh Hòa tổ chức bàn giao 80 con bò giống cho 40 hộ dân theo dự án "Mô hình nuôi bò trên địa bàn xã Khánh Hòa" thuộc Chương trình mục tiêu quốc gia giảm nghèo bền vững.

Hoàn thành 3.000km đường cao tốc: Quyết sách đúng làm nên tiến độ thần tốc

Hoàn thành 3.000km đường cao tốc: Quyết sách đúng làm nên tiến độ thần tốc

Chỉ còn ít ngày nữa là hết năm 2025, cả nước dự kiến hoàn thành, thông xe kỹ thuật  3.513km. Như vậy, cao tốc Bắc - Nam phía Đông cơ bản hoàn thành, được đưa vào khai thác toàn bộ 23 dự án thành phần ở cả hai giai đoạn đầu tư. Đây là tốc độ phát triển nhanh nhất trong lịch sử ngành giao thông vận tải Việt Nam, góp phần hoàn thiện mạng lưới đường bộ cao tốc quốc gia theo hướng đồng bộ, hiện đại và liên thông.

Lùng Phình: Nhiều hộ dân thoát nghèo và làm giàu từ cây dược liệu

Lùng Phình: Nhiều hộ dân thoát nghèo và làm giàu từ cây dược liệu

Những năm gần đây, xã Lùng Phình đã từng bước chuyển mình mạnh mẽ trong phát triển kinh tế nông nghiệp, đặc biệt là từ việc đưa cây dược liệu vào sản xuất hàng hóa. Từ chỗ là địa phương có tỷ lệ hộ nghèo cao, đời sống nhân dân còn nhiều khó khăn, đến nay Lùng Phình đã ghi nhận nhiều mô hình kinh tế hiệu quả, giúp người dân không chỉ thoát nghèo mà còn vươn lên làm giàu.

fb yt zl tw