Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đổi thay Lùng Phình

Đổi thay Lùng Phình

Nhờ sự quan tâm và tập trung nguồn lực cho phát triển hạ tầng, chuyển đổi mô hình sản xuất và nâng cao thu nhập cho người dân, diện mạo nông thôn ở xã vùng cao Lùng Phình ngày càng đổi mới, khang trang.

Hiệu quả từ những mô hình sản xuất mới ở Lùng Phình

Hiệu quả từ những mô hình sản xuất mới ở Lùng Phình

Ngoài phát triển nông nghiệp với các mô hình trồng rau, cây ăn quả ôn đới, cây dược liệu hay phát triển du lịch, nhiều nông dân trên địa bàn xã Lùng Phình đã mạnh dạn đưa giống cây trồng mới vào sản xuất hoặc đầu tư mở xưởng mộc, chế biến gỗ... góp phần nâng cao thu nhập và từng bước giảm nghèo.

Hướng phát triển kinh tế mới ở Bản Xèo

Hướng phát triển kinh tế mới ở Bản Xèo

Tháng 12, sương núi Bản Xèo buông xuống thành những dải mỏng như lụa, phủ lên những triền đá xám lạnh. Giữa cái giá rét của vùng cao, sắc cam ấm từ những vườn quýt đang độ chín như đánh thức cả sườn núi. Đó là vườn quýt của anh Vàng Văn Dũng, người đầu tiên đưa giống quýt về trồng tại xã Bản Xèo, mở ra một hướng phát triển kinh tế mới cho địa phương.

Lùng Phình thu hút đầu tư nông nghiệp tạo sinh kế giảm nghèo cho người dân

Lùng Phình thu hút đầu tư nông nghiệp tạo sinh kế giảm nghèo cho người dân

Phát huy lợi thế về khí hậu ôn đới, đất đai rộng và màu mỡ, những năm gần đây xã Lùng Phình xác định phát triển nông nghiệp hàng hóa ứng dụng công nghệ cao là hướng đi trọng tâm nhằm tạo sinh kế bền vững, nâng cao thu nhập và giảm nghèo cho Nhân dân. Hiện địa phương đang thu hút doanh nghiệp, hợp tác xã đầu tư sản xuất nông nghiệp hiện đại, từng bước hình thành vùng sản xuất tập trung, gắn kết chặt chẽ giữa khâu sản xuất và tiêu thụ.

Phúc Lợi toàn lực hỗ trợ cho giảm nghèo

Phúc Lợi toàn lực hỗ trợ cho giảm nghèo

Thông qua việc đẩy mạnh hỗ trợ sinh kế và tạo điều kiện để người nghèo tiếp cận đầy đủ các dịch vụ xã hội cơ bản, năm 2025, xã Phúc Lợi đã giúp 126 hộ nghèo, cận nghèo thoát nghèo, đưa tỷ lệ nghèo đa chiều của xã giảm từ 9,99% xuống còn 6,23%.

Nuôi gà trống thiến giúp nông dân Bắc Ninh thoát nghèo

Nuôi gà trống thiến giúp nông dân Bắc Ninh thoát nghèo

Từ mô hình nuôi gà ngắn ngày nhiều rủi ro, chị Phan Thị Huyền xã Tiên Lục, tỉnh Bắc Ninh đã mạnh dạn chuyển sang nuôi gà trống thiến dài ngày, mang lại doanh thu hàng trăm triệu đồng mỗi lứa, mở ra hướng phát triển kinh tế bền vững cho nông hộ địa phương.

Giảm nghèo thông tin - "chìa khóa" giảm nghèo bền vững

Giảm nghèo thông tin - "chìa khóa" giảm nghèo bền vững

Giảm nghèo thông tin là một trong những tiểu dự án quan trọng của chương trình mục tiêu quốc gia (MTQG) giảm nghèo bền vững giai đoạn 2021 - 2025. Qua đó góp phần giúp người dân nâng cao tri thức, tiến tới giảm nghèo bền vững. Tại Bảo Hà, những kết quả trong giảm nghèo thông tin thời gian qua được xác định như "chìa khoá" giúp giảm nghèo bền vững.

Hơn 1.300 lượt hộ nghèo và đối tượng chính sách được vay vốn tín dụng chính sách

Hơn 1.300 lượt hộ nghèo và đối tượng chính sách được vay vốn tín dụng chính sách

Năm 2025, Phòng giao dịch Ngân hàng Chính sách xã hội Trạm Tấu đã triển khai hiệu quả các chương trình tín dụng chính sách tại 4 xã Hạnh Phúc, Trạm Tấu, Phình Hồ và Tà Xi Láng, tạo điều kiện cho hơn 1.300 lượt hộ nghèo và các đối tượng chính sách được tiếp cận nguồn vốn ưu đãi, góp phần phát triển sản xuất, ổn định đời sống và bảo đảm an sinh xã hội.

Bảo Hà nhân rộng sinh kế, tạo đòn bẩy giảm nghèo

Bảo Hà nhân rộng sinh kế, tạo đòn bẩy giảm nghèo

Thực hiện mục tiêu giảm nghèo bền vững, những năm qua xã Bảo Hà đã tập trung triển khai nhiều mô hình kinh tế phù hợp với điều kiện thực tế địa phương. Từ trồng trọt, chăn nuôi đến phát triển kinh tế hộ gia đình, các mô hình không chỉ tạo sinh kế ổn định cho người dân mà còn góp phần thay đổi tư duy sản xuất, nâng cao thu nhập, từng bước cải thiện đời sống.

Dự án nâng cấp đường Yên Thế - Vĩnh Kiên phấn đấu “về đích” trước Tết Nguyên đán 2026

Dự án nâng cấp đường Yên Thế - Vĩnh Kiên phấn đấu “về đích” trước Tết Nguyên đán 2026

Sau nhiều năm khai thác, tuyến đường Yên Thế - Vĩnh Kiên, trục giao thông quan trọng kết nối các xã vùng Đông Hồ Thác Bà (tỉnh Yên Bái trước hợp nhất), đã xuất hiện nhiều hư hỏng, xuống cấp nghiêm trọng. Tình trạng này gây khó khăn trong đi lại và vận chuyển hàng hóa, đồng thời tiềm ẩn nguy cơ mất an toàn giao thông, đặc biệt trong mùa mưa.

Công ty Điện lực Lào Cai triển khai nhiều hoạt động thiết thực hưởng ứng "Tháng tri ân khách hàng" năm 2025

Công ty Điện lực Lào Cai triển khai nhiều hoạt động thiết thực hưởng ứng "Tháng tri ân khách hàng" năm 2025

Hưởng ứng "Tháng tri ân khách hàng" năm 2025 do Tập đoàn Điện lực Việt Nam (EVN) phát động, Công ty Điện lực Lào Cai đã và đang triển khai đồng bộ nhiều hoạt động chăm sóc khách hàng và an sinh xã hội giàu ý nghĩa, thể hiện rõ trách nhiệm của doanh nghiệp nhà nước trong phục vụ Nhân dân và phát triển bền vững địa phương.

fb yt zl tw