Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Phường Lào Cai: Trao 13.000 cây quế giống hỗ trợ hội viên nông dân khó khăn

Phường Lào Cai: Trao 13.000 cây quế giống hỗ trợ hội viên nông dân khó khăn

Sáng 24/02, Hội Chữ thập đỏ, Hội Nông dân phường Lào Cai phối hợp với Câu lạc bộ tình nguyện viên Trái tim nhân ái tỉnh Lào Cai tổ chức Chương trình phát động Tết trồng cây gắn với hoạt động trao hỗ trợ cây giống cho hội viên có hoàn cảnh khó khăn tại thôn Cốc Lầy. Dự chương trình có đồng chí Hà Thị Ngoan - Chủ tịch Hội Chữ thập đỏ tỉnh Lào Cai.

Kiểm soát thị trường, an toàn thực phẩm dịp lễ hội đầu Xuân

Kiểm soát thị trường, an toàn thực phẩm dịp lễ hội đầu Xuân

Mùa Xuân là mùa của lễ hội, người dân nô nức du xuân, trẩy hội, dâng hương tại các đền, chùa và điểm du lịch trên cả nước. Không khí rộn ràng tại các lễ hội, điểm du lịch kéo theo nhu cầu tiêu dùng tăng mạnh, từ thực phẩm, nước giải khát, đồ lễ, hàng lưu niệm đến các dịch vụ ăn uống, lưu trú.

Đảng lãnh đạo, lòng dân đồng thuận, chính quyền quyết tâm

Chống ngập ven sông Hồng: Đảng lãnh đạo, lòng dân đồng thuận, chính quyền quyết tâm

Từ những chuyến khảo sát thực tế của đồng chí Bí thư Tỉnh ủy Trịnh Việt Hùng tại các điểm xung yếu, một dự án mang tính lịch sử với tổng mức đầu tư gần 14.000 tỷ đồng đã được định hình. Dự án “Khắc phục, xử lý tình trạng ngập, úng ven sông Hồng khu vực trung tâm tỉnh Lào Cai và vùng phụ cận” không chỉ là công trình hạ tầng trọng điểm, mà còn là minh chứng cho sự thống nhất giữa ý Đảng và lòng dân trong cuộc chiến trị thủy, kiến tạo tương lai.

Xây dựng chuỗi cung ứng nông sản an toàn

Xây dựng chuỗi cung ứng nông sản an toàn

Trong bối cảnh thị trường ngày càng đặt ra yêu cầu khắt khe về chất lượng, truy xuất nguồn gốc và an toàn thực phẩm, sản xuất nông nghiệp theo chuỗi cung ứng khép kín không còn là lựa chọn mà đã trở thành xu thế tất yếu. Tại Lào Cai, các chuỗi cung ứng nông sản an toàn đang từng bước hình thành, tạo nền tảng cho phát triển bền vững và nâng cao năng lực cạnh tranh.

Lao động "nhảy việc" sau Tết không nhiều

Lao động "nhảy việc" sau Tết không nhiều

Theo Bộ Nội vụ, tình hình lao động "nhảy việc" sau Tết không nhiều do các doanh nghiệp đã quan tâm đến chính sách thu hút, hỗ trợ người lao động từ trước Tết, tỷ lệ lao động trở lại làm việc sau Tết trên 95%.

Nghĩa Tâm vào vụ trồng rừng

Nghĩa Tâm vào vụ trồng rừng

Năm 2026, xã Nghĩa Tâm đề ra mục tiêu trồng mới 318 ha rừng, trong đó 200 ha rừng tập trung, 118 ha trồng phân tán. Nhờ làm tốt việc chuẩn bị đất, chủ động giống cây nên ngay sau những ngày Tết Nguyên đán Bính Ngọ, người dân các thôn đã tích cực trồng rừng, phấn đấu trong quý I, toàn xã hoàn thành 50% kế hoạch trồng rừng của năm.

Phát huy vai trò “đầu tàu” của các bí thư chi bộ ở Lao Chải

Phát huy vai trò “đầu tàu” của các bí thư chi bộ ở Lao Chải

Với tinh thần trách nhiệm cao, nhiều bí thư chi bộ thuộc Đảng bộ xã Lao Chải đã gần dân, sát cơ sở, kịp thời nắm bắt tình hình, tạo sự đồng thuận trong đảng viên và Nhân dân, phát huy sức mạnh đoàn kết để đưa chủ trương, chính sách của Đảng vào cuộc sống. Từ những thôn còn nhiều khó khăn, hạ tầng hạn chế, nay nhiều tuyến đường được bê tông hóa sạch đẹp, đời sống vật chất, tinh thần của người dân ngày càng nâng cao, góp phần xây dựng xã vùng cao Lao Chải phát triển bền vững.

Du lịch cộng đồng thu hút du khách đến với địa phương.

Văn Chấn phát huy thế mạnh du lịch

Sau khi được sáp nhập từ thị trấn Sơn Thịnh và các xã Đồng Khê, Suối Bu, Suối Giàng, xã Văn Chấn hôm nay hội tụ nhiều yếu tố để trở thành một trong những điểm đến du lịch nổi bật của tỉnh Lào Cai và cả vùng Tây Bắc.

Diện mạo nông thôn mới ở Kể Cả

Diện mạo nông thôn mới ở Kể Cả

Những ai đã từng đến thôn Kể Cả, xã Chế Tạo, cách đây 4 năm và những ngày đầu năm 2026 sẽ cảm nhận được sự thay đổi nhanh chóng của mảnh đất khó khăn này. Là 1 trong 4 thôn cách trung tâm xã Chế Tạo hơn 20 km, từng được xem là một trong những khu vực xa xôi và khó khăn bởi không có sóng điện thoại, chưa có điện lưới quốc gia, đời sống của người dân chủ yếu dựa vào sản xuất nông nghiệp mang tính tự cung, tự cấp.

Khai thác măng vầu – sinh kế gắn với bảo vệ rừng

Khai thác măng vầu – sinh kế gắn với bảo vệ rừng

Tại khu vực Văn Bàn, hơn 14.000 ha rừng vầu và rừng hỗn giao có phân bố cây vầu, không chỉ giữ vai trò phòng hộ mà còn mang lại nguồn sinh kế thiết thực cho người dân sống gần rừng. Trong nhịp sống của người dân vùng cao, mùa măng vầu đã trở thành khoảng thời gian được nhiều hộ mong đợi, bởi đó là lúc rừng “trả công” cho những người biết gìn giữ và khai thác đúng cách.

Gần 10 triệu USD kim ngạch xuất - nhập khẩu qua Cửa khẩu Kim Thành dịp Tết

Gần 10 triệu USD kim ngạch xuất - nhập khẩu qua Cửa khẩu Kim Thành dịp Tết

Trong dịp Tết Nguyên đán, hoạt động xuất - nhập khẩu và xuất - nhập cảnh qua Cửa khẩu Quốc tế đường bộ số II Kim Thành (Cửa khẩu Kim Thành) được duy trì ổn định, bảo đảm thông suốt, đáp ứng nhu cầu giao thương của các doanh nghiệp. Các lực lượng chức năng tại cửa khẩu đã chủ động triển khai đồng bộ các giải pháp tạo thuận lợi thương mại.

Rộn ràng thi đua lao động, sản xuất ngay từ đầu năm

Rộn ràng thi đua lao động, sản xuất ngay từ đầu năm

Với tinh thần “ăn Tết gọn, làm việc sớm, vào việc ngay”, không để gián đoạn nhịp sản xuất, ngay sau kỳ nghỉ Tết Nguyên đán, nhiều doanh nghiệp trên địa bàn tỉnh đã đồng loạt ra quân thi đua lao động, sản xuất với khí thế khẩn trương, quyết liệt, phấn đấu hoàn thành mục tiêu kinh doanh ngay từ những tháng đầu năm.

fb yt zl tw