Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đảm bảo nguồn cung gas trên địa bàn tỉnh Lào Cai trước nhiều khó khăn

Đảm bảo nguồn cung gas trên địa bàn tỉnh Lào Cai trước nhiều khó khăn

Trong bối cảnh thị trường năng lượng có nhiều biến động, đặc biệt là nguồn cung khí hóa lỏng (gas) gặp không ít khó khăn, các doanh nghiệp và hiệp hội ngành hàng trên địa bàn tỉnh Lào Cai đã chủ động triển khai nhiều giải pháp nhằm đảm bảo nguồn cung ổn định, phục vụ nhu cầu sinh hoạt và sản xuất của người dân.

Nghị quyết 21 - trợ lực thúc đẩy phát triển sản xuất

Nghị quyết 21 - trợ lực thúc đẩy phát triển sản xuất

Nghị quyết 21 của HĐND tỉnh Lào Cai về khuyến khích phát triển sản xuất nông, lâm nghiệp, với nhiều cơ chế hỗ trợ thiết thực, phù hợp với điều kiện thực tế; là nguồn lực quan trọng, giúp người dân mạnh dạn đầu tư mở rộng quy mô chăn nuôi, trồng trọt, từng bước nâng cao thu nhập và phát triển kinh tế bền vững.

Việt Nam chủ động ngăn chặn, phòng chống khi dịch lở mồm long móng SAT1 lan rộng toàn cầu

Việt Nam chủ động ngăn chặn, phòng chống khi dịch lở mồm long móng SAT1 lan rộng toàn cầu

Trước diễn biến lây lan nhanh của vi rút lở mồm long móng serotype SAT1 tại nhiều khu vực trên thế giới, Bộ Nông nghiệp và Môi trường cảnh báo nguy cơ xâm nhập vào Việt Nam là hiện hữu, đồng thời triển khai đồng bộ các giải pháp nhằm chủ động ngăn chặn, bảo vệ ngành chăn nuôi.

Nông sản OCOP Lào Cai - từ tuần lễ xúc tiến đến xây dựng thị trường phát triển bền vững

Nông sản OCOP Lào Cai - từ tuần lễ xúc tiến đến xây dựng thị trường phát triển bền vững

Tuần lễ xúc tiến thương mại không chỉ mang lại kết quả về doanh thu, mà còn mở ra hướng tiếp cận mới cho nông sản địa phương trong hành trình tìm chỗ đứng vững chắc trên thị trường. Tuần lễ nhận diện nông sản an toàn, sản phẩm OCOP và sản phẩm đặc trưng của tỉnh Lào Cai tổ chức tại Ninh Bình cuối tháng 3 vừa qua là một hoạt động đáng chú ý, ghi nhận nhiều tín hiệu tích cực nhưng cũng cho thấy những “nút thắt” cần tiếp tục tháo gỡ.

Thi công khắc phục sạt lở trên Tỉnh lộ 155 cần đảm bảo an toàn, thông suốt

Thi công khắc phục sạt lở trên Tỉnh lộ 155 cần đảm bảo an toàn, thông suốt

Những ngày này, trên Tỉnh lộ 155 đoạn từ xã Tả Phìn đến phường Sa Pa, các đơn vị thi công đang tập trung nhân lực, máy móc để khắc phục sạt lở, cắt cua và mở rộng nền đường. Việc vừa thi công vừa đảm bảo các phương tiện lưu thông an toàn, thông suốt đang đặt ra thách thức không nhỏ cho các nhà thầu.

Đổi thay trên cánh đồng Tà Ghênh - từ bãi cỏ hoang thành miền no ấm

Đổi thay trên cánh đồng Tà Ghênh - từ bãi cỏ hoang thành miền no ấm

Giữa lưng chừng núi cao, nơi những dải mây còn lững lờ quấn quanh sườn đồi mỗi sớm, cánh đồng Tà Ghênh, thôn Sáng Pao, xã Hạnh Phúc hôm nay hiện ra với một diện mạo mới. Màu xanh của lúa trải dài trên mỗi thửa ruộng, xen lẫn tiếng nước chảy róc rách từ hệ thống mương dẫn, tạo nên một bức tranh sinh động về sự hồi sinh của vùng đất từng bị bỏ hoang.

Quy Mông nhân rộng gương người tốt, mô hình điển hình tiên tiến

Quy Mông nhân rộng gương người tốt, mô hình điển hình tiên tiến

Những năm qua, việc xây dựng và nhân rộng các mô hình điển hình, gương người tốt, việc tốt trên địa bàn xã Quy Mông luôn được cấp ủy, chính quyền cùng các ngành, đoàn thể quan tâm, chú trọng. Thông qua những việc làm thiết thực, gần gũi trong đời sống hằng ngày, các tấm gương và mô hình điển hình đã lan tỏa tinh thần trách nhiệm, ý chí vươn lên và khát vọng cống hiến trong cộng đồng. Đồng thời, thúc đẩy các phong trào thi đua yêu nước ngày càng phát triển sâu rộng.

Cập nhật, bổ sung Chương trình hành động của Chính phủ thực hiện Kế hoạch phát triển KTXH, tài chính quốc gia, đầu tư công trung hạn 5 năm 2026- 2030

Cập nhật, bổ sung Chương trình hành động của Chính phủ thực hiện Kế hoạch phát triển KTXH, tài chính quốc gia, đầu tư công trung hạn 5 năm 2026- 2030

Nghị quyết số 109/NQ-CP ngày 16/4/2026 cập nhật, bổ sung Chương trình hành động của Chính phủ thực hiện Nghị quyết Đại hội đại biểu toàn quốc lần thứ XIV của Đảng và Kết luận số 18-KL/TW của Trung ương về Kế hoạch phát triển kinh tế - xã hội.

Niềm vui trong căn nhà nhân ái

Niềm vui trong căn nhà nhân ái

Những ngôi nhà nhân ái được trao tặng cho các hộ có hoàn cảnh khó khăn tại xã Phúc Khánh không chỉ giúp người dân có chỗ ở an toàn, vững chãi, mà còn mang theo niềm vui và động lực để bà con vươn lên ổn định cuộc sống, hướng tới thoát nghèo bền vững.

Xã Mỏ Vàng phát động phong trào làm đường giao thông nông thôn giai đoạn 2026 - 2030

Xã Mỏ Vàng phát động phong trào làm đường giao thông nông thôn giai đoạn 2026 - 2030

Sáng 18/4, tại thôn Khe Trầu, xã Mỏ Vàng đã tổ chức Lễ phát động phong trào làm đường giao thông nông thôn giai đoạn 2026 - 2030 với chủ đề “Phát triển giao thông - xây dựng nông thôn mới”. Đây là hoạt động có ý nghĩa quan trọng nhằm tạo động lực thúc đẩy phát triển kinh tế - xã hội, nâng cao đời sống Nhân dân và từng bước hoàn thiện hạ tầng nông thôn trên địa bàn.

Doanh nghiệp xây dựng "gồng mình" trước giá nhiên liệu, vật liệu tăng cao

Doanh nghiệp xây dựng "gồng mình" trước giá nhiên liệu, vật liệu tăng cao

Những ngày gần đây, tại nhiều công trường xây dựng trên địa bàn tỉnh Lào Cai, máy móc vẫn hoạt động hết công suất, tiến độ thi công được duy trì khẩn trương. Thế nhưng, phía sau sự nhộn nhịp ấy là nỗi lo thường trực của nhiều doanh nghiệp khi giá nhiên liệu và vật liệu xây dựng liên tục tăng cao. Trong khi các hợp đồng đã ký kết với đơn giá cố định, nhiều đơn vị buộc phải "gồng mình" thi công để đảm bảo tiến độ, chấp nhận nguy cơ thua lỗ nặng.

Trao truyền khát vọng, tiếp nối mạch nguồn

Trao truyền khát vọng, tiếp nối mạch nguồn

Dám nghĩ, dám làm và miệt mài lao động sản xuất, nhiều người cao tuổi ở Lào Cai đã xây dựng một cuộc sống tốt đẹp cho gia đình. Họ không chỉ làm giàu cho bản thân, cho quê hương mà còn định hướng, truyền cảm hứng, thúc đẩy tinh thần lập nghiệp và động lực phát triển cho người trẻ, tạo nền tảng tiếp nối bền vững giữa kinh nghiệm và khát vọng của hai thế hệ.

Nâng cao năng lực cạnh tranh trong kỷ nguyên số

Nâng cao năng lực cạnh tranh trong kỷ nguyên số

Thời gian qua, việc ứng dụng trí tuệ nhân tạo (AI) trong sản xuất, kinh doanh đã giúp nhiều doanh nghiệp trên địa bàn tỉnh nâng cao năng suất lao động, cải thiện chất lượng sản phẩm, mở ra dư địa tăng trưởng mới, tạo “cú huých” để doanh nghiệp bứt phá trong kỷ nguyên số.

fb yt zl tw