Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

"Lá chắn" trước biến đổi khí hậu

Nhân ngày Khí tượng thế giới 23/3: "Lá chắn" trước biến đổi khí hậu

Biến đổi khí hậu hiện nay không còn là dự báo xa vời mà đã trở thành thực tại khắc nghiệt. Những con số, biểu đồ và bản tin dự báo không đơn thuần là thông tin thời tiết, đó chính là “lá chắn” sống còn, bảo vệ tài sản, tính mạng người dân và hệ sinh thái trước những “cơn thịnh nộ” của thiên nhiên.

Giải pháp sản xuất chè xanh bền vững

Giải pháp sản xuất chè xanh bền vững

Thời điểm này, các vùng nguyên liệu chè trên địa bàn tỉnh đã bắt đầu thu hái lứa búp xuân. Dù thời tiết chưa thực sự thuận lợi, nhưng với sự đầu tư chăm sóc từ cuối vụ, những đồi chè của người dân đã đủ nguyên liệu làm chè xanh. Những sản phẩm chè xuân đã ra lò đến với người tiêu dùng, người làm chè xanh kỳ vọng niên vụ chè mới thắng lợi.

Vàng Ngần - Phát huy sức mạnh cộng đồng từ mô hình “đồi quế tập thể”

Vàng Ngần - Phát huy sức mạnh cộng đồng từ mô hình “đồi quế tập thể”

Từ sự đồng lòng của người dân, thôn Vàng Ngần, xã Sơn Lương xây dựng nên mô hình “đồi quế tập thể”. Không chỉ tạo nên những giá trị về vật chất, mô hình còn là minh chứng rõ nét cho tinh thần đoàn kết cộng đồng, khi bà con cùng góp công, góp sức chăm sóc và cùng hưởng lợi thành quả chung.

[Ảnh] Mùa “se duyên” cho bưởi

[Ảnh] Mùa “se duyên” cho bưởi

Khi hoa bưởi bước vào kỳ nở rộ, nhiều nhà vườn đã chủ động triển khai kỹ thuật thụ phấn nhân tạo nhằm nâng cao tỷ lệ đậu quả. Công việc tưởng chừng đơn giản này lại đòi hỏi sự tỉ mỉ, chính xác tuyệt đối và phải thực hiện vào đúng “thời điểm vàng”. Đây chính là yếu tố then chốt quyết định năng suất và mang lại hiệu quả kinh tế cao cho người nông dân.

Khát vọng đánh thức tiềm năng du lịch Si Ma Cai từ hoa anh đào

Khát vọng đánh thức tiềm năng du lịch Si Ma Cai từ hoa anh đào

Từ bao đời nay, dải đất biên cương Si Ma Cai (tỉnh Lào Cai) vốn nổi tiếng với vẻ đẹp hoang sơ của những dãy núi đá trùng điệp và bản sắc văn hóa độc đáo của đồng bào các dân tộc vùng cao. Tuy nhiên, trong chiến lược phát triển giai đoạn 2025 - 2030, địa phương này đang kỳ vọng tạo nên một diện mạo mới để phát triển du lịch, trong đó sắc hồng của những cánh hoa đào được chọn làm điểm nhấn đột phá.

Thêm nguồn lực thúc đẩy sản xuất hàng hóa

Thêm nguồn lực thúc đẩy sản xuất hàng hóa

Ngay sau khi tỉnh ban hành quy định về trình tự, thủ tục, hồ sơ thực hiện chính sách khuyến khích, hỗ trợ phát triển sản xuất nông - lâm nghiệp và thủy sản theo Nghị quyết số 21/2025 của HĐND tỉnh, nhiều địa phương trên địa bàn đã nhanh chóng triển khai tuyên truyền, hướng dẫn để người dân tiếp cận chính sách. Việc đưa nghị quyết vào thực tiễn sẽ tạo thêm nguồn lực cho sản xuất và góp phần thúc đẩy chuyển dịch cơ cấu kinh tế nông nghiệp theo hướng hàng hóa, nâng cao thu nhập cho người nông dân.

Tiết kiệm xăng dầu: Chỗ nào làm việc trực tuyến được thì nên khuyến khích

Tiết kiệm xăng dầu: Chỗ nào làm việc trực tuyến được thì nên khuyến khích

“Tôi nghĩ rằng, trước mắt chúng ta phải có những biện pháp khuyến khích để làm sao tiết kiệm xăng dầu lớn nhất. Thậm chí, những chỗ nào có thể làm việc trực tuyến được thì nên cho làm việc trực tuyến. Những gì có thể làm được để tiết kiệm xăng dầu thì nên khuyến khích ”, chuyên gia kinh tế Đinh Trọng Thịnh nói.

Nâng cao năng lực quản lý đầu tư công

Nâng cao năng lực quản lý đầu tư công

Thực hiện chỉ đạo của tỉnh, các dự án đầu tư công do ban quản lý dự án cấp huyện trước đây làm chủ đầu tư đã được bàn giao về các xã, phường (cấp xã). Cùng với đó, theo kế hoạch đầu tư công giai đoạn tới, cấp xã sẽ được phân cấp, quyết định chủ trương đầu tư nhiều dự án trên địa bàn.

Người dùng đã dần thích nghi sau khi thí điểm xăng sinh học E10

Người dùng đã dần thích nghi sau khi thí điểm xăng sinh học E10

Sau hơn nửa năm thí điểm xăng sinh học E10 RON95 tại một số đô thị, người dùng bước đầu ghi nhận phương tiện vận hành ổn định, không phát sinh vấn đề đáng kể. Tuy nhiên, chuyên gia khuyến nghị tiếp tục theo dõi kỹ thuật và bảo dưỡng định kỳ để đảm bảo hiệu quả lâu dài.

Mở rộng xúc tiến thương mại

Mở rộng xúc tiến thương mại

Trong bối cảnh hội nhập kinh tế ngày càng sâu rộng, việc mở rộng xúc tiến thương mại không chỉ là yêu cầu tất yếu mà còn là động lực then chốt thúc đẩy tăng trưởng kinh tế của tỉnh trong giai đoạn mới.

fb yt zl tw