Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Gấp rút hoàn thành dự án Bệnh viện Đa khoa khu vực Bảo Yên

Gấp rút hoàn thành dự án Bệnh viện Đa khoa khu vực Bảo Yên

Dự án Bệnh viện Đa khoa Bảo Yên (Lào Cai) vốn đầu tư 258 tỷ đồng đã hoàn thành hơn 90% khối lượng, đang gấp rút hoàn thiện các hạng mục cuối cùng. Chủ đầu tư và nhà thầu thi công đang huy động tối đa nhân lực, thiết bị để đảm bảo đưa công trình vào sử dụng trong năm nay.

Yên Thành tạo động lực phát triển kinh tế tư nhân

Yên Thành tạo động lực phát triển kinh tế tư nhân

Ngay sau khi tổ chức thành công đại hội, Đảng bộ xã Yên Thành đã khẩn trương cụ thể hóa, triển khai các chương trình, kế hoạch hành động, thực hiện các khâu đột phá, sớm đưa nghị quyết vào cuộc sống. Đặc biệt, tập trung phát triển kinh tế toàn diện, lấy kinh tế tư nhân làm động lực, từng bước nâng cao đời sống cho người dân.

Hiệp hội Doanh nhân và Đầu tư Việt Nam - Hàn Quốc thúc đẩy hợp tác đào tạo và đầu tư tại Lào Cai

Hiệp hội Doanh nhân và Đầu tư Việt Nam - Hàn Quốc thúc đẩy hợp tác đào tạo và đầu tư tại Lào Cai

Tiếp tục chương trình làm việc tại tỉnh, trong chiều 10/11, đoàn công tác Hiệp hội Doanh nhân và Đầu tư Việt Nam - Hàn Quốc (VKBIA) do đồng chí Trần Hải Linh - Chủ tịch Hiệp hội, dẫn đầu đã có chuyến thăm và làm việc nhằm thúc đẩy hợp tác về đào tạo và lao động.

Tăng lương tối thiểu vùng từ 1/1/2026

Tăng lương tối thiểu vùng từ 1/1/2026

Ngày 10/11/2025, Chính phủ ban hành Nghị định số 293/2025/NĐ-CP quy định mức lương tối thiểu đối với người lao động làm việc theo hợp đồng lao động, thay thế Nghị định số 74/2024/NĐ-CP ngày 30/6/2024 và bắt đầu có hiệu lực từ ngày 1/1/2026.

Chính phủ điều chỉnh kế hoạch đầu tư công trung hạn giai đoạn 2021-2025

Chính phủ điều chỉnh kế hoạch đầu tư công trung hạn giai đoạn 2021-2025

Phó Thủ tướng Chính phủ Hồ Đức Phớc vừa ký Quyết định số 2463/QĐ-TTg ngày 10/11/2025 về việc điều chỉnh kế hoạch đầu tư công trung hạn vốn ngân sách trung ương giai đoạn 2021 - 2025 giữa các bộ, cơ quan trung ương, địa phương và điều chỉnh bổ sung danh mục dự án kế hoạch đầu tư công trung hạn vốn ngân sách trung ương giai đoạn 2021 - 2025 của các bộ, cơ quan trung ương, địa phương.

Phát triển các dịch vụ số cho người nộp thuế

Phát triển các dịch vụ số cho người nộp thuế

Nhằm tạo thuận lợi tối đa cho người nộp thuế, ngành thuế đang đẩy mạnh cải cách, đơn giản hóa thủ tục hành chính và số hóa quy trình quản lý, đồng thời khuyến khích người dân, doanh nghiệp tham gia giám sát hoạt động của cơ quan thuế. Những nỗ lực này góp phần hiện đại hóa công tác quản lý thuế, hướng đến mục tiêu thu ngân sách vượt mốc hơn 2 triệu tỷ đồng trong năm 2025.

Mường Khương sản xuất vụ đông

Mường Khương sản xuất vụ đông

Vụ đông năm nay, xã Mường Khương chủ động xây dựng kế hoạch sản xuất sớm, lựa chọn những loại cây trồng phù hợp với điều kiện khí hậu, thổ nhưỡng địa phương. Các loại cây như khoai tây, ngô và rau đậu được hướng dẫn gieo trồng đúng thời vụ, đúng kỹ thuật, hứa hẹn mang lại vụ mùa hiệu quả, góp phần nâng cao thu nhập cho người dân vùng cao.

Chấn Thịnh trên hành trình xây dựng nông thôn mới nâng cao

Chấn Thịnh trên hành trình xây dựng nông thôn mới nâng cao

Sau khi hợp nhất, xã Chấn Thịnh đã nhanh chóng ổn định tổ chức, phát huy lợi thế trở thành điểm sáng trong phong trào xây dựng nông thôn mới (NTM) của tỉnh. Kế thừa nền tảng từ hai xã đạt chuẩn NTM nâng cao và một xã đạt chuẩn NTM, đến nay, Chấn Thịnh đã hoàn thành 19/19 tiêu chí xã NTM và đang nỗ lực hướng tới mục tiêu đạt chuẩn xã NTM nâng cao vào năm 2028.

Lào Cai nỗ lực khôi phục các công trình hạ tầng, ổn định sản xuất

Tái thiết sau bão lũ: Lào Cai nỗ lực khôi phục các công trình hạ tầng, ổn định sản xuất

Những đợt mưa lũ vừa qua, đặc biệt là hoàn lưu bão số 10, đã gây thiệt hại nặng nề về cơ sở hạ tầng và sản xuất nông nghiệp ở Lào Cai. Toàn tỉnh có 488 công trình thủy lợi hư hỏng với thiệt hại ước 168 tỷ đồng, cùng hạ tầng giao thông gần 50 tỷ đồng. Mặc dù các thiệt hại ban đầu đã được khắc phục tạm thời, “vết sẹo” thiên tai trên hệ thống hạ tầng vẫn rất nặng nề, đòi hỏi nguồn lực lớn để phục hồi triệt để.

Chạy nước rút giải ngân đầu tư công

Chạy nước rút giải ngân đầu tư công

Để hoàn thành mục tiêu giải ngân vốn đầu tư công 95%, các địa phương sẽ phải rốt ráo vào cuộc, đồng bộ các giải pháp để gỡ khó, gắn trách nhiệm cụ thể cho từng cá nhân, tạo sức ép thực thi liên tục.

fb yt zl tw