Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Khi thuế trở thành nguồn lực cho an sinh

Khi thuế trở thành nguồn lực cho an sinh

Luật Thuế thu nhập cá nhân (TNCN) số 109 được Quốc hội thông qua ngày 10/12/2025 và có hiệu lực thi hành từ ngày 01/7/2026 đang nhận được sự quan tâm lớn khi đồng thời nới lỏng nghĩa vụ thuế cho cả người lao động và hộ kinh doanh.

Trái thơm mở lối làm giàu

Trái thơm mở lối làm giàu

Từ những diện tích thử nghiệm ban đầu, cây bí xanh thơm đang từng bước khẳng định hiệu quả trên đồng đất xã Bát Xát. Không chỉ mở ra hướng chuyển đổi cây trồng phù hợp, mô hình còn góp phần nâng cao thu nhập, tạo tiền đề phát triển sản xuất nông nghiệp theo hướng hàng hóa, bền vững tại địa phương.

Từ chính sách thuế xăng dầu đến tư duy quản trị mới

Từ chính sách thuế xăng dầu đến tư duy quản trị mới

Vừa qua, việc Quốc hội thông qua chủ trương giảm, miễn một số loại thuế liên quan đến xăng dầu và đặc biệt là ủy quyền cho Chính phủ chủ động điều hành trong quá trình thực hiện, là một quyết định có ý nghĩa vượt ra ngoài phạm vi của một chính sách tài khóa thông thường.

Yên Bình phát triển nghề ươm cây giống lâm nghiệp

Yên Bình phát triển nghề ươm cây giống lâm nghiệp

Tận dụng lợi thế về đất đai và điều kiện tự nhiên, thời gian qua, người dân xã Yên Bình đã phát triển mạnh nghề ươm cây giống lâm nghiệp, mở ra hướng đi bền vững trong phát triển kinh tế, nâng cao thu nhập và tạo việc làm cho nhiều lao động địa phương.

Quy Mông: Mô hình gà đệm lót sinh học thu nhập hàng trăm triệu đồng

Quy Mông: Mô hình gà đệm lót sinh học thu nhập hàng trăm triệu đồng

Trong xu hướng sản xuất nông nghiệp an toàn, bền vững, mô hình nuôi gà ứng dụng đệm lót sinh học của anh Nguyễn Minh Quỳnh, thôn Minh Tân, xã Quy Mông (tỉnh Lào Cai) đang nổi lên hiệu quả. Mô hình không chỉ mang lại thu nhập hàng trăm triệu đồng mỗi năm mà còn kiểm soát dịch bệnh tốt, với sự hỗ trợ sát sao của cán bộ nông nghiệp địa phương.

Trạm Tấu chủ động bảo vệ rừng mùa khô

Trạm Tấu chủ động bảo vệ rừng mùa khô

Bước vào cao điểm mùa khô hanh với thời tiết nắng nóng kéo dài, nguy cơ cháy rừng luôn ở mức cao. Trước thực tế đó, xã Trạm Tấu đã chủ động triển khai đồng bộ các giải pháp phòng, chống cháy rừng, chú trọng phát huy lực lượng tại chỗ và nâng cao ý thức người dân, quyết tâm không để xảy ra cháy rừng trên địa bàn.

Động lực để doanh nghiệp phát triển bền vững

Động lực để doanh nghiệp phát triển bền vững

Trong bối cảnh cạnh tranh ngày càng gay gắt, các doanh nghiệp khai thác và chế biến quặng không ngừng tìm kiếm giải pháp nâng cao hiệu quả sản xuất, tối ưu hóa chi phí, đồng thời đảm bảo an toàn lao động và cải thiện đời sống người lao động. Phong trào thi đua lao động sáng tạo đã trở thành động lực quan trọng, góp phần nâng cao năng suất, chất lượng sản phẩm và khẳng định vị thế doanh nghiệp.

Từ nghị quyết đến hành động: Hợp Thành bứt tốc 2026

Từ nghị quyết đến hành động: Hợp Thành bứt tốc 2026

Ngay từ những tháng đầu năm 2026, trên địa bàn xã Hợp Thành đã ghi nhận những chuyển biến rõ nét trong triển khai nhiệm vụ phát triển kinh tế - xã hội. Ở từng thôn, bản đến trung tâm hành chính xã, tinh thần chủ động, trách nhiệm được cụ thể hóa bằng những hành động thiết thực, tạo khí thế thi đua sôi nổi và hiệu quả ngay từ cơ sở.

Chè VietGAP mở lối phát triển bền vững

Chè VietGAP mở lối phát triển bền vững

Trước yêu cầu khắt khe về chất lượng nông sản và bảo vệ môi trường, chuyển đổi phương thức sản xuất đã trở thành xu hướng tất yếu. Tại Lào Cai, cây chè - một trong những cây trồng chủ lực đang được “nâng tầm” thông qua quy trình sản xuất theo tiêu chuẩn VietGAP và canh tác hữu cơ. Hướng đi này không chỉ nâng cao giá trị kinh tế mà còn chuyển đổi mạnh mẽ tư duy của người dân sang nền nông nghiệp an toàn, bền vững.

"Chìa khóa" để nông sản Lào Cai vươn xa

"Chìa khóa" để nông sản Lào Cai vươn xa

Hiện nay, “giấy thông hành” quan trọng nhất của nông sản nằm ở hệ thống chỉ dấu an toàn thực phẩm và sự minh bạch trong toàn bộ quy trình cung ứng. Đối với Lào Cai - địa phương hiện đang sở hữu 605 sản phẩm OCOP đạt từ 3 - 5 sao, việc tăng cường kiểm tra, giám sát, chuẩn hóa chất lượng và siết chặt quản lý từ gốc không chỉ là yêu cầu cấp bách để bảo vệ người tiêu dùng, còn là chiến lược quan trọng nhằm nâng cao năng lực cạnh tranh, củng cố niềm tin và mở rộng cơ hội cho nông sản vươn xa.

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh: Quyết tâm phấn đấu tăng trưởng 10,5% trong quý II/2026

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh: Quyết tâm phấn đấu tăng trưởng 10,5% trong quý II/2026

Chiều 21/4, dưới sự chủ trì của đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh, UBND tỉnh tổ chức hội nghị đánh giá kết quả nhiệm vụ trọng tâm quý I/2026, bàn giải pháp chỉ đạo, điều hành nhằm bảo đảm hoàn thành mục tiêu tăng trưởng kinh tế 10,5% trong quý II/2026.

Kích hoạt tăng trưởng từ đầu tư công

Kích hoạt tăng trưởng từ đầu tư công

Trong bối cảnh kinh tế thế giới tiếp tục diễn biến phức tạp, giá xăng, dầu và vật liệu xây dựng tăng cao, việc phát huy hiệu quả đầu tư công trở thành nhiệm vụ trọng tâm của các địa phương. Với Lào Cai, năm 2026 được xác định là năm bản lề, trong đó đầu tư công không chỉ đóng vai trò “vốn mồi”, mà còn là động lực trực tiếp thúc đẩy tăng trưởng, hoàn thiện kết cấu hạ tầng và nâng cao đời sống Nhân dân.

fb yt zl tw