Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Trên công trường biên giới Pha Long

Trên công trường biên giới Pha Long

Thời tiết rét đậm, mưa phùn kéo dài nơi vùng biên giới Pha Long khiến điều kiện thi công gặp nhiều khó khăn. Tuy nhiên, trên công trường xây dựng Trường Phổ thông nội trú Tiểu học và THCS Pha Long, công nhân vẫn miệt mài bám trụ, chia thành từng tốp thi công liên tục, nỗ lực vượt nắng, thắng mưa, bảo đảm tiến độ dự án, góp phần tạo dựng điểm trường hiện đại cho học sinh vùng cao trong tương lai.

Cần sớm khắc phục các điểm sạt lở trên tỉnh lộ 161 đoạn qua xã Bảo Hà

Cần sớm khắc phục các điểm sạt lở trên tỉnh lộ 161 đoạn qua xã Bảo Hà

Đến nay, dù cơn bão số 3 năm 2024 đã đi qua hơn một năm, nhiều hệ lụy vẫn chưa được khắc phục, ảnh hưởng trực tiếp đến đời sống người dân. Đặc biêt, tại xã Bảo Hà, các điểm sạt lở trên Tỉnh lộ 161 đoạn qua bản Bùn 3 và Bùn 4 vẫn tồn tại, tiềm ẩn nguy cơ cao mất an toàn giao thông.

Mường Hum giảm hộ nghèo 5,6% nhờ phát triển sinh kế

Mường Hum giảm hộ nghèo 5,6% nhờ phát triển sinh kế

Nhờ triển khai đồng bộ các giải pháp giảm nghèo, gắn hỗ trợ sinh kế với phát triển sản xuất nông nghiệp hàng hóa và giải quyết việc làm, năm 2025, xã Mường Hum ghi nhận kết quả tích cực khi tỷ lệ hộ nghèo giảm 5,6% so với năm trước.

Phát triển rừng vượt kế hoạch - Nền tảng cho sinh kế bền vững

Tạo sinh kế bền vững từ kinh tế rừng

Năm 2025, nhiều địa phương trên địa bàn tỉnh Lào Cai đã đạt và vượt các chỉ tiêu trồng, chăm sóc, bảo vệ rừng. Kết quả đó không chỉ góp phần nâng cao tỷ lệ che phủ rừng, còn tạo nền tảng vững chắc cho phát triển kinh tế, tạo sinh kế bền vững và cải thiện đời sống người dân.

Phường Lào Cai: Khai thác lợi thế, đặt mục tiêu doanh thu du lịch đạt 7.000 tỷ đồng

Phường Lào Cai: Khai thác lợi thế, đặt mục tiêu doanh thu du lịch đạt 7.000 tỷ đồng

Với vị trí là đô thị trung tâm, cửa ngõ giao thương quốc tế và là nơi hội tụ giữa nhịp sống hiện đại với văn hóa truyền thống của các dân tộc, phường Lào Cai đang sở hữu những lợi thế đặc thù để bứt phá trong ngành du lịch. Tận dụng hạ tầng đồng bộ cùng bản sắc đô thị biên cương, địa phương đặt mục tiêu đạt doanh thu du lịch 7.000 tỷ đồng trong năm 2026.

Cao Sơn: Phát huy nội lực, giảm nghèo bền vững

Cao Sơn: Phát huy nội lực, giảm nghèo bền vững

Thay vì canh tác manh mún, người dân xã vùng cao Cao Sơn đang chủ động thoát nghèo nhờ thay đổi tư duy sản xuất. Từ việc phát triển vùng chè đặc sản đến mạnh dạn chuyển đổi sang trồng quýt, nhiều hộ dân đã có thu nhập ổn định. Bên cạnh nỗ lực của người dân, địa phương cũng đang tập trung xây dựng chuỗi giá trị nông sản và thu hút doanh nghiệp chế biến sâu. Đây chính là giải pháp quan trọng giúp Cao Sơn phát huy nội lực, hiện thực hóa mục tiêu giảm nghèo bền vững.

2026 - Năm bản lề cho kỳ vọng bứt phá của kinh tế Việt Nam

2026 - Năm bản lề cho kỳ vọng bứt phá của kinh tế Việt Nam

Bước sang năm 2026 - thời điểm bản lề của chu kỳ phát triển mới, kinh tế Việt Nam đứng trước cơ hội bứt phá khi nền tảng ổn định giai đoạn 2021 - 2025 đã được củng cố, song cũng đối mặt nhiều thách thức, đòi hỏi điều hành quyết liệt và nâng cao chất lượng tăng trưởng.

Duy trì 5 mũi thi công dự án phục vụ giải phóng mặt bằng xây dựng đường sắt Lào Cai - Hà Nội - Hải Phòng

Duy trì 5 mũi thi công dự án phục vụ giải phóng mặt bằng xây dựng đường sắt Lào Cai - Hà Nội - Hải Phòng

Để đảm bảo tiến độ bàn giao mặt bằng theo kế hoạch, trong dịp nghỉ tết Dương lịch 2026, Dự án san gạt mặt bằng và hạ tầng kỹ thuật khu Bản Qua phục vụ giải phóng mặt bằng Dự án đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng vẫn duy trì nhịp độ thi công khẩn trương, thể hiện quyết tâm của chủ đầu tư, nhà thầu trong việc đảm bảo tiến độ.

Thương mại điện tử - trụ cột tăng trưởng của thị trường bán lẻ

Thương mại điện tử - trụ cột tăng trưởng của thị trường bán lẻ

Không còn là kênh bán hàng bổ trợ, thương mại điện tử đang vươn lên trở thành động lực tăng trưởng quan trọng của thị trường bán lẻ nước ta. Với quy mô hàng chục tỷ USD và tốc độ tăng trưởng vượt trội so với bán lẻ truyền thống, thương mại điện tử được dự báo tiếp tục giữ vai trò then chốt trong bức tranh tiêu dùng giai đoạn 2026 - 2030.

Thành lập Ban Chỉ đạo triển khai các tuyến đường sắt kết nối Trung Quốc

Thành lập Ban Chỉ đạo triển khai các tuyến đường sắt kết nối Trung Quốc

Bộ trưởng Bộ Xây dựng vừa ký ban hành Quyết định về việc thành lập Ban Chỉ đạo của Bộ Xây dựng triển khai các tuyến đường sắt kết nối Trung Quốc (Lào Cai - Hà Nội - Hải Phòng, Hà Nội - Đồng Đăng, Hải Phòng - Hạ Long - Móng Cái), do Bộ trưởng Bộ Xây dựng Trần Hồng Minh làm Trưởng ban. 

Mở cửa rừng xanh đón niềm tin mới

Mở cửa rừng xanh đón niềm tin mới

Từ hàng trăm năm trước, khu vực các xã vùng cao của huyện Bát Xát cũ như Y Tý, Dền Sáng, Trịnh Tường, Nậm Pung, Sàng Ma Sáo, Trung Lèng Hồ nổi tiếng với những khu rừng nguyên sinh cổ thụ, có nhiều loài cây quý hiếm được ghi trong sách đỏ Việt Nam. Đặc biệt, cán bộ kiểm lâm Khu Bảo tồn thiên nhiên Bát Xát đã phát hiện ra quần thể hàng trăm cây thiết sam, vân sam cổ thụ quý hiếm.

Thắp sáng khát vọng khởi nghiệp cho phụ nữ và thanh niên vùng cao

Thắp sáng khát vọng khởi nghiệp cho phụ nữ và thanh niên vùng cao

Những năm gần đây, sinh kế và việc làm bền vững cho phụ nữ và thanh niên vùng cao Lào Cai, đặc biệt là người dân tộc thiểu số, đã có chuyển biến tích cực nhờ các dự án, chương trình hỗ trợ phát triển kinh tế gắn với bình đẳng giới và an sinh xã hội. Dự án thúc đẩy phát triển nghề nghiệp và kinh doanh cho thanh niên, phụ nữ Lào Cai và Phú Thọ đã giúp nhiều người nâng cao thu nhập và cải thiện chất lượng cuộc sống.

fb yt zl tw