Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đánh thức giá trị nếp Khẩu Tan Đón

Đánh thức giá trị nếp Khẩu Tan Đón

Từ giống lúa nếp bản địa trước đây chủ yếu trồng để tự cung tự cấp, anh Đinh Xuân Công cùng 250 hộ dân xã Dương Quỳ đã liên kết hình thành vùng nguyên liệu 60 ha. Hạt nếp Khẩu Tan Đón được chế biến thành cốm non, bánh chưng cốm đạt chuẩn OCOP 3 sao, mở ra hướng làm giàu bền vững cho người nông dân vùng cao.

Công bố quy hoạch chung xã Nghĩa Đô đến năm 2035, tầm nhìn đến năm 2050

Công bố quy hoạch chung xã Nghĩa Đô đến năm 2035, tầm nhìn đến năm 2050

Ngày 3/11, UBND xã Nghĩa Đô tổ chức hội nghị công bố Quy hoạch chung xã đến năm 2035, tầm nhìn đến năm 2050. Đây là cơ sở quan trọng để định hướng phát triển không gian, hoàn thiện hạ tầng, thu hút đầu tư, khai thác tiềm năng du lịch gắn với bảo tồn bản sắc văn hóa và phát triển kinh tế - xã hội bền vững.

Chủ động bảo vệ rừng mùa khô hanh

Chủ động bảo vệ rừng mùa khô hanh

Trước diễn biến thời tiết khô hạn, tỉnh đang triển khai đồng bộ các giải pháp quản lý, bảo vệ rừng và phòng cháy, chữa cháy rừng, trong đó chú trọng củng cố lực lượng tại chỗ, tăng cường kiểm tra, giám sát và nâng cao ý thức người dân, chủ động phòng ngừa từ sớm, từ xa.

Lào Cai: 42 dự án năng lượng đã có nhà đầu tư quan tâm, nộp hồ sơ

Lào Cai: 42 dự án năng lượng đã có nhà đầu tư quan tâm, nộp hồ sơ

Thực hiện Nghị quyết số 70-NQ/TW ngày 20/8/2025 của Bộ Chính trị về bảo đảm an ninh năng lượng quốc gia đến năm 2030, tầm nhìn đến năm 2045, tỉnh Lào Cai đang tập trung phát triển nguồn và lưới điện, thu hút đầu tư các dự án năng lượng, đồng thời đẩy nhanh tiến độ đưa điện đến các thôn, bản chưa có điện lưới quốc gia.

Kho bạc Nhà nước Khu vực IX từ chối thanh toán gần 110.000 chứng từ chi chưa đủ điều kiện

Kho bạc Nhà nước Khu vực IX từ chối thanh toán gần 110.000 chứng từ chi chưa đủ điều kiện

Từ đầu năm đến nay Kho bạc Nhà nước Khu vực IX đã yêu cầu các đơn vị sử dụng ngân sách thực hiện đảm bảo đúng nội dung, nhiệm vụ chi theo dự toán được cấp có thẩm quyền giao. Đặc biệt, đề nghị bổ sung hoàn thiện hồ sơ và từ chối thanh toán đối với gần 110.000 chứng từ chi chưa đủ điều kiện.

Lào Cai đẩy mạnh xúc tiến thương mại, mở rộng thị trường tiêu thụ nông sản an toàn

Lào Cai đẩy mạnh xúc tiến thương mại, mở rộng thị trường tiêu thụ nông sản an toàn

Sáng 3/11, Liên minh Hợp tác xã  tỉnh Lào Cai tổ chức Hội nghị xúc tiến thương mại, kết nối tiêu thụ nông sản an toàn năm 2026. Tham dự có lãnh đạo một số sở, ngành của tỉnh; đại diện Liên minh Hợp tác xã các tỉnh Ninh Bình, Phú Thọ, Bắc Ninh cùng các hợp tác xã, doanh nghiệp trong và ngoài tỉnh.

Không gian trưng bày nông sản Lào Cai thu hút khách tham quan, mua sắm

Không gian trưng bày nông sản Lào Cai thu hút khách tham quan, mua sắm

Trong khuôn khổ Hội nghị xúc tiến đầu tư, thương mại lĩnh vực nông nghiệp tỉnh Lào Cai năm 2026, từ ngày 2 đến 6/11, Không gian trưng bày sản phẩm nông nghiệp tỉnh Lào Cai và các tỉnh bạn diễn ra tại Quảng trường Trung tâm hội nghị phường Lào Cai, thu hút đông đảo người dân và du khách đến tham quan, tìm hiểu, mua sắm.

Bảo Hà gắn giải phóng mặt bằng với ổn định dân cư

Bảo Hà gắn giải phóng mặt bằng với ổn định dân cư

Vận dụng kinh nghiệm từ các dự án lớn, xã Bảo Hà đang gắn công tác thống kê, kiểm đếm, lập phương án bồi thường với chuẩn bị nơi ở mới cho người dân bị ảnh hưởng bởi Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng. Việc bố trí tái định cư phù hợp nguyện vọng từng hộ dân góp phần tạo đồng thuận, đẩy nhanh tiến độ giải phóng mặt bằng.

Đa dạng sinh kế từ lợi thế đồi rừng

Đa dạng sinh kế từ lợi thế đồi rừng

Gắn bó nhiều năm với kinh tế rừng, gia đình ông Hà Kim Tỵ ở thôn Đỗng, xã Nghĩa Tâm đã từng bước ổn định cuộc sống nhờ biết khai thác lợi thế đất đai, kết hợp trồng rừng với phát triển cây ăn quả. Không dừng ở kinh nghiệm sản xuất truyền thống, gia đình ông còn mạnh dạn đầu tư hạ tầng, ứng dụng công nghệ vào chăm sóc cây trồng, hướng tới nâng cao hiệu quả kinh tế trên diện tích đất hiện có.

Sớm đầu tư 3 tuyến cao tốc liên kết vùng Tây Bắc, Tây Nguyên

Sớm đầu tư 3 tuyến cao tốc liên kết vùng Tây Bắc, Tây Nguyên

Nhằm hiện thực hóa mục tiêu đến năm 2030 cả nước có trên 5.000 km đường bộ cao tốc, Ủy ban Thường vụ Quốc hội đã thống nhất trình Quốc hội xem xét chủ trương đầu tư 3 tuyến cao tốc qua các tỉnh miền núi phía Bắc và Tây Nguyên, yêu cầu các cơ quan khẩn trương hoàn thiện hồ sơ với các cơ chế đặc thù thực sự cần thiết, công khai, minh bạch.

Quản lý hồ thủy lợi, chủ động nguồn nước mùa khô

Quản lý hồ thủy lợi, chủ động nguồn nước mùa khô

Trước mùa khô, các địa phương khu vực Bảo Yên đang rà soát, sửa chữa hồ thủy lợi, tăng cường quản lý và điều tiết nước phục vụ sản xuất. Việc khôi phục công trình sau thiên tai, khắc phục hư hỏng được triển khai gắn với nhu cầu tưới, hạn chế nguy cơ thiếu nước ảnh hưởng đến mùa vụ.

fb yt zl tw