Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Chuyển đổi số tạo đà cho nông sản Lào Cai vươn xa

Chuyển đổi số tạo đà cho nông sản Lào Cai vươn xa

Khi thương mại điện tử trở thành kênh phân phối quan trọng, chuyển đổi số đang mở ra cơ hội lớn cho nông sản Lào Cai tiếp cận thị trường rộng hơn. Từ chuẩn hóa quy trình sản xuất, minh bạch truy xuất nguồn gốc đến đưa sản phẩm lên các sàn thương mại điện tử, nhiều doanh nghiệp và hợp tác xã (HTX) trong tỉnh đã chủ động bắt nhịp xu thế, góp phần gia tăng giá trị nông sản và thúc đẩy kinh tế số địa phương.

Nhịp sống mới ở Khe Nước

Nhịp sống mới ở Khe Nước

Tuyến đường bê tông uốn lượn bên Ngòi Lao đưa chúng tôi về Khe Nước, thôn người Dao, xã Cát Thịnh. Nơi đây, nhịp sống mới đang hiện hữu với những căn nhà xây hiện đại, đồi quế xanh mướt, vườn cam trĩu quả...

Phát huy nghề truyền thống, tạo sinh kế thoát nghèo ở Bảo Hà

Phát huy nghề truyền thống, tạo sinh kế thoát nghèo ở Bảo Hà

Trong nỗ lực tạo sinh kế bền vững và giảm nghèo, xã Bảo Hà đang phát huy nghề truyền thống, khuyến khích người dân liên kết sản xuất, tổ chức lại mô hình lao động theo hướng ổn định, hiệu quả. Từ nghề đan và làm mã quen thuộc, nhiều hộ dân có thêm nguồn thu nhập đáng kể, từng bước cải thiện đời sống.

Chi trả tiền bồi thường, hỗ trợ, tái định cư dự án đường bộ kết nối vào ga và quảng trường ga Lào Cai

Chi trả tiền bồi thường, hỗ trợ, tái định cư dự án đường bộ kết nối vào ga và quảng trường ga Lào Cai

Ngày 5/12, UBND phường Lào Cai đã tiến hành chi trả tiền bồi thường, hỗ trợ, tái định cư cho 5 hộ gia đình, cá nhân thuộc dự án thành phần 1: Đầu tư hạ tầng kết nối các ga trên tuyến và quảng trường ga thuộc dự án đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng.

Cát Thịnh: Xây dựng nông thôn mới từ nội lực nhân dân

Cát Thịnh: Xây dựng nông thôn mới từ nội lực nhân dân

Xã Cát Thịnh đang chuyển mình mạnh mẽ trong tiến trình xây dựng nông thôn mới với dấu ấn nổi bật là cách làm coi người dân là chủ thể của mọi thay đổi. Hạ tầng được nâng cấp, đời sống cải thiện, mô hình kinh tế mới liên tục xuất hiện. Tất cả bắt đầu từ sự chủ động của người dân và việc chính quyền xã khơi dậy đúng lúc, đúng cách nguồn nội lực lớn nhất của cộng đồng.

Huy động tối đa nguồn lực thi công tỉnh lộ 153 giai đoạn 2

Huy động tối đa nguồn lực thi công tỉnh lộ 153 giai đoạn 2

Tuyến tỉnh lộ 153 đoạn từ xã Bắc Hà đến trung tâm xã Bản Liền (giai đoạn 2: Km34 - Km47) là dự án giao thông trọng điểm của địa phương trong năm 2025 - 2026. Công trình hoàn thành sẽ mở ra trục kết nối quan trọng giữa các xã Bắc Hà, Bản Liền, Tả Củ Tỷ, đặc biệt là kết nối vùng chè hữu cơ Bản Liền, tạo động lực phát triển du lịch, nông nghiệp và giao thương hàng hóa của người dân.

Nông dân chuẩn bị cho vụ tết

Nông dân chuẩn bị cho vụ tết

Những ngày này, nông dân trong tỉnh đang đẩy mạnh sản xuất, tích cực chăm sóc các loại cây trồng, vật nuôi, để kịp thời cung cấp cho thị trường vào dịp Tết Nguyên đán Bính Ngọ 2026 sắp tới.

Từ "đất sạch" đến "đất vàng" - Bài học quy hoạch nhìn từ khu vực GO! Yên Bái

Từ "đất sạch" đến "đất vàng" - Bài học quy hoạch nhìn từ khu vực GO! Yên Bái

Trong bối cảnh thị trường bất động sản cả nước đang tìm lại điểm cân bằng, phiên đấu giá đất tại khu vực Go! Yên Bái, thuộc phường Yên Bái, tỉnh Lào Cai ngày 04/12 vừa qua đã tạo nên một "cú hích bùng nổ” với hơn 1.000 hồ sơ tham gia và mức trúng đấu giá vượt xa kỳ vọng. Phía sau những con số kỷ lục này không chỉ là sự ngẫu nhiên, mà là kết quả của tư duy quản lý bài bản: Thay vì bán "lúa non", nhà nước chủ động đầu tư hạ tầng đồng bộ, biến đất thô thành "đất vàng" trước khi đưa ra thị trường.

Xuất cấp hơn 3.400 tấn giống từ dự trữ quốc gia khôi phục sản xuất vùng lũ

Xuất cấp hơn 3.400 tấn giống từ dự trữ quốc gia khôi phục sản xuất vùng lũ

Bộ Nông nghiệp và Môi trường đã xuất cấp hơn 3.400 tấn giống từ dự trữ quốc gia để hỗ trợ các tỉnh Nam Trung Bộ và Tây Nguyên khôi phục sản xuất sau bão số 13 và mưa lũ cuối tháng 11. Nhiều doanh nghiệp cũng chung tay cung ứng giống và vật tư giúp nông dân sớm ổn định sản xuất.

Làm giàu từ mô hình trồng bạch đàn Cự vĩ DH 32-29 trên đất đồi Bảo Hà

Làm giàu từ mô hình trồng bạch đàn Cự vĩ DH 32-29 trên đất đồi Bảo Hà

Nhờ định hướng tuyên truyền của xã Bảo Hà về phát triển kinh tế rừng gắn với giảm nghèo bền vững, các mô hình tiên phong thử nghiệm giống bạch đàn Cự vĩ DH 32-29 - dòng cây lai tạo mới có năng suất cao, phù hợp với điều kiện đồi núi - đã cho thấy hiệu quả rõ rệt. Từ những kết quả ban đầu, bạch đàn Cự vĩ đang dần trở thành hướng phát triển kinh tế bền vững cho nhiều hộ dân địa phương.

Phấn đấu trở thành đô thị đa chức năng, hiện đại

Phấn đấu trở thành đô thị đa chức năng, hiện đại

Nghị quyết Đại hội Đảng bộ phường Trung Tâm lần thứ I, nhiệm kỳ 2025 - 2030 xác định quy hoạch và phát triển hạ tầng là một trong ba khâu đột phá để mở rộng không gian đô thị, hướng tới xây dựng đô thị dịch vụ đa chức năng, văn minh, hiện đại. Thời gian qua, phường đã tranh thủ tối đa các nguồn lực, phối hợp với sở, ngành để xây dựng hệ thống kết cấu hạ tầng đồng bộ, trong đó trọng tâm là hạ tầng đô thị, giao thông kết nối liên vùng.

fb yt zl tw