Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Siết chặt quản lý thuế: Không còn “vùng trống” trong xử phạt vi phạm hóa đơn

Siết chặt quản lý thuế: Không còn “vùng trống” trong xử phạt vi phạm hóa đơn

Chính phủ ban hành Nghị định 310/2025/NĐ-CP với nhiều điểm sửa đổi quan trọng trong xử phạt vi phạm thuế và hóa đơn, làm rõ đối tượng chịu trách nhiệm và bổ sung các tình huống bất khả kháng. Quy định mới khắc phục các kẽ hở pháp lý, siết chặt quản lý và ngăn ngừa gian lận hóa đơn, áp dụng từ ngày 16/1/2026.

Xã Thác Bà: Hỗ trợ làm 62 ngôi nhà cho hộ chính sách

Xã Thác Bà: Hỗ trợ làm 62 ngôi nhà cho hộ chính sách

Từ đầu năm đến nay, xã Thác Bà đã hỗ trợ sửa chữa và xây mới 62 ngôi nhà cho các hộ nghèo, cận nghèo và các gia đình chính sách có hoàn cảnh khó khăn về nhà ở. Mức hỗ trợ được thực hiện theo hai nhóm: 30 triệu đồng đối với mỗi hộ sửa chữa nhà và 60 triệu đồng đối với mỗi hộ xây dựng mới.

Việt Nam đưa vào hoạt động nhà máy sản xuất chế tạo động cơ ô tô trị giá 260 triệu USD

Việt Nam đưa vào hoạt động nhà máy sản xuất chế tạo động cơ ô tô trị giá 260 triệu USD

Sáng 7/12, Công ty cổ phần Kim Long Motor Huế cho biết, đã hoàn thành, đưa vào hoạt động Nhà máy sản xuất và chế tạo động cơ đầu tiên tại Việt Nam. Đây là dấu ấn đột phá của ngành công nghiệp ô tô Việt Nam trong quá trình hiện đại hóa, làm chủ công nghệ sản xuất ô tô, tiến tới nội địa hóa động cơ lên đến 80% trong sản xuất ô tô phục vụ nội địa và xuất khẩu.

Đích đến là giảm nghèo bền vững

Sơn Lương: Đích đến là giảm nghèo bền vững

Vốn là vùng “lõm” khó khăn sau khi sáp nhập 4 xã, Sơn Lương hôm nay đang có những chuyển biến mạnh mẽ. Người dân không còn ỷ lại mà xem những con giống, vốn vay từ Chương trình Mục tiêu Quốc gia như “cần câu” để thực hiện giấc mơ thoát nghèo. Mục tiêu giảm 209 hộ nghèo trong năm 2025 không chỉ là con số, mà là lời kêu gọi hành động từ trái tim của toàn hệ thống chính trị.

Vườn quýt ngọt trên núi đá Bản Xèo

Vườn quýt ngọt trên núi đá Bản Xèo

Trước đây, ít ai nghĩ vùng đất dốc đầy đá sỏi tại thôn Cửa Cải, xã Mường Vi cũ (nay là xã Bản Xèo) lại có thể trồng được quýt. Thế nhưng, chàng trai người Giáy Vàng Văn Dũng đã "bắt" đá núi phải nhường chỗ, biến hơn 1 ha đồi đá sỏi thành vườn quýt trĩu quả. Nhờ mô hình vườn quýt kết hợp với du lịch, gia đình anh Dũng đã có cuộc sống ngày càng ấm no.

Những đảng viên tiên phong ở Púng Luông

Những đảng viên tiên phong ở Púng Luông

Nghị quyết 68-NQ/TW của Bộ Chính trị khẳng định, phát triển kinh tế tư nhân là động lực quan trọng của nền kinh tế. Hiện thực hóa nghị quyết, nhiều đảng viên ở Púng Luông đã tiên phong, gương mẫu và sáng tạo trong phát triển kinh tế, góp phần xây dựng địa phương ngày càng phát triển.

Chủ động phòng, chống cháy rừng mùa khô hanh

Chủ động phòng, chống cháy rừng mùa khô hanh

Bước vào cao điểm mùa khô hanh 2025 - 2026, nguy cơ cháy rừng trên địa bàn tỉnh luôn tiềm ẩn với diễn biến khó lường. Trước tình hình đó, các cấp, ngành và lực lượng kiểm lâm đã chủ động quyết liệt triển khai nhiều giải pháp, đồng bộ, phát huy phương châm “4 tại chỗ” nhằm bảo vệ an toàn diện tích rừng trên địa bàn.

Lào Cai: Ủy quyền giải quyết 15 thủ tục hành chính trong lĩnh vực nông nghiệp và môi trường

Lào Cai: Ủy quyền giải quyết 15 thủ tục hành chính trong lĩnh vực nông nghiệp và môi trường

UBND tỉnh Lào Cai vừa ban hành Quyết định ủy quyền cho Giám đốc Sở Nông nghiệp và Môi trường và Chủ tịch UBND cấp xã thực hiện 15 thủ tục hành chính thuộc thẩm quyền của Chủ tịch UBND tỉnh. Việc ủy quyền nhằm đẩy nhanh tiến độ xử lý hồ sơ, giảm tầng nấc trung gian và tạo thuận lợi hơn cho người dân, doanh nghiệp.

Hướng đi mới từ mô hình nuôi gà bằng thảo dược

Hướng đi mới từ mô hình nuôi gà bằng thảo dược

Chuyển từ nuôi gà truyền thống sang gà thảo dược, anh Nguyễn Tiến Sỹ (phường Đồng Sơn, Quảng Trị) đã xây dựng trang trại Mộc Nhiên với đàn gà phát triển khỏe mạnh, ít dịch bệnh và chất lượng thịt ngon, sạch. Đáng nói, nhờ tận dụng nguồn thảo dược tự nhiên làm thức ăn, mô hình đã cho hiệu quả cao. 

Chuyển đổi số tạo đà cho nông sản Lào Cai vươn xa

Chuyển đổi số tạo đà cho nông sản Lào Cai vươn xa

Khi thương mại điện tử trở thành kênh phân phối quan trọng, chuyển đổi số đang mở ra cơ hội lớn cho nông sản Lào Cai tiếp cận thị trường rộng hơn. Từ chuẩn hóa quy trình sản xuất, minh bạch truy xuất nguồn gốc đến đưa sản phẩm lên các sàn thương mại điện tử, nhiều doanh nghiệp và hợp tác xã (HTX) trong tỉnh đã chủ động bắt nhịp xu thế, góp phần gia tăng giá trị nông sản và thúc đẩy kinh tế số địa phương.

Nhịp sống mới ở Khe Nước

Nhịp sống mới ở Khe Nước

Tuyến đường bê tông uốn lượn bên Ngòi Lao đưa chúng tôi về Khe Nước, thôn người Dao, xã Cát Thịnh. Nơi đây, nhịp sống mới đang hiện hữu với những căn nhà xây hiện đại, đồi quế xanh mướt, vườn cam trĩu quả...

Phát huy nghề truyền thống, tạo sinh kế thoát nghèo ở Bảo Hà

Phát huy nghề truyền thống, tạo sinh kế thoát nghèo ở Bảo Hà

Trong nỗ lực tạo sinh kế bền vững và giảm nghèo, xã Bảo Hà đang phát huy nghề truyền thống, khuyến khích người dân liên kết sản xuất, tổ chức lại mô hình lao động theo hướng ổn định, hiệu quả. Từ nghề đan và làm mã quen thuộc, nhiều hộ dân có thêm nguồn thu nhập đáng kể, từng bước cải thiện đời sống.

Chi trả tiền bồi thường, hỗ trợ, tái định cư dự án đường bộ kết nối vào ga và quảng trường ga Lào Cai

Chi trả tiền bồi thường, hỗ trợ, tái định cư dự án đường bộ kết nối vào ga và quảng trường ga Lào Cai

Ngày 5/12, UBND phường Lào Cai đã tiến hành chi trả tiền bồi thường, hỗ trợ, tái định cư cho 5 hộ gia đình, cá nhân thuộc dự án thành phần 1: Đầu tư hạ tầng kết nối các ga trên tuyến và quảng trường ga thuộc dự án đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng.

fb yt zl tw