Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đẩy nhanh phát triển quỹ đất, khơi thông nguồn lực ngân sách

Đẩy nhanh phát triển quỹ đất, khơi thông nguồn lực ngân sách

Xác định thu tiền sử dụng đất là nguồn lực quan trọng để tái đầu tư hạ tầng và thúc đẩy tăng trưởng kinh tế, ngay từ những tháng đầu năm 2026, tỉnh Lào Cai đã tập trung chỉ đạo các sở, ngành và địa phương rà soát, tháo gỡ điểm nghẽn trong công tác phát triển quỹ đất, tạo nền tảng hoàn thành mục tiêu thu ngân sách.

Tăng “nhịp” thi công mở rộng cao tốc Nội Bài - Lào Cai

Tăng “nhịp” thi công mở rộng cao tốc Nội Bài - Lào Cai

Trên công trường Dự án mở rộng cao tốc Nội Bài - Lào Cai, không khí thi công đang bước vào giai đoạn cao điểm trước mùa mưa lũ. Các nhà thầu đang tăng tốc tổ chức thi công “3 ca, 4 kíp”, duy trì “nhịp” thi công để bảo đảm hoàn thành những hạng mục theo kế hoạch đề ra.

Việt Hồng trồng thử nghiệm các giống sen mới

Việt Hồng trồng thử nghiệm các giống sen mới

Ngày 02/4, Trung tâm Nghiên cứu và Phát triển hoa, cây cảnh (Viện Nghiên cứu rau quả) phối hợp với xã Việt Hồng triển khai trồng thử nghiệm mô hình 1,5 ha các giống sen mới tại gia đình ông Nguyễn Văn Huân, thôn 8 Minh Phú.

Gỡ "nút thắt" về vật liệu xây dựng cho các dự án trường nội trú biên giới

Gỡ "nút thắt" về vật liệu xây dựng cho các dự án trường nội trú biên giới

Trong điều kiện địa hình hiểm trở, thời tiết khắc nghiệt và chi phí vật liệu tăng cao, việc triển khai các dự án trường phổ thông dân tộc nội trú tại khu vực biên giới của Lào Cai  gặp không ít khó khăn. Tuy nhiên, với sự chỉ đạo quyết liệt của tỉnh cùng nỗ lực chủ động từ các đơn vị thi công, nhiều giải pháp linh hoạt đang được triển khai nhằm tháo gỡ “điểm nghẽn” về vật liệu, đảm bảo tiến độ hoàn thành các công trình trước năm học mới 2026 - 2027.

Xã Nghĩa Đô phát động phong trào “Phủ xanh thượng nguồn - Giữ dòng suối trong”

Xã Nghĩa Đô phát động phong trào “Phủ xanh thượng nguồn - Giữ dòng suối trong”

Chiều 1/4, tại thôn Nậm Mược, UBND xã Nghĩa Đô tổ chức lễ phát động phong trào “Phủ xanh thượng nguồn - Giữ dòng suối trong”, trồng thêm cây xanh tại các khu vực đầu nguồn, nhằm mục tiêu đảm bảo phục hồi những khoảng rừng đã thưa, bảo vệ hệ sinh thái tự nhiên của suối và rừng, giữ gìn cảnh quan xanh - sạch - đẹp.

Trấn Yên khảo nghiệm các giống sen mới

Trấn Yên khảo nghiệm các giống sen mới

Nhằm mở rộng diện tích trồng sen gắn với du lịch cộng đồng, ngày 2/4, Trung tâm Nghiên cứu và Phát triển hoa, cây cảnh (Viện Nghiên cứu Rau quả) phối hợp với Hội Nông dân và Hợp tác xã Sen Việt Trấn Yên, triển khai mô hình trồng khảo nghiệm 1 ha các giống sen mới tại thôn Phú Mỹ.

Hoàn thành thảm nhựa mặt đường toàn tuyến Kim Thành - Ngòi Phát

Hoàn thành thảm nhựa mặt đường toàn tuyến Kim Thành - Ngòi Phát

Ban Quản lý dự án đầu tư xây dựng công trình giao thông tỉnh cho biết, gói thầu số 7 thi công xây dựng hạng mục tuyến đường đoạn từ Km2+00 - Km5+00 (dự án đường Kim Thành - Ngòi Phát) vừa hoàn thành thảm bê tông nhựa đoạn cuối cùng, sớm hơn 1 tháng so với kế hoạch. Đến nay, toàn tuyến dự án cơ bản đã hoàn thành thảm nhựa mặt đường.

Thuế tỉnh Lào Cai luôn đồng hành với hộ kinh doanh trong kê khai, nộp thuế

Thuế tỉnh Lào Cai luôn đồng hành với hộ kinh doanh trong kê khai, nộp thuế

Sau những chiến dịch trọng điểm “Bỏ khoán, tăng minh bạch” và “40 ngày cao điểm chuyển đổi”, ngành thuế tiếp tục triển khai “15 ngày cao điểm tuyên truyền, hỗ trợ chính sách thuế và quản lý thuế đối với hộ kinh doanh, cá nhân kinh doanh”. Đợt cao điểm hướng tới mục tiêu giúp người nộp thuế nắm vững quy định, thực hiện đúng nguyên tắc “tự kê khai - tự nộp - tự chịu trách nhiệm”, đồng thời tăng cường tính minh bạch thông qua ứng dụng công nghệ số.

Việt Nam tiếp tục duy trì vị thế tăng trưởng nhanh trong nhóm Đông Nam Á-6

Việt Nam tiếp tục duy trì vị thế tăng trưởng nhanh trong nhóm Đông Nam Á-6

Cùng với các nước Thái Lan, Philippines, Indonesia, Malaysia và Singapore, Việt Nam đã và đang có tốc độ phát triển nhanh. Bước sang năm 2026, nền kinh tế Việt Nam vẫn được dự báo tăng trưởng cao, tiếp tục duy trì vị thế là một trong những nền kinh tế tăng trưởng nhanh nhất trong nhóm Đông Nam Á-6 này.

fb yt zl tw