Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Thuế tỉnh Lào Cai luôn đồng hành với hộ kinh doanh trong kê khai, nộp thuế

Thuế tỉnh Lào Cai luôn đồng hành với hộ kinh doanh trong kê khai, nộp thuế

Sau những chiến dịch trọng điểm “Bỏ khoán, tăng minh bạch” và “40 ngày cao điểm chuyển đổi”, ngành thuế tiếp tục triển khai “15 ngày cao điểm tuyên truyền, hỗ trợ chính sách thuế và quản lý thuế đối với hộ kinh doanh, cá nhân kinh doanh”. Đợt cao điểm hướng tới mục tiêu giúp người nộp thuế nắm vững quy định, thực hiện đúng nguyên tắc “tự kê khai - tự nộp - tự chịu trách nhiệm”, đồng thời tăng cường tính minh bạch thông qua ứng dụng công nghệ số.

Việt Nam tiếp tục duy trì vị thế tăng trưởng nhanh trong nhóm Đông Nam Á-6

Việt Nam tiếp tục duy trì vị thế tăng trưởng nhanh trong nhóm Đông Nam Á-6

Cùng với các nước Thái Lan, Philippines, Indonesia, Malaysia và Singapore, Việt Nam đã và đang có tốc độ phát triển nhanh. Bước sang năm 2026, nền kinh tế Việt Nam vẫn được dự báo tăng trưởng cao, tiếp tục duy trì vị thế là một trong những nền kinh tế tăng trưởng nhanh nhất trong nhóm Đông Nam Á-6 này.

Mở rộng giảm trừ thuế thu nhập cá nhân, tăng dư địa hỗ trợ người lao động

Mở rộng giảm trừ thuế thu nhập cá nhân, tăng dư địa hỗ trợ người lao động

Dự thảo Nghị định quy định chi tiết một số điều của Luật Thuế thu nhập cá nhân đang được Bộ Tài chính lấy ý kiến đã đề xuất nhiều điều chỉnh quan trọng theo hướng nâng mức miễn, giảm và mở rộng các khoản khấu trừ. Qua đó không chỉ giảm nghĩa vụ thuế mà còn phản ánh sát hơn biến động thu nhập, chi tiêu và yêu cầu bảo đảm an sinh.

Chủ động nguồn cung, bình ổn giá phân bón

Chủ động nguồn cung, bình ổn giá phân bón

Do ảnh hưởng xung đột ở Trung Đông, từ đầu tháng 3, giá phân bón liên tục tăng cao, gây nhiều khó khăn cho sản xuất nông nghiệp. Trước diễn biến thị trường còn phức tạp, để bảo đảm nguồn cung, bình ổn giá phân bón, các doanh nghiệp cần chủ động nguồn nguyên liệu, tập trung đẩy mạnh sản xuất, ưu tiên phục vụ thị trường trong nước

Ngân hàng Nhà nước yêu cầu giữ ổn định mặt bằng lãi suất

Ngân hàng Nhà nước yêu cầu giữ ổn định mặt bằng lãi suất

Thực hiện chỉ đạo của Chính phủ và Thủ tướng Chính phủ về ổn định kinh tế vĩ mô, kiểm soát lạm phát và thúc đẩy tăng trưởng, Ngân hàng Nhà nước Việt Nam vừa có văn bản yêu cầu các tổ chức tín dụng triển khai đồng bộ giải pháp ổn định lãi suất, tăng cường minh bạch thông tin và siết chặt kiểm tra, giám sát trên toàn hệ thống.

Tổ tự quản cộng đồng bảo vệ rừng thôn Háng Gàng cùng lực lượng Kiểm lâm khu vực Trạm Tấu kiểm tra bản đồ thực địa khu vực rừng phòng hộ của thôn.

Trạm Tấu phát huy vai trò tổ tự quản cộng đồng trong bảo vệ rừng

Những năm gần đây, công tác bảo vệ và phát triển rừng tại Trạm Tấu đã có nhiều chuyển biến tích cực; phát huy hiệu quả vai trò của các tổ tự quản cộng đồng tại cơ sở. Chính từ sự chủ động, trách nhiệm của các tổ tự quản bảo vệ rừng đã góp phần giữ vững màu xanh cho những cánh rừng đầu nguồn, bảo vệ tài nguyên thiên nhiên, nâng cao sinh kế bền vững.

Lào Cai: Tổng thu ngân sách quý 1/2026 ước đạt 5.376 tỷ đồng

Lào Cai: Tổng thu ngân sách quý 1/2026 ước đạt 5.376 tỷ đồng

Tính đến ngày 31/03/2026, tổng thu ngân sách nhà nước (NSNN) trên địa bàn tỉnh Lào Cai ước đạt 5.376 tỷ đồng. Trong đó, điểm nhấn quan trọng nhất nằm ở tổng thu nội địa, đạt 4.780 tỷ đồng, bằng 30,8% dự toán Trung ương và 22,7% dự toán HĐND tỉnh giao cả năm. So với kịch bản tăng trưởng quý I, kết quả này vượt 26% và tăng 24,8% so với cùng kỳ năm trước. Đây là tín hiệu tích cực cho thấy sự phục hồi rõ nét của kinh tế địa phương ngay từ những tháng đầu năm.

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh kiểm tra tiến độ thực hiện các dự án đô thị, nhà ở xã hội

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh kiểm tra tiến độ thực hiện các dự án đô thị, nhà ở xã hội

Chiều 31/3, đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh, cùng đoàn công tác của tỉnh đã đi kiểm tra và làm việc về tiến độ triển khai các dự án trọng điểm, gồm: Khu đô thị Yên Bái Riverside, Nhà ở xã hội Bình Minh Tây Bắc, cũng như việc điều chỉnh quy hoạch phân khu xã Giới Phiên (cũ).

Phát triển thương hiệu gạo Mường Lò

Phát triển thương hiệu gạo Mường Lò

Cánh đồng Mường Lò là một trong những vựa lúa lớn của khu vực Tây Bắc, không chỉ là không gian sinh sống của hàng nghìn hộ nông dân mà còn là nơi kết tinh những giá trị đặc hữu về thổ nhưỡng, khí hậu và tri thức canh tác bản địa. Với hơn 3.000 ha, vùng đất này đang từng bước khẳng định vị thế bằng việc xây dựng và phát triển thương hiệu gạo Mường Lò, đặc biệt là sản phẩm gạo Séng cù.

Tiên phong mô hình Hội Doanh nhân trẻ cấp xã

Tiên phong mô hình Hội Doanh nhân trẻ cấp xã

Hội Doanh nhân trẻ xã Võ Lao được thành lập đầu năm 2026 - mô hình Hội Doanh nhân trẻ cấp xã đầu tiên trên địa bàn tỉnh, quy tụ những doanh nghiệp nhỏ và vừa tại Võ Lao. Không chỉ dừng lại ở sản xuất, kinh doanh đơn lẻ, những doanh nhân thế hệ 8X, 9X nơi đây đang đan kết thành mạng lưới bền chặt, cùng nhau giải “bài toán” phát triển kinh tế bền vững trên chính mảnh đất quê hương.

fb yt zl tw