Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Mở rộng giảm trừ thuế thu nhập cá nhân, tăng dư địa hỗ trợ người lao động

Mở rộng giảm trừ thuế thu nhập cá nhân, tăng dư địa hỗ trợ người lao động

Dự thảo Nghị định quy định chi tiết một số điều của Luật Thuế thu nhập cá nhân đang được Bộ Tài chính lấy ý kiến đã đề xuất nhiều điều chỉnh quan trọng theo hướng nâng mức miễn, giảm và mở rộng các khoản khấu trừ. Qua đó không chỉ giảm nghĩa vụ thuế mà còn phản ánh sát hơn biến động thu nhập, chi tiêu và yêu cầu bảo đảm an sinh.

Chủ động nguồn cung, bình ổn giá phân bón

Chủ động nguồn cung, bình ổn giá phân bón

Do ảnh hưởng xung đột ở Trung Đông, từ đầu tháng 3, giá phân bón liên tục tăng cao, gây nhiều khó khăn cho sản xuất nông nghiệp. Trước diễn biến thị trường còn phức tạp, để bảo đảm nguồn cung, bình ổn giá phân bón, các doanh nghiệp cần chủ động nguồn nguyên liệu, tập trung đẩy mạnh sản xuất, ưu tiên phục vụ thị trường trong nước

Ngân hàng Nhà nước yêu cầu giữ ổn định mặt bằng lãi suất

Ngân hàng Nhà nước yêu cầu giữ ổn định mặt bằng lãi suất

Thực hiện chỉ đạo của Chính phủ và Thủ tướng Chính phủ về ổn định kinh tế vĩ mô, kiểm soát lạm phát và thúc đẩy tăng trưởng, Ngân hàng Nhà nước Việt Nam vừa có văn bản yêu cầu các tổ chức tín dụng triển khai đồng bộ giải pháp ổn định lãi suất, tăng cường minh bạch thông tin và siết chặt kiểm tra, giám sát trên toàn hệ thống.

Tổ tự quản cộng đồng bảo vệ rừng thôn Háng Gàng cùng lực lượng Kiểm lâm khu vực Trạm Tấu kiểm tra bản đồ thực địa khu vực rừng phòng hộ của thôn.

Trạm Tấu phát huy vai trò tổ tự quản cộng đồng trong bảo vệ rừng

Những năm gần đây, công tác bảo vệ và phát triển rừng tại Trạm Tấu đã có nhiều chuyển biến tích cực; phát huy hiệu quả vai trò của các tổ tự quản cộng đồng tại cơ sở. Chính từ sự chủ động, trách nhiệm của các tổ tự quản bảo vệ rừng đã góp phần giữ vững màu xanh cho những cánh rừng đầu nguồn, bảo vệ tài nguyên thiên nhiên, nâng cao sinh kế bền vững.

Lào Cai: Tổng thu ngân sách quý 1/2026 ước đạt 5.376 tỷ đồng

Lào Cai: Tổng thu ngân sách quý 1/2026 ước đạt 5.376 tỷ đồng

Tính đến ngày 31/03/2026, tổng thu ngân sách nhà nước (NSNN) trên địa bàn tỉnh Lào Cai ước đạt 5.376 tỷ đồng. Trong đó, điểm nhấn quan trọng nhất nằm ở tổng thu nội địa, đạt 4.780 tỷ đồng, bằng 30,8% dự toán Trung ương và 22,7% dự toán HĐND tỉnh giao cả năm. So với kịch bản tăng trưởng quý I, kết quả này vượt 26% và tăng 24,8% so với cùng kỳ năm trước. Đây là tín hiệu tích cực cho thấy sự phục hồi rõ nét của kinh tế địa phương ngay từ những tháng đầu năm.

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh kiểm tra tiến độ thực hiện các dự án đô thị, nhà ở xã hội

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh kiểm tra tiến độ thực hiện các dự án đô thị, nhà ở xã hội

Chiều 31/3, đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh, cùng đoàn công tác của tỉnh đã đi kiểm tra và làm việc về tiến độ triển khai các dự án trọng điểm, gồm: Khu đô thị Yên Bái Riverside, Nhà ở xã hội Bình Minh Tây Bắc, cũng như việc điều chỉnh quy hoạch phân khu xã Giới Phiên (cũ).

Phát triển thương hiệu gạo Mường Lò

Phát triển thương hiệu gạo Mường Lò

Cánh đồng Mường Lò là một trong những vựa lúa lớn của khu vực Tây Bắc, không chỉ là không gian sinh sống của hàng nghìn hộ nông dân mà còn là nơi kết tinh những giá trị đặc hữu về thổ nhưỡng, khí hậu và tri thức canh tác bản địa. Với hơn 3.000 ha, vùng đất này đang từng bước khẳng định vị thế bằng việc xây dựng và phát triển thương hiệu gạo Mường Lò, đặc biệt là sản phẩm gạo Séng cù.

Tiên phong mô hình Hội Doanh nhân trẻ cấp xã

Tiên phong mô hình Hội Doanh nhân trẻ cấp xã

Hội Doanh nhân trẻ xã Võ Lao được thành lập đầu năm 2026 - mô hình Hội Doanh nhân trẻ cấp xã đầu tiên trên địa bàn tỉnh, quy tụ những doanh nghiệp nhỏ và vừa tại Võ Lao. Không chỉ dừng lại ở sản xuất, kinh doanh đơn lẻ, những doanh nhân thế hệ 8X, 9X nơi đây đang đan kết thành mạng lưới bền chặt, cùng nhau giải “bài toán” phát triển kinh tế bền vững trên chính mảnh đất quê hương.

Các đồng chí lãnh đạo tỉnh dự Lễ phát động xây dựng đường giao thông nông thôn

Các đồng chí lãnh đạo tỉnh dự Lễ phát động xây dựng đường giao thông nông thôn

Sáng nay (31/3), 16 địa phương trong toàn tỉnh đồng loạt tổ chức lễ phát động phong trào xây dựng đường giao thông nông thôn. Sự kiện nhằm chào mừng thành công cuộc bầu cử đại biểu Quốc hội khóa XVI và đại biểu HĐND các cấp nhiệm kỳ 2026 - 2031 và tạo khí thế thi đua rộng khắp với mục tiêu “Hoàn thiện hạ tầng - Nâng tầm nông thôn mới”.

Về miền đất tựa núi, hướng sông

Về miền đất tựa núi, hướng sông

"Tựa lưng" vào dãy núi Con Voi trập trùng, hướng mặt ra dòng sông Hồng đỏ nặng phù sa, xã Lâm Giang đang bước vào giai đoạn phát triển với nhiều cơ hội. Đây là nơi hội tụ của 11 dân tộc, trong đó có nhiều người dân các tỉnh miền xuôi lên xây dựng vùng kinh tế mới từ nhiều thập niên trước. Từ những ngày khai phá gian khó, Lâm Giang dần hình thành diện mạo của vùng quê trù phú, giàu tiềm năng nông - lâm nghiệp, chuyển mình theo hướng sản xuất hàng hóa và phát triển bền vững.

Đoàn kết tạo sức mạnh ở thôn vùng cao

Đoàn kết tạo sức mạnh ở thôn vùng cao

Thôn Lao Chải 1, xã Si Ma Cai nằm dọc quốc lộ 4E với 100% đồng bào Mông sinh sống. Cuộc sống của các hộ dân trong thôn từng khó khăn là thế nhưng nhờ sự năng động dám nghĩ dám làm cùng ngọn cờ đoàn kết tập hợp cộng đồng, Lao Chải 1 hôm nay đã đổi khác.

 Năng lượng mặt trời - giải pháp xanh cho sản xuất chế biến

Năng lượng mặt trời - giải pháp xanh cho sản xuất chế biến

Trong bối cảnh chi phí năng lượng tăng cao và yêu cầu sản xuất bền vững ngày càng cấp thiết, việc tận dụng năng lượng mặt trời đang mở ra hướng đi mới cho các hợp tác xã, doanh nghiệp và hộ chế biến nông sản ở Lào Cai. Giải pháp này vừa giúp tiết kiệm chi phí sản xuất, giảm áp lực lên hệ thống điện lưới, vừa góp phần bảo vệ môi trường, hạn chế phát thải khí nhà kính và thúc đẩy mô hình sản xuất xanh.

"Bộ đệm" chính sách trước cú sốc năng lượng

"Bộ đệm" chính sách trước cú sốc năng lượng

Trong bối cảnh thị trường năng lượng thế giới biến động mạnh và nhu cầu năng lượng trong nước tiếp tục gia tăng, việc sử dụng linh hoạt các công cụ tài chính đang trở thành giải pháp quan trọng nhằm giữ ổn định thị trường và củng cố an ninh năng lượng quốc gia, tạo “bộ đệm” chính sách cho nền kinh tế trước các cú sốc năng lượng.

Tư vấn, hỗ trợ pháp lý cho phụ nữ khởi nghiệp, phát triển kinh doanh

Tư vấn, hỗ trợ pháp lý cho phụ nữ khởi nghiệp, phát triển kinh doanh

Hội nghị tập huấn là hoạt động phối hợp đầu tiên giữa Bộ Tư pháp và Trung ương Hội Liên hiệp Phụ nữ Việt Nam trong triển khai Đề án của Chính phủ "Hỗ trợ phụ nữ khởi nghiệp giai đoạn 2026-2035" (Đề án 2415) và Chương trình hỗ trợ pháp lý liên ngành cho doanh nghiệp nhỏ và vừa, hộ kinh doanh giai đoạn 2026-2030.

Bộ Xây dựng triển khai tiết kiệm năng lượng và giao thông điện

Bộ Xây dựng triển khai tiết kiệm năng lượng và giao thông điện

Bộ Xây dựng vừa ban hành văn bản yêu cầu các đơn vị trực thuộc khẩn trương triển khai Chỉ thị số 09/CT-TTg của Thủ tướng Chính phủ về tăng cường tiết kiệm năng lượng, thúc đẩy chuyển dịch năng lượng và phát triển phương tiện giao thông điện. Mục tiêu hướng tới sử dụng năng lượng tiết kiệm, hiệu quả.

fb yt zl tw