Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Ký kết phối hợp tuyên truyền, vận động, giám sát sản xuất, kinh doanh nông lâm thủy sản chất lượng, an toàn

Ký kết phối hợp tuyên truyền, vận động, giám sát sản xuất, kinh doanh nông lâm thủy sản chất lượng, an toàn

Ngày 25/9, tại Sở Nông nghiệp và Môi trường, Sở Nông nghiệp và Môi trường, Hội Nông dân tỉnh, Hội Liên hiệp Phụ nữ tỉnh tổ chức hội nghị ký kết Chương trình phối hợp “Tuyên truyền, vận động, giám sát sản xuất, kinh doanh nông lâm thủy sản chất lượng, an toàn góp phần tăng cường bảo vệ, chăm sóc, nâng cao sức khỏe Nhân dân và phát triển bền vững trên địa bàn tỉnh Lào Cai, giai đoạn 2026 - 2030”.

“Cầu nối” để Mặt trận gần dân

“Cầu nối” để Mặt trận gần dân

“Ngày cuối tuần cùng dân” đang trở thành “cầu nối” để Mặt trận gần dân, sát cơ sở, kịp thời nắm bắt tâm tư, nguyện vọng và giải quyết những vấn đề thiết thực trong cuộc sống. 

Sín Chéng sản xuất nông nghiệp theo hướng hàng hóa

Sín Chéng sản xuất nông nghiệp theo hướng hàng hóa

Thực hiện chủ trương phát triển nông nghiệp theo hướng nâng cao năng suất, chất lượng và giá trị sản phẩm, Hội Nông dân xã Sín Chéng đã đẩy mạnh tuyên truyền, vận động hội viên, nông dân chuyển đổi những diện tích đất sản xuất phù hợp sang phát triển các loại cây có giá trị kinh tế.

Lào Cai: Tìm giải pháp cải thiện môi trường đầu tư từ Hội thảo tham vấn chính sách

Lào Cai: Tìm giải pháp cải thiện môi trường đầu tư từ Hội thảo tham vấn chính sách

Thời gian qua, tỉnh Lào Cai luôn quan tâm cải thiện môi trường đầu tư, kinh doanh, từng bước nâng cao chất lượng điều hành, tạo thuận lợi cho doanh nghiệp. Tuy nhiên, trước yêu cầu phát triển mới, việc tiếp tục nhận diện những điểm nghẽn từ thực tiễn, lắng nghe tiếng nói doanh nghiệp và hoàn thiện các giải pháp chính sách là cần thiết.

"Dân vận khéo" - chìa khóa vàng bứt tốc mục tiêu phát triển đường giao thông ở Mậu A

"Dân vận khéo" - chìa khóa vàng bứt tốc mục tiêu phát triển đường giao thông ở Mậu A

Hơn 5,4 tỷ đồng, 7.850 m2 đất và trên 700 ngày công lao động được người dân tự nguyện đóng góp chỉ trong thời gian ngắn là những con số biết nói minh chứng cho sức mạnh to lớn của khối đại đoàn kết toàn dân tại xã Mậu A trong "Chiến dịch 30 ngày đêm" xây dựng đường giao thông nông thôn.

Thanh niên Púng Luông khát vọng lập nghiệp trên quê hương

Thanh niên Púng Luông khát vọng lập nghiệp trên quê hương

Phát huy tiềm năng, lợi thế địa phương, nhiều thanh niên xã Púng Luông đã mạnh dạn khởi nghiệp, phát triển kinh tế ngay trên quê hương. Từ nuôi ong lấy mật, trồng nông sản đến làm du lịch, các mô hình do thanh niên làm chủ không chỉ mang lại thu nhập ổn định mà còn tạo việc làm và lan tỏa khát vọng vươn lên làm giàu trên chính mảnh đất quê hương.

Tháo gỡ vướng mắc, đẩy nhanh tiến độ Bệnh viện Đa khoa khu vực Bảo Yên

Tháo gỡ vướng mắc, đẩy nhanh tiến độ Bệnh viện Đa khoa khu vực Bảo Yên

Sáng 24/9, đoàn công tác do đồng chí Phí Công Hoan - Giám đốc Sở Xây dựng tỉnh Lào Cai làm trưởng đoàn đã làm việc với xã Bảo Yên để tháo gỡ các vướng mắc về giấy phép môi trường, nghiệm thu, vận hành thử các hệ thống kỹ thuật, phấn đấu hoàn thành Dự án Bệnh viện Đa khoa khu vực Bảo Yên theo kế hoạch.

Niềm vui lớn sau hơn một thập niên chờ đợi

Niềm vui lớn sau hơn một thập niên chờ đợi

Sau hơn mười năm mòn mỏi chờ đợi trong niềm khắc khoải của bao thế hệ, tuyến đường bê tông nối từ Tỉnh lộ 152 đến hai thôn vùng cao Nậm Trà, Nậm Phảng thuộc xã Gia Phú (Lào Cai) đang từng ngày được hoàn thiện, xua tan những khó khăn và nhiều nguy hiểm, mở ra chương mới cho sự phát triển kinh tế - xã hội địa phương.

Số hóa tài sản công

Số hóa tài sản công

Sau khi thực hiện sắp xếp đơn vị hành chính và vận hành mô hình chính quyền địa phương hai cấp, tỉnh đứng trước yêu cầu cấp thiết phải quản lý, khai thác hiệu quả khối lượng lớn tài sản công, đặc biệt là các cơ sở nhà, đất dôi dư. Trong bối cảnh đó, việc xây dựng cơ sở dữ liệu số về tài sản công là giải pháp kỹ thuật, bước đi quan trọng nhằm nâng cao hiệu quả quản lý, sử dụng nguồn lực công theo hướng minh bạch, hiện đại và bền vững.

Tập huấn phổ biến chính sách phát triển sản xuất nông nghiệp và quy định về khuyến nông

Tập huấn phổ biến chính sách phát triển sản xuất nông nghiệp và quy định về khuyến nông

Sáng 24/9, Trung tâm Khuyến nông tỉnh Lào Cai tổ chức Hội nghị tập huấn phổ biến các nghị quyết, chính sách về phát triển sản xuất nông nghiệp trên địa bàn và các quy định về công tác khuyến nông cho gần 300 đại biểu là cán bộ làm nhiệm vụ khuyến nông, các hợp tác xã, nông dân xuất sắc tại 72 xã, phường.

fb yt zl tw