Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hành trình một thế kỷ của Mỏ apatit Cam Đường

Hành trình một thế kỷ của Mỏ apatit Cam Đường

Buổi sáng mùa xuân ở vùng mỏ Cam Đường, khi sương sớm còn vương trên sườn núi, tiếng máy khoan từ những khai trường khai thác quặng apatit vang vọng giòn giã. Dưới ánh nắng xuân, những người thợ mỏ lại bắt đầu ca làm việc quen thuộc, với họ, apatit không chỉ là “vàng nâu” mà là công việc, là niềm tự hào, là ký ức của cha ông, là một phần máu thịt gắn bó. 

Sôi động khí thế lao động ngay từ những ngày đầu xuân

Sôi động khí thế lao động ngay từ những ngày đầu xuân

Với tinh thần "ăn Tết gọn, làm việc sớm, vào việc ngay", một số lĩnh vực, ngành nghề tại Lào Cai đã nhanh chóng khởi động trở lại ngay từ những ngày đầu xuân. Từ cánh đồng rau xanh mướt tất bật thu hoạch, nhà máy sáng đèn duy trì hoạt động, đến cửa khẩu nhộn nhịp xe hàng, tất cả đang tạo nên bức tranh kinh tế sôi động và quyết tâm tăng tốc ngay từ đầu năm mới của địa phương.

Đề xuất mới về bảo hiểm nông nghiệp

Đề xuất mới về bảo hiểm nông nghiệp

Bộ Tài chính đề xuất nâng mức hỗ trợ phí bảo hiểm nông nghiệp lên tối đa 95%, mở rộng đối tượng thụ hưởng và bổ sung cơ chế vay đóng phí. Đề xuất này được kỳ vọng tạo lá chắn tài chính giúp nông dân yên tâm sản xuất trước rủi ro thiên tai, dịch bệnh.

Hàng hóa Tết dồi dào, giá cả ổn định

Hàng hóa Tết dồi dào, giá cả ổn định

Thông tin từ Cục Quản lý giá (Bộ Tài chính) cho biết trong dịp Tết Nguyên đán Bính Ngọ 2026, thị trường hàng hóa và giá cả cơ bản ổn định. Hoạt động lưu thông hàng hóa diễn ra thông suốt.

Quyết tâm thu ngân sách ngay từ những ngày đầu năm

Quyết tâm thu ngân sách ngay từ những ngày đầu năm

Bước vào năm 2026, tỉnh Lào Cai đặt ra mục tiêu đầy thách thức với tổng thu ngân sách nhà nước phấn đấu đạt 25.850 tỷ đồng. Để hiện thực hóa con số này, ngay từ những ngày đầu năm, guồng quay của ngành Thuế, ngành Hải quan và các địa phương đã vận hành hết công suất với một tinh thần quyết liệt: Thu đúng, thu đủ và không để sót nguồn thu.

Cá rô phi Việt Nam "làm mưa làm gió" ở nhiều nước

Cá rô phi Việt Nam "làm mưa làm gió" ở nhiều nước

Với đà tăng trưởng mạnh, đặc biệt tại Mỹ và Brazil, cá rô phi đang nổi lên như một sản phẩm xuất khẩu tiềm năng của Việt Nam bên cạnh cá tra. Yêu cầu then chốt là đa dạng hóa thị trường, nâng cao chất lượng chế biến và đáp ứng các tiêu chuẩn về an toàn, bền vững.

Hiện thực hóa mục tiêu tăng trưởng hai con số

Hiện thực hóa mục tiêu tăng trưởng hai con số

Năm 2026 là cột mốc quan trọng trong hành trình phát triển kinh tế của Việt Nam, khi mục tiêu tăng trưởng GDP hai con số được đặt ra nhằm tạo nền tảng vững chắc cho khát vọng phát triển đất nước thịnh vượng vào các dấu mốc 100 năm thành lập Đảng (2030) và 100 năm thành lập nước (2045). Đây không chỉ là một chỉ tiêu kinh tế đơn thuần, mà còn mang ý nghĩa chiến lược, thể hiện quyết tâm bứt phá về năng suất, chất lượng và sức cạnh tranh của nền kinh tế.

Giá xăng giảm, dầu tăng

Giá xăng giảm, dầu tăng

Giá xăng giảm 200 đồng, dầu tăng 300 đồng từ 15h hôm nay, sau điều chỉnh trước kỳ nghỉ Tết Nguyên đán của liên Bộ Công Thương - Tài chính.

Khơi thông vận hội mới nơi cửa ngõ biên cương

Khơi thông vận hội mới nơi cửa ngõ biên cương

Xuân Bính Ngọ 2026 đã gõ cửa vùng biên cương Lào Cai. Giữa sắc đào thắm và nhịp sống hối hả xuyên Tết, Lào Cai không chỉ khẳng định vị thế cửa ngõ giao thương quốc tế, mà còn cho thấy hình ảnh một Việt Nam đổi mới, lấy khoa học công nghệ làm đòn bẩy cho những khát vọng vươn tầm.

Nhịp nối khát vọng vươn lên

Nhịp nối khát vọng vươn lên

Từ ngày 01/7/2025, tỉnh Lào Cai được thành lập trên cơ sở hợp nhất toàn bộ địa giới hành chính hai tỉnh Yên Bái và Lào Cai. Với tổng diện tích tự nhiên 13.256,92 km², dân số 1.778.785 người, gồm 99 đơn vị hành chính cấp xã, Lào Cai hôm nay đầy đủ đặc trưng của vùng cao, vùng thấp, đô thị, nông thôn cùng nhiều tiểu vùng có lợi thế riêng biệt để phát triển.

Tuyến đường nối những ước mơ

Tuyến đường nối những ước mơ

Những ngày giáp Tết, tuyến đường nối các thôn của xã Lâm Thượng, tỉnh Lào Cai đã hoàn thành, mở ra diện mạo mới cho vùng cao sau thiên tai. Con đường không chỉ giúp người dân đi lại thuận tiện, giao thương dễ dàng hơn, mà còn kết nối niềm tin, hy vọng về một cuộc sống ổn định, đủ đầy.

Thị trường xăng dầu sắp tái cấu trúc mạnh

Thị trường xăng dầu sắp tái cấu trúc mạnh

Năm 2026 được xác định là năm thay đổi lớn của thị trường xăng dầu khi cơ chế điều hành giá chuyển mạnh sang thị trường hóa, đồng thời xăng sinh học E10 chính thức được triển khai toàn quốc từ 1/6. Những thay đổi này buộc hệ thống phân phối và doanh nghiệp kinh doanh xăng dầu bước vào giai đoạn tái cấu trúc mạnh.

fb yt zl tw