Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hội nghị tổng kết Dự án Thúc đẩy phát triển nghề nghiệp và kinh doanh cho thanh niên và phụ nữ Lào Cai và Phú Thọ

Hội nghị tổng kết Dự án Thúc đẩy phát triển nghề nghiệp và kinh doanh cho thanh niên và phụ nữ Lào Cai và Phú Thọ

Ngày 17/12, Ban Thường vụ Hội LHPN tỉnh Lào Cai phối hợp với tổ chức Aide et Action (AEA) và Trung tâm Nghiên cứu về Giới, Gia đình và Môi trường trong phát triển tổ chức hội nghị tổng kết Dự án Thúc đẩy phát triển nghề nghiệp và kinh doanh cho thanh niên và phụ nữ tại Lào Cai và Phú Thọ.

Xanh mướt cao nguyên

Xanh mướt cao nguyên

Không có những cánh đồng rau bạt ngàn như miền xuôi, Bắc Hà khiến du khách ngạc nhiên giữa núi đá trập trùng vẫn xanh ngắt rau màu. Rau theo chân những người phụ nữ gùi, chở xe máy tỏa khắp ngả đường, phủ xanh chợ phố. Ở đây, rau không mọc thành cánh đồng lớn mà len lỏi giữa ruộng lúa, nương ngô, vườn cây, thậm chí vươn lên từ những hốc đá nhỏ hẹp.

Tăng tốc trên các dự án giao thông kết nối

Tăng tốc trên các dự án giao thông kết nối

Những ngày cuối năm, trên công trình, dự án giao thông trọng điểm, nhà thầu đang đẩy nhanh tiến độ thi công với tinh thần “vượt nắng, thắng mưa”, “3 ca, 4 kíp” để về đích đúng hạn. Trong đó có dự án đường nối Quốc lộ 70 - 32C - 37 với cao tốc Nội Bài - Lào Cai và dự án nâng cấp Quốc lộ 32C đoạn Hiền Lương - thành phố Yên Bái (trước hợp nhất).

Phát triển bền vững lâm sản ngoài gỗ làm dược liệu gắn với doanh nghiệp và cộng đồng

Phát triển bền vững lâm sản ngoài gỗ làm dược liệu gắn với doanh nghiệp và cộng đồng

Chiều 16/12, tại xã Phong Hải, Trung tâm Nghiên cứu lâm sản ngoài gỗ (Viện Khoa học và Lâm nghiệp Việt Nam) phối hợp với xã Phong Hải, Chi cục Kiểm lâm tỉnh và một số doanh nghiệp, người dân trên địa bàn tổ chức Hội thảo định hướng phát triển bền vững lâm sản ngoài gỗ làm dược liệu gắn với doanh nghiệp kinh doanh dựa vào cộng đồng.

Nông dân Gia Phú và nhịp sống trên những ruộng rau

Nông dân Gia Phú và nhịp sống trên những ruộng rau

Xã Gia Phú là vùng sản xuất rau lớn của tỉnh, tập trung tại các thôn: Soi Cờ, Chính Tiến, Đồng Lục, Bến Phà, Giao Ngay, Giao Tiến, Thái Bo, Hòa Lạc, với tổng diện tích hơn 120 ha và hàng trăm hộ canh tác. Trên những cánh đồng rau xanh mướt, nông dân Gia Phú  đang cần mẫn gieo hạt, vun gốc, tưới nước đến thu hoạch.

Trồng rau an toàn hướng mới giảm nghèo bền ở xã Lùng Phình

Trồng rau an toàn hướng mới giảm nghèo bền ở xã Lùng Phình

Cùng với việc triển khai đồng bộ các chương trình mục tiêu quốc gia, xã Lùng Phình đã từng bước chuyển dịch cơ cấu cây trồng theo hướng sản xuất hàng hóa, khai thác hiệu quả tiềm năng đất đai, khí hậu để nâng cao thu nhập cho người dân. Điển hình là mô hình trồng rau an toàn do các hợp tác xã liên kết đầu tư hiệu quả trên địa bàn, mở hướng giảm nghèo mới cho địa phương.

Thống nhất chính sách, nâng tầm 605 sản phẩm OCOP tỉnh Lào Cai sau sáp nhập

Thống nhất chính sách, nâng tầm 605 sản phẩm OCOP tỉnh Lào Cai sau sáp nhập

Trong bối cảnh chương trình OCOP ngày càng đi vào chiều sâu, Lào Cai và Yên Bái sau khi hợp nhất thành tỉnh Lào Cai, hiện có 605 sản phẩm OCOP. Mặc dù có lợi thế diện tích rộng và nhiều đặc sản, tỉnh vẫn đang đối mặt với không ít thách thức trong quá trình nâng cao chất lượng, gia tăng giá trị và mở rộng thị trường tiêu thụ cho các sản phẩm này...

Hướng tới tăng trưởng "2 con số" thông qua chuyển đổi kép Xanh và Số

Hướng tới tăng trưởng "2 con số" thông qua chuyển đổi kép Xanh và Số

Chiều 16/12, Diễn đàn Kinh tế Việt Nam 2025, triển vọng 2026 đã diễn ra với chủ đề "Kinh tế Việt Nam phát triển nhanh, bền vững, chuyển đổi xanh trong kỷ nguyên số". Đây là sự kiện kinh tế thường niên quy mô lớn, gồm 1 phiên toàn thể cấp cao và 2 phiên chuyên đề, thu hút sự tham gia của hơn 500 đại biểu trực tiếp và hơn 1.000 đại biểu trực tuyến tại 34 điểm cầu trên cả nước.

Chủ động bảo vệ cây trồng, vật nuôi trong những ngày rét hại

Chủ động bảo vệ cây trồng, vật nuôi trong những ngày rét hại

Trước diễn biến thời tiết cực đoan, nhiệt độ giảm sâu, nhiều nơi xuất hiện băng giá và sương muối, các địa phương trên địa bàn tỉnh đã đồng loạt triển khai công tác tuyên truyền hướng dẫn người dân che chắn chuồng trại, dự trữ thức ăn cho gia súc và chăm sóc cây trồng nhằm hạn chế tối đa thiệt hại trong những ngày rét đậm, rét hại.

Lào Cai: Sẵn sàng cho lễ khởi công dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

Lào Cai: Sẵn sàng cho lễ khởi công dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

Ngày 19/12 sẽ diễn ra lễ khởi công dự án đường sắt Lào Cai - Hà Nội - Hải Phòng. Đây là dự án có ý nghĩa đặc biệt quan trọng đối với sự phát triển kinh tế - xã hội của tỉnh Lào Cai, vì vậy, những ngày qua, các cấp, các ngành liên quan đã dồn sức chuẩn bị mọi điều kiện tốt nhất, sẵn sàng cho lễ khởi công diễn ra theo đúng kế hoạch.

Câu chuyện 3 thập niên giữ đất

Từ thực trạng khai thác tận diệt vào thập niên 90, các cán bộ lâm nghiệp tại vùng đất Trạm Tấu, tỉnh Yên Bái cũ - nay thuộc địa phận xã Hạnh Phúc, tỉnh Lào Cai đã kiên trì vận động thay đổi tập quán của người dân. Thành quả sau 3 thập niên giữ đất là hơn 300 ha rừng hỗn giao có trồng xen pơ mu được hồi sinh, mở ra triển vọng lớn về kinh tế lâm nghiệp, tín chỉ carbon và du lịch sinh thái.

fb yt zl tw