Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Gỡ “nút thắt” giao thông liên vùng ở thượng nguồn sông Chảy

Gỡ “nút thắt” giao thông liên vùng ở thượng nguồn sông Chảy

Vùng thượng nguồn sông Chảy với địa hình núi cao, chia cắt mạnh khiến kết nối giao thông giữa các xã vùng cao khu vực Bắc Hà, Mường Khương, Si Ma Cai gặp nhiều khó khăn. Thiếu các tuyến giao thông liên vùng đồng bộ nên tiềm năng về sản xuất nông nghiệp, du lịch, giao thương..., chưa được phát huy.

Xóa đường đất quyết tâm từ Kế hoạch 213

Xóa đường đất quyết tâm từ Kế hoạch 213

Bằng việc tập trung phân bổ gần 9.000 tỷ đồng vốn ngân sách và áp dụng nhất quán cơ chế “Nhân dân làm, Nhà nước hỗ trợ”, tỉnh Lào Cai đặt mục tiêu giai đoạn 2026 - 2030 có trên 80% hệ thống đường giao thông tại các xã được nhựa hóa, bê tông hóa,  tạo đòn bẩy giúp đồng bào vùng cao thay đổi phương thức sản xuất, chuyển dịch từ tự cung tự cấp sang kinh tế hàng hóa và ổn định cuộc sống ngay tại quê hương.

Nông dân Lào Cai gửi gắm khát vọng phát triển vào Đại hội IX Hội Nông dân Việt Nam

Nông dân Lào Cai gửi gắm khát vọng phát triển vào Đại hội IX Hội Nông dân Việt Nam

Từ những trang trại doanh thu hàng tỷ đồng đến các hợp tác xã mạnh dạn chuyển đổi số, cán bộ, hội viên nông dân Lào Cai đang lập nhiều thành tích thiết thực hướng tới Đại hội đại biểu toàn quốc Hội Nông dân Việt Nam lần thứ IX, đồng thời gửi gắm nhiều kỳ vọng vào những chủ trương mới cho nông nghiệp, nông dân và nông thôn.

Hơn 10 năm chờ đính chính “sổ đỏ”, quyền lợi người dân bị ảnh hưởng

Hơn 10 năm chờ đính chính “sổ đỏ”, quyền lợi người dân bị ảnh hưởng

Giấy chứng nhận quyền sử dụng đất là căn cứ pháp lý quan trọng để người dân thực hiện các quyền liên quan đến đất đai, nhà ở và tài sản. Tuy nhiên, tại một số thôn của xã Mù Cang Chải (trước đây thuộc xã Chế Cu Nha, huyện Mù Cang Chải, tỉnh Yên Bái cũ), chỉ vì sai sót trong quá trình cấp giấy chứng nhận mà nhiều hộ dân đã chờ đợi hơn 10 năm vẫn chưa được nhận lại giấy tờ hợp pháp.

Giá vàng chiều nay: SJC, DOJI, PNJ đồng loạt giảm mạnh

Giá vàng chiều nay: SJC, DOJI, PNJ đồng loạt giảm mạnh

Thị trường vàng trong nước chiều 6/6 tiếp tục ghi nhận diễn biến giảm mạnh sau cú lao dốc của giá vàng thế giới. Nhiều doanh nghiệp lớn đồng loạt điều chỉnh giảm giá vàng miếng SJC và vàng nhẫn, đưa mặt bằng giá về vùng thấp nhất trong nhiều tuần gần đây.

Khẩn trương cứu cá lồng trên hồ thủy điện Bắc Hà

Khẩn trương cứu cá lồng trên hồ thủy điện Bắc Hà

Nắng nóng gay gắt kéo dài, mực nước lòng hồ xuống thấp khiến nhiệt độ nước tăng cao, hàm lượng oxy hòa tan suy giảm, đẩy hơn 1.000 lồng nuôi cá tầm trên hồ thủy điện Bắc Hà vào tình trạng nguy cấp. Hàng tấn cá chết chỉ trong vài ngày, nhiều hộ nuôi đứng trước nguy cơ mất trắng nếu không sớm có giải pháp ứng cứu kịp thời.

Nuôi ốc trên đồng lúa - mô hình “2 trong 1” của nông dân Phong Dụ Thượng

Nuôi ốc trên đồng lúa - mô hình “2 trong 1” của nông dân Phong Dụ Thượng

Tận dụng diện tích mặt nước trên ruộng để nuôi ốc dạ kết hợp trồng lúa đang mang lại hiệu quả kinh tế cho nhiều hộ dân ở xã Phong Dụ Thượng. Mô hình “2 trong 1” này không chỉ giúp nâng cao giá trị sản xuất trên cùng diện tích canh tác mà còn góp phần giảm chi phí, tạo thêm sinh kế cho người dân.

Vì sao giá vàng giảm mạnh chỉ sau một báo cáo từ Mỹ?

Vì sao giá vàng giảm mạnh chỉ sau một báo cáo từ Mỹ?

Giá vàng thế giới giảm mạnh trong phiên cuối tuần sau khi báo cáo việc làm của Mỹ vượt xa dự báo, làm suy yếu kỳ vọng Fed sớm cắt giảm lãi suất. Đồng USD và lợi suất trái phiếu tăng mạnh đã tạo áp lực đáng kể lên kim loại quý.Giá vàng thế giới giảm mạnh trong phiên cuối tuần sau khi báo cáo việc làm của Mỹ vượt xa dự báo, làm suy yếu kỳ vọng Fed sớm cắt giảm lãi suất. Đồng USD và lợi suất trái phiếu tăng mạnh đã tạo áp lực đáng kể lên kim loại quý.

Nuôi cá nước lạnh trước áp lực nắng nóng

Nuôi cá nước lạnh trước áp lực nắng nóng

Nắng nóng kéo dài cùng những đợt mưa lớn cục bộ đang tạo ra không ít thách thức đối với nghề nuôi cá nước lạnh tại Lào Cai. Trước diễn biến thời tiết cực đoan, các cơ sở nuôi phải tăng cường theo dõi môi trường nước, chủ động áp dụng các biện pháp kỹ thuật nhằm bảo vệ đàn cá và duy trì sản xuất.

fb yt zl tw