Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Niềm vui lớn sau hơn một thập niên chờ đợi

Niềm vui lớn sau hơn một thập niên chờ đợi

Sau hơn mười năm mòn mỏi chờ đợi trong niềm khắc khoải của bao thế hệ, tuyến đường bê tông nối từ Tỉnh lộ 152 đến hai thôn vùng cao Nậm Trà, Nậm Phảng thuộc xã Gia Phú (Lào Cai) đang từng ngày được hoàn thiện, xua tan những khó khăn và nhiều nguy hiểm, mở ra chương mới cho sự phát triển kinh tế - xã hội địa phương.

Số hóa tài sản công

Số hóa tài sản công

Sau khi thực hiện sắp xếp đơn vị hành chính và vận hành mô hình chính quyền địa phương hai cấp, tỉnh đứng trước yêu cầu cấp thiết phải quản lý, khai thác hiệu quả khối lượng lớn tài sản công, đặc biệt là các cơ sở nhà, đất dôi dư. Trong bối cảnh đó, việc xây dựng cơ sở dữ liệu số về tài sản công là giải pháp kỹ thuật, bước đi quan trọng nhằm nâng cao hiệu quả quản lý, sử dụng nguồn lực công theo hướng minh bạch, hiện đại và bền vững.

Tập huấn phổ biến chính sách phát triển sản xuất nông nghiệp và quy định về khuyến nông

Tập huấn phổ biến chính sách phát triển sản xuất nông nghiệp và quy định về khuyến nông

Sáng 24/9, Trung tâm Khuyến nông tỉnh Lào Cai tổ chức Hội nghị tập huấn phổ biến các nghị quyết, chính sách về phát triển sản xuất nông nghiệp trên địa bàn và các quy định về công tác khuyến nông cho gần 300 đại biểu là cán bộ làm nhiệm vụ khuyến nông, các hợp tác xã, nông dân xuất sắc tại 72 xã, phường.

Tạo “sức bền”cho nông sản

Tạo “sức bền”cho nông sản

Nhiều năm qua, tỉnh Lào Cai đã tận dụng hiệu quả lợi thế khí hậu và thổ nhưỡng đặc thù để chuyển dần từ phương thức canh tác truyền thống sang sản xuất nông nghiệp hàng hóa. Trong hành trình đó, Chương trình “Mỗi xã một sản phẩm” (OCOP) được coi là “đòn bẩy” quan trọng. Dẫu vậy, sau giai đoạn bùng nổ về số lượng, thực tế đòi hỏi nông sản địa phương phải chuyển nhanh từ mục tiêu “đạt chuẩn” sang “nâng hạng” và giữ vững thương hiệu trên thị trường.

Tạo lực đẩy cho công nghiệp hỗ trợ

Tạo lực đẩy cho công nghiệp hỗ trợ

Từ nhu cầu lớn của các nhà máy đến năng lực cung ứng còn hạn chế của doanh nghiệp trong tỉnh, Lào Cai đang có dư địa để phát triển công nghiệp hỗ trợ. Vấn đề đặt ra không chỉ là thu hút thêm dự án, mà quan trọng hơn là xác định đúng nhu cầu, tạo đơn hàng, nâng năng lực doanh nghiệp và từng bước đưa vật tư, phụ tùng, thiết bị, dịch vụ kỹ thuật vào chuỗi sản xuất ngay tại địa phương.

Chung sức mở đường, kết nối tương lai

Chung sức mở đường, kết nối tương lai

Trên địa bàn tỉnh, từ vùng thấp đến vùng cao, người dân đang cùng chính quyền chung tay mở đường bằng những việc làm rất cụ thể. Tất cả hướng đến những tuyến đường rộng hơn, thuận tiện hơn, phục vụ sự phát triển của quê hương.

Đề xuất tính giá điện sinh hoạt theo giờ, hóa đơn sẽ thay đổi thế nào?

Đề xuất tính giá điện sinh hoạt theo giờ, hóa đơn sẽ thay đổi thế nào?

Nếu giá điện sinh hoạt được tính theo thời gian sử dụng, hóa đơn của mỗi gia đình sẽ không chỉ phụ thuộc vào số điện tiêu thụ mà còn vào thời điểm dùng điện. Cơ chế này có thể giúp giảm áp lực giờ cao điểm, song đặt ra vấn đề về thói quen sinh hoạt, công tơ, hạ tầng dữ liệu và khả năng lựa chọn của người dân.

Chuẩn hóa phương án chi viện liên xã trong ứng phó với thiên tai

Chuẩn hóa phương án chi viện liên xã trong ứng phó với thiên tai

Từ những hạn chế của các địa phương trong xây dựng phương án phòng, chống thiên tai, tỉnh đã ban hành những chỉ đạo quyết liệt nhằm chấn chỉnh toàn diện công tác phòng, chống lụt bão. Qua đó, các địa phương đã khẩn trương bổ sung, triển khai phương án theo hướng vừa chủ động nguồn lực tại chỗ, vừa sẵn sàng các kịch bản phối hợp chặt chẽ với địa bàn lân cận trong ứng phó thiên tai, tìm kiếm cứu nạn.

Gỡ khó xác minh nguồn gốc vùng trồng quế tại Bảo Nhai, Cốc Lầu

Gỡ khó xác minh nguồn gốc vùng trồng quế tại Bảo Nhai, Cốc Lầu

Với hơn 10.100 ha quế, trong đó hàng nghìn ha đang bước vào thời kỳ thu hoạch, Bảo Nhai và Cốc Lầu đang hình thành vùng nguyên liệu quế quan trọng của khu vực. Tuy nhiên, việc xác minh nguồn gốc vùng trồng còn gặp nhiều khó khăn, ảnh hưởng trực tiếp đến hoạt động thu mua, chế biến và tiêu thụ sản phẩm của doanh nghiệp.

Đẩy nhanh tiến độ giải phóng mặt bằng, tái định cư Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

Đẩy nhanh tiến độ giải phóng mặt bằng, tái định cư Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

Chiều 23/9, đồng chí Nguyễn Thành Sinh - Phó Chủ tịch UBND tỉnh trực tiếp kiểm tra thực địa tình hình triển khai công tác bồi thường, hỗ trợ, tái định cư phục vụ Dự án đầu tư xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng tại khu vực phía Bắc tỉnh.

Cam Đường đẩy nhanh tiến độ các dự án

Cam Đường đẩy nhanh tiến độ các dự án

Cùng với tháo gỡ vướng mắc trong giải phóng mặt bằng, phường Cam Đường tập trung đôn đốc thi công, nghiệm thu, thanh toán khối lượng hoàn thành, phấn đấu đưa các công trình, dự án về đích đúng kế hoạch, tạo quỹ đất phát triển đô thị, hoàn thiện hạ tầng và thu hút đầu tư.

fb yt zl tw