Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Mở lối sinh kế mới ở Bảo Ái

Mở lối sinh kế mới ở Bảo Ái

Từ những đồi quế quen thuộc, nhiều hộ dân xã Bảo Ái đã mạnh dạn phát triển các mô hình sinh kế mới như nuôi hươu sao, trồng cây ăn quả và đa dạng hóa sản xuất. Đằng sau sự chuyển đổi ấy là quá trình người dân chủ động tiếp cận thông tin, học hỏi khoa học - kỹ thuật và thay đổi tư duy sản xuất để nâng cao thu nhập, hướng tới phát triển bền vững.

Mưa lớn gây sạt lở, ngập úng tại xã Cốc San

Mưa lớn gây sạt lở, ngập úng tại xã Cốc San

Sau trận mưa lớn kéo dài từ ngày 28 đến 29/7, trên địa bàn xã Cốc San đã xảy ra nhiều điểm sạt lở đất, ngập úng cục bộ, gây ảnh hưởng đến giao thông, sản xuất nông nghiệp và đời sống của người dân tại một số thôn. Trước diễn biến thời tiết dự báo có nhiều phức tạp, chính quyền địa phương đang khẩn trương triển khai các biện pháp ứng phó, đồng thời tiến hành rà soát thiệt hại và phát cảnh báo về nguy cơ xảy ra sạt lở đất, lũ quét.

Bảo Yên: Khai thác hiệu quả quỹ đất, tạo nguồn thu bền vững

Bảo Yên: Khai thác hiệu quả quỹ đất, tạo nguồn thu bền vững

Cùng với thu hút đầu tư, xã Bảo Yên đang tập trung khai thác hiệu quả nguồn lực đất đai thông qua việc tạo lập quỹ đất sạch, đầu tư đồng bộ hạ tầng và tổ chức đấu giá quyền sử dụng đất công khai, minh bạch. Nguồn thu từ đất không chỉ góp phần tăng thu ngân sách mà còn tạo nguồn lực đầu tư kết cấu hạ tầng, chỉnh trang đô thị, mở rộng không gian phát triển và tạo động lực tăng trưởng bền vững.

Đường Cẩm Ân - Mông Sơn xuống cấp, người dân mong sớm được đầu tư

Đường Cẩm Ân - Mông Sơn xuống cấp, người dân mong sớm được đầu tư

Là tuyến giao thông huyết mạch phục vụ hàng nghìn hộ dân xã Mông Sơn cũ, sau nhiều năm đưa vào khai thác, đường Cẩm Ân – Mông Sơn, nay thuộc địa bàn xã Bảo Ái, đã xuống cấp nghiêm trọng. Tình trạng này không chỉ ảnh hưởng đến việc đi lại, sinh hoạt của người dân mà còn tiềm ẩn nguy cơ mất an toàn giao thông.

Báo động thuốc bảo vệ thực vật, thuốc tân dược bán tràn lan ở chợ phiên

Báo động thuốc bảo vệ thực vật, thuốc tân dược bán tràn lan ở chợ phiên

Giữa các phiên chợ vùng cao tấp nập người mua bán, bên cạnh nông sản và nhu yếu phẩm, những lọ thuốc bảo vệ thực vật, thuốc tân dược không rõ nguồn gốc vẫn ngang nhiên được bày bán công khai. Đáng lo ngại hơn, cả người bán lẫn người mua đều không biết những sản phẩm này đến từ đâu, thành phần là gì, nhưng vẫn sử dụng mỗi ngày. Đằng sau sự dễ dãi ấy là những nguy cơ khó lường đối với sức khỏe cộng đồng và môi trường.

Giá vàng trưa 29/7: Vàng miếng SJC lao dốc, vàng nhẫn giảm mạnh

Giá vàng trưa 29/7: Vàng miếng SJC lao dốc, vàng nhẫn giảm mạnh

Giá vàng trưa 29/7 đồng loạt giảm mạnh tại hầu hết doanh nghiệp kinh doanh vàng lớn. Vàng miếng SJC mất 1 triệu đồng/lượng, trong khi vàng nhẫn có nơi giảm tới 1,5 triệu đồng/lượng. Thị trường trong nước chịu áp lực từ diễn biến của giá vàng thế giới khi nhà đầu tư chờ quyết định lãi suất của Cục Dự trữ Liên bang Mỹ (Fed).

Du lịch tạo động lực tăng trưởng cho kinh tế địa phương

Du lịch tạo động lực tăng trưởng cho kinh tế địa phương

Không chỉ mang đến những trải nghiệm hấp dẫn cho du khách, du lịch đang từng bước trở thành động lực tăng trưởng tại nhiều địa phương của tỉnh. Từ những bản làng vùng cao đến các điểm đến nổi tiếng, sự phát triển của ngành “công nghiệp không khói” đã tạo thêm việc làm, mở rộng sinh kế cho người dân, đồng thời lan tỏa tới thương mại, dịch vụ và nhiều lĩnh vực kinh tế khác.

fb yt zl tw