Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

0:00 / 0:00
0:00
  • Nam miền Bắc
  • Nữ miền Bắc
  • Nữ miền Nam
  • Nam miền Nam
Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại ảnh 1

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Làm sao để thu hút nguồn vốn tư nhân vào phát triển bền vững ngành năng lượng?

Làm sao để thu hút nguồn vốn tư nhân vào phát triển bền vững ngành năng lượng?

Để đảm bảo chuyển dịch năng lượng theo hướng xanh, trong giai đoạn 2021 - 2030, với nguồn lực của nhà nước thông qua đầu tư công là rất hạn chế nên nguồn vốn từ khu vực tư nhân được xác định là "trọng yếu". Trong bối cảnh rất nhiều dự án đầu tư vào năng lượng tái tạo thời gian qua gặp các vướng mắc vẫn chưa được giải quyết dứt điểm, làm sao để thu hút đầu tư tư nhân?

Giá vàng tăng cao, thị trường sôi động

Giá vàng tăng cao, thị trường sôi động

Giá vàng 9999 tại Lào Cai đang được niêm yết ở mức cao nhất từ đầu năm đến nay với 5.770.000 đồng/chỉ (bán ra) và 5.670.000 đồng/chỉ (mua vào). Giá vàng tăng ở mức cao, giao dịch diễn ra sôi động ở các cơ sở kinh doanh mặt hàng kim loại quý.

Ban Quản lý Dự án Đầu tư xây dựng tỉnh hoàn thành vượt tiến độ 2 công trình chào mừng

Ban Quản lý Dự án Đầu tư xây dựng tỉnh hoàn thành vượt tiến độ 2 công trình chào mừng

Trong đợt thi đua nhân kỷ niệm 65 năm ngày Bác Hồ lên thăm Lào Cai và 75 năm ngày Bác Hồ ra lời kêu gọi thi đua ái quốc, Ban Quản lý Dự án (QLDA) Đầu tư xây dựng tỉnh đã đăng ký 2 công trình chào mừng, đó là: Công trình cải tạo, sửa chữa Nhà thi đấu đa năng tỉnh Lào Cai và công trình cải tạo, nâng cấp công viên Hồ Chí Minh.

Nguy cơ thiếu hụt nguồn nước trong vụ đông xuân 2023 - 2024

Nguy cơ thiếu hụt nguồn nước trong vụ đông xuân 2023 - 2024

Do ảnh hưởng của El Nino, lượng mưa thiếu hụt ở hầu hết khu vực Nam Bộ cũng như trung, hạ lưu sông Mekong và mức độ sử dụng nước trên khu vực thượng nguồn gia tăng, khả năng thiếu hụt nguồn nước ngọt trong mùa khô 2023 - 2024 ở đồng bằng sông Cửu Long rất lớn. Vì vậy, để bảo đảm nguồn nước ngọt phục vụ sản xuất vụ đông xuân 2023 - 2024, các địa phương vùng đồng bằng sông Cửu Long cần có giải pháp ứng phó xâm nhập mặn sớm và sâu hơn.

Số hóa ngành Logistics, đón đầu xu hướng giúp doanh nghiệp tạo đà tăng trưởng

Số hóa ngành Logistics, đón đầu xu hướng giúp doanh nghiệp tạo đà tăng trưởng

Lĩnh vực chuyển phát nhanh trên thế giới đã và đang chứng kiến những đột phá về công nghệ với hàng loạt giải pháp được ứng dụng và tạo ra sự tăng trưởng nhanh chóng. Nắm bắt lợi thế đó, J&T Express nỗ lực đưa những giải pháp vận chuyển ứng dụng công nghệ mới nhất nhằm thúc đẩy sự phát triển của các nhà bán hàng.

Dự án Trung tâm hành chính mới Bảo Thắng: Điểm nhấn kiến trúc của thị xã tương lai

Dự án Trung tâm hành chính mới Bảo Thắng: Điểm nhấn kiến trúc của thị xã tương lai

Trung tâm hành chính mới huyện Bảo Thắng được xây dựng trên nền các cơ quan hành chính cũ - vị trí đã gắn bó, quen thuộc với cán bộ và người dân từ ngày tái lập tỉnh nhưng với thiết kế cao tầng, hiện đại, góp phần nâng cao hiệu quả hoạt động công vụ sẽ trở thành điểm nhấn kiến trúc của thị xã tương lai.

“Khó vạn lần dân liệu cũng xong”

“Khó vạn lần dân liệu cũng xong”

“Dễ trăm lần không dân cũng chịu, khó vạn lần dân liệu cũng xong…” - Lời căn dặn của Bác Hồ đến nay vẫn còn nguyên giá trị trong công cuộc xây dựng nông thôn mới của đồng bào Mông ở thôn vùng cao Nàng Cảng, xã Lùng Thẩn (huyện Si Ma Cai).

fb yt zl tw