Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hàng Việt chinh phục người tiêu dùng bằng chất lượng

Hàng Việt chinh phục người tiêu dùng bằng chất lượng

Thị trường bán lẻ ngày càng đa dạng, với nhiều lựa chọn về thương hiệu, mẫu mã, giá cả và xuất xứ hàng hóa. Người tiêu dùng cũng đang dần ưu tiên hàng Việt khi sản phẩm đáp ứng yêu cầu về chất lượng và phù hợp với nhu cầu. Xu hướng này vừa mở ra cơ hội, vừa tạo sức ép cạnh tranh đối với hàng Việt.

Bản Liền công bố quy hoạch chung xã đến năm 2050

Bản Liền công bố quy hoạch chung xã đến năm 2050

Chiều 19/10, UBND xã Bản Liền tổ chức hội nghị công bố Quyết định phê duyệt Quy hoạch chung xã đến năm 2050, định hướng phát triển hạ tầng đồng bộ, tổ chức không gian dân cư hợp lý, gắn sản xuất nông nghiệp hàng hóa với du lịch sinh thái và bảo tồn bản sắc văn hóa địa phương.

Nửa cuộc đời gieo màu xanh

Nửa cuộc đời gieo màu xanh

Nơi núi rừng Tây Bắc, hiếm có loại cây nào mang sức sống mãnh liệt và trường tồn, gắn bó với đồng bào Mông như pơ mu. Bám rễ sâu vào đất núi, qua bao mùa gió rét, cây vẫn xanh tốt giữa đại ngàn, như người vùng cao bền bỉ, can trường trước mọi gian khó.

Công ty TNHH Một thành viên Traphaco Sa Pa ký kết hợp tác phân phối độc quyền sản phẩm Cacao Atiso+

Công ty TNHH Một thành viên Traphaco Sa Pa ký kết hợp tác phân phối độc quyền sản phẩm Cacao Atiso+

Ngày 19/10, Công ty TNHH Một thành viên Traphaco Sa Pa và Công ty True Health đã ký kết thỏa thuận hợp tác phân phối độc quyền sản phẩm Cacao Atiso+, đánh dấu bước hợp tác giữa hai doanh nghiệp trong sản xuất, kinh doanh và mở rộng thị trường tiêu thụ sản phẩm chăm sóc sức khỏe.

Thường trực Tỉnh ủy kiểm tra tiến độ triển khai hai khu công nghiệp tại Gia Phú

Thường trực Tỉnh ủy kiểm tra tiến độ triển khai hai khu công nghiệp tại Gia Phú

Sáng 19/10, đồng chí Dương Quốc Huy - Ủy viên Ban Chấp hành Trung ương Đảng, Bí thư Tỉnh ủy cùng đoàn công tác của tỉnh kiểm tra tiến độ triển khai Dự án Khu công nghiệp Phú Xuân và Khu công nghiệp Phú Xuân 1 tại xã Gia Phú; nghe báo cáo tình hình thực hiện, những khó khăn, vướng mắc và đề xuất giải pháp tháo gỡ.

Gieo niềm tin – nối dài đầu ra nông sản

Gieo niềm tin – nối dài đầu ra nông sản

Toàn tỉnh Lào Cai hiện có 862 hợp tác xã hoạt động trong lĩnh vực nông nghiệp, chiếm gần 55% tổng số hợp tác xã, cùng 2.801 tổ hợp tác nông nghiệp với hơn 12.000 thành viên. Thông qua liên kết sản xuất, thu mua và bao tiêu nông sản, các hợp tác xã từng bước khắc phục tình trạng sản xuất nhỏ lẻ, tạo đầu ra ổn định cho nông sản địa phương, giúp người dân yên tâm sản xuất, góp phần nâng cao giá trị nông sản và phát triển kinh tế nông thôn bền vững.

OCOP từ bản sắc

OCOP từ bản sắc

Khi bản sắc trở thành trải nghiệm của du khách, sản phẩm có thêm thị trường, nghề truyền thống có thêm người tiếp nối.

fb yt zl tw