Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Siết chặt kiểm soát, đảm bảo an toàn thị trường cuối năm

Siết chặt kiểm soát, đảm bảo an toàn thị trường cuối năm

Nhằm xây dựng hình ảnh du lịch Sa Pa văn minh, thân thiện, chuyên nghiệp, để lại ấn tượng tốt đẹp cho du khách, công tác nắm bắt thị trường, kiểm tra, kiểm soát các cơ sở kinh doanh thực hiện đúng quy định pháp luật được đẩy mạnh, đặc biệt vào các dịp cao điểm cuối năm, bao gồm Tết Dương lịch, lễ Giáng sinh và các lễ hội mùa đông tại Sa Pa.

Giải bài toán thoát nghèo ở Ngải Trồ

Giải bài toán thoát nghèo ở Ngải Trồ

Nằm ở khu vực địa hình chia cắt, giao thông cách trở, thôn Ngải Trồ, xã Dền Sáng từng phải đối mặt với muôn vàn khó khăn. Thế nhưng, bằng tinh thần bền bỉ và ý chí vượt khó, đồng bào nơi đây đang nỗ lực khai thác tiềm năng của địa phương để giải bài toán thoát nghèo.

Những giải pháp để tăng nguồn thu ngân sách ở xã Khao Mang

Những giải pháp để tăng nguồn thu ngân sách ở xã Khao Mang

Trong điều kiện là xã vùng cao còn nhiều khó khăn, nguồn thu ngân sách hạn chế, việc chủ động tìm kiếm và triển khai các giải pháp tăng thu đang là nhiệm vụ quan trọng của cấp ủy, chính quyền xã Khao Mang. Bằng cách khai thác hợp lý tiềm năng, thế mạnh địa phương, đồng thời siết chặt quản lý và nuôi dưỡng nguồn thu, Khao Mang đang từng bước tạo chuyển biến tích cực trong cân đối ngân sách, phục vụ nhiệm vụ phát triển kinh tế - xã hội ở cơ sở.

Phố trong rừng

Phố trong rừng

Giữa mênh mông đại ngàn, nơi mây trời ôm ấp những triền đồi xanh thẳm của xã Mỏ Vàng, một sự chuyển mình ngoạn mục đang diễn ra tại thôn Tặng Chan. Xen lẫn giữa những rừng quế, nhiều ngôi nhà cao tầng, khang trang mọc lên san sát, minh chứng cho ý chí vươn lên của người dân nơi đây.

Nông nghiệp xanh góp phần nâng cao giá trị nông sản, bảo vệ tài nguyên, môi trường.

Lào Cai hướng tới nền nông nghiệp xanh

Trong bối cảnh biến đổi khí hậu ngày càng tác động sâu rộng đến sản xuất nông nghiệp, yêu cầu chuyển đổi sang mô hình canh tác xanh, phát thải thấp không còn là xu hướng mà đã trở thành nhiệm vụ cấp thiết. 

Kênh tín dụng thiết thực của hội viên nông dân xã Xuân Ái

Kênh tín dụng thiết thực của hội viên nông dân xã Xuân Ái

Những năm qua, Quỹ Hỗ trợ nông dân đã trở thành kênh tín dụng thiết thực, tiếp sức cho hội viên nông dân xã Xuân Ái đầu tư sản xuất, phát triển kinh doanh, tạo việc làm và từng bước nâng cao thu nhập. Nhờ nguồn vốn này, nhiều hộ nông dân mạnh dạn mở rộng các mô hình chăn nuôi, trồng trọt, phát triển rừng kinh tế và liên kết theo chuỗi giá trị, góp phần thúc đẩy kinh tế - xã hội tại địa phương.

Khoảng trống thú y viên cơ sở sau sáp nhập: Những vấn đề đặt ra từ thực tiễn quản lý

Khoảng trống thú y viên cơ sở sau sáp nhập: Những vấn đề đặt ra từ thực tiễn quản lý

Sắp xếp đơn vị hành chính và triển khai mô hình chính quyền địa phương hai cấp là chủ trương lớn nhằm tinh gọn bộ máy, nâng cao hiệu lực quản lý. Tuy nhiên, thực tiễn công tác phòng, chống dịch bệnh trên đàn vật nuôi thời gian qua cho thấy, nhiều vấn đề đang phát sinh tại cấp xã, phường, nơi giữ vai trò tuyến đầu trong kiểm soát dịch bệnh.

Xã Bảo Yên đẩy mạnh thu hút đầu tư vào các lĩnh vực mũi nhọn

Xã Bảo Yên đẩy mạnh thu hút đầu tư vào các lĩnh vực mũi nhọn

Sau khi thực hiện sáp nhập đơn vị hành chính, xã Bảo Yên đã mở rộng không gian phát triển với nhiều tiềm năng và lợi thế. Đặc biệt, các lĩnh vực nông - lâm nghiệp, tiểu thủ công nghiệp và du lịch được xác định là mũi nhọn, xã tập trung thu hút đầu tư nhằm tạo bước đột phá trong phát triển kinh tế - xã hội giai đoạn tới.

fb yt zl tw