Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Gia Phú: Ứng dụng công nghệ số, nâng cao chăn nuôi an toàn sinh học và giám sát dịch bệnh

Gia Phú: Ứng dụng công nghệ số, nâng cao chăn nuôi an toàn sinh học và giám sát dịch bệnh

Xã Gia Phú vừa phối hợp với Viện Chăn nuôi và Thú y Việt Nam tổ chức chuỗi hoạt động chuyên môn về chăn nuôi an toàn sinh học và giám sát dịch bệnh tại 56 hộ chăn nuôi quy mô trên địa bàn 12 thôn: Tân Lợi, Hợp Giao, Chành, Hùng Xuân 1, Hùng Xuân 2, Cù Hà, Mỏ, Mường 1, Mường 2, Giao Bình, Vàng và Phèo. 

Tuyến Yên Bái - Lào Cai vào danh sách cao tốc ưu tiên mở rộng

Tuyến Yên Bái - Lào Cai vào danh sách cao tốc ưu tiên mở rộng

Bộ Xây dựng kiến nghị Chính phủ ưu tiên mở rộng ngay các tuyến cao tốc 2 làn xe trên quy mô cả nước lên quy mô hoàn chỉnh nhằm bảo đảm an toàn giao thông, tránh ùn tắc và tạo động lực phát triển kinh tế - xã hội, trong đó tuyến Yên Bái - Lào Cai nằm trong nhóm các dự án đang được triển khai mở rộng lên 4 làn xe.

Xã Hạnh Phúc: 82 hộ dân được nhận tiền hỗ trợ thiệt hại do dịch tả lợn châu Phi

Xã Hạnh Phúc: 82 hộ dân được nhận tiền hỗ trợ thiệt hại do dịch tả lợn châu Phi

Sáng 18/5, Phòng Kinh tế xã Hạnh Phúc tổ chức chi trả tiền hỗ trợ cho các hộ chăn nuôi bị thiệt hại do dịch tả lợn châu Phi trên địa bàn xã. Quá trình chi trả được thực hiện công khai, minh bạch, đúng đối tượng, dưới sự giám sát của lãnh đạo UBND xã, HĐND xã và Ủy ban MTTQ Việt Nam xã.

Khai thác dư địa phát triển lâm sản ngoài gỗ

Khai thác dư địa phát triển lâm sản ngoài gỗ

Lào Cai có nguồn lâm sản ngoài gỗ phong phú với nhiều ngành hàng chủ lực như quế, tre măng Bát độ, sơn tra, thảo quả và dược liệu dưới tán rừng. Tuy nhiên, dư địa lớn nhất của lâm sản ngoài gỗ hiện nay không chỉ nằm ở việc mở rộng diện tích hay tăng sản lượng khai thác, mà ở khả năng tổ chức lại chuỗi giá trị, gắn vùng nguyên liệu với chế biến sâu, tiêu chuẩn chất lượng và thị trường tiêu thụ ổn định.

Từ 25/5, vi phạm điện lực bị phạt tới 200 triệu đồng: Những đối tượng cần lưu ý để tránh bị xử phạt

Từ 25/5, vi phạm điện lực bị phạt tới 200 triệu đồng: Những đối tượng cần lưu ý để tránh bị xử phạt

Từ ngày 25/5/2026, Nghị định số 133/2026/NĐ-CP của Chính phủ quy định xử phạt vi phạm hành chính trong lĩnh vực điện lực chính thức có hiệu lực, trong đó mức phạt tối đa lên tới 100 triệu đồng đối với cá nhân và 200 triệu đồng đối với tổ chức; nhiều hành vi trong bán lẻ điện, sử dụng điện và hoạt động điện lực bị áp dụng chế tài nghiêm khắc hơn.

Chủ động phòng, chống thiên tai ở vùng cao Lào Cai trước mùa mưa lũ

Chủ động phòng, chống thiên tai ở vùng cao Lào Cai trước mùa mưa lũ

Mỗi khi mùa mưa đến, nguy cơ sạt lở đất, lũ ống, lũ quét tại các xã vùng cao lại gia tăng, gây nhiều lo lắng cho người dân. Với địa hình đồi núi dốc, dân cư phân tán, rủi ro thiên tai luôn ở mức cao. Trước thực tế đó, các địa phương đã chủ động rà soát khu vực xung yếu, xây dựng phương án di dời dân cư và chuẩn bị lực lượng, vật tư theo phương châm “4 tại chỗ”, nhằm hạn chế thấp nhất thiệt hại về người và tài sản.

Điều gì xảy ra khi lần đầu tiên đổ xăng E10 cho xe máy?

Điều gì xảy ra khi lần đầu tiên đổ xăng E10 cho xe máy?

Lần đầu chuyển sang xăng sinh học E10, phần lớn xe máy hiện nay vẫn có thể vận hành ổn định, không cần điều chỉnh kỹ thuật, trong khi người dùng có thể tiết kiệm chi phí hơn nhờ giá bán thấp hơn xăng khoáng cùng loại và góp phần giảm khí thải độc hại ra môi trường.

fb yt zl tw