Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Quốc hội chính thức cho phép tính giá điện sinh hoạt theo giờ cao điểm, thấp điểm

Quốc hội chính thức cho phép tính giá điện sinh hoạt theo giờ cao điểm, thấp điểm

Luật sửa đổi, bổ sung một số điều của Luật Điện lực bổ sung lộ trình áp dụng giá bán lẻ điện theo giờ cao điểm, thấp điểm và giờ bình thường đối với khách hàng sinh hoạt khi điều kiện kỹ thuật cho phép, mở đường cho việc thay đổi cách tính tiền điện trong thời gian tới.

Đồng lòng kiến thiết nông thôn mới

Đồng lòng kiến thiết nông thôn mới

Thời gian qua, để tạo động lực xây dựng nông thôn mới, xã Lục Yên đã chủ động lồng ghép nguồn vốn từ các chương trình mục tiêu quốc gia, ngân sách địa phương để đầu tư hạ tầng giao thông thiết yếu. Từ nền tảng này, chính quyền xã tiếp tục đẩy mạnh vận động, khơi dậy sự đồng thuận hưởng ứng góp sức của Nhân dân. Qua đó, góp phần nâng cao chất lượng đời sống người dân, đưa diện mạo nông thôn Lục Yên ngày càng khởi sắc.

Lao Chải đề xuất hơn 161 tỷ đồng, ưu tiên đầu tư giao thông và thủy lợi

Lao Chải đề xuất hơn 161 tỷ đồng, ưu tiên đầu tư giao thông và thủy lợi

Giai đoạn 2026–2030, xã Lao Chải đề xuất nhu cầu vốn hơn 161 tỷ đồng để thực hiện các mục tiêu xây dựng nông thôn mới, giảm nghèo bền vững và phát triển kinh tế - xã hội vùng đồng bào dân tộc thiểu số và miền núi. Trong đó, xã ưu tiên đầu tư hạ tầng thiết yếu, nhất là giao thông và thủy lợi.

"Cánh tay nối dài" đưa tín dụng chính sách đến với người dân

"Cánh tay nối dài" đưa tín dụng chính sách đến với người dân

Trong hành trình đưa nguồn vốn tín dụng chính sách (TDCS) đến đúng đối tượng, đúng nhu cầu và phát huy hiệu quả, các tổ trưởng tổ tiết kiệm và vay vốn (TK&VV) giữ vai trò đặc biệt quan trọng. Họ là những người gần dân, hiểu dân, kết nối giữa ngân hàng với người vay vốn, góp phần đưa chính sách tín dụng ưu đãi đến từng hộ gia đình, tạo động lực phát triển kinh tế và giảm nghèo bền vững.

Gắn tái định cư với quy hoạch phát triển

Gắn tái định cư với quy hoạch phát triển

Các công trình giao thông trọng điểm và dự án công nghiệp đang triển khai tại Lào Cai đặt ra nhu cầu lớn về nơi ở mới cho người dân. Cùng với đẩy nhanh xây dựng các khu tái định cư, tỉnh yêu cầu các địa phương gắn bố trí dân cư với quy hoạch phát triển lâu dài, đầu tư hạ tầng đồng bộ, tạo điều kiện nâng cao đời sống sau di dời.

Bàn giải pháp tăng hiệu quả nuôi thủy sản nước ngọt tại một số tỉnh phía Bắc

Bàn giải pháp tăng hiệu quả nuôi thủy sản nước ngọt tại một số tỉnh phía Bắc

Sáng 20/11, tại phường Yên Bái (tỉnh Lào Cai), Trung tâm Khuyến nông Quốc gia phối hợp với Sở Nông nghiệp và Môi trường tỉnh Lào Cai tổ chức Diễn đàn Khuyến nông @ Nông nghiệp, với chủ đề “Giải pháp phát triển bền vững, nâng cao hiệu quả nghề nuôi thủy sản nước ngọt tại một số tỉnh phía Bắc”.

Khánh Yên xây dựng cánh đồng không vỏ thuốc bảo vệ thực vật

Khánh Yên xây dựng cánh đồng không vỏ thuốc bảo vệ thực vật

Từ việc lắp đặt các bể chứa vỏ bao bì thuốc bảo vệ thực vật ngay trên đồng ruộng, thôn Sung, xã Khánh Yên đang hình thành thói quen thu gom rác thải sau sử dụng trong sản xuất nông nghiệp. Cách làm thiết thực này góp phần hạn chế ô nhiễm môi trường, giữ gìn những cánh đồng xanh, sạch.

Phó Bí thư Tỉnh ủy Nguyễn Thế Phước chủ trì phiên họp về giải phóng mặt bằng các dự án trọng điểm trên địa bàn

Phó Bí thư Tỉnh ủy Nguyễn Thế Phước chủ trì phiên họp về giải phóng mặt bằng các dự án trọng điểm trên địa bàn

Sáng 20/11, tại Trụ sở Tỉnh ủy, đồng chí Nguyễn Thế Phước - Phó Bí thư Tỉnh ủy, Chủ tịch Ủy ban Mặt trận Tổ quốc Việt Nam tỉnh, Trưởng Ban Chỉ đạo giải phóng mặt bằng các dự án trọng điểm trên địa bàn tỉnh Lào Cai chủ trì phiên họp đánh giá tiến độ và thống nhất kế hoạch triển khai công tác giải phóng mặt bằng các dự án trọng điểm.

fb yt zl tw