Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Đảm bảo an toàn lao động trên công trường thủy điện Si Ma Cai

Đảm bảo an toàn lao động trên công trường thủy điện Si Ma Cai

Dự án thủy điện Si Ma Cai nằm ở thượng nguồn sông Chảy, nơi có địa hình, địa chất phức tạp. Sau thời gian phải tạm dừng thi công do mưa lũ, công trường đã khởi động trở lại. Đơn vị thi công tổ chức nhiều mũi thi công vừa đảm bảo an toàn lao động, vừa đáp ứng yêu cầu bù lại tiến độ gián đoạn trước đó, phấn đấu vận hành nhà máy vào quý I năm 2026.

Phát huy tiềm năng "kinh tế bạc" ở Lào Cai

Phát huy tiềm năng "kinh tế bạc" ở Lào Cai

Lào Cai hiện có trên 186.000 người cao tuổi - lực lượng đóng vai trò quan trọng trong đời sống kinh tế - xã hội. Thời gian qua, người cao tuổi trong tỉnh đã tích cực tham gia sản xuất, kinh doanh với tinh thần “tuổi cao chí càng cao”, trở thành nguồn lực quan trọng cần được phát huy mạnh mẽ trong quá trình phát triển "kinh tế bạc" ở địa phương.

Điểm tựa của hội viên nông dân

Điểm tựa của hội viên nông dân

Với phương châm “đồng hành, tạo điều kiện thuận lợi, giúp đỡ hội viên nông dân bằng nhiều giải pháp cụ thể”, Hội Nông dân xã Mường Khương đã thực sự trở thành điểm tựa giúp hội viên phát triển kinh tế và góp phần xây dựng địa phương ngày càng phát triển.

"Cây vàng xanh" giúp nông dân Lào Cai làm giàu bền vững

"Cây vàng xanh" giúp nông dân Lào Cai làm giàu bền vững

Quế được bà con các dân tộc các tỉnh Tây Bắc ví như "cây vàng xanh", bởi không chỉ giúp người dân thoát nghèo mà còn vươn lên làm giàu bền vững. Vùng đất Viễn Sơn, thuộc huyện Văn Yên tỉnh Yên Bái cũ, nay là xã Xuân Ái, tỉnh Lào Cai được xem như nơi xuất phát của nghề trống quế.

Đề xuất thuế thu nhập cá nhân còn 5 bậc: Điều chỉnh thuế suất theo hướng giảm gánh nặng

Đề xuất thuế thu nhập cá nhân còn 5 bậc: Điều chỉnh thuế suất theo hướng giảm gánh nặng

Bộ Tài chính vừa báo cáo Chính phủ về việc tiếp thu, giải trình ý kiến của đại biểu Quốc hội đối với dự án Luật Thuế Thu nhập cá nhân (sửa đổi). Điểm đáng chú ý nhất là đề xuất thu hẹp biểu thuế lũy tiến từ 7 xuống 5 bậc, điều chỉnh mức thuế suất để người nộp thuế ở tất cả các bậc đều được giảm nghĩa vụ so với hiện hành.

Chị Hà Thị Hoa đầu tư trồng cam từ nguồn vốn chính sách.

Hiệu quả từ nguồn vốn chính sách

Được vay vốn chính sách từ Ngân hàng Chính sách xã hội, sử dụng vốn đúng mục đích, phù hợp với điều kiện của gia đình, nhiều hộ dân ở xã Văn Chấn, nhất là hộ nghèo, cận nghèo, mới thoát nghèo, hộ sản xuất nông nghiệp đã phát huy hiệu quả vốn chính sách, giúp cải thiện kinh tế gia đình, cuộc sống.

Thủ tướng: Đưa Việt Nam trở thành trung tâm dịch vụ logistics hàng đầu Đông Nam Á, châu Á và thế giới

Thủ tướng: Đưa Việt Nam trở thành trung tâm dịch vụ logistics hàng đầu Đông Nam Á, châu Á và thế giới

Phát biểu tại Diễn đàn Logistics Việt Nam 2025, nhấn mạnh mục tiêu phát triển bền vững hệ sinh thái logistics quốc gia "Thông minh - Hiện đại – Xanh – Số - Cạnh tranh - Hiệu quả", với tinh thần "nhìn xa trông rộng, nghĩ sâu làm lớn", đưa Việt Nam trở thành trung tâm dịch vụ logistics hàng đầu khu vực Đông Nam Á, châu Á và thế giới, Thủ tướng Phạm Minh Chính chỉ rõ 8 nhiệm vụ chung, quan trọng và các nhiệm vụ cụ thể với các bộ, ngành, địa phương, cơ quan để phát triển ngành logistics Việt Nam.

Lao Chải phát huy thế mạnh phát triển du lịch

Lao Chải phát huy thế mạnh phát triển du lịch

Với mục tiêu đưa du lịch thành ngành kinh tế mũi nhọn, Đảng ủy xã Lao Chải (tỉnh Lào Cai) đã ban hành và triển khai Nghị quyết về bảo tồn và phát huy các giá trị văn hóa truyền thống gắn với phát triển du lịch cộng đồng, du lịch sinh thái, nhằm chuyển dịch cơ cấu kinh tế, tạo việc làm, giảm nghèo và nâng cao đời sống người dân.

Quyết liệt chống hàng giả, hàng nhái

Quyết liệt chống hàng giả, hàng nhái

Từ năm 2007, Thủ tướng Chính phủ đồng ý lấy ngày 29/11 hằng năm là “Ngày phòng, chống hàng giả, hàng nhái” nhằm nâng cao ý thức trách nhiệm của toàn xã hội trong công tác đấu tranh chống hàng giả.

Bộ Công Thương phê duyệt phương thức vận hành hệ thống điện quốc gia năm 2026

Bộ Công Thương phê duyệt phương thức vận hành hệ thống điện quốc gia năm 2026

Ngày 28/11, Bộ Công Thương đã ban hành Quyết định số 3477/QĐ-BCT phê duyệt Phương thức vận hành hệ thống điện quốc gia năm 2026, tạo cơ sở để các đơn vị chủ động chuẩn bị kế hoạch bảo đảm cung ứng điện cho phát triển kinh tế - xã hội và nhu cầu sinh hoạt của người dân trong năm tới.

Để những cánh rừng mãi xanh

Kỷ niệm Ngày Truyền thống ngành Lâm nghiệp Việt Nam 28/11: Để những cánh rừng mãi xanh

Tỉnh Lào Cai hiện có hơn 859.000 ha rừng, trong đó, 473.000 ha rừng tự nhiên, hơn 385.000 ha rừng trồng, tỷ lệ che phủ rừng hơn 60%. Mong muốn giữ vững và nhân rộng màu xanh trên những cánh rừng, lực lượng chức năng, các địa phương và Nhân dân đang ngày đêm cần mẫn bảo vệ và phát triển, để những cánh rừng mãi xanh.

fb yt zl tw