Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hơn 2.700 hộ dân xã Mậu A được vay vốn tín dụng chính sách

Hơn 2.700 hộ dân xã Mậu A được vay vốn tín dụng chính sách

Năm 2025, hoạt động tín dụng chính sách xã hội trên địa bàn xã Mậu A tiếp tục phát huy hiệu quả, trở thành nguồn lực quan trọng hỗ trợ người dân phát triển sản xuất, tạo việc làm, cải thiện đời sống, góp phần thực hiện mục tiêu giảm nghèo bền vững và thúc đẩy phát triển kinh tế - xã hội địa phương.

Liên Sơn chuyển đổi cây trồng tạo đột phá cho nông nghiệp

Liên Sơn chuyển đổi cây trồng tạo đột phá cho nông nghiệp

Từ những ruộng lúa kém hiệu quả, thu nhập bấp bênh, người dân xã Liên Sơn đã chủ động chuyển đổi cơ cấu cây trồng, đưa các loại cây có giá trị kinh tế cao vào sản xuất theo hướng hàng hóa. Sự thay đổi này không chỉ nâng cao hiệu quả sử dụng đất mà còn tạo đột phá trong phát triển nông nghiệp, nâng cao thu nhập.

Nuôi cá nước lạnh: Làm chủ sản xuất con giống

Nuôi cá nước lạnh: Làm chủ sản xuất con giống

Chủ động nguồn con giống đang trở thành “chìa khóa” quyết định sự phát triển bền vững của ngành cá nước lạnh Lào Cai. Trong bối cảnh thị trường nhiều biến động, từng bước làm chủ con giống tại chỗ không chỉ giúp người nuôi ổn định sản xuất, giảm chi phí đầu vào mà còn tạo nền tảng để cá nước lạnh khẳng định vị thế trên “sân nhà”, từng bước mở rộng thị trường.

Vườn ươm vào vụ, sẵn sàng cây giống trồng rừng

Vườn ươm vào vụ, sẵn sàng cây giống trồng rừng

Bước vào vụ gieo ươm cao điểm, các cơ sở sản xuất cây giống lâm nghiệp trên địa bàn khu vực Bảo Yên đang tập trung chăm sóc, phòng trừ sâu bệnh, bảo đảm nguồn cây giống khỏe, đạt tiêu chuẩn xuất vườn, sẵn sàng phục vụ kế hoạch trồng rừng năm 2026.

Xuân Ái khai thác tiềm năng phát triển kinh tế

Đông Cuông giữ gìn không gian sống xanh - sạch - đẹp

Giữ gìn môi trường sống xanh - sạch - đẹp không chỉ là yêu cầu trong xây dựng nông thôn mới mà còn là thước đo chất lượng cuộc sống của người dân. Nhận thức rõ điều đó, xã Đông Cuông đã triển khai đồng bộ nhiều giải pháp, huy động sự vào cuộc của cả hệ thống chính trị và Nhân dân, từng bước hình thành nếp sống văn minh, thân thiện với môi trường, tạo diện mạo nông thôn ngày càng khang trang, sạch đẹp.

Trạm Tấu xây dựng chính quyền “gần dân, sát dân, vì Nhân dân phục vụ”

Trạm Tấu xây dựng chính quyền “gần dân, sát dân, vì Nhân dân phục vụ”

Thực hiện mô hình chính quyền địa phương hai cấp theo phương châm “gần dân, sát dân, vì Nhân dân phục vụ”, xã Trạm Tấu đã và đang tạo chuyển biến rõ nét trong phương thức lãnh đạo, điều hành, lấy sự hài lòng của người dân làm thước đo hiệu quả công việc. Qua đó, củng cố niềm tin của Nhân dân, tạo động lực thúc đẩy phát triển kinh tế - xã hội địa phương.

Quyết liệt từ chính quyền, chủ động từ người dân

Quyết liệt từ chính quyền, chủ động từ người dân

Dự án đường sắt khổ tiêu chuẩn Lào Cai - Hà Nội - Hải Phòng có ý nghĩa đặc biệt quan trọng đối với phát triển kinh tế - xã hội, tăng cường liên kết vùng và mở rộng không gian phát triển của tỉnh Lào Cai. Trên địa bàn xã Quy Mông, nơi tuyến đường sắt đi qua với chiều dài gần 10 km, công tác giải phóng mặt bằng, bố trí tái định cư đang được triển khai quyết liệt, bài bản, với sự đồng thuận cao của Nhân dân và nỗ lực lớn từ chính quyền địa phương, chủ đầu tư cùng các đơn vị thi công.

Hướng đến khuyến nông đa giá trị

Hướng đến khuyến nông đa giá trị


Công tác khuyến nông có vai trò đặc biệt quan trọng trong việc hỗ trợ nông dân tiếp cận và áp dụng tiến bộ khoa học kỹ thuật để nâng cao năng suất cây trồng, vật nuôi. Những cán bộ của Trung tâm Khuyến nông và Dịch vụ nông nghiệp Lào Cai không chỉ là “giáo viên trên đồng ruộng” mà còn trở thành điểm tựa vững chắc của nông dân trên con đường phát triển nông nghiệp bền vững.

Lào Cai phấn đấu hoàn thành nâng cấp Quốc lộ 32C đoạn Hiền Lương trước Tết 2026

Lào Cai phấn đấu hoàn thành nâng cấp Quốc lộ 32C đoạn Hiền Lương trước Tết 2026

Những ngày cuối năm, trên công trường dự án nâng cấp Quốc lộ 32C (đoạn Hiền Lương - thành phố Yên Bái cũ, nay thuộc phường Âu Lâu, tỉnh Lào Cai) không khí thi công khẩn trương, hối hả. Vượt qua thời tiết mùa đông giá lạnh, các mũi thi công làm việc liên tục, tận dụng tối đa thời gian thuận lợi để đẩy nhanh tiến độ, phấn đấu hoàn thành tuyến trước Tết Nguyên đán 2026.

fb yt zl tw