Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Doanh nghiệp tăng tốc sản xuất, thực hiện mục tiêu tăng trưởng

Doanh nghiệp tăng tốc sản xuất, thực hiện mục tiêu tăng trưởng

Năm 2026, tỉnh Lào Cai đặt mục tiêu tăng trưởng kinh tế đạt mức hai con số. Để hiện thực hóa mục tiêu này, cùng với sự quyết tâm của các cấp, ngành, cộng đồng doanh nghiệp trên địa bàn tỉnh đang đẩy mạnh phong trào thi đua lao động sản xuất, đổi mới công nghệ và nâng cao năng lực cạnh tranh, góp phần thúc đẩy tăng trưởng kinh tế địa phương.

Trở về gieo những mầm xanh

Trở về gieo những mầm xanh

Giữa thung lũng Lùng Phình, tỉnh Lào Cai, những vườn dâu tây đang vào mùa chín đỏ. Không chỉ mang lại nguồn thu cho người trồng, mô hình này còn gắn với câu chuyện đẹp về khát vọng trở về quê hương lập nghiệp của người trẻ.

Phường Lào Cai tập trung nhiều giải pháp thu ngân sách năm 2026

Phường Lào Cai tập trung nhiều giải pháp thu ngân sách năm 2026

Ngay từ những tháng đầu năm 2026, phường Lào Cai đã chủ động triển khai nhiều giải pháp nhằm thực hiện hiệu quả nhiệm vụ thu ngân sách nhà nước trên địa bàn. Với sự vào cuộc đồng bộ của các phòng chuyên môn cùng sự phối hợp chặt chẽ với cơ quan thuế và cộng đồng doanh nghiệp, địa phương đang nỗ lực phấn đấu hoàn thành và vượt chỉ tiêu thu ngân sách được giao.

Cẩn trọng mở rộng diện tích cây cà phê ở Lào Cai

Cẩn trọng mở rộng diện tích cây cà phê ở Lào Cai

Thời gian gần đây, tại một số xã thuộc khu vực Bảo Yên, Mường Khương, Bắc Hà, Bảo Thắng, người dân đã và đang trồng thử nghiệm cây cà phê. Tuy nhiên, việc mở rộng diện tích trồng cà phê một cách tự phát, không theo quy hoạch tại các khu vực có điều kiện sinh thái không phù hợp, đang đặt ra nhiều thách thức lớn, tiềm ẩn nguy cơ rủi ro cao trong sản xuất nông nghiệp.

Lãnh đạo xã Hưng Khánh thăm mô hình trồng dược liệu dưới tán rừng của gia đình chị Vàng Thị Khoa, thôn Khuôn Bổ (thứ 3, phải sang).

Đòn bẩy trong xây dựng nông thôn mới ở Hưng Khánh

Với mục tiêu nâng cao thu nhập của người dân, xây dựng xã nổi trội về sản xuất gắn với xây dựng nông thôn mới, xã Hưng Khánh, tỉnh Lào Cai đã triển khai nhiều mô hình kinh tế hiệu quả như: trồng chè, tre Bát độ, quế, dược liệu… thực hiện chuỗi liên kết trong tiêu thụ sản phẩm thông qua Phong trào thi đua “Dân vận khéo”. 

Ngăn chặn hơn 1,8 tấn thực phẩm đông lạnh nhập lậu tại các cửa khẩu phía Bắc

Ngăn chặn hơn 1,8 tấn thực phẩm đông lạnh nhập lậu tại các cửa khẩu phía Bắc

Triển khai cao điểm đấu tranh chống buôn lậu dịp trước, trong và sau Tết Nguyên đán Bính Ngọ 2026, ngành hải quan đã tăng cường kiểm tra, kiểm soát tại các cửa khẩu biên giới phía bắc, qua đó phát hiện, bắt giữ hơn 1,8 tấn thực phẩm đông lạnh nhập lậu, không rõ nguồn gốc, nhiều lô hàng có dấu hiệu mất an toàn vệ sinh thực phẩm.

Niềm vui trên cánh đồng ớt xanh xuất khẩu

Niềm vui trên cánh đồng ớt xanh xuất khẩu

Những ngày này, trên các cánh đồng của phường Cầu Thia, ớt xanh xuất khẩu đang bước vào vụ thu hoạch. Từ sáng sớm, bà con nông dân đã tất bật ra đồng thu hái, không khí lao động rộn ràng trên các thửa ruộng. Việc đưa cây ớt xanh vào sản xuất đã và đang mở ra hướng chuyển đổi cây trồng hiệu quả, góp phần nâng cao thu nhập cho người dân địa phương.

Nà Hẩu: Khi bảo vệ rừng trở thành sinh kế và trách nhiệm

Nà Hẩu: Khi bảo vệ rừng trở thành sinh kế và trách nhiệm

Khu bảo tồn thiên nhiên Nà Hẩu từ lâu được xem là một trong những “lá phổi xanh” quan trọng của vùng núi Tây Bắc. Với diện tích hơn 16.000 ha rừng tự nhiên, nơi đây lưu giữ hệ sinh thái phong phú với nhiều loài động, thực vật quý hiếm nằm trong Sách đỏ Việt Nam. Không chỉ có giá trị về đa dạng sinh học, Nà Hẩu còn giữ vai trò đặc biệt trong bảo vệ nguồn nước, điều hòa khí hậu và duy trì cân bằng sinh thái cho cả một vùng rộng lớn.

Xuất khẩu sầu riêng qua cửa khẩu Lào Cai tăng gấp 26 lần

Xuất khẩu sầu riêng qua cửa khẩu Lào Cai tăng gấp 26 lần

Theo Chi cục Kiểm dịch thực vật vùng VIII, từ đầu năm đến nay, gần 21.000 tấn sầu riêng đã được xuất khẩu qua Cửa khẩu Quốc tế đường bộ số II Kim Thành (Lào Cai). Con số này tăng gấp 26 lần so với cùng kỳ năm trước, cho thấy tín hiệu tích cực của hoạt động xuất khẩu nông sản qua địa bàn.

Khi rừng trở thành “nguồn sống”

Khi rừng trở thành “nguồn sống”

Chính sách chi trả dịch vụ môi trường rừng đang từng bước khẳng định vai trò là công cụ kinh tế quan trọng trong quản lý, bảo vệ và phát triển rừng tại Lào Cai. Không chỉ tạo nguồn lực ổn định cho công tác giữ rừng, chính sách này còn mở ra hướng phát triển sinh kế bền vững cho người dân vùng cao, góp phần củng cố an ninh sinh thái và thúc đẩy phát triển lâm nghiệp theo hướng xanh.

Lào Cai thúc đẩy triển khai Dự án Phát triển hạ tầng và đô thị bền vững do ADB tài trợ

Lào Cai thúc đẩy triển khai Dự án Phát triển hạ tầng và đô thị bền vững do ADB tài trợ

Sáng 16/3, tại trụ sở UBND tỉnh, đồng chí Nguyễn Thế Phước - Ủy viên Ban Thường vụ Tỉnh ủy, Phó Chủ tịch Thường trực UBND tỉnh đã làm việc với Đoàn công tác Ngân hàng Phát triển châu Á (ADB) về kết quả khảo sát thực tế Dự án Phát triển hạ tầng và đô thị bền vững tại Lào Cai.

Phó Chủ tịch Thường trực UBND tỉnh Nguyễn Thế Phước tiếp Tập đoàn Xây dựng Thái Bình Dương (Trung Quốc)

Phó Chủ tịch Thường trực UBND tỉnh Nguyễn Thế Phước tiếp Tập đoàn Xây dựng Thái Bình Dương (Trung Quốc)

Sáng 16/3, đồng chí Nguyễn Thế Phước - Ủy viên Ban Thường vụ Tỉnh ủy, Phó Chủ tịch Thường trực UBND tỉnh đã tiếp và làm việc với Đoàn công tác Tập đoàn Xây dựng Thái Bình Dương (Trung Quốc) do ông Dư Giang - Phó Giám đốc Tập đoàn làm Trưởng đoàn đến tìm hiểu cơ hội hợp tác đầu tư tại tỉnh Lào Cai.

Luồng gió mới trên những cung đường vùng cao Lào Cai

Nghị quyết đi vào cuộc sống: Luồng gió mới trên những cung đường vùng cao Lào Cai

Nghị quyết số 22/2025/NQ-HĐND của HĐND tỉnh Lào Cai về chính sách hỗ trợ xây dựng đường giao thông nông thôn giai đoạn 2026 - 2030 vừa ban hành đã tạo nên luồng sinh khí mới tại các bản làng vùng cao. Không chỉ dừng lại ở cơ chế hỗ trợ, giá trị của chính sách còn thể hiện ở sự chuyển biến trong nhận thức của đồng bào các dân tộc, biến khát vọng thoát nghèo thành hành động hiến đất, góp công để nối dài những cung đường ấm no.

Cuộc cách mạng trên đất khó Púng Luông

Cuộc cách mạng trên đất khó Púng Luông

Từ những mảnh ruộng, triền đồi vốn chỉ quen với cây lúa một vụ năng suất thấp và cây ngô tự cung tự cấp, xã Púng Luông, tỉnh Lào Cai đang chứng kiến sự chuyển đổi mạnh mẽ trong tư duy và phương thức sản xuất. Việc hình thành các vùng chuyên canh hoa, rau màu và cây ăn quả ôn đới theo hướng hàng hóa không chỉ làm thay đổi diện mạo nông thôn mà còn trở thành đòn bẩy giúp đồng bào dân tộc thiểu số thoát nghèo bền vững, nâng cao vị thế nông sản vùng cao trên thị trường.

fb yt zl tw