Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Lực lượng kiểm lâm phối hợp cùng người dân tuần tra bảo vệ rừng tại Khu bảo tồn loài và sinh cảnh Mù Cang Chải.

Bảo vệ sinh cảnh, gìn giữ đa dạng sinh học cho mai sau

Khu Bảo tồn loài và sinh cảnh Mù Cang Chải giữ vai trò đặc biệt quan trọng trong bảo tồn đa dạng sinh học và bảo vệ rừng đầu nguồn khu vực Tây Bắc. Trước áp lực từ biến đổi khí hậu và nhu cầu sinh kế của người dân vùng cao, sự vào cuộc đồng bộ của lực lượng kiểm lâm, chính quyền cơ sở và cộng đồng đang tạo nền tảng vững chắc để những cánh rừng nơi đây được quản lý, gìn giữ hiệu quả.

Sức sống mới ở Páo Tủng

Sức sống mới ở Páo Tủng

Páo Tủng - thôn nhỏ ở xã Mường Khương có hơn 50 hộ dân, chủ yếu là đồng bào dân tộc Nùng, Bố Y sinh sống quần tụ qua nhiều thế hệ. Từ bao đời nay, bà con nơi đây luôn phát huy tinh thần đoàn kết, cần cù, tương trợ lẫn nhau trong lao động, sản xuất và đời sống thường ngày. Chính sự đồng lòng ấy đã tạo nên sức mạnh bền bỉ để Páo Tủng từng bước vượt qua khó khăn, vươn lên xây dựng cuộc sống ngày càng ấm no, khởi sắc.

Đưa hương trà, thảo dược chinh phục thị trường thế giới

Đưa hương trà, thảo dược chinh phục thị trường thế giới

Giữa núi rừng Tây Bắc, từ những cây chè Shan tuyết cổ thụ đến những loài thảo dược bản địa mộc mạc đã và đang có những con người bền bỉ, lặng thầm làm nên “kỳ tích”. Bằng tri thức, khát vọng và tinh thần dấn thân, họ đưa đặc sản Lào Cai vượt qua núi cao, mây phủ, từng bước chinh phục những thị trường “khó tính” trên thế giới.

Hướng làm giàu của người dân Khởi Khe

Hướng làm giàu của người dân Khởi Khe

Tận dụng lợi thế đất rừng và nước mặt, người dân thôn Khởi Khe, xã Phong Hải đã phát triển trồng quế, nuôi cá theo hướng hàng hóa, từng bước nâng cao thu nhập. Hiện nay, khoảng 80% số hộ trong thôn đạt mức khá, giàu; đời sống vật chất, tinh thần ngày càng cải thiện, diện mạo nông thôn khởi sắc rõ nét.

Mộc mạc chợ Tết Hợp Thành

Mộc mạc chợ Tết Hợp Thành

Không chỉ là nơi trao đổi hàng hóa, chợ phiên ngày Tết còn là bức tranh văn hóa sống động, nơi hương sắc núi rừng hòa quyện cùng tình người ấm áp. Đến với chợ văn hóa vùng cao Hợp Thành - Tả Phời (nay thuộc xã Hợp Thành) được tổ chức vào Chủ nhật hằng tuần, người dân và du khách sẽ được trải nghiệm một phiên chợ như thế - mộc mạc, giản dị và sôi động.

Xuân về trên thôn nông thôn mới kiểu mẫu Tân Long

Xuân về trên thôn nông thôn mới kiểu mẫu Tân Long

Trong màn mưa xuân lất phất, Tân Long (xã Trấn Yên) hiện lên dịu dàng và trầm lắng. Những giọt mưa nhẹ rơi trên mái ngói đỏ, thấm vào con đường bê tông sạch sẽ, làm hàng rào hoa thêm tươi sắc. Khói bếp chiều quyện trong làn sương mỏng, tiếng nói cười ấm áp vang lên từ mỗi nếp nhà. Giữa tiết trời ẩm ướt đầu năm, bức tranh quê ấy không hề ảm đạm mà càng thêm sâu lắng, bình yên - như chính niềm vui âm thầm của một thôn nông thôn mới kiểu mẫu đang vững vàng đổi thay từng ngày.

Sản xuất nông nghiệp phát huy lợi thế cạnh tranh

Sản xuất nông nghiệp phát huy lợi thế cạnh tranh

Lào Cai là tỉnh miền núi, địa hình chia cắt mạnh, khí hậu phân hóa rõ rệt theo độ cao. Chính sự đa dạng ấy tạo ra những “tiểu vùng sinh thái” đặc thù, phù hợp với nhiều loại cây trồng, vật nuôi đặc hữu như: mận Tam hoa Bắc Hà, chè Shan tuyết cổ thụ, gạo Séng Cù, tương ớt Mường Khương, dược liệu Sa Pa…

Những phụ nữ Dao cùng nhau thu hoạch vỏ quế tươi.

Xuân ấm bản Dao

Những con đường bê tông uốn lượn dẫn vào các bản người Dao như đẹp hơn bởi sắc đào đỏ thắm xen lẫn màu xanh ngút ngàn của những rừng quế. Những căn nhà khang trang đầy ắp tiếng cười. Một mùa xuân ấm no, yên bình đang gõ cửa từng nếp nhà.

Kiên quyết đấu tranh chống buôn lậu, hàng giả

Kiên quyết đấu tranh chống buôn lậu, hàng giả

Mỗi sản phẩm thật được lựa chọn, mỗi hành vi gian lận bị lên án sẽ góp phần chung tay đẩy lùi nạn buôn lậu, gian lận thương mại và hàng giả, làm trong sạch thị trường, bảo vệ sản xuất trong nước và sức khỏe người dân.

Để sớm đưa Nghị quyết 22 về phát triển giao thông nông thôn vào cuộc sống

Để sớm đưa Nghị quyết 22 về phát triển giao thông nông thôn vào cuộc sống

Những chính sách hỗ trợ xây dựng đường giao thông nông thôn (GTNT) tỉnh Lào Cai đề ra trong giai đoạn 2026 - 2030 sẽ tạo “cú huých” quan trọng để hoàn thiện mạng lưới giao thông cơ sở trong bối cảnh tỉnh bước vào thời kỳ phát triển mới. Tuy nhiên, những khó khăn từ cơ sở đang đặt ra yêu cầu phải có cách làm linh hoạt, sáng tạo và quyết liệt hơn để nghị quyết sớm vào cuộc sống.

Bát Xát: Chi trả gần 60 tỷ đồng kinh phí giải phóng mặt bằng dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng

Bát Xát: Chi trả gần 60 tỷ đồng kinh phí giải phóng mặt bằng dự án tái định cư đường sắt Lào Cai - Hà Nội - Hải Phòng

Trong những ngày làm việc cuối cùng trước kỳ nghỉ Tết Nguyên đán Bính Ngọ 2026, UBND xã Bát Xát đã chỉ đạo các đơn vị liên quan phối hợp chặt chẽ với Ban Quản lý dự án Đầu tư xây dựng khu vực Bát Xát, khẩn trương hoàn thiện thủ tục để thực hiện chi trả kinh phí bồi thường, giải phóng mặt bằng Dự án San gạt mặt bằng và hạ tầng kỹ thuật Khu Bản Qua cho người dân theo quy định.

“Dân vận khéo” - “đòn bẩy” trong phát triển kinh tế, giảm nghèo ở Mù Cang Chải

“Dân vận khéo” - “đòn bẩy” trong phát triển kinh tế, giảm nghèo ở Mù Cang Chải

Thời gian qua, phong trào thi đua “Dân vận khéo” trên địa bàn xã Mù Cang Chải được triển khai đồng bộ, gắn với nhiệm vụ phát triển kinh tế - xã hội và xây dựng nông thôn mới của địa phương. Với những cách làm linh hoạt, sát thực tiễn, nhiều mô hình kinh tế hiệu quả đã được hình thành, nhân rộng, góp phần nâng cao thu nhập, ổn định đời sống Nhân dân và tạo chuyển biến tích cực ở cơ sở.

 Nông dân Quyết Tâm vào vụ Tết

Nông dân Quyết Tâm vào vụ Tết

Những ngày cận Tết, không khí sản xuất tại thôn Quyết Tâm, xã Bảo Thắng trở nên nhộn nhịp hơn bao giờ hết. Trên khắp các cánh đồng, bà con tập trung chăm sóc, thu hoạch rau xanh và hoa lay ơn phục vụ thị trường. Sản xuất vụ đông đang trở thành hướng phát triển kinh tế chủ lực, góp phần nâng cao thu nhập và tạo việc làm ổn định cho người dân địa phương.

“Đòn bẩy” giúp nông dân phường Nghĩa Lộ vươn lên phát triển sản xuất

“Đòn bẩy” giúp nông dân phường Nghĩa Lộ vươn lên phát triển sản xuất

Năm 2025, phường Nghĩa Lộ còn 160 hộ nghèo, chiếm 3,46% và 103 hộ cận nghèo chiếm 2,23% - những con số cho thấy thách thức giảm nghèo bền vững vẫn hiện hữu. Trước thực tế đó, việc tạo “đòn bẩy” hỗ trợ người dân phát triển sản xuất, nâng cao thu nhập và chủ động vươn lên thoát nghèo là nhiệm vụ chính trị trọng tâm của cả hệ thống chính trị địa phương.

fb yt zl tw