Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Thúc đẩy hợp tác thương mại Lào Cai - Vân Nam, mở rộng chuỗi giá trị nông sản, dược liệu và chè

Thúc đẩy hợp tác thương mại Lào Cai - Vân Nam, mở rộng chuỗi giá trị nông sản, dược liệu và chè

Sáng 07/4, tại phường Lào Cai, Sở Thương mại tỉnh Vân Nam (Trung Quốc) phối hợp với Sở Công Thương tỉnh Lào Cai tổ chức Chương trình giao thương hợp tác doanh nghiệp Vân Nam - Lào Cai, nhằm tăng cường kết nối, mở rộng thị trường và thúc đẩy phát triển chuỗi cung ứng hàng hóa giữa hai địa phương.

Triển khai đồng bộ công tác xóa lối đi tự mở trên tuyến đường sắt Yên - Lào qua xã Bảo Hà

Triển khai đồng bộ công tác xóa lối đi tự mở trên tuyến đường sắt Yên - Lào qua xã Bảo Hà

Tuyến đường sắt Yên - Lào đoạn qua xã Bảo Hà (tỉnh Lào Cai) dài 22,4 km, giữ vai trò quan trọng trong vận chuyển hàng hóa và hành khách của địa phương. Tuy nhiên, trong thời gian dài, dọc tuyến vẫn tồn tại 10 lối đi tự mở hình thành từ thói quen đi lại của người dân, tiềm ẩn nhiều nguy cơ mất an toàn giao thông đường sắt.

Sức mạnh từ các "hạt nhân" liên kết

Sức mạnh từ các "hạt nhân" liên kết

Được xác định là "đòn bẩy" quan trọng trong chương trình xây dựng nông thôn mới, hệ thống hợp tác xã nông nghiệp Lào Cai đang phát huy mạnh mẽ vai trò dẫn dắt kinh tế tập thể. Với mục tiêu thành lập mới hàng chục hợp tác xã mỗi năm, tỉnh đang nỗ lực biến các đơn vị này thành "hạt nhân" liên kết, không chỉ tạo sinh kế bền vững cho người dân mà còn trực tiếp nâng cao giá trị trên từng ha canh tác.

Xã Cốc San vào vụ trồng dưa hấu

Xã Cốc San vào vụ trồng dưa hấu

Với điều kiện tự nhiên thuận lợi, từ năm 2015, cây dưa hấu trên đồng đất Cốc San đã sinh trưởng tốt, cho sản lượng cao và hiệu quả kinh tế vượt trội so với lúa và ngô. Do đó, hiện nay, xã Cốc San đang tập trung hướng dẫn và đồng hành cùng nông dân trong việc mở rộng diện tích trồng mới dưa hấu.

Gia Phú: Ô nhiễm môi trường từ cơ sở chăn nuôi

Gia Phú: Ô nhiễm môi trường từ cơ sở chăn nuôi

Hàng chục hộ dân tại thôn Thái Bo, xã Gia Phú đang phải sống trong tình trạng ô nhiễm môi trường nghiêm trọng do cơ sở chăn nuôi lợn quy mô lớn tại thôn Soi Cờ đã xả chất thải trực tiếp ra suối. Mùi hôi thối nồng nặc kéo dài, nguồn nước đổi màu, đời sống sinh hoạt bị đảo lộn...

Quý 3/2026 sẽ đưa vào sử dụng Bệnh viện Đa khoa khu vực Bảo Yên

Quý 3/2026 sẽ đưa vào sử dụng Bệnh viện Đa khoa khu vực Bảo Yên

Sau nhiều khó khăn do ảnh hưởng của mưa lũ, vướng mắc mặt bằng xây dựng, hiện Dự án Bệnh viện Đa khoa khu vực Bảo Yên đang vào giai đoạn hoàn thiện cuối cùng, mục tiêu hoàn thành và đưa vào sử dụng trong quý 3 năm 2026. Đây là công trình y tế trọng điểm của địa phương, góp phần nâng cao chất lượng chăm sóc sức khỏe cho người dân trên địa bàn Bảo Yên và các khu vực lân cận.

Lãi suất ngân hàng tiếp tục nhích tăng

Lãi suất ngân hàng tiếp tục nhích tăng

Trong tuần đầu tháng 4/2026, thị trường tiền gửi ghi nhận diễn biến đáng chú ý khi một số ngân hàng bắt đầu điều chỉnh tăng lãi suất, trong khi các gói ưu đãi lãi suất cao tiếp tục được tung ra, đẩy mặt bằng lãi suất lên vùng cao mới.

Bài cuối: Cần giải pháp đồng bộ để phát triển bền vững

Quản lý hoạt động nuôi cá lồng bè trên sông, hồ: Những vấn đề đặt ra

Những năm gần đây, nghề nuôi cá lồng bè trên các sông, hồ ở Lào Cai phát triển mạnh, mang lại nguồn thu đáng kể cho hàng trăm hộ dân và doanh nghiệp. Tuy nhiên, sự phát triển “nóng” cũng kéo theo nhiều vấn đề cần quan tâm. Báo và Phát thanh - Truyền hình Lào Cai trân trọng giới thiệu loạt bài (2 kỳ) “Quản lý hoạt động nuôi cá lồng bè trên sông, hồ: Những vấn đề đặt ra” nhằm làm rõ thực trạng và những thách thức hiện nay.

Tăng cường bảo vệ rừng trước nguy cơ cháy cao

Tăng cường bảo vệ rừng trước nguy cơ cháy cao

Hiện nay, tại nhiều địa phương trên địa bàn tỉnh, thời tiết hanh khô kéo dài làm gia tăng nguy cơ cháy rừng, nhiều khu vực được cảnh báo ở cấp IV (nguy hiểm) và cấp V (cực kỳ nguy hiểm). Trước tình hình đó, các địa phương đã chủ động triển khai đồng bộ nhiều giải pháp nhằm tăng cường bảo vệ rừng và phòng cháy, chữa cháy rừng.

Bài cuối: Cần giải pháp đồng bộ để phát triển bền vững

Quản lý hoạt động nuôi cá lồng bè trên sông, hồ: Những vấn đề đặt ra Bài cuối: Cần giải pháp đồng bộ để phát triển bền vững

Trước sự phát triển “nóng” hoạt động nuôi cá lồng bè trên địa bàn tỉnh và những hệ lụy đang xảy ra, yêu cầu cấp thiết đặt ra là cần có sự quản lý bài bản, khoa học. Đây không chỉ là câu chuyện của riêng ngành nông nghiệp và môi trường, mà còn liên quan đến chính quyền các cấp, các cơ quan chức năng và các đơn vị được giao quản lý, khai thác lòng hồ, lòng sông…

Bài 1: Phát triển “nóng” và những hệ lụy

Quản lý hoạt động nuôi cá lồng bè trên sông, hồ: Những vấn đề đặt ra Bài 1: Phát triển “nóng” và những hệ lụy

Những năm gần đây, nghề nuôi cá lồng bè trên các sông, hồ ở Lào Cai phát triển mạnh mang lại nguồn thu khá lớn cho hàng trăm hộ dân và doanh nghiệp. Tuy nhiên, sự phát triển “nóng” của các cơ sở nuôi cá lồng bè đã phát sinh những vấn đề về ô nhiễm môi trường, công tác phòng, chống dịch bệnh và an toàn giao thông đường thủy.

"Nam châm" thu hút phát triển công nghiệp chế biến

"Nam châm" thu hút phát triển công nghiệp chế biến

Với lợi thế là cầu nối giao thương quan trọng trên tuyến hành lang kinh tế Côn Minh - Lào Cai - Hà Nội - Hải Phòng - Quảng Ninh cùng những vùng nguyên liệu quy mô lớn, Lào Cai đang tập trung triển khai nhiều cơ chế đột phá nhằm thu hút các cơ sở chế biến nông, lâm sản, quyết tâm đưa công nghiệp chế biến trở thành động lực tăng trưởng mới cho nông nghiệp địa phương.

Lào Cai ứng dụng chuyển đổi số trong chăn nuôi

Lào Cai ứng dụng chuyển đổi số trong chăn nuôi

Chuyển đổi số đang tác động mạnh mẽ tới mọi lĩnh vực, định hình lại diện mạo các ngành kinh tế. Đối với tỉnh Lào Cai, việc đẩy mạnh ứng dụng khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số trong nông nghiệp, đặc biệt là ngành chăn nuôi, được xác định là động lực trung tâm để hiện thực hóa mục tiêu phát triển toàn diện, bền vững và hiện đại.

Hỗ trợ giải quyết thủ tục hành chính lưu động về đất đai tại thôn Minh Tân, xã Quy Mông

Chi nhánh Văn phòng Đăng ký đất đai khu vực Trấn Yên: Hỗ trợ giải quyết thủ tục hành chính lưu động về đất đai tại thôn Minh Tân, xã Quy Mông

Ngày 4/4, UBND xã Quy Mông (Lào Cai) phối hợp với Chi nhánh Văn phòng Đăng ký đất đai khu vực Trấn Yên tổ chức hội nghị hướng dẫn, hỗ trợ giải quyết thủ tục hành chính lưu động về đất đai cho 52 trường hợp là người dân thôn Minh Tân. Hoạt động nhằm tạo điều kiện thuận lợi để người dân tiếp cận và thực hiện các thủ tục liên quan đến đất đai ngay tại nơi cư trú.

Đa dạng sinh kế nâng cao thu nhập cho người dân

Đa dạng sinh kế nâng cao thu nhập cho người dân

Xã Lùng Phình có hơn 95% dân số là đồng bào dân tộc thiểu số. Những năm gần đây, địa phương đẩy mạnh chuyển đổi cơ cấu cây trồng, đưa các loại cây có giá trị kinh tế cao như rau trái vụ, cây ăn quả, dược liệu vào sản xuất; đồng thời thu hút đầu tư phát triển nông nghiệp, từng bước hình thành các mô hình kinh tế hiệu quả, góp phần nâng cao thu nhập cho người dân.

fb yt zl tw