Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Khi rừng trở thành tài sản chung của cộng đồng vùng cao

Khi rừng trở thành tài sản chung của cộng đồng vùng cao

Những năm gần đây, tại nhiều địa phương vùng cao, nhận thức của người dân về vai trò, giá trị của rừng đã có nhiều chuyển biến tích cực. Từ chỗ từng coi rừng là nguồn tài nguyên sẵn có để khai thác, người dân nay dần xem rừng là tài sản chung cần được gìn giữ, bảo vệ. Khi quyền lợi gắn liền với trách nhiệm, cộng đồng ngày càng chủ động hơn trong việc giữ màu xanh cho những cánh rừng.

Chủ động mùa mưa bão - khi “phòng” phải đi trước “chống”

Chủ động mùa mưa bão - khi “phòng” phải đi trước “chống”

Biến đổi khí hậu đang khiến thiên tai ngày càng cực đoan, khó lường hơn. Với tỉnh miền núi như Lào Cai, nơi thường xuyên chịu ảnh hưởng của mưa lớn, lũ quét, sạt lở đất, yêu cầu đặt ra không chỉ là ứng phó nhanh khi thiên tai xảy ra mà phải chủ động phòng ngừa từ sớm, từ xa.

Mường Hum nâng cao giá trị cây lê

Mường Hum nâng cao giá trị cây lê

Với lợi thế khí hậu và thổ nhưỡng, xã Mường Hum đang đẩy mạnh phát triển cây lê theo hướng hàng hóa. Nhờ chú trọng áp dụng khoa học kỹ thuật trong chăm sóc, nâng cao chất lượng sản phẩm và liên kết tiêu thụ, cây lê không chỉ giúp nhiều hộ dân tăng thu nhập mà còn trở thành hướng phát triển kinh tế hiệu quả của địa phương.

An cư cho người dân vùng thiên tai

An cư cho người dân vùng thiên tai

Sau những trận mưa lũ, sạt lở đất gây thiệt hại nặng nề về người và tài sản, nhiều hộ dân tại các khu vực có nguy cơ cao trên địa bàn tỉnh Lào Cai đã phải di dời khẩn cấp để đảm bảo an toàn. Trong khó khăn, mất mát, sự quan tâm của Đảng, Nhà nước cùng chính quyền các cấp đã trở thành điểm tựa để người dân vùng thiên tai từng bước ổn định cuộc sống, yên tâm an cư tại nơi ở mới.

Púng Luông: Phát huy hiệu quả nguồn lực Chương trình mục tiêu quốc gia

Púng Luông: Phát huy hiệu quả nguồn lực Chương trình mục tiêu quốc gia

Từ những tuyến đường bê tông men theo sườn núi đến các lớp học khang trang hơn giữa bản làng, nguồn lực từ Chương trình mục tiêu quốc gia phát triển kinh tế - xã hội vùng đồng bào dân tộc thiểu số và miền núi đang làm đổi thay diện mạo xã Púng Luông. Không chỉ hoàn thiện hạ tầng, chương trình còn tạo sinh kế, tiếp thêm động lực để người dân vùng cao vươn lên giảm nghèo bền vững.

Công trình 3.300 tỷ đồng nối Lào Cai và Lai Châu đặt mục tiêu hoàn thành năm 2027

Công trình 3.300 tỷ đồng nối Lào Cai và Lai Châu đặt mục tiêu hoàn thành năm 2027

Dự án hầm đường bộ qua đèo Hoàng Liên là công trình giao thông trọng điểm kết nối trực tiếp hai tỉnh Lào Cai và Lai Châu, đã chính thức khởi công từ tháng 12/2025. Với mục tiêu mở ra trục liên kết chiến lược Sa Pa - Tam Đường - Lai Châu, dự án được kỳ vọng sẽ tạo đột phá cho phát triển kinh tế, thương mại và du lịch vùng Tây Bắc.

Giữ chữ tín với nông dân giữa biến động thị trường

Giữ chữ tín với nông dân giữa biến động thị trường

Trong bối cảnh giá nguyên nhiên liệu tăng cao, chi phí đầu vào lớn, thị trường tiêu thụ nhiều biến động, không ít doanh nghiệp chế biến nông sản vẫn kiên trì thực hiện cam kết thu mua, đồng hành cùng nông dân. Việc giữ chữ tín trong thời điểm khó khăn không chỉ giúp bà con yên tâm sản xuất mà còn tạo dựng mối liên kết lâu dài, hướng tới phát triển bền vững cho cả doanh nghiệp và người nông dân.

Sắp xếp lại các ban quản lý dự án: Không để gián đoạn hoạt động quản lý dự án

Sắp xếp lại các ban quản lý dự án: Không để gián đoạn hoạt động quản lý dự án

Thực hiện chủ trương sắp xếp, tổ chức lại các Ban Quản lý dự án đầu tư xây dựng theo mô hình chính quyền địa phương 2 cấp, tỉnh Lào Cai đang khẩn trương triển khai việc rà soát, điều chỉnh chủ đầu tư và chuyển giao các dự án đầu tư công trên địa bàn. Mục tiêu xuyên suốt được tỉnh xác định là bảo đảm quá trình chuyển tiếp diễn ra đồng bộ, chặt chẽ, không làm gián đoạn tiến độ thi công, giải ngân và quyết toán các công trình trọng điểm.

Đổi thay ở xã biên giới Pha Long

Đổi thay ở xã biên giới Pha Long

Từ một xã vùng cao biên giới còn nhiều khó khăn, Pha Long đang từng bước đổi thay nhờ chương trình xây dựng nông thôn mới gắn với phát triển nông nghiệp hàng hóa. Những con đường bê tông nối dài đến các thôn, những mô hình cây ăn quả, cây dược liệu cho thu nhập cao đang mở ra hướng đi mới cho người dân.

Mùa dưa trên vùng hồ Thác Bà

Mùa dưa trên vùng hồ Thác Bà

Mỗi năm, từ tháng Giêng đến tháng Sáu, khi mực nước hồ Thác Bà hạ xuống, những dải đất bãi ven hồ dần lộ ra, tơi xốp, giàu mùn, ẩm đủ độ, là loại đất mà cây dưa hấu, dưa lê, dưa bở ưa thích hơn bất kỳ thứ đất nào khác.

Xót xa vùng cây ăn quả ôn đới Bắc Hà sau mưa đá

Xót xa vùng cây ăn quả ôn đới Bắc Hà sau mưa đá

Thiên tai mưa đá đợt tháng 4/2026 khiến vùng cây ăn quả ôn đới Bắc Hà thiệt hại nặng nề. 70% diện tích bị ảnh hưởng, ước tính thiệt hại 70% giá trị, nhiều hộ dân xã Bắc Hà rơi nước mắt khi diện tích canh tác của gia đình sắp đến kỳ thu hoạch thì gặp thiên tai.

Gian nan cung đường ở xã Ngũ Chỉ Sơn

Gian nan cung đường ở xã Ngũ Chỉ Sơn

Dưới chân dãy Hoàng Liên hùng vĩ, gần 500 hộ dân tại các thôn Lủ Khấu, Sín Chải, Yên Sơn, Kim Ngan, Xả Chải, Can Hồ Chải thuộc xã Ngũ Chỉ Sơn, tỉnh Lào Cai đang hằng ngày đối mặt với hiểm nguy trên tuyến đường liên xã Bản Khoang - Phìn Ngan (cũ). Từng là con đường bê tông sạch đẹp, nhưng nay xuống cấp nghiêm trọng đã biến nơi đây thành nỗi ám ảnh đối với người dân địa phương.

fb yt zl tw