Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Lào Cai phấn đấu xây dựng 5 - 10 mô hình ứng dụng công nghệ sinh học trong nông nghiệp

Lào Cai phấn đấu xây dựng 5 - 10 mô hình ứng dụng công nghệ sinh học trong nông nghiệp

Theo Kế hoạch 513/KH-UBND ngày 30/10/2026 của UBND tỉnh Lào Cai về phát triển công nghiệp sinh học ngành nông nghiệp và môi trường giai đoạn 2026 - 2035, tầm nhìn đến năm 2045, tỉnh phấn đấu đến năm 2030 xây dựng từ 5 - 10 mô hình ứng dụng công nghệ sinh học, góp phần nâng cao năng suất, chất lượng và giá trị nông, lâm, thủy sản.

Bài 1: "Khoảng trống" công nghiệp hỗ trợ

Tăng năng lực cạnh tranh của công nghiệp Lào Cai Bài 1: "Khoảng trống" công nghiệp hỗ trợ

Công nghiệp hỗ trợ là mắt xích quan trọng để nâng cao năng lực sản xuất và sức cạnh tranh của công nghiệp Lào Cai. Tuy nhiên, trên thực tế, nhiều doanh nghiệp trên địa bàn tỉnh vẫn phải lựa chọn các nhà cung ứng từ ngoài tỉnh, thậm chí là nhập khẩu. Tỉnh đang tìm hướng hình thành chuỗi cung ứng tại chỗ, nâng tỷ lệ nội địa hóa nhằm gia tăng giá trị của công nghiệp cho nền kinh tế địa phương.

Chủ tịch UBND tỉnh Lào Cai chỉ đạo tăng cường bình ổn giá, không để xảy ra tình trạng đầu cơ, găm hàng dịp cuối năm

Chủ tịch UBND tỉnh Lào Cai chỉ đạo tăng cường bình ổn giá, không để xảy ra tình trạng đầu cơ, găm hàng dịp cuối năm

Chủ tịch UBND tỉnh Nguyễn Tuấn Anh yêu cầu các sở, ngành, địa phương tăng cường quản lý, điều hành và bình ổn giá những tháng cuối năm 2026; chủ động bảo đảm nguồn cung hàng hóa thiết yếu, kiểm soát lạm phát, xử lý nghiêm các hành vi đầu cơ, găm hàng, thao túng giá, lợi dụng thiên tai và dịp Tết Nguyên đán để trục lợi.

Hiện thực hóa mục tiêu tăng trưởng hai con số

Hiện thực hóa mục tiêu tăng trưởng hai con số

Kinh tế Lào Cai 9 tháng năm 2026 tăng trưởng 9,09%, tạo nền tảng quan trọng để hướng tới mục tiêu GRDP khoảng 10,1% cả năm. Tuy nhiên, chặng nước rút quý IV đặt ra yêu cầu cấp thiết phải khơi thông các nguồn lực, tháo gỡ "điểm nghẽn" sản xuất và nâng cao hiệu quả điều hành.

An Lương - khi những con đường mở lối

An Lương - khi những con đường mở lối

Một ngày cuối thu, tôi trở lại thôn An Lương, xã Mỏ Vàng khi nắng nhẹ trải vàng trên những triền đồi quế. Những tuyến đường đất đỏ từng lầy lội mỗi khi mưa xuống, bụi mù trong ngày nắng ráo, nay đã được thay bằng đường bê tông sạch, đẹp, nối liền nhiều ngôi nhà xây kiên cố, khang trang. Giữa màu xanh của núi rừng, những nếp nhà mới thấp thoáng bên sườn đồi, tạo nên diện mạo tươi mới cho vùng quê miền núi.

Giá vàng quay đầu tăng

Giá vàng quay đầu tăng

Sáng nay (2/11), giá vàng trong nước quay đầu tăng. Theo đó, vàng miếng SJC bán ra lên mốc 140 triệu đồng/lượng và cao hơn thế giới hơn 17 triệu đồng/lượng. 

Điện xăng cùng giảm, giá hàng hóa có tăng?

Điện xăng cùng giảm, giá hàng hóa có tăng?

Giá điện giảm 2%, thuế tiêu thụ đặc biệt đối với xăng về 0% dẫn tới giá xăng giảm đáng kể từ ngày 1/11 giúp doanh nghiệp hạ chi phí, người dân bớt gánh nặng chi tiêu. Theo chuyên gia, điều cần làm tiếp theo là thúc đẩy giảm giá hàng hóa, dịch vụ để chính sách hỗ trợ lan tỏa, góp phần cải thiện sức mua và kiểm soát lạm phát cuối năm.

Khi cán bộ xã trực tiếp làm nông để chứng minh phương án giảm nghèo

Khi cán bộ xã trực tiếp làm nông để chứng minh phương án giảm nghèo

Từ những thửa ruộng chỉ cấy một vụ lúa, nhiều diện tích ở Púng Luông, tỉnh Lào Cai đã được đưa vào trồng hoa, cà chua, ớt và khoai tây. Ông Lý A Sử, nguyên Phó Chủ tịch UBND xã Nậm Khắt, hiện là Giám đốc Trung tâm Phục vụ hành chính công xã Púng Luông, tỉnh Lào Cai là một trong những người trực tiếp tổ chức sản xuất, thử nghiệm cây trồng mới. Với ông, muốn người dân thay đổi cách làm nông nghiệp, trước hết phải bắt tay vào làm, để bà con thấy hiệu quả và cả những rủi ro thực tế.

Làm giàu nơi cuối nguồn sông Chảy

Làm giàu nơi cuối nguồn sông Chảy

Trên vùng đất dọc hai bên sông Chảy, phía hạ lưu đập thủy điện, những nông dân của xã Thác Bà đang phát huy thế mạnh đa dạng của vùng đất này để tạo ra nhiều sản phẩm cho xã hội. Nhiều hội viên Hội Nông dân xã đổi mới tư duy, trở thành những hộ sản xuất, kinh doanh giỏi, đóng góp tích cực vào sự phát triển kinh tế - xã hội địa phương.

Cơ bản hoàn tất công tác chuẩn bị Không gian trưng bày sản phẩm nông nghiệp

Cơ bản hoàn tất công tác chuẩn bị Không gian trưng bày sản phẩm nông nghiệp

Từ ngày 2 đến 6/11, Không gian trưng bày sản phẩm nông nghiệp tỉnh Lào Cai và các tỉnh bạn sẽ diễn ra tại Quảng trường Trung tâm hội nghị phường Lào Cai, quy tụ 68 đơn vị với 88 gian hàng, giới thiệu hơn 400 sản phẩm. Hoạt động nằm trong khuôn khổ Hội nghị xúc tiến đầu tư, thương mại lĩnh vực nông nghiệp tỉnh Lào Cai năm 2026.

fb yt zl tw