Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Bảo Ái phát huy “ba trụ cột” thúc đẩy kinh tế nông thôn

Bảo Ái phát huy “ba trụ cột” thúc đẩy kinh tế nông thôn

Sau sáp nhập, xã Bảo Ái đang từng bước khai thác hiệu quả lợi thế đất đai, rừng và mặt nước để cơ cấu lại ngành nông nghiệp theo hướng bền vững. Việc phát huy đồng thời "ba trụ cột" gồm: nông nghiệp hàng hóa, lâm nghiệp kinh tế và thủy sản không chỉ mở ra hướng đi phù hợp mà còn tạo động lực nâng cao thu nhập cho người dân.

Lào Cai: Hạ tầng kỹ thuật Khu công nghiệp Trấn Yên cơ bản hoàn thành

Lào Cai: Hạ tầng kỹ thuật Khu công nghiệp Trấn Yên cơ bản hoàn thành

Dự án đầu tư xây dựng và kinh doanh kết cấu hạ tầng Khu công nghiệp Trấn Yên (giai đoạn 1) đang đạt những kết quả tích cực, với hạ tầng kỹ thuật cơ bản hoàn thành và công tác giải phóng mặt bằng đạt tiến độ đề ra. Đó là thông tin được thông báo tại Hội nghị đánh giá tiến độ thực hiện Dự án đầu tư xây dựng và kinh doanh kết cấu hạ tầng Khu công nghiệp Trấn Yên, giai đoạn 1 do UBND xã Âu Lâu tổ chức chiều 05/5.

Lào Cai phấn đấu đến năm 2030, tổng giá trị ngành hàng dược liệu sau chế biến đạt trên 2.000 tỷ đồng

Lào Cai phấn đấu đến năm 2030, tổng giá trị ngành hàng dược liệu sau chế biến đạt trên 2.000 tỷ đồng

Đảng ủy UBND tỉnh Lào Cai vừa ban hành Kế hoạch số 64 về việc phát triển dược liệu chiến lược tỉnh Lào Cai giai đoạn 2026 - 2030, định hướng đến năm 2050 nhằm triển khai thực hiện Nghị quyết số 48-NQ/TU ngày 03/02/2026 của Ban Chấp hành Đảng bộ tỉnh về phát triển dược liệu chiến lược tỉnh Lào Cai.

Khởi nghiệp từ lợi thế bản địa ở Lâm Thượng

Khởi nghiệp từ lợi thế bản địa ở Lâm Thượng

Phát huy lợi thế nông nghiệp đặc sản, cảnh quan thiên nhiên và bản sắc văn hóa của 18 dân tộc cùng chung sống, xã Lâm Thượng đang từng bước khơi dậy phong trào khởi nghiệp, đổi mới sáng tạo. Từ chính tiềm năng bản địa, nhiều mô hình kinh tế mới đã hình thành, mở hướng nâng cao thu nhập, tạo sinh kế bền vững và lan tỏa tinh thần dám nghĩ, dám làm ở xã vùng cao còn nhiều khó khăn.

Tăng cường nuôi dưỡng nguồn thu nội địa, tạo nền tảng cho tăng trưởng bền vững

Tăng cường nuôi dưỡng nguồn thu nội địa, tạo nền tảng cho tăng trưởng bền vững

Ngay từ đầu năm 2026, ngành Thuế tỉnh Lào Cai đã phát huy vai trò nòng cốt trong thực hiện nhiệm vụ thu ngân sách nhà nước, chủ động bám sát diễn biến kinh tế, linh hoạt trong điều hành và kịp thời tham mưu cho cấp ủy, chính quyền địa phương. Tuy nhiên, những biến động của thị trường, chi phí đầu vào tăng và sức cầu chưa phục hồi hoàn toàn vẫn tác động đến hoạt động sản xuất - kinh doanh, từ đó ảnh hưởng đến nguồn thu ngân sách trên địa bàn.

Lào Cai trong nhóm 16 địa phương có tỷ lệ giải ngân đạt từ mức bình quân chung cả nước

Lào Cai trong nhóm 16 địa phương có tỷ lệ giải ngân đạt từ mức bình quân chung cả nước

Theo Bộ Tài chính, tính đến ngày 30/4, giải ngân vốn đầu tư công là 144.282,9 tỷ đồng, đạt 14,2% kế hoạch Thủ tướng Chính phủ giao; trong đó, có 27 bộ, cơ quan trung ương, 18 địa phương có tỷ lệ giải ngân thấp, dưới bình quân chung cả nước. Lào Cai trong nhóm 8 bộ, cơ quan và 16 địa phương có tỷ lệ giải ngân đạt từ mức bình quân chung cả nước.

Giữ rừng giáp ranh: Chủ động “phòng” để hạn chế “chống”

Giữ rừng giáp ranh: Chủ động “phòng” để hạn chế “chống”

Khi đồng bào vùng cao bước vào cao điểm sản xuất, những cánh rừng đầu nguồn cũng đứng trước áp lực gia tăng rõ rệt cả từ tự nhiên lẫn con người. Ở các khu vực giáp ranh, nơi địa hình chia cắt, ranh giới hành chính đan xen, nguy cơ xâm hại rừng không chỉ đến từ một phía mà thường là hệ quả cộng hưởng của tập quán canh tác, nhu cầu sinh kế và những “khoảng trống” trong quản lý.

Tháo gỡ nút thắt, đẩy nhanh tiến độ các dự án nguồn điện trên địa bàn tỉnh Lào Cai

Tháo gỡ nút thắt, đẩy nhanh tiến độ các dự án nguồn điện trên địa bàn tỉnh Lào Cai

Chiều 04/5, tại trụ sở UBND tỉnh, đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh đã chủ trì hội nghị đánh giá tình hình triển khai các dự án nguồn điện theo Điều chỉnh Quy hoạch điện VIII và Điều chỉnh Quy hoạch tỉnh Lào Cai thời kỳ 2021 - 2030, tầm nhìn đến năm 2050.

Thu “trái ngọt” từ cần cù lao động

Thu “trái ngọt” từ cần cù lao động

Từ chỗ sản xuất phụ thuộc nhiều vào cây lúa truyền thống, bà Hoàng Thị Inh - tổ dân phố Năm Hăn Thượng, phường Trung Tâm đã mạnh dạn chuyển đổi đất lúa sang trồng dưa hấu và thu “trái ngọt” từ chăm chỉ, cần cù lao động trên ruộng đồng.

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Từ một thôn vùng cao còn nhiều khó khăn của xã Mường Khương, thôn Lùng Húi đang từng bước thay đổi diện mạo nhờ chuyển đổi cơ cấu cây trồng theo hướng hàng hóa. Chè và ớt - những cây trồng phù hợp với điều kiện khí hậu, thổ nhưỡng đang mở ra hướng phát triển mới, góp phần nâng cao thu nhập, hướng tới giảm nghèo bền vững cho người dân.

Gần dân, sát việc, củng cố niềm tin

Gần dân, sát việc, củng cố niềm tin

Với phương châm “gần dân, sát việc, vì dân phục vụ”, thời gian qua, xã Văn Chấn đã chủ động bám nắm địa bàn, kịp thời tháo gỡ khó khăn, đưa các nghị quyết vào cuộc sống bằng những giải pháp thiết thực. Qua đó, nhiều chính sách hỗ trợ phát triển sản xuất, nâng cao thu nhập cho người dân được triển khai hiệu quả, góp phần thúc đẩy phát triển kinh tế - xã hội và củng cố niềm tin của Nhân dân.

fb yt zl tw