Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Hơn 100.000 m3 cát tràn vào làng: Chuyên gia đề xuất cơ chế xử lý 'tài sản hình thành do thiên tai'

Hơn 100.000 m3 cát tràn vào làng: Chuyên gia đề xuất cơ chế xử lý 'tài sản hình thành do thiên tai'

Sự việc hơn 100 nghìn m3 cát vàng phủ kín thôn Làng Chút (xã Văn Bàn, tỉnh Lào Cai) sau đợt mưa lũ tháng 10 vừa qua, chính quyền lập phương án đấu giá đã được dư luận đặc biệt quan tâm. Luật sư Trương Anh Tú, Ủy viên Thường vụ Trung ương Hội Kinh tế Môi trường Việt Nam, Chủ tịch TAT Law Firm cho rằng, do ảnh hưởng lớn đến đời sống người dân, việc xử lý cần vừa bảo đảm quyền lợi hợp pháp của người dân, vừa tuân thủ nguyên tắc quản lý tài nguyên của Nhà nước.

Khắc phục kè Suối Thia và cầu Nang Phai là hết sức cấp bách

Khắc phục kè Suối Thia và cầu Nang Phai là hết sức cấp bách

Đó là ý kiến chỉ đạo của đồng chí Hoàng Giang - Phó Bí thư Thường trực Tỉnh ủy khi trực tiếp khảo sát, nắm tình hình, kiểm tra thực địa ngày 16/11 tại một số công trình hạ tầng trên địa bàn phường Cầu Thia - địa phương bị ảnh hưởng nặng nề bởi hoàn lưu bão số 10.

Phường Sa Pa khởi công 2 nhà văn hóa khu dân cư

Phường Sa Pa khởi công 2 nhà văn hóa khu dân cư

Chiều 16/11, UBND phường Sa Pa tổ chức Lễ khởi công hai công trình nhà văn hóa tại khu dân cư Phan Si Păng 1 và Phan Si Păng 3, nhân dịp Ngày hội Đại đoàn kết toàn dân tộc 2025 và kỷ niệm 95 năm Ngày truyền thống Mặt trận Tổ quốc Việt Nam (18/11/1930 - 18/11/2025).

Làm sống lại không gian văn hóa chợ Cốc Lếu xưa

Làm sống lại không gian văn hóa chợ Cốc Lếu xưa

Những ngày này, người dân trong tỉnh và du khách đều háo hức hướng về lễ khai mạc Festival sông Hồng - Lào Cai 2025. Mở đầu cho chuỗi hoạt động phong phú của tuần lễ festival là chương trình trải nghiệm không gian văn hóa chợ Cốc Lếu xưa bên bờ sông Hồng, thuộc phường Lào Cai. Đây được xem là một điểm nhấn độc đáo hứa hẹn thu hút đông đảo du khách.

Xây dựng hình ảnh điểm đến văn minh

Xây dựng hình ảnh điểm đến văn minh

Ga Lào Cai - cửa ngõ giao thương, du lịch quan trọng giữa Việt Nam và Trung Quốc. Đây không chỉ là điểm đầu mối giao thông mà còn là hình ảnh đầu tiên để du khách cảm nhận về một đô thị năng động, mến khách. Chính vì vậy, việc đảm bảo an ninh trật tự, an toàn giao thông và xây dựng môi trường du lịch văn minh, thân thiện tại khu vực ga luôn được UBND phường Lào Cai xác định là nhiệm vụ quan trọng.

Rà soát công tác chuẩn bị Hội chợ Việt – Trung (Lào Cai) lần thứ 25

Rà soát công tác chuẩn bị Hội chợ Việt – Trung (Lào Cai) lần thứ 25

Sáng 16/11, đồng chí Nguyễn Thành Sinh - Phó Chủ tịch UBND tỉnh, Trưởng Ban Tổ chức Hội chợ Thương mại Quốc tế Việt – Trung (Lào Cai) lần thứ 25, năm 2025 chủ trì cuộc họp rà soát công tác chuẩn bị. Cùng dự có lãnh đạo các sở, ban, ngành của tỉnh; tổ trưởng các tổ công tác phục vụ hội chợ và đại diện UBND phường Lào Cai.

“Gieo” kỹ thuật đến vùng xa

“Gieo” kỹ thuật đến vùng xa

Sau khi vận hành chính quyền địa phương hai cấp, ngành nông nghiệp tỉnh đã phát huy tốt vai trò đồng hành với nông dân, đưa khoa học - kỹ thuật về vùng sâu, vùng xa nhằm nâng cao năng suất, chất lượng cây trồng, vật nuôi, nhân rộng mô hình sản xuất hiệu quả, giúp nông dân làm giàu trên chính mảnh đất quê hương.

Bài cuối: Kiến tạo không gian phát triển mới

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài cuối: Kiến tạo không gian phát triển mới

Sông Hồng - dòng chảy đỏ nặng phù sa, nơi hun đúc nền văn minh rực rỡ, nơi in dấu những bước chân đầu tiên của người Việt trên hành trình dựng nước và giữ nước. Hàng nghìn năm qua, con sông ấy không chỉ mang lại nguồn sống cho bao thế hệ mà còn kết nối những vùng đất, những nền văn hóa, tạo nên một vùng Bắc Bộ trù phú và giàu bản sắc.

Bài 6: Hành trình kiến tạo những đô thị ven sông

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 6: Hành trình kiến tạo những đô thị ven sông

Dọc theo đôi bờ sông Hồng trên hành trình chảy qua 9 tỉnh của Việt Nam, những đô thị mới dần hình thành, mang theo những khát vọng phát triển, hòa quyện giữa sự hoang sơ và hơi thở hiện đại. Từ miền thượng nguồn nơi con sông Hồng chảy vào đất Việt tại tỉnh Lào Cai, chúng tôi đã rong ruổi theo dòng sông qua các tỉnh để về Thái Bình - nay thuộc tỉnh Hưng Yên. 

Bài 5: Không gian sông Hồng - biểu tượng mới của Thủ đô

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 5: Không gian sông Hồng - biểu tượng mới của Thủ đô

Sông Hồng - dòng chảy mang trong mình bao lớp trầm tích lịch sử, văn hóa và những câu chuyện huyền thoại, từ lâu trở thành biểu tượng gắn bó mật thiết với mảnh đất Thăng Long - Hà Nội. Không chỉ nâng niu, nuôi dưỡng sự phồn thịnh cho kinh kỳ ngàn năm, sông Mẹ còn chuyên chở những giá trị tinh thần, hun đúc bản sắc và khát vọng của bao thế hệ.

Bài 4: Đánh thức tiềm năng từ đất bãi ven sông

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 4: Đánh thức tiềm năng từ đất bãi ven sông

Sông Hồng - dải lụa mềm mại vắt qua Thủ đô Hà Nội, mang theo bao lớp trầm tích phù sa, hun đúc nên những bãi bồi trù phú, những doi đất giàu tiềm năng. Dòng chảy ấy không chỉ là nhân chứng lịch sử của bao thăng trầm, mà còn là nguồn cảm hứng bất tận cho những dự án quy hoạch đô thị, vẽ nên giấc mơ về một thành phố hai bên bờ sông, nơi cuộc sống hòa quyện giữa thiên nhiên và hiện đại.

Những đảng viên tiên phong phát triển kinh tế tư nhân ở Yên Thành

Những đảng viên tiên phong phát triển kinh tế tư nhân ở Yên Thành

Nghị quyết 68-NQ/TW của Bộ Chính trị khẳng định, phát triển kinh tế tư nhân là động lực quan trọng của nền kinh tế. Để nghị quyết đi vào đời sống, nhiều đảng viên ở xã Yên Thành đã tiên phong, gương mẫu và sáng tạo trong phát triển kinh tế, góp phần lan tỏa trong các tầng lớp Nhân dân về sự năng động, sáng tạo trong cách nghĩ, cách làm, đóng góp tích cực vào sự phát triển kinh tế - xã hội địa phương.

fb yt zl tw