Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tổ đại biểu số 13 HĐND tỉnh giám sát công tác quản lý đất đai tại xã Tả Van

Tổ đại biểu số 13 HĐND tỉnh giám sát công tác quản lý đất đai tại xã Tả Van

Chiều 17/9, Đoàn giám sát của Tổ đại biểu số 13 HĐND tỉnh Lào Cai do đồng chí Phan Đăng Toàn - Ủy viên Ban Thường vụ Tỉnh ủy, Trưởng Ban Nội chính Tỉnh ủy, Tổ trưởng Tổ đại biểu làm Trưởng đoàn đã giám sát chuyên đề việc cấp Giấy chứng nhận quyền sử dụng đất và chuyển mục đích sử dụng đất tại xã Tả Van.

Tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng tại 17 xã, phường

Tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng tại 17 xã, phường

Chiều 17/9, tại xã Trấn Yên, Quỹ Bảo vệ rừng và Môi trường tỉnh phối hợp với Chi cục Kiểm lâm tỉnh tổ chức Hội nghị tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng gắn với công tác quản lý, bảo vệ rừng đối với 17 xã, phường sau sáp nhập, thực hiện chính quyền địa phương hai cấp.

Ra mắt Chi hội Chè Shan tuyết vùng núi cao Việt Nam

Ra mắt Chi hội Chè Shan tuyết vùng núi cao Việt Nam

Ngày 16/9, tại Hà Nội, Hiệp hội Chè Việt Nam (VITAS) tổ chức công bố Quyết định số 53/QĐ-HHC về việc thành lập Chi hội Chè Shan tuyết vùng núi cao Việt Nam, tên giao dịch quốc tế là “Vietnam High-Mountain Snow Shan Tea Chapter”. Chi hội quy tụ các tổ chức, cá nhân sản xuất, chế biến chè Shan tuyết vùng núi cao, tạo đầu mối chuyên môn trong bảo tồn vùng chè cổ thụ, chuẩn hóa sản phẩm và phát triển thị trường.

Khu vực Mường Khương tập trung tháo gỡ vướng mắc, đẩy nhanh giải ngân đầu tư công

Khu vực Mường Khương tập trung tháo gỡ vướng mắc, đẩy nhanh giải ngân đầu tư công

Chiều 17/9, tại xã Mường Khương, Tổ công tác số 2 của UBND tỉnh Lào Cai do đồng chí Ngô Hạnh Phúc - Phó Chủ tịch Thường trực UBND tỉnh làm Tổ trưởng, làm việc với các xã Bản Lầu, Mường Khương, Cao Sơn, Pha Long nhằm nắm bắt tình hình, tháo gỡ khó khăn, đẩy nhanh tiến độ giải ngân vốn đầu tư công, thu ngân sách và công tác lập quy hoạch xây dựng.

Lào Cai tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm

Lào Cai tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm

Sở Nông nghiệp và Môi trường tỉnh Lào Cai vừa có Công văn 8898/SNNMT-KS gửi các tổ chức, cá nhân được cấp giấy phép khai thác khoáng sản trên địa bàn tỉnh; UBND các xã, phường trong tỉnh về tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm, khoáng sản khác phát hiện trong quá trình khai thác khoáng sản.

Chống thất thu thuế từ cơ sở

Chống thất thu thuế từ cơ sở

Hoạt động kinh doanh ngày càng đa dạng, từ các cơ sở kinh doanh truyền thống, dịch vụ đến bán hàng qua mạng xã hội và các nền tảng số, đặt ra yêu cầu quản lý thuế phải chủ động hơn ngay từ cơ sở, sát thực tiễn, nhận diện nguồn thu và hỗ trợ người dân tuân thủ pháp luật về thuế. Tại 8 xã khu vực Văn Bàn do Thuế cơ sở 5 tỉnh Lào Cai quản lý, công tác này đang được triển khai từ cơ sở, với mục tiêu không để bỏ sót doanh thu, đồng thời tạo môi trường kinh doanh minh bạch, công bằng.

Xã Gia Hội khẩn trương di dời 4 hộ dân ra khỏi khu vực sạt lở

Xã Gia Hội khẩn trương di dời 4 hộ dân ra khỏi khu vực sạt lở

Sau nhiều ngày xuất hiện mưa to đến rất to, tại thôn Nậm Búng, xã Gia Hội đã xảy ra sạt lở đất, ảnh hưởng đến an toàn tính mạng và tài sản của người dân. Trước tình hình đó, địa phương khẩn trương triển khai các biện pháp ứng phó, chủ động đưa người dân ra khỏi khu vực nguy hiểm.

Khơi thông dòng vốn, tiếp sức kinh tế tư nhân Lào Cai

Khơi thông dòng vốn, tiếp sức kinh tế tư nhân Lào Cai

Khu vực kinh tế tư nhân tại Lào Cai ngày càng khẳng định vai trò là động lực then chốt thúc đẩy tăng trưởng kinh tế địa phương. Để khối kinh tế này không ngừng lớn mạnh, dòng vốn từ hệ thống ngân hàng đã và đang đóng vai trò như “mạch máu” nuôi dưỡng, tạo đòn bẩy vững chắc hỗ trợ các doanh nghiệp, hộ kinh doanh mạnh dạn đầu tư, bứt phá mở rộng quy mô sản xuất.

Khởi nghiệp từ lợi thế quê hương

Khởi nghiệp từ lợi thế quê hương

Ở xã Phúc Lợi, tinh thần khởi nghiệp trong thanh niên đang lan tỏa từ những mô hình gần gũi, thiết thực. Tận dụng lợi thế địa phương, nhiều bạn trẻ mạnh dạn chế biến, kinh doanh sản phẩm từ cây dược liệu; người khởi nghiệp từ quán ăn nhỏ; người gắn bó với đồng đất, đầu tư trồng quế, từng bước nâng cao thu nhập. Mỗi người một hướng đi, song đều chung tinh thần dám nghĩ, dám làm, chủ động tìm hướng phát triển kinh tế, tạo dựng sinh kế và làm giàu ngay trên quê hương.

Kiến tạo chuỗi giá trị từ vị thế cửa ngõ

Kiến tạo chuỗi giá trị từ vị thế cửa ngõ

Với vị trí cửa ngõ kết nối Việt Nam với vùng Tây Nam Trung Quốc, Lào Cai đang giữ vai trò điểm trung chuyển chiến lược trên Hành lang kinh tế Côn Minh - Lào Cai - Hà Nội - Hải Phòng - Quảng Ninh. Lợi thế cửa khẩu, đường bộ, đường sắt cùng hệ thống hạ tầng đang được đầu tư mở ra dư địa lớn để tỉnh không chỉ đưa hàng hóa qua biên giới, mà còn tham gia sâu hơn vào các công đoạn logistics, chế biến, thương mại và phân phối.

Nghị quyết 21 tạo đòn bẩy phát triển chăn nuôi ở Xuân Ái

Nghị quyết 21 tạo đòn bẩy phát triển chăn nuôi ở Xuân Ái

Thực hiện Nghị quyết số 21, ngày 9/12/2025 của HĐND tỉnh về chính sách hỗ trợ phát triển sản xuất nông, lâm nghiệp và thủy sản, xã Xuân Ái đã chủ động lựa chọn, triển khai các mô hình chăn nuôi phù hợp với điều kiện thực tế của địa phương. Chính sách không chỉ giúp người dân có thêm nguồn lực đầu tư con giống, còn mở ra hướng phát triển chăn nuôi theo quy mô hàng hóa, góp phần nâng cao thu nhập và thúc đẩy kinh tế nông nghiệp ở địa phương.

fb yt zl tw