Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

 Để "ngôi sao" OCOP tỏa sáng

Để "ngôi sao" OCOP tỏa sáng

Đối với tỉnh miền núi giàu tài nguyên như Lào Cai, Chương trình Mỗi xã một sản phẩm (OCOP) không chỉ là một chương trình kinh tế mà còn là “sứ giả” văn hóa, là câu chuyện về niềm tự hào của mỗi vùng đất.

5 tỉnh tăng cường phối hợp bảo vệ rừng vùng giáp ranh

5 tỉnh tăng cường phối hợp bảo vệ rừng vùng giáp ranh

Ngày 18/9, tại phường Yên Bái, tỉnh Lào Cai, Chi cục Kiểm lâm 5 tỉnh: Lào Cai, Lai Châu, Tuyên Quang, Sơn La và Phú Thọ tổ chức Hội nghị ký kết Quy chế phối hợp trong quản lý, bảo vệ rừng, phòng cháy, chữa cháy rừng và đảm bảo chấp hành pháp luật về lâm nghiệp. 

Lào Cai tham gia Hội chợ Kinh tế Thương mại và Du lịch Biên giới Việt - Trung năm 2026

Lào Cai tham gia Hội chợ Kinh tế Thương mại và Du lịch Biên giới Việt - Trung năm 2026

UBND tỉnh Lào Cai vừa xây dựng kế hoạch tham gia gian hàng và phối hợp tổ chức Hội chợ Kinh tế Thương mại và Du lịch Biên giới Việt - Trung (Hồng Hà) năm 2026, dự kiến diễn ra trong 6 ngày, từ ngày 8 - 13/11/2026, tại Trung tâm Hội chợ triển lãm Quốc tế Hà Khẩu, châu Hồng Hà, tỉnh Vân Nam, Trung Quốc.

Làng Mới mở đường từ sức dân

Làng Mới mở đường từ sức dân

Thôn Làng Mới, xã Hợp Thành nằm trên sườn núi cao, là nơi có 75 hộ dân là đồng bào Dao đỏ sinh sống lâu đời. Nhiều năm qua, khó khăn lớn nhất của thôn là các tuyến đường vào xóm dân cư là đường nhỏ, đã bị hư hỏng, xuống cấp, khiến việc đi lại của bà con nhiều vất vả. Năm 2026, người dân trong thôn đồng thuận hiến trên 8.000m2 đất để mở rộng các tuyến đường, mở ra trang mới cho sự phát triển của thôn.

Phúc Khánh mở rộng vùng dâu, hướng tới 60 ha vào năm 2030

Phúc Khánh mở rộng vùng dâu, hướng tới 60 ha vào năm 2030

Từ gần 18 ha hiện có, Phúc Khánh đặt mục tiêu phát triển vùng dâu lên khoảng 60 ha vào năm 2030. Hiệu quả bước đầu, chính sách hỗ trợ và liên kết tiêu thụ đang tạo thêm động lực cho người dân và chính quyền nơi đây. Song để mở rộng bền vững, vùng nguyên liệu, cần được phát triển đồng bộ với tổ chức sản xuất, kỹ thuật và thị trường.

Tổ đại biểu số 13 HĐND tỉnh giám sát công tác quản lý đất đai tại xã Tả Van

Tổ đại biểu số 13 HĐND tỉnh giám sát công tác quản lý đất đai tại xã Tả Van

Chiều 17/9, Đoàn giám sát của Tổ đại biểu số 13 HĐND tỉnh Lào Cai do đồng chí Phan Đăng Toàn - Ủy viên Ban Thường vụ Tỉnh ủy, Trưởng Ban Nội chính Tỉnh ủy, Tổ trưởng Tổ đại biểu làm Trưởng đoàn đã giám sát chuyên đề việc cấp Giấy chứng nhận quyền sử dụng đất và chuyển mục đích sử dụng đất tại xã Tả Van.

Tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng tại 17 xã, phường

Tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng tại 17 xã, phường

Chiều 17/9, tại xã Trấn Yên, Quỹ Bảo vệ rừng và Môi trường tỉnh phối hợp với Chi cục Kiểm lâm tỉnh tổ chức Hội nghị tăng cường thực hiện chính sách chi trả dịch vụ môi trường rừng gắn với công tác quản lý, bảo vệ rừng đối với 17 xã, phường sau sáp nhập, thực hiện chính quyền địa phương hai cấp.

Ra mắt Chi hội Chè Shan tuyết vùng núi cao Việt Nam

Ra mắt Chi hội Chè Shan tuyết vùng núi cao Việt Nam

Ngày 16/9, tại Hà Nội, Hiệp hội Chè Việt Nam (VITAS) tổ chức công bố Quyết định số 53/QĐ-HHC về việc thành lập Chi hội Chè Shan tuyết vùng núi cao Việt Nam, tên giao dịch quốc tế là “Vietnam High-Mountain Snow Shan Tea Chapter”. Chi hội quy tụ các tổ chức, cá nhân sản xuất, chế biến chè Shan tuyết vùng núi cao, tạo đầu mối chuyên môn trong bảo tồn vùng chè cổ thụ, chuẩn hóa sản phẩm và phát triển thị trường.

Khu vực Mường Khương tập trung tháo gỡ vướng mắc, đẩy nhanh giải ngân đầu tư công

Khu vực Mường Khương tập trung tháo gỡ vướng mắc, đẩy nhanh giải ngân đầu tư công

Chiều 17/9, tại xã Mường Khương, Tổ công tác số 2 của UBND tỉnh Lào Cai do đồng chí Ngô Hạnh Phúc - Phó Chủ tịch Thường trực UBND tỉnh làm Tổ trưởng, làm việc với các xã Bản Lầu, Mường Khương, Cao Sơn, Pha Long nhằm nắm bắt tình hình, tháo gỡ khó khăn, đẩy nhanh tiến độ giải ngân vốn đầu tư công, thu ngân sách và công tác lập quy hoạch xây dựng.

Lào Cai tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm

Lào Cai tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm

Sở Nông nghiệp và Môi trường tỉnh Lào Cai vừa có Công văn 8898/SNNMT-KS gửi các tổ chức, cá nhân được cấp giấy phép khai thác khoáng sản trên địa bàn tỉnh; UBND các xã, phường trong tỉnh về tăng cường quản lý, bảo vệ và xử lý khoáng sản mới, khoáng sản đi kèm, khoáng sản khác phát hiện trong quá trình khai thác khoáng sản.

Chống thất thu thuế từ cơ sở

Chống thất thu thuế từ cơ sở

Hoạt động kinh doanh ngày càng đa dạng, từ các cơ sở kinh doanh truyền thống, dịch vụ đến bán hàng qua mạng xã hội và các nền tảng số, đặt ra yêu cầu quản lý thuế phải chủ động hơn ngay từ cơ sở, sát thực tiễn, nhận diện nguồn thu và hỗ trợ người dân tuân thủ pháp luật về thuế. Tại 8 xã khu vực Văn Bàn do Thuế cơ sở 5 tỉnh Lào Cai quản lý, công tác này đang được triển khai từ cơ sở, với mục tiêu không để bỏ sót doanh thu, đồng thời tạo môi trường kinh doanh minh bạch, công bằng.

fb yt zl tw