Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Trạm Tấu xây dựng chính quyền “gần dân, sát dân, vì Nhân dân phục vụ”

Trạm Tấu xây dựng chính quyền “gần dân, sát dân, vì Nhân dân phục vụ”

Thực hiện mô hình chính quyền địa phương hai cấp theo phương châm “gần dân, sát dân, vì Nhân dân phục vụ”, xã Trạm Tấu đã và đang tạo chuyển biến rõ nét trong phương thức lãnh đạo, điều hành, lấy sự hài lòng của người dân làm thước đo hiệu quả công việc. Qua đó, củng cố niềm tin của Nhân dân, tạo động lực thúc đẩy phát triển kinh tế - xã hội địa phương.

Quyết liệt từ chính quyền, chủ động từ người dân

Quyết liệt từ chính quyền, chủ động từ người dân

Dự án đường sắt khổ tiêu chuẩn Lào Cai - Hà Nội - Hải Phòng có ý nghĩa đặc biệt quan trọng đối với phát triển kinh tế - xã hội, tăng cường liên kết vùng và mở rộng không gian phát triển của tỉnh Lào Cai. Trên địa bàn xã Quy Mông, nơi tuyến đường sắt đi qua với chiều dài gần 10 km, công tác giải phóng mặt bằng, bố trí tái định cư đang được triển khai quyết liệt, bài bản, với sự đồng thuận cao của Nhân dân và nỗ lực lớn từ chính quyền địa phương, chủ đầu tư cùng các đơn vị thi công.

Hướng đến khuyến nông đa giá trị

Hướng đến khuyến nông đa giá trị


Công tác khuyến nông có vai trò đặc biệt quan trọng trong việc hỗ trợ nông dân tiếp cận và áp dụng tiến bộ khoa học kỹ thuật để nâng cao năng suất cây trồng, vật nuôi. Những cán bộ của Trung tâm Khuyến nông và Dịch vụ nông nghiệp Lào Cai không chỉ là “giáo viên trên đồng ruộng” mà còn trở thành điểm tựa vững chắc của nông dân trên con đường phát triển nông nghiệp bền vững.

Lào Cai phấn đấu hoàn thành nâng cấp Quốc lộ 32C đoạn Hiền Lương trước Tết 2026

Lào Cai phấn đấu hoàn thành nâng cấp Quốc lộ 32C đoạn Hiền Lương trước Tết 2026

Những ngày cuối năm, trên công trường dự án nâng cấp Quốc lộ 32C (đoạn Hiền Lương - thành phố Yên Bái cũ, nay thuộc phường Âu Lâu, tỉnh Lào Cai) không khí thi công khẩn trương, hối hả. Vượt qua thời tiết mùa đông giá lạnh, các mũi thi công làm việc liên tục, tận dụng tối đa thời gian thuận lợi để đẩy nhanh tiến độ, phấn đấu hoàn thành tuyến trước Tết Nguyên đán 2026.

Lào Cai quyết tâm đạt tăng trưởng trên 10%, thu ngân sách vượt mốc 25.000 tỷ đồng

Lào Cai quyết tâm đạt tăng trưởng trên 10%, thu ngân sách vượt mốc 25.000 tỷ đồng

Chiều 27/1, UBND tỉnh Lào Cai tổ chức Hội nghị chuyên đề về kịch bản tăng trưởng, kịch bản thu ngân sách và kế hoạch giải ngân vốn đầu tư công năm 2026. Hội nghị được kết nối trực tuyến từ điểm cầu UBND tỉnh đến các xã, phường trên địa bàn toàn tỉnh. Đây là hội nghị có ý nghĩa đặc biệt quan trọng, định hình lộ trình phát triển của Lào Cai trong năm đầu tiên thực hiện Nghị quyết Đại hội XIV của Đảng và Kế hoạch phát triển kinh tế - xã hội 5 năm 2026 - 2030.

Hội chợ biên giới Bát Xát - Cơ hội mở rộng không gian giao thương kinh tế

Hội chợ biên giới Bát Xát - Cơ hội mở rộng không gian giao thương kinh tế

Những ngày cuối tháng 1/2026, không khí giao thương tại Hội chợ Xúc tiến thương mại biên giới Bát Xát trở nên sôi động. Là sự kiện thương mại đầu tiên trong năm 2026 của tỉnh Lào Cai, hội chợ không chỉ thu hút đông đảo người dân, du khách trong và ngoài tỉnh, mà còn trở thành điểm hẹn kết nối doanh nghiệp, tiểu thương hai bên biên giới Việt Nam - Trung Quốc, mở ra nhiều cơ hội hợp tác kinh tế, xuất nhập khẩu hàng hóa.

Phát triển sinh kế bền vững - “đòn bẩy” giảm nghèo ở Trạm Tấu

Phát triển sinh kế bền vững - “đòn bẩy” giảm nghèo ở Trạm Tấu

Xác định giảm nghèo bền vững không chỉ là hỗ trợ trước mắt mà phải tạo được sinh kế lâu dài, xã Trạm Tấu, tỉnh Lào Cai đã và đang phát huy hiệu quả vai trò đồng hành của chính quyền cơ sở trong việc định hướng, dẫn dắt người dân chuyển đổi sản xuất, tiếp cận chính sách, từng bước tự vươn lên thoát nghèo. Từ sự vào cuộc quyết liệt của cấp ủy, chính quyền đến tinh thần nỗ lực của người dân, công tác giảm nghèo ở địa phương này đang dần đi vào chiều sâu, thực chất.

Lào Cai đặt mục tiêu phát triển, mở rộng đạt 2.000 ha dâu trong giai đoạn 2026 - 2030

Lào Cai đặt mục tiêu phát triển, mở rộng đạt 2.000 ha dâu trong giai đoạn 2026 - 2030

Đến hết năm 2025, tỉnh Lào Cai ước đạt 1.535 ha diện tích sản xuất cây dâu tằm, tập trung chủ yếu tại các xã: Trấn Yên 659 ha, Quy Mông 286 ha, Xuân Ái 163, Chấn Thịnh 110 ha; còn lại phát triển tại các xã: Văn Chấn, Thượng Bằng La, Đông Cuông, Tân Hợp, Mậu A, Hưng Khánh, Lương Thịnh, Việt Hồng, Phúc Khánh, Bảo Hà.

Toàn tỉnh có trên 2.575 ha cây trồng đạt tiêu chuẩn VietGAP, hữu cơ

Toàn tỉnh có trên 2.575 ha cây trồng đạt tiêu chuẩn VietGAP, hữu cơ

Toàn tỉnh hiện có trên 2.575 ha cây trồng sản xuất theo tiêu chuẩn chất lượng được chứng nhận, trong đó trên 2.346 ha đạt tiêu chuẩn hữu cơ và hơn 231 ha đạt tiêu chuẩn VietGAP, góp phần nâng cao chất lượng nông sản, bảo đảm an toàn thực phẩm và đáp ứng yêu cầu ngày càng cao của thị trường.

Xuân Ái khai thác tiềm năng phát triển kinh tế

Xuân Ái khai thác tiềm năng phát triển kinh tế

Những năm qua, xã Xuân Ái đã tập trung vận động Nhân dân phát triển ngành nghề, chuyển đổi cơ cấu cây trồng, vật nuôi theo hướng hàng hóa trên cơ sở khai thác hiệu quả tiềm năng, thế mạnh của địa phương. Qua đó, từng bước nâng cao thu nhập cho người dân, thúc đẩy phát triển kinh tế theo hướng bền vững.

fb yt zl tw