Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Giải ngân vốn đầu tư công: Áp lực cuối năm và quyết tâm "không để vốn nằm chờ"

Giải ngân vốn đầu tư công: Áp lực cuối năm và quyết tâm "không để vốn nằm chờ"

Những ngày cuối năm, trên khắp các công trường xây dựng của tỉnh Lào Cai, không khí lao động vẫn hối hả, khẩn trương. Tiếng máy trộn bê tông vang lên giữa miền biên viễn không chỉ báo hiệu nhịp thi công gấp rút, mà còn phản ánh yêu cầu cấp thiết trong điều hành phát triển kinh tế địa phương: đẩy nhanh tiến độ giải ngân vốn đầu tư công.

Quỹ hỗ trợ nông dân giúp nông dân Lào Cai vươn lên làm giàu bền vững

Quỹ hỗ trợ nông dân giúp nông dân Lào Cai vươn lên làm giàu bền vững

Những năm qua, Quỹ hỗ trợ nông dân tỉnh Lào Cai đã khẳng định vai trò là kênh tín dụng đặc thù, gần dân, sát thực tiễn sản xuất. Không chỉ hỗ trợ vốn, quỹ còn đồng hành cùng nông dân trong chuyển giao khoa học - kỹ thuật, tổ chức sản xuất theo nhóm, theo chuỗi giá trị, góp phần giúp hàng nghìn hộ nông dân, nhất là đồng bào dân tộc thiểu số từng bước thoát nghèo, vươn lên làm giàu bền vững.

Lào Cai giảm 73 vụ vi phạm pháp luật về lâm nghiệp so với năm 2024

Lào Cai giảm 73 vụ vi phạm pháp luật về lâm nghiệp so với năm 2024

Năm 2025, Chi cục Kiểm lâm tỉnh Lào Cai triển khai đồng bộ các giải pháp quản lý, bảo vệ và phát triển rừng, giữ ổn định diện tích rừng tự nhiên; tỷ lệ che phủ rừng toàn tỉnh dự kiến đạt khoảng 61,5%. Công tác thực thi pháp luật về lâm nghiệp tiếp tục chuyển biến tích cực, số vụ vi phạm giảm 73 vụ so với năm 2024.

Gần 1.200 hội viên phụ nữ xã Bảo Hà tiếp cận nguồn vốn tín dụng hỗ trợ phát triển kinh tế

Gần 1.200 hội viên phụ nữ xã Bảo Hà tiếp cận nguồn vốn tín dụng hỗ trợ phát triển kinh tế

Thông qua việc thực hiện hiệu quả các chương trình tín dụng ưu đãi, năm 2025, Hội Liên hiệp Phụ nữ xã Bảo Hà đang quản lý trên 100 tỷ đồng vốn vay, giúp hàng nghìn lượt hội viên phụ nữ có điều kiện phát triển kinh tế, tạo việc làm, tăng thu nhập và góp phần thực hiện mục tiêu giảm nghèo bền vững tại địa phương.

Đẹp ngỡ ngàng vườn bưởi đỏ “tiến vua”

Đẹp ngỡ ngàng vườn bưởi đỏ “tiến vua”

Trong chuyến công tác về xã Cảm Nhân cách đây 3 tháng, chúng tôi tình cờ biết đến những vườn bưởi đỏ ở thôn Ngòi Quán. Khi ấy, những vườn bưởi vẫn còn xanh, quả đang độ lớn. Theo lời hẹn với bà con nơi đây, những ngày cuối năm 2025, chúng tôi trở lại Ngòi Quán và được tận mắt chiêm ngưỡng vẻ đẹp ấn tượng của loại quả “tiến vua” này.

Đảm bảo cung cấp điện an toàn, ổn định dịp lễ, tết

Đảm bảo cung cấp điện an toàn, ổn định dịp lễ, tết

Trong những ngày lễ, Tết, khi nhu cầu sử dụng điện tăng mạnh trên toàn tỉnh, bảo đảm nguồn điện an toàn, ổn định được ngành Điện lực Lào Cai xác định là nhiệm vụ trọng tâm. Với các giải pháp triển khai đồng bộ và chủ động ứng trực, toàn ngành đang nỗ lực giữ dòng điện thông suốt, góp phần để Nhân dân đón lễ, Tết an toàn và ấm áp.

Chi trả hơn 15,2 tỷ đồng dịch vụ môi trường rừng tại Khu bảo tồn Loài và Sinh cảnh Mù Cang Chải

Chi trả hơn 15,2 tỷ đồng dịch vụ môi trường rừng tại Khu bảo tồn Loài và Sinh cảnh Mù Cang Chải

Năm 2025, Ban Quản lý Khu bảo tồn Loài và Sinh cảnh Mù Cang Chải triển khai hiệu quả chính sách chi trả dịch vụ môi trường rừng, chuyển hơn 15,27 tỷ đồng trực tiếp đến các cộng đồng nhận khoán bảo vệ rừng, góp phần cải thiện sinh kế cho người dân và nâng cao trách nhiệm bảo vệ rừng đặc dụng.

Trung tâm SUDECOM: Hỗ trợ mô hình sinh kế cho 92 hộ thông qua dự án hỗ trợ mô hình sinh kế

Trung tâm SUDECOM: Hỗ trợ mô hình sinh kế cho 92 hộ thông qua dự án hỗ trợ mô hình sinh kế

Sáng 29/12, Trung tâm Hỗ trợ phát triển bền vững cộng đồng các dân tộc miền núi (SUDECOM) tổng kết Dự án “Hỗ trợ mô hình sinh kế và nâng cao năng lực tiếp cận chuỗi giá trị nông nghiệp cho cộng đồng nhằm góp phần tăng thu nhập và bình đẳng giới tại 3 xã của tỉnh Lào Cai”.

Điểm sáng giảm nghèo của xã Bảo Hà

Điểm sáng giảm nghèo của xã Bảo Hà

Với sự quan tâm sâu sát của Đảng, Nhà nước, cùng sự chỉ đạo quyết liệt của cấp ủy, chính quyền các cấp, thôn 1 Nhai Tẻn, xã Bảo Hà đã từng bước vượt qua khó khăn, đạt nhiều kết quả tích cực trong giảm nghèo bền vững, trở thành điểm sáng trong phong trào xây dựng đời sống văn hóa ở khu dân cư.

Bảo vệ rừng để phát triển du lịch

Bảo vệ rừng để phát triển du lịch

Ở thôn Cang Dông xã Púng Luông, người dân vẫn đang lặng lẽ gìn giữ một “báu vật” của thiên nhiên. Đó là khu rừng Pơ mu với khoảng 70 gốc, trong đó có nhiều cây có tuổi đời 50 đến 70 năm tuổi. Không chỉ là tài sản quý giá về sinh thái, cánh rừng Pơ mu ấy còn đang trở thành điểm tựa để người dân nơi đây phát triển du lịch bền vững, gắn sinh kế với trách nhiệm bảo vệ rừng.

Nhà khoa học của nhà nông và hành trình đưa dược liệu bền vững đến với nông dân Lào Cai

Nhà khoa học của nhà nông và hành trình đưa dược liệu bền vững đến với nông dân Lào Cai

Từ những cánh đồng Atiso xanh mướt đến rừng chè dây bạt ngàn, mô hình phát triển dược liệu của Công ty TNHH Một thành viên Traphaco Sa Pa đang góp phần nâng cao thu nhập cho người dân, phát triển nông nghiệp xanh, bền vững và bảo tồn tri thức bản địa. Đặc biệt, nhà khoa học Đỗ Tiến Sỹ – Giám đốc công ty đã mang đến những giải pháp khoa học tiên tiến, mở ra hướng đi mới cho nông nghiệp vùng cao, góp phần xây dựng nông thôn mới và phát triển kinh tế – xã hội địa phương.

 Tỉ lệ che phủ rừng của xã Quy Mông đạt 73,3%

Quy Mông trồng rừng đạt 102% kế hoạch

Xã Quy Mông được thành lập trên cơ sở hợp nhất ba xã Y Can, Quy Mông và Kiên Thành, có tổng diện tích 149,17 km2, diện tích rừng tự nhiên hơn 2.900 ha, tỷ lệ độ che phủ rừng của xã 73,3%. Năm 2025, công tác Quản lý bảo vệ rừng, phòng cháy, chữa cháy rừng của xã Quy Mông đạt được nhiều kết quả tích cực.

fb yt zl tw