Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Lục Yên phát huy giá trị làng nghề đá mỹ nghệ, tranh đá quý

Lục Yên phát huy giá trị làng nghề đá mỹ nghệ, tranh đá quý

Lục Yên từ lâu được biết đến là vùng đất của đá quý, đá mỹ nghệ với nguồn tài nguyên phong phú và những bàn tay tài hoa của người thợ địa phương. Từ lợi thế ấy, làng nghề đá mỹ nghệ và tranh đá quý đã hình thành và phát triển, không chỉ tạo ra những sản phẩm có giá trị nghệ thuật mà còn giải quyết việc làm cho lao động nông thôn và nâng cao thu nhập cho người dân.

"Hồi sinh" những vườn bưởi già cỗi ở xã Thác Bà bằng mô hình mới

"Hồi sinh" những vườn bưởi già cỗi ở xã Thác Bà bằng mô hình mới

Những ngày này, tại các vườn bưởi ở xã Thác Bà (Lào Cai), không khí lao động trở nên nhộn nhịp hơn khi người dân bắt đầu tham gia mô hình ghép cải tạo, thâm canh cây bưởi theo hướng VietGAP. Đây là mô hình do Trung tâm Khuyến nông tỉnh Lào Cai phối hợp với Trung tâm Dịch vụ tổng hợp xã Thác Bà triển khai với kỳ vọng mở ra hướng phát triển bền vững cho cây ăn quả có múi tại địa phương.

Chính phủ điều chỉnh phạm vi địa bàn hoạt động hải quan từ ngày 5/7

Chính phủ điều chỉnh phạm vi địa bàn hoạt động hải quan từ ngày 5/7

Chính phủ vừa ban hành Nghị định số 153/2026/NĐ-CP sửa đổi, bổ sung một số điều của Nghị định số 01/2015/NĐ-CP ngày 02/01/2015 quy định chi tiết phạm vi địa bàn hoạt động hải quan; trách nhiệm phối hợp trong phòng, chống buôn lậu, vận chuyển trái phép hàng hóa qua biên giới đã được sửa đổi, bổ sung tại Nghị định số 12/2018/NĐ-CP ngày 23-1-2018 của Chính phủ.

Lào Cai: Đột phá hỗ trợ khoa học công nghệ cho doanh nghiệp chủ lực

Lào Cai: Đột phá hỗ trợ khoa học công nghệ cho doanh nghiệp chủ lực

Trong bối cảnh chuyển đổi số và đổi mới sáng tạo trở thành yêu cầu cấp thiết, tỉnh Lào Cai đang đổi mới cách hỗ trợ doanh nghiệp theo hướng có trọng tâm, trọng điểm. Thay vì dàn trải, tỉnh ưu tiên đồng hành cùng các doanh nghiệp có tiềm năng, sản phẩm chủ lực để tháo gỡ khó khăn về công nghệ, quản trị và chuyển đổi số. Các nhiệm vụ được xây dựng sát nhu cầu thực tế, hướng tới nâng cao giá trị sản phẩm và sức cạnh tranh trên thị trường.

Hiệu quả từ mô hình "Thôn thông minh" trong xây dựng nông thôn mới kiểu mẫu tại xã Mậu A

Hiệu quả từ mô hình "Thôn thông minh" trong xây dựng nông thôn mới kiểu mẫu tại xã Mậu A

Là tiêu chí quan trọng trong xây dựng xã nông thôn mới kiểu mẫu, mô hình “Thôn thông minh” tại xã Mậu A đang chứng minh hiệu quả vượt trội khi đưa công nghệ số đến từng hộ dân. Những kết quả bước đầu không chỉ làm thay đổi phương thức quản lý của chính quyền mà còn mang lại nhiều tiện ích thiết thực, nâng cao chất lượng cuộc sống cho người dân nông thôn.

Văn Bàn khẩn trương khống chế dịch tả lợn châu Phi

Văn Bàn khẩn trương khống chế dịch tả lợn châu Phi

Những ngày này, chính quyền và người dân xã Văn Bàn đang căng mình triển khai các biện pháp phòng, chống dịch tả lợn châu Phi. Ngay sau khi phát hiện ổ dịch đầu tiên, địa phương đã khẩn trương khoanh vùng, tiêu độc khử trùng, kiểm soát vận chuyển, đồng thời tuyên truyền người dân chủ động bảo vệ đàn vật nuôi, không để dịch bệnh lan rộng.

Chương trình tuyên truyền, hướng dẫn người tiêu dùng nhận biết hàng thật - hàng giả

Chương trình tuyên truyền, hướng dẫn người tiêu dùng nhận biết hàng thật - hàng giả

Sáng 16/5, tại phường Cam Đường, Chi cục Quản lý thị trường tỉnh phối hợp cùng Siêu thị Go! Lào Cai và một số đơn vị phân phối tổ chức chương trình tuyên truyền, hướng dẫn người dân cách nhận biết hàng thật - hàng giả. Hoạt động nhằm trang bị kỹ năng mua sắm an toàn và bảo vệ quyền lợi người tiêu dùng trước vấn nạn hàng nhái.

Xăng dầu hạ nhiệt, doanh nghiệp Lào Cai đẩy mạnh sản xuất kinh doanh

Xăng dầu hạ nhiệt, doanh nghiệp Lào Cai đẩy mạnh sản xuất kinh doanh

Xăng dầu từ lâu được xem như “huyết mạch” của nền kinh tế. Khi nguồn cung và giá cả của mặt hàng chiến lược này biến động, đều tác động đến nhiều lĩnh vực đời sống xã hội, ảnh hưởng trực tiếp đến mặt bằng giá hàng hóa và nhịp độ sản xuất, kinh doanh. Điều này đặc biệt rõ nét đối với các ngành có chi phí vận tải chiếm tỷ trọng lớn trong cơ cấu giá thành.

Quy Mông giữ màu xanh đồi quế

Quy Mông giữ màu xanh đồi quế

Thời gian qua, khi thời tiết chuyển mùa, nền nhiệt cao, độ ẩm lớn, mưa nắng xen kẽ, trên địa bàn xã Quy Mông xuất hiện sâu đo, sâu róm gây hại trên cây quế. Với đặc tính phát sinh nhanh, gây hại mạnh, sâu ăn lá đã ảnh hưởng trực tiếp đến sinh trưởng của cây, đặt ra yêu cầu cấp thiết về công tác kiểm tra, phòng trừ kịp thời.

Dâu tằm trên đất Đông Cuông

Dâu tằm trên đất Đông Cuông

Trên cánh đồng bãi ven sông Hồng thuộc thôn Sài Lương, xã Đông Cuông, cùng với lúa, ngô... đã xuất hiện thêm những khoảnh dâu xanh. Người dân nơi đây đang viết tiếp câu chuyện về cây dâu - con tằm với niềm tin vào hướng đi mới cho kinh tế và du lịch địa phương.

Xe máy thế hệ nào dùng được xăng E10?

Xe máy thế hệ nào dùng được xăng E10?

Sau khi xăng E10 được bán trên toàn quốc từ ngày 30/4/2026, nhiều người dùng ôtô, xe máy tỏ ra lo lắng việc liệu xe của mình có thể sử dụng E10 hay không, nếu sử dụng thì ảnh hưởng của loại xăng này tới các chi tiết trên xe như thế nào?

Người dân Tả Van "khát" nước sinh hoạt!

Người dân Tả Van "khát" nước sinh hoạt!

Giữa những ngày nắng nóng đầu hè, tại xã Tả Van, câu chuyện thiếu nước sinh hoạt lại trở thành nỗi ám ảnh thường trực của hàng trăm hộ dân. Những chiếc bể chứa cạn khô, vòi nước “im lìm” suốt nhiều tháng qua khiến cuộc sống của người dân đảo lộn. Đằng sau tình trạng ấy là bài toán tranh chấp nguồn nước giữa nhu cầu sản xuất và sinh hoạt vẫn chưa tìm được lời giải.

“Đòn bẩy” khát vọng phát triển của nông dân Lào Cai

“Đòn bẩy” khát vọng phát triển của nông dân Lào Cai

Nguồn vốn luôn giữ vai trò quan trọng, là “đòn bẩy” giúp nông dân phát triển kinh tế, nâng cao thu nhập và đời sống. Thời gian qua, cùng với các nguồn vốn chính sách, Quỹ Hỗ trợ nông dân tỉnh Lào Cai đã khẳng định vai trò là kênh tín dụng đặc thù, giúp bà con thực hiện khát vọng vươn lên trong thời kỳ hội nhập.

fb yt zl tw