Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Mỏ Vàng nâng cao giá trị nông, lâm nghiệp

Mỏ Vàng nâng cao giá trị nông, lâm nghiệp

Là xã vùng cao còn nhiều khó khăn của tỉnh Lào Cai, Mỏ Vàng phải đối mặt với địa hình chia cắt, hạ tầng chưa đồng bộ, đời sống người dân còn không ít khó khăn, vất vả. Thế nhưng, bằng quyết tâm chính trị cao và cách làm linh hoạt, phát huy hiệu quả tiềm năng đất đai, rừng và thế mạnh cây quế, năm 2025 kinh tế nông, lâm nghiệp của xã tiếp tục giữ đà tăng trưởng, tạo nền tảng nâng cao thu nhập, cải thiện đời sống vật chất và tinh thần cho Nhân dân.

Nối mạch giao thông trên núi dốc

Nối mạch giao thông trên núi dốc

Do địa hình đồi núi dốc, việc đầu tư hạ tầng giao thông tại xã Chế Tạo gặp nhiều khó khăn, chi phí lớn. Không trông chờ vào nguồn lực Nhà nước, người dân đã chủ động góp công, góp của mở nên những tuyến đường đặc thù, rộng 80 cm đến 1 mét, men theo sườn núi. Dù nhỏ hẹp, những con đường ấy chính là “cao tốc” của bà con - kết nối các bản làng giữa đại ngàn, mở lối cho phát triển và đổi thay.

Nậm Dù hướng đến trở thành miền quê đáng sống

Nậm Dù hướng đến trở thành miền quê đáng sống

Cùng cán bộ xã Xuân Quang, từ quốc lộ, chúng tôi rẽ vào ngõ nhỏ mà người dân thôn Nậm Dù quen gọi với cái tên thân thuộc - “ngõ nhà văn hóa”. Đường ngõ được đổ bê tông, dọc hai bên là những ngôi nhà xây khang trang, sạch đẹp, hàng cây xanh cắt tỉa gọn gàng, điểm xuyết vài sắc hồng, sắc tím của hoa giấy và những khóm hoa hồng tỏa hương thơm dịu. Làng quê yên ả và thanh bình hiện diện từ mô hình “10 hộ liền kề, ngõ văn minh”.

Thúc đẩy tiêu dùng nội địa và xuất khẩu bền vững

Thúc đẩy tiêu dùng nội địa và xuất khẩu bền vững

Thực hiện mục tiêu chuyển đổi số, phát triển thương mại điện tử (TMĐT) tại Lào Cai không chỉ dừng lại ở phương thức mua bán mới, mà đã thực sự trở thành động lực quan trọng đóng góp vào tăng trưởng GRDP, thúc đẩy tiêu dùng nội địa và bứt phá xuất khẩu bền vững. Doanh thu từ TMĐT chiếm tới 10% tổng mức bán lẻ hàng hóa, trở thành kênh phân phối chủ lực trên địa bàn.

Lào Cai đạt doanh thu gần 2 tỷ đồng tại Hội chợ Mùa xuân 2026

Lào Cai đạt doanh thu gần 2 tỷ đồng tại Hội chợ Mùa xuân 2026

Hội chợ Mùa xuân lần thứ I năm 2026 diễn ra từ ngày 2 đến 13/2/2026 tại Trung tâm Triển lãm Việt Nam (VEC), Đông Anh, Hà Nội, với quy mô hơn 3.000 gian hàng trên diện tích trên 100.000 m². Đây là hoạt động xúc tiến thương mại quy mô lớn, góp phần kết nối giao thương, quảng bá sản phẩm vùng miền và thúc đẩy tiêu dùng trong dịp đầu năm mới.

Tạo bứt phá ngay từ đầu nhiệm kỳ

Năm 2026 được xác định là thời điểm “bản lề của bản lề”, mở đầu cho nhiệm kỳ mới với môi trường phát triển mới sau khi tỉnh thực hiện sắp xếp, kiện toàn bộ máy hành chính. Với mục tiêu tăng trưởng GRDP trên 10%, Lào Cai đang tập trung triển khai kịch bản tăng trưởng như “mệnh lệnh pháp lý”, siết chặt kỷ luật công vụ và tạo đột phá trong điều hành để tạo đà bứt phá ngay từ những ngày đầu năm.

Người dân mua sắm tại Siêu thị GO! Yên Bái những ngày cận Tết.

Sắm Tết thông minh

Những ngày cận Tết Nguyên đán Bính Ngọ 2026, thị trường hàng hóa tại Lào Cai bước vào cao điểm mua sắm. Siêu thị đông khách sau giờ làm, chợ truyền thống nhộn nhịp từ sớm nhưng không còn cảnh mua gom, tích trữ như trước. Nhiều gia đình lên danh sách từ nhà, ưu tiên mua hàng thiết yếu, hàng Việt và sản phẩm địa phương tạo nên một mùa mua sắm nhộn nhịp nhưng vẫn chừng mực.

“Cánh tay nối dài” của ngành nông nghiệp tại cơ sở

“Cánh tay nối dài” của ngành nông nghiệp tại cơ sở

Trong những năm qua, các tổ khuyến nông cộng đồng đã khẳng định rõ nét vai trò là cầu nối giữa Nhà nước, nhà khoa học và nhà nông trong việc chuyển giao tiến bộ khoa học - kỹ thuật, công nghệ, kinh nghiệm sản xuất, kinh doanh gắn với thị trường. Đây được xem là những “cánh tay nối dài” của ngành nông nghiệp tại cơ sở, góp phần thúc đẩy phát triển sản xuất nông nghiệp bền vững.

Chủ động nhiều giải pháp xúc tiến đầu tư

Chủ động nhiều giải pháp xúc tiến đầu tư

Trong bối cảnh yêu cầu tăng trưởng kinh tế ngày càng cao, cùng với mục tiêu phát triển bền vững và hội nhập sâu rộng, công tác xúc tiến đầu tư đang trở thành nhiệm vụ trọng tâm của nhiều địa phương trong tỉnh. Không chỉ dừng lại ở các chương trình xúc tiến quy mô cấp tỉnh, nhiều địa phương đã chủ động triển khai các giải pháp ngay từ cơ sở, từng bước tạo dựng môi trường đầu tư thuận lợi, thu hút doanh nghiệp, mở rộng không gian phát triển công nghiệp, thương mại và dịch vụ.

Thị trường sôi động, nguồn cung được bảo đảm

Sức mua tăng mạnh dịp giáp Tết: Thị trường sôi động, nguồn cung được bảo đảm

Những ngày cận Tết Nguyên đán Bính Ngọ 2026, thị trường Lào Cai ghi nhận không khí mua sắm sôi động. Từ siêu thị, trung tâm thương mại đến chợ truyền thống, cửa hàng tiện ích, lượng khách tăng nhanh, sức mua nhích lên từng ngày. Theo ghi nhận của ngành chức năng, nhu cầu tiêu dùng hiện tăng khoảng 30% so với ngày thường và dự báo sẽ bước vào cao điểm sau ngày 26 tháng Chạp, khi cán bộ, công chức bắt đầu nghỉ Tết.

Chủ động “giữ nhịp” vận hành các cửa khẩu dịp Tết Nguyên đán

Chủ động “giữ nhịp” vận hành các cửa khẩu dịp Tết Nguyên đán

Tết Nguyên đán Bính Ngọ 2026 đã cận kề. Đây là thời điểm nhu cầu giao thương hàng hóa và xuất - nhập cảnh qua Cửa khẩu Quốc tế Lào Cai tăng cao. Trong bối cảnh đó, lực lượng liên ngành tại các cửa khẩu đã chủ động xây dựng phương án trực Tết, phân luồng phương tiện, phối hợp song phương chặt chẽ, bảo đảm thông quan hàng hóa thông suốt, không để xảy ra ùn ứ, gián đoạn chuỗi cung ứng.

Thị trường đồ trang trí Tết: Đa dạng mẫu mã, giá cả hợp lý

Thị trường đồ trang trí Tết: Đa dạng mẫu mã, giá cả hợp lý

Tết Nguyên đán Bính Ngọ 2026 đang cận kề. Bên cạnh các mặt hàng thực phẩm thiết yếu, thị trường đồ trang trí Tết trên địa bàn tỉnh đang bước vào cao điểm mua sắm với không khí sôi động, mẫu mã đa dạng, thiết kế phong phú, giá cả hợp lý, đáp ứng nhu cầu trang hoàng nhà cửa, vui xuân đón Tết của người dân.

Chợ truyền thống nhộn nhịp ngày cận Tết

Chợ truyền thống nhộn nhịp ngày cận Tết

Cận Tết, không khí mua sắm tại các chợ truyền thống trở nên nhộn nhịp hơn. Mặc dù phải cạnh tranh với xu hướng mua sắm thương mại điện tử nhưng các sạp hàng ở chợ truyền thống vẫn đầy đủ hàng hóa thiết yếu và là sự lựa chọn của không ít người tiêu dùng.

fb yt zl tw