Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

“Gieo” kỹ thuật đến vùng xa

“Gieo” kỹ thuật đến vùng xa

Sau khi vận hành chính quyền địa phương hai cấp, ngành nông nghiệp tỉnh đã phát huy tốt vai trò đồng hành với nông dân, đưa khoa học - kỹ thuật về vùng sâu, vùng xa nhằm nâng cao năng suất, chất lượng cây trồng, vật nuôi, nhân rộng mô hình sản xuất hiệu quả, giúp nông dân làm giàu trên chính mảnh đất quê hương.

Bài cuối: Kiến tạo không gian phát triển mới

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài cuối: Kiến tạo không gian phát triển mới

Sông Hồng - dòng chảy đỏ nặng phù sa, nơi hun đúc nền văn minh rực rỡ, nơi in dấu những bước chân đầu tiên của người Việt trên hành trình dựng nước và giữ nước. Hàng nghìn năm qua, con sông ấy không chỉ mang lại nguồn sống cho bao thế hệ mà còn kết nối những vùng đất, những nền văn hóa, tạo nên một vùng Bắc Bộ trù phú và giàu bản sắc.

Bài 6: Hành trình kiến tạo những đô thị ven sông

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 6: Hành trình kiến tạo những đô thị ven sông

Dọc theo đôi bờ sông Hồng trên hành trình chảy qua 9 tỉnh của Việt Nam, những đô thị mới dần hình thành, mang theo những khát vọng phát triển, hòa quyện giữa sự hoang sơ và hơi thở hiện đại. Từ miền thượng nguồn nơi con sông Hồng chảy vào đất Việt tại tỉnh Lào Cai, chúng tôi đã rong ruổi theo dòng sông qua các tỉnh để về Thái Bình - nay thuộc tỉnh Hưng Yên. 

Bài 5: Không gian sông Hồng - biểu tượng mới của Thủ đô

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 5: Không gian sông Hồng - biểu tượng mới của Thủ đô

Sông Hồng - dòng chảy mang trong mình bao lớp trầm tích lịch sử, văn hóa và những câu chuyện huyền thoại, từ lâu trở thành biểu tượng gắn bó mật thiết với mảnh đất Thăng Long - Hà Nội. Không chỉ nâng niu, nuôi dưỡng sự phồn thịnh cho kinh kỳ ngàn năm, sông Mẹ còn chuyên chở những giá trị tinh thần, hun đúc bản sắc và khát vọng của bao thế hệ.

Bài 4: Đánh thức tiềm năng từ đất bãi ven sông

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 4: Đánh thức tiềm năng từ đất bãi ven sông

Sông Hồng - dải lụa mềm mại vắt qua Thủ đô Hà Nội, mang theo bao lớp trầm tích phù sa, hun đúc nên những bãi bồi trù phú, những doi đất giàu tiềm năng. Dòng chảy ấy không chỉ là nhân chứng lịch sử của bao thăng trầm, mà còn là nguồn cảm hứng bất tận cho những dự án quy hoạch đô thị, vẽ nên giấc mơ về một thành phố hai bên bờ sông, nơi cuộc sống hòa quyện giữa thiên nhiên và hiện đại.

Những đảng viên tiên phong phát triển kinh tế tư nhân ở Yên Thành

Những đảng viên tiên phong phát triển kinh tế tư nhân ở Yên Thành

Nghị quyết 68-NQ/TW của Bộ Chính trị khẳng định, phát triển kinh tế tư nhân là động lực quan trọng của nền kinh tế. Để nghị quyết đi vào đời sống, nhiều đảng viên ở xã Yên Thành đã tiên phong, gương mẫu và sáng tạo trong phát triển kinh tế, góp phần lan tỏa trong các tầng lớp Nhân dân về sự năng động, sáng tạo trong cách nghĩ, cách làm, đóng góp tích cực vào sự phát triển kinh tế - xã hội địa phương.

Khai thác, chế biến khoáng sản gắn với bảo vệ môi trường

Khai thác, chế biến khoáng sản gắn với bảo vệ môi trường

Lào Cai có tiềm năng lớn về khoáng sản với gần 300 mỏ, điểm mỏ thuộc 17 nhóm khoáng sản như: đồng Sin Quyền, sắt Quý Sa, đá vôi trắng (Lục Yên, Yên Bình), nổi bật là Apatit với trữ lượng hàng tỷ tấn, cùng với trên 400 điểm mỏ khoáng sản làm vật liệu xây dựng thông thường. đây là tài nguyên vô giá của quốc gia, do đó việc phát triển ngành công nghiệp thăm dò, khai thác, chế biến sâu khoáng sản gắn với sử dụng hợp lý, tiết kiệm, hiệu quả, thân thiện môi trường.

Xã Chế Tạo tổ chức ngày hội Rừng xanh

Xã Chế Tạo tổ chức ngày hội Rừng xanh

Tối 14/11, xã Chế Tạo, tỉnh Lào Cai tổ chức ngày hội Rừng xanh nhằm tuyên truyền, nâng cao nhận thức của người dân về quản lý, bảo vệ và phát triển rừng. Sự kiện thu hút đông đảo cán bộ, đoàn viên, hội viên và Nhân dân trên địa bàn xã tham gia.

Bài 1: Hình thành không gian trục động lực dọc sông Hồng

HIỆN THỰC HÓA GIẤC MƠ ĐÔ THỊ DỌC SÔNG HỒNG: Bài 1: Hình thành không gian trục động lực dọc sông Hồng

Theo Quy hoạch tỉnh Lào Cai (cũ) thời kỳ 2021 - 2030, tầm nhìn đến năm 2050, địa phương sẽ tập trung phát triển trục kinh tế động lực dọc sông Hồng. Đây là trục kinh tế đóng vai trò “hạt nhân” đối với liên kết không gian phát triển kinh tế của tỉnh; kết nối vùng, liên vùng và cả nước với khu vực Tây Nam Trung Quốc.

Việt Nam trở thành thị trường trọng điểm của các hãng bay quốc tế

Việt Nam trở thành thị trường trọng điểm của các hãng bay quốc tế

Các hãng hàng không quốc tế đang coi Việt Nam là thị trường chiến lược tại châu Á, thể hiện qua việc mở rộng mạng lưới bay, đầu tư nâng cấp đội bay - dịch vụ và triển khai ưu đãi dành riêng cho khách Việt. Những động thái này phản ánh xu hướng cạnh tranh bằng chất lượng, đồng thời củng cố vị thế ngày càng quan trọng của Việt Nam trên bản đồ hàng không quốc tế.

Khởi nghiệp tại quê hương từ công nghệ số

Khởi nghiệp tại quê hương từ công nghệ số

Nếu nhiều bạn trẻ ở thành phố khởi nghiệp với những mô hình kinh doanh hiện đại, thì không ít bạn trẻ dân tộc thiểu số lại chọn hành trình khởi nghiệp ngay tại bản làng của mình. Họ tận dụng sức mạnh của công nghệ số để lan tỏa nét văn hóa bản địa, đồng thời đưa những sản vật vùng cao đến với thị trường và người tiêu dùng ở khắp mọi nơi.

fb yt zl tw