Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Nông nghiệp xanh góp phần nâng cao giá trị nông sản, bảo vệ tài nguyên, môi trường.

Lào Cai hướng tới nền nông nghiệp xanh

Trong bối cảnh biến đổi khí hậu ngày càng tác động sâu rộng đến sản xuất nông nghiệp, yêu cầu chuyển đổi sang mô hình canh tác xanh, phát thải thấp không còn là xu hướng mà đã trở thành nhiệm vụ cấp thiết. 

Kênh tín dụng thiết thực của hội viên nông dân xã Xuân Ái

Kênh tín dụng thiết thực của hội viên nông dân xã Xuân Ái

Những năm qua, Quỹ Hỗ trợ nông dân đã trở thành kênh tín dụng thiết thực, tiếp sức cho hội viên nông dân xã Xuân Ái đầu tư sản xuất, phát triển kinh doanh, tạo việc làm và từng bước nâng cao thu nhập. Nhờ nguồn vốn này, nhiều hộ nông dân mạnh dạn mở rộng các mô hình chăn nuôi, trồng trọt, phát triển rừng kinh tế và liên kết theo chuỗi giá trị, góp phần thúc đẩy kinh tế - xã hội tại địa phương.

Khoảng trống thú y viên cơ sở sau sáp nhập: Những vấn đề đặt ra từ thực tiễn quản lý

Khoảng trống thú y viên cơ sở sau sáp nhập: Những vấn đề đặt ra từ thực tiễn quản lý

Sắp xếp đơn vị hành chính và triển khai mô hình chính quyền địa phương hai cấp là chủ trương lớn nhằm tinh gọn bộ máy, nâng cao hiệu lực quản lý. Tuy nhiên, thực tiễn công tác phòng, chống dịch bệnh trên đàn vật nuôi thời gian qua cho thấy, nhiều vấn đề đang phát sinh tại cấp xã, phường, nơi giữ vai trò tuyến đầu trong kiểm soát dịch bệnh.

Xã Bảo Yên đẩy mạnh thu hút đầu tư vào các lĩnh vực mũi nhọn

Xã Bảo Yên đẩy mạnh thu hút đầu tư vào các lĩnh vực mũi nhọn

Sau khi thực hiện sáp nhập đơn vị hành chính, xã Bảo Yên đã mở rộng không gian phát triển với nhiều tiềm năng và lợi thế. Đặc biệt, các lĩnh vực nông - lâm nghiệp, tiểu thủ công nghiệp và du lịch được xác định là mũi nhọn, xã tập trung thu hút đầu tư nhằm tạo bước đột phá trong phát triển kinh tế - xã hội giai đoạn tới.

Sín Chéng tăng cường quản lý tài nguyên nước

Sín Chéng tăng cường quản lý tài nguyên nước

Trong bối cảnh tài nguyên nước ngày càng trở nên quý giá, chính quyền và người dân xã Sín Chéng đã và đang nỗ lực tăng cường các biện pháp quản lý, bảo vệ nguồn nước tự nhiên nhằm đảm bảo đời sống, sản xuất của Nhân dân trên địa bàn.

Nông dân Lào Cai phát huy vai trò chủ thể trong phát triển nông nghiệp và xây dựng nông thôn mới

Nông dân Lào Cai phát huy vai trò chủ thể trong phát triển nông nghiệp và xây dựng nông thôn mới

Nông nghiệp, nông dân, nông thôn luôn giữ vị trí chiến lược trong phát triển kinh tế - xã hội của tỉnh Lào Cai. Trước thềm Đại hội đại biểu Hội Nông dân tỉnh Lào Cai lần thứ I, nhiệm kỳ 2025 - 2030, nhìn lại 5 năm qua cho thấy các cấp Hội Nông dân đã không ngừng đổi mới nội dung, phương thức hoạt động, phát huy vai trò chủ thể của nông dân trong phát triển nông nghiệp, kinh tế nông thôn và xây dựng nông thôn mới.

Chống buôn lậu, vận chuyển hàng cấm cao điểm cuối năm:Ứng dụng công nghệ nâng cao hiệu quả

Chống buôn lậu, vận chuyển hàng cấm cao điểm cuối năm:Ứng dụng công nghệ nâng cao hiệu quả

Cuối năm là thời điểm tình trạng buôn lậu, hàng giả, hàng cấm, vận chuyển trái phép hàng hóa qua biên giới gia tăng. Trước diễn biến phức tạp này, lực lượng Hải quan đã triển khai nhiều biện pháp hữu hiệu như ứng dụng phân tích dữ liệu, đánh giá rủi ro để nhận diện sớm hành vi gian lận...

Tiếp sức để người dân tái sản xuất

Tiếp sức để người dân tái sản xuất

Từ ngày 1/12, lãi suất cho vay một số chương trình tín dụng chính sách tại Ngân hàng Chính sách xã hội sẽ được điều chỉnh giảm. Đây là một "làn gió mát lành" cho hàng triệu hộ gia đình yếu thế đang vay vốn tại Ngân hàng Chính sách xã hội nói chung và hàng nghìn hộ đang dư nợ tín dụng ưu đãi của tỉnh Lào Cai nói riêng.

Kết quả tích cực từ các chính sách khuyến khích phát triển nông nghiệp

Kết quả tích cực từ các chính sách khuyến khích phát triển nông nghiệp

Giai đoạn 2021 - 2025, việc thực hiện các chính sách khuyến khích phát triển sản xuất nông nghiệp tại Lào Cai đã tạo ra chuyển biến rõ nét trong tái cơ cấu ngành, nâng cao năng suất, chất lượng và thu nhập của người dân. Các chính sách được xây dựng phù hợp thực tiễn, bám sát nhu cầu của doanh nghiệp, hợp tác xã và hộ sản xuất, qua đó mở ra hướng phát triển bền vững hơn cho nông nghiệp địa phương.

fb yt zl tw