Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Tiếp tục bổ sung quy hoạch các tuyến đường bộ kết nối với sân bay, cảng biển

Tiếp tục bổ sung quy hoạch các tuyến đường bộ kết nối với sân bay, cảng biển

Cục Đường bộ Việt Nam đề xuất tiếp tục bổ sung quy hoạch các tuyến đường bộ kết nối với các đầu mối vận tải mới, đồng thời tích hợp phương án kết nối ngay từ khâu lập dự án để đảm bảo đồng bộ về quy mô và tiến độ khai thác, thúc đẩy phát triển vận tải đa phương thức.

Chủ động phòng cháy rừng từ khâu xử lý thực bì

Chủ động phòng cháy rừng từ khâu xử lý thực bì

Thời điểm này, người dân các địa phương trong tỉnh bước vào vụ dọn thực bì, làm nương và trồng rừng kinh tế. Theo nhận định của cơ quan chức năng, phần lớn các vụ cháy rừng thời gian qua đều xuất phát từ sự bất cẩn trong quá trình xử lý thực bì bằng lửa. Vì vậy, việc quản lý hoạt động đốt nương, dọn thực bì đang được các ngành chức năng, chính quyền địa phương tăng cường quản lý.

Việt Nam - Trung Quốc ký hợp tác quy hoạch hai tuyến đường sắt

Việt Nam - Trung Quốc ký hợp tác quy hoạch hai tuyến đường sắt

Ngày 25/3, Bộ Xây dựng Việt Nam và Bộ Thương mại Trung Quốc đã có buổi làm việc nhằm thúc đẩy các dự án hợp tác phát triển hạ tầng đường sắt, trong đó đáng chú ý là việc ký kết thỏa thuận hỗ trợ kỹ thuật lập quy hoạch hai tuyến đường sắt khổ tiêu chuẩn Hà Nội - Đồng Đăng và Hải Phòng - Hạ Long - Móng Cái.

Tận dụng FTA, mở rộng và đa dạng hóa thị trường xuất khẩu gạo

Tận dụng FTA, mở rộng và đa dạng hóa thị trường xuất khẩu gạo

Trong bối cảnh thị trường gạo thế giới biến động mạnh do xung đột địa chính trị, nguồn cung toàn cầu gia tăng và áp lực cạnh tranh ngày càng lớn, ngành lúa gạo Việt Nam đang đứng trước yêu cầu cấp thiết phải điều chỉnh chiến lược theo hướng đa dạng hóa thị trường, nâng cao chất lượng và gia tăng giá trị sản phẩm.

Xã Tả Van lấy ý kiến Nhân dân về điều chỉnh quy hoạch xây dựng trung tâm hành chính mới

Xã Tả Van lấy ý kiến Nhân dân về điều chỉnh quy hoạch xây dựng trung tâm hành chính mới

Ngày 26/3, tại Hội trường UBND xã Tả Van, Trung tâm Dịch vụ tổng hợp xã phối hợp với Viện Kiến trúc Quy hoạch xây dựng tỉnh Lào Cai tổ chức Hội nghị công bố và lấy ý kiến Nhân dân về việc điều chỉnh cục bộ quy hoạch chung xã Mường Hoa (cũ), thuộc địa bàn xã Tả Van. Dự buổi công bố có đại diện Ủy ban MTTQ Việt Nam xã; các phòng, ban chuyên môn; các hộ dân có đất trong quy hoạch.

Đường mới mở lối cho cây quế Bảo Nhai vươn xa

Đường mới mở lối cho cây quế Bảo Nhai vươn xa

Sau khi sáp nhập, xã Bảo Nhai (tỉnh Lào Cai) đã quyết liệt vào cuộc, tháo gỡ những “nút thắt” trong giải phóng mặt bằng làm đường giao thông nông thôn. Nhờ đó, tuyến đường liên xã nối từ Km 7 + 800, Tỉnh lộ 153 (gần trung tâm xã Bảo Nhai) đến các thôn Nậm Đét, Nậm Cải, Nậm Trì... đang dần hoàn thiện, giúp việc đi lại thuận lợi, an toàn, đồng thời trở thành “đòn bẩy” đưa nông sản vươn xa, thúc đẩy kinh tế địa phương phát triển.

UBND tỉnh Lai Châu làm việc với 2 xã Sa Pa, Tả Van thống nhất phương án bồi thường, giải phóng mặt bằng Dự án Hầm đường bộ đèo Hoàng Liên

UBND tỉnh Lai Châu làm việc với 2 xã Sa Pa, Tả Van thống nhất phương án bồi thường, giải phóng mặt bằng Dự án Hầm đường bộ đèo Hoàng Liên

Chiều 25/3, tại phường Sa Pa (tỉnh Lào Cai), Đoàn công tác của UBND tỉnh Lai Châu do đồng chí Hà Trọng Hải - Phó Chủ tịch UBND tỉnh làm Trưởng đoàn đã có buổi làm việc với Thường trực Đảng ủy, UBND phường Sa Pa, xã Tả Van nhằm thống nhất phương án thực hiện công tác bồi thường, giải phóng mặt bằng Dự án Hầm đường bộ qua đèo Hoàng Liên.

Vận hành thủy điện trong cao điểm mùa khô

Vận hành thủy điện trong cao điểm mùa khô

Trong những tháng mùa khô, lượng mưa giảm mạnh khiến lưu lượng nước về các hồ chứa thủy điện trên địa bàn tỉnh đều ở mức thấp. Điều này ảnh hưởng trực tiếp đến việc sản xuất điện và điều tiết nước cho vùng hạ du. Tuy nhiên, các nhà máy thủy điện đã chủ động tính toán và triển khai các phương án vận hành nhằm đảm bảo tối ưu công suất và hiệu quả kinh tế.

Sơn Lương cụ thể hóa nhiệm vụ trọng tâm

Sơn Lương cụ thể hóa nhiệm vụ trọng tâm

Trở lại Sơn Lương - xã đặc biệt khó khăn của tỉnh, chúng tôi ngỡ ngàng trước sự thay đổi nhanh chóng của vùng quê vốn còn nhiều khó khăn. Những tuyến đường bê tông trải dài, những ngôi nhà xây san sát... Đây là “trái ngọt” của hành trình đưa nghị quyết của Đảng vào cuộc sống.

Người dân đồng lòng, nông thôn khởi sắc

Lương Thịnh: Người dân đồng lòng, nông thôn khởi sắc

Với 19/24 thôn đạt chuẩn thôn nông thôn mới kiểu mẫu, xã Lương Thịnh đang bước vào giai đoạn nâng cao chất lượng các tiêu chí, hướng tới mục tiêu hoàn thành 100% thôn kiểu mẫu trong năm 2026 và xây dựng xã nông thôn mới nâng cao vào năm 2030. Điều đáng ghi nhận không chỉ là những con số về hạ tầng hay thu nhập mà là sự thay đổi sâu sắc trong nhận thức của người dân, khi họ thực sự trở thành chủ thể trong quá trình xây dựng và giữ vững thành quả nông thôn mới.

fb yt zl tw