Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Vùng cao chủ động phòng, chống đói, rét cho đàn gia súc

Vùng cao chủ động phòng, chống đói, rét cho đàn gia súc

Trước diễn biến khắc nghiệt của thời tiết mùa đông, với rét đậm, rét hại, băng giá và sương muối kéo dài, các xã vùng cao như Trạm Tấu, Hạnh Phúc, Phình Hồ đã chủ động triển khai đồng bộ các biện pháp phòng chống đói, rét cho đàn gia súc. Các giải pháp này góp phần giảm thiểu rủi ro chăn nuôi, bảo vệ tài sản, ổn định sinh kế và duy trì sản xuất nông nghiệp bền vững.

Tân Hợp - vùng quê trù phú

Tân Hợp - Khi hài hòa đồng hành cùng bản sắc

Tại tỉnh Lào Cai, triết lý phát triển “Xanh, Hài hòa, Bản sắc, Hạnh phúc” vừa là định hướng chiến lược, vừa là kim chỉ nam đảm bảo phát triển nhanh và bền vững. Ở xã vùng cao Tân Hợp, quan điểm “hài hòa” và “bản sắc” luôn được ưu tiên, hướng tới tăng trưởng kinh tế đi đôi với nâng cao giá trị con người và hạnh phúc của Nhân dân.

Bám đất, bám bản vươn lên từ chăn nuôi nơi vùng cao

Bám đất, bám bản vươn lên từ chăn nuôi nơi vùng cao

Ở nhiều địa bàn vùng cao trong tỉnh, quỹ đất sản xuất hạn hẹp, địa hình dốc núi từ lâu là bài toán nan giải đối với người dân địa phương. Tuy nhiên, thay vì “đầu hàng” trước khó khăn, không ít hộ gia đình đã tìm được cách phát triển kinh tế từ chăn nuôi, bằng việc lựa chọn những giống vật nuôi phù hợp với điều kiện tự nhiên nơi mình đang sống.

Phường Văn Phú tổ chức Hội nghị chuyên đề về công tác quản lý trật tự đô thị, trật tự xây dựng

Phường Văn Phú tổ chức Hội nghị chuyên đề về công tác quản lý trật tự đô thị, trật tự xây dựng

Sáng 10/1, phường Văn Phú tổ chức Hội nghị chuyên đề về công tác quản lý trật tự đô thị, trật tự xây dựng, công tác quản lý đánh đất, đổ đất trên địa bàn; thành lập Tổ tự quản về trật tự đô thị, trật tự xây dựng, quản lý đánh đất, đổ đất trên địa bàn các tổ dân phố.

Trấn Yên phấn đấu đạt 1.500 tấn kén tằm và 90% diện tích quế đạt chuẩn hữu cơ vào năm 2030

Trấn Yên phấn đấu đạt 1.500 tấn kén tằm và 90% diện tích quế đạt chuẩn hữu cơ vào năm 2030

Với mục tiêu đến năm 2030 đạt 1.500 tấn kén tằm/năm, 90% diện tích quế đạt chứng nhận hữu cơ và tổng đàn gà từ 1,5 - 1,8 triệu con, Ban Chấp hành Đảng bộ xã Trấn Yên vừa ban hành Nghị quyết về hình thành và phát triển vùng sản xuất nông nghiệp hàng hóa gắn với chuỗi giá trị tiêu biểu của vùng Trung du và miền núi phía Bắc.

Lào Cai: Sản lượng cây ăn quả tăng gần 9% so cùng kỳ

Lào Cai: Sản lượng cây ăn quả tăng gần 9% so cùng kỳ

Thời gian qua, ngành Nông nghiệp tỉnh Lào Cai đã triển khai nhiều chương trình, dự án trong lĩnh vực phát triển nông nghiệp; đặc biệt chú trọng công tác quy hoạch và phát triển các vùng trồng cây ăn quả ôn đới theo hướng tập trung, phù hợp với điều kiện sinh thái của từng địa phương.

Bí thư chi bộ thôn Hua Khắt gương mẫu phát triển kinh tế

Bí thư chi bộ thôn Hua Khắt gương mẫu phát triển kinh tế

Đối với người dân thôn Hua Khắt, xã Púng Luông, hình ảnh Bí thư chi bộ Thào A Phổng luôn đi đầu trong phát triển kinh tế đã trở thành tấm gương sáng, tạo sức lan tỏa mạnh mẽ trong đảng viên và Nhân dân. Không chỉ làm tốt vai trò lãnh đạo ở cơ sở, đồng chí còn trực tiếp đi đầu trong lao động sản xuất, xây dựng các mô hình kinh tế hiệu quả, trở thành “địa chỉ đỏ” để bà con học tập, làm theo.

Xuất khẩu lập đỉnh tạo dư địa tăng trưởng mới

Xuất khẩu lập đỉnh tạo dư địa tăng trưởng mới

Năm 2025, xuất nhập khẩu tiếp tục đóng vai trò chủ lực, đưa Việt Nam tiến gần hơn mục tiêu trở thành nền kinh tế lớn thứ ba ASEAN vào năm 2030. Để duy trì đà tăng trưởng cao trong thời gian tới, cộng đồng doanh nghiệp (DN) cho rằng, cần thêm những chính sách ổn định, nhất quán, nhất là dòng vốn tín dụng hợp lý.

Bắc Hà mở rộng trồng rau ngũ gia bì gai

Bắc Hà mở rộng trồng rau ngũ gia bì gai

Vốn chỉ là một loại cây trồng để làm hàng rào quanh nhà, vừa là món rau xanh dân dã của người địa phương, nhưng khoảng chục năm trở lại đây, cây ngũ gia bì gai được người tiêu dùng và khách du lịch ưa thích tìm mua, nên người dân xã Bắc Hà, tỉnh Lào Cai đã nhân giống, trồng trong vườn nhà.

Rộn ràng thị trường hoa, cây cảnh Tết

Rộn ràng thị trường hoa, cây cảnh Tết

Chỉ còn hơn một tháng nữa là đến Tết Nguyên đán Bính Ngọ, thị trường hoa, cây cảnh trên địa bàn tỉnh Lào Cai thời điểm này đã bắt đầu sôi động. Các nhà vườn nhập về nhiều giống cây cảnh có dáng thế đẹp mắt, cùng nhiều loài hoa rực rỡ màu sắc phục vụ nhu cầu thị trường.

Nữ bí thư Đoàn mở lối làm giàu từ ruộng đồng Cầu Thia

Nữ bí thư Đoàn mở lối làm giàu từ ruộng đồng Cầu Thia

Từ những thửa ruộng một vụ chỉ quen với cây lúa, hôm nay, ở phường Cầu Thia đã hiện hữu những cánh đồng ớt xanh mướt, cho thu hoạch đều đặn theo mùa. Ít ai biết rằng, phía sau sự đổi thay ấy là dấu ấn rõ nét của chị Hà Thị Vỹ - Bí thư Đoàn Thanh niên phường Cầu Thia.

Kết nối để vươn xa

Kết nối để vươn xa

Liên kết sản xuất - tiêu thụ đã trở thành “chìa khóa” để nông sản địa phương nâng cao giá trị và khẳng định chỗ đứng trên thị trường. Trong hành trình ấy, Liên minh Hợp tác xã tỉnh Lào Cai đã trở thành cầu nối, kết nối các hợp tác xã, đưa nông sản vươn xa.

Thế đứng mới cho Việt Nam từ những mốc son kinh tế

Thế đứng mới cho Việt Nam từ những mốc son kinh tế

Giữa bối cảnh thế giới nhiều biến động chưa từng có, Việt Nam vẫn duy trì ổn định vĩ mô, kiểm soát lạm phát và đạt tăng trưởng tích cực trong nhiệm kỳ 2021 - 2025. Những cải cách mạnh mẽ về thể chế, bộ máy và đầu tư hạ tầng đang tạo nền tảng cho giai đoạn phát triển mới.

fb yt zl tw