Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

50 học viên tham gia Hội thảo khởi động Dự án ứng dụng trí tuệ nhân tạo trong sản xuất nông nghiệp

50 học viên tham gia Hội thảo khởi động Dự án ứng dụng trí tuệ nhân tạo trong sản xuất nông nghiệp

Sáng 8/1, Trung tâm Nghiên cứu phát triển phụ nữ dân tộc thiểu số và miền núi (Đại học Thái Nguyên) phối hợp với Hội Nông dân tỉnh Lào Cai tổ chức Hội thảo khởi động dự án và tập huấn ứng dụng trí tuệ nhân tạo (AI) trong sản xuất bền vững và thúc đẩy thị trường cho 50 học viên là thành viên các hợp tác xã trên địa bàn tỉnh.

Sơn Lương sắp hoàn thành cầu Khe Trang, phục vụ hàng trăm hộ dân vùng cao

Sơn Lương sắp hoàn thành cầu Khe Trang, phục vụ hàng trăm hộ dân vùng cao

Sau hơn 5 tháng thi công, cầu Khe Trang (Nậm Mười), xã Sơn Lương, tỉnh Lào Cai đã cơ bản hoàn thành, dự kiến khánh thành ngày 19/01 chào mừng Đại hội Đảng toàn quốc. Công trình không chỉ đáp ứng nhu cầu đi lại cấp thiết của người dân vùng cao mà còn thể hiện rõ tinh thần đoàn kết, chung tay xã hội hóa xây dựng hạ tầng nông thôn.

Giấc mơ an cư giữa lưng chừng mây

Tết ấm trên đỉnh Sán Trá: Giấc mơ an cư giữa lưng chừng mây

Những ngày này, đỉnh Sán Trá rộn ràng không khí lao động của gần 20 hộ dân xã Hạnh Phúc đang khẩn trương dựng nhà mới để kịp đón Tết Nguyên đán. Rời vùng rốn lũ hiểm nguy, khu tái định cư không chỉ bảo đảm an cư mà còn mở ra khát vọng đổi đời, với vị thế bao quát trung tâm xã, giàu tiềm năng phát triển du lịch trong tương lai.

Nỗ lực thu hẹp khoảng cách phát triển vùng

Nỗ lực thu hẹp khoảng cách phát triển vùng

Nỗ lực thu hẹp khoảng cách giữa vùng cao và vùng thấp là nhiệm vụ quan trọng được cả hệ thống chính trị tỉnh Lào Cai quan tâm triển khai bằng nhiều giải pháp đồng bộ. Từ việc ưu tiên đầu tư xây dựng cơ sở hạ tầng cho tới đảm bảo an sinh xã hội, tạo sinh kế và nâng cao thu nhập, tất cả đều hướng tới mục tiêu thúc đẩy vùng cao phát triển bền vững.

Hội chợ Xúc tiến Thương mại Biên giới Bát Xát năm 2026 sẽ diễn ra từ ngày 24 - 29/1

Hội chợ Xúc tiến Thương mại Biên giới Bát Xát năm 2026 sẽ diễn ra từ ngày 24 - 29/1

Chiều 7/1, UBND xã Bát Xát phối hợp với Công ty TNHH Xúc tiến Thương mại Đại Thanh - Lào Cai tổ chức họp trao đổi về các nội dung liên quan đến công tác tổ chức Hội chợ Xúc tiến Thương mại Biên giới năm 2026. Đồng chí Nguyễn Mạnh Hùng - Chủ tịch UBND xã Bát Xát chủ trì cuộc họp.

Các xã vùng cao siết chặt công tác phòng, chống rét cho vật nuôi

Các xã vùng cao siết chặt công tác phòng, chống rét cho vật nuôi

Những ngày gần đây, do ảnh hưởng của các đợt không khí lạnh tăng cường, thời tiết rét đậm, rét hại kéo dài. Trước diễn biến bất lợi của thời tiết, các xã vùng cao trên địa bàn tỉnh đang siết chặt công tác phòng, chống rét cho đàn vật nuôi, nhằm hạn chế thấp nhất thiệt hại xảy ra, bảo vệ sinh kế của người dân.

Xã Hạnh Phúc xây dựng điểm tái định cư an toàn cho đồng bào vùng cao

Xã Hạnh Phúc xây dựng điểm tái định cư an toàn cho đồng bào vùng cao

Sau những đợt thiên tai khốc liệt, trước nguy cơ sạt lở đất ngày càng hiện hữu, xã Hạnh Phúc đã khẩn trương triển khai phương án di dời 130 hộ dân trong vùng nguy hiểm ở các thôn: Sán Trá, Háng Thồ, Háng Dê đến khu tái định cư mới, nhằm đảm bảo an toàn tính mạng và tài sản, giúp bà con sớm ổn định cuộc sống.

Tổng dư nợ cho vay tăng 14,2%

Tổng dư nợ cho vay tăng 14,2%

Năm 2025 thị trường tiền tệ trên địa bàn tỉnh Lào Cai tiếp tục duy trì đà ổn định. Các chi nhánh ngân hàng, quỹ tín dụng nhân dân luôn bảo đảm tốt khả năng chi trả, đáp ứng kịp thời nhu cầu vốn tín dụng phục vụ phát triển sản xuất, kinh doanh của các thành phần kinh tế. Đồng thời, hệ thống ngân hàng cũng tập trung khơi thông nguồn vốn, đáp ứng nhu cầu vay vốn của các hộ nghèo, hộ cận nghèo và các đối tượng chính sách xã hội trên địa bàn.

Năm 2026, toàn tỉnh sẽ chuyển đổi hơn 289 ha đất trồng lúa

Năm 2026, toàn tỉnh sẽ chuyển đổi hơn 289 ha đất trồng lúa

Theo kế hoạch chuyển đổi cơ cấu cây trồng, vật nuôi trên đất trồng lúa năm 2026 vừa được UBND tỉnh ban hành, toàn tỉnh sẽ thực hiện chuyển đổi 289,16 ha đất trồng lúa sang các loại cây trồng và mô hình sản xuất khác, nhằm nâng cao hiệu quả sử dụng đất và thu nhập cho người dân.

Bát Xát quyết tâm hoàn thành giải phóng mặt bằng phục vụ xây dựng tuyến đường sắt trước ngày 31/1

Bát Xát quyết tâm hoàn thành giải phóng mặt bằng phục vụ xây dựng tuyến đường sắt trước ngày 31/1

Chiều 6/1, UBND xã Bát Xát tổ chức cuộc họp rà soát tiến độ đợt cao điểm "40 ngày - đêm" giải phóng mặt bằng hai dự án phục vụ xây dựng tuyến đường sắt Lào Cai - Hà Nội - Hải Phòng. Các đồng chí: Nguyễn Kiều Phương - Tỉnh ủy viên, Bí thư Đảng ủy, Chủ tịch HĐND xã; Nguyễn Mạnh Hùng - Chủ tịch UBND xã đồng chủ trì cuộc họp.

Đồng chí Giàng Thị Dung - Phó Bí thư Tỉnh ủy, Chủ tịch Ủy ban MTTQ Việt Nam tỉnh Lào Cai tham quan các sản phẩm OCOP trên địa bàn xã Châu Quế

Xã Châu Quế hướng tới phát triển bền vững

Với tinh thần dám nghĩ, dám làm, dám chịu trách nhiệm, ngay trong năm đầu vận hành mô hình chính quyền địa phương 2 cấp, cấp ủy, chính quyền xã Châu Quế đã từng bước ổn định tổ chức, giữ vững an ninh trật tự, thúc đẩy phát triển kinh tế, nâng cao đời sống Nhân dân, tạo nền tảng quan trọng cho chặng đường phát triển mới.

fb yt zl tw