Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Ban Kinh tế - Ngân sách, HĐND tỉnh khảo sát các dự án tại xã Bát Xát

Ban Kinh tế - Ngân sách, HĐND tỉnh khảo sát các dự án tại xã Bát Xát

Sáng 10/10, Đoàn khảo sát của Ban Kinh tế - Ngân sách, HĐND tỉnh Lào Cai do đồng chí Ngụy Phí Kiều Vân - Ủy viên Ban Chấp hành Đảng bộ tỉnh, Trưởng Ban Kinh tế - Ngân sách HĐND tỉnh làm Trưởng đoàn đã khảo sát các dự án trên địa bàn xã Bát Xát, phục vụ thẩm tra các nội dung trình Kỳ họp thứ 6, HĐND tỉnh.

Phát huy vai trò tổ bảo vệ rừng ở cơ sở

Phát huy vai trò tổ bảo vệ rừng ở cơ sở

Toàn tỉnh hiện có 2.431 tổ bảo vệ rừng thôn, bản. Bám sát địa bàn, các tổ bảo vệ rừng phối hợp với lực lượng kiểm lâm và chính quyền địa phương thường xuyên tuần tra, kịp thời phát hiện, ngăn chặn các hành vi xâm hại; chủ động phòng cháy, chữa cháy rừng, góp phần nâng cao trách nhiệm của cộng đồng trong bảo vệ và phát triển rừng bền vững.

Người Việt Nam mua gần 7.500 xe máy mỗi ngày

Người Việt Nam mua gần 7.500 xe máy mỗi ngày

Thị trường xe máy Việt Nam ghi nhận mức tăng trưởng ấn tượng 10,4% trong quý 3/2026, đạt hơn 686.000 xe bán ra. Nhờ đòn bẩy từ mùa khai trường cùng sức hút lớn từ các thương hiệu hàng đầu như Honda hay Yamaha, trung bình mỗi ngày người Việt mua gần 7.500 chiếc xe.

Phường Âu Lâu đẩy mạnh chuyển đổi số trong giải phóng mặt bằng, liên quan hơn 2.600 hộ dân

Phường Âu Lâu đẩy mạnh chuyển đổi số trong giải phóng mặt bằng, liên quan hơn 2.600 hộ dân

Ngày 10/10, UBND phường Âu Lâu phối hợp với Trung tâm Phát triển quỹ đất tỉnh Lào Cai và đơn vị cung cấp phần mềm tổ chức hội nghị tập huấn sử dụng phần mềm giải phóng mặt bằng, nhằm nâng cao hiệu quả quản lý, đẩy nhanh tiến độ bồi thường, hỗ trợ và tái định cư trên địa bàn.

Hội nghị chuyên đề nâng cao chất lượng hoạt động của hợp tác xã, tổ hợp tác do phụ nữ quản lý

Hội nghị chuyên đề nâng cao chất lượng hoạt động của hợp tác xã, tổ hợp tác do phụ nữ quản lý

Nằm trong chuỗi sự kiện giới thiệu quảng bá nông sản vùng miền của Lào Cai năm 2026, ngày 9/10, Hội Liên hiệp Phụ nữ (LHPN) tỉnh tổ chức Hội nghị chuyên đề về “Nâng cao chất lượng hoạt động của hợp tác xã (HTX), tổ hợp tác (THT) do phụ nữ quản lý, tạo việc làm cho lao động nữ tỉnh Lào Cai năm 2026”. 

Động lực thúc đẩy chăn nuôi ở Mỏ Vàng

Động lực thúc đẩy chăn nuôi ở Mỏ Vàng

Là xã vùng 3 còn nhiều khó khăn, nguồn lực đầu tư cho sản xuất của người dân còn hạn chế, thời gian qua, việc triển khai thực hiện Nghị quyết số 21 của HĐND tỉnh đã tạo thêm điều kiện để người dân xã Mỏ Vàng phát triển chăn nuôi, từng bước nâng cao thu nhập.

Doanh số bán ô tô tại Việt Nam tăng 38%, xe hybrid tăng tốc

Doanh số bán ô tô tại Việt Nam tăng 38%, xe hybrid tăng tốc

Chiều 9/10, Hiệp hội các nhà sản xuất ô tô Việt Nam (VAMA) công bố doanh số bán hàng toàn thị trường của các đơn vị thành viên trong tháng 9/2026 đạt 35.094 xe, tăng 38% so với trước; trong đó, xe hybrid tăng 56%, trong khi xe nhập khẩu tiếp tục vượt xe lắp ráp về tốc độ tăng trưởng.

9 tháng năm 2026, Yên Bình đạt tốc độ tăng trưởng kinh tế 12,3%

9 tháng năm 2026, Yên Bình đạt tốc độ tăng trưởng kinh tế 12,3%

Trong 9 tháng của năm 2026, xã Yên Bình đạt tốc độ tăng trưởng kinh tế 12,3%, tổng giá trị sản xuất ước đạt 6.577 tỷ đồng, bằng 72% kế hoạch năm. Địa phương đang tập trung tháo gỡ khó khăn, đẩy nhanh tiến độ thực hiện các chỉ tiêu phát triển kinh tế - xã hội trong những tháng cuối năm.

Phong Dụ Thượng tạo sinh kế, giảm nghèo bền vững

Phong Dụ Thượng tạo sinh kế, giảm nghèo bền vững

Ở xã vùng cao Phong Dụ Thượng, giảm nghèo không chỉ là hỗ trợ trước mắt mà đang được địa phương xác định là quá trình lâu dài, trong đó quan trọng nhất là tạo sinh kế để người dân có việc làm, thu nhập và từng bước tự vươn lên. Từ hỗ trợ vốn, cây, con giống, chuyển giao kỹ thuật đến đào tạo nghề, hỗ trợ làm nhà... những cách làm phù hợp với điều kiện thực tế đang mở ra hướng phát triển mới cho nhiều hộ nghèo ở địa phương.

fb yt zl tw