Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Phường Yên Bái nỗ lực giải ngân phát huy hiệu quả vốn đầu tư công

Phường Yên Bái nỗ lực giải ngân phát huy hiệu quả vốn đầu tư công

Không chờ đến cuối năm mới chạy đua với tiến độ, phường Yên Bái đang chủ động tháo gỡ từng điểm nghẽn, đôn đốc nhà thầu tăng tốc thi công, nghiệm thu đến đâu hoàn thiện hồ sơ thanh toán đến đó. Với cách làm này, địa phương không chỉ hướng tới hoàn thành kế hoạch giải ngân vốn đầu tư công, mà quan trọng hơn là đưa các công trình sớm hoàn thành, phát huy hiệu quả, tạo diện mạo đô thị khang trang và phục vụ tốt hơn đời sống người dân.

Nông dân Lào Cai sáng tạo, đổi mới để phát triển kinh tế

Nông dân Lào Cai sáng tạo, đổi mới để phát triển kinh tế

Không còn bó hẹp trong tư duy sản xuất truyền thống, ngày càng nhiều nông dân trong tỉnh mạnh dạn thay đổi cách nghĩ, cách làm, chủ động tìm hướng đi mới trong phát triển kinh tế. Từ lựa chọn cây trồng, vật nuôi phù hợp đến ứng dụng khoa học - kỹ thuật, liên kết sản xuất và tìm kiếm thị trường tiêu thụ, sự sáng tạo của người nông dân đang trở thành động lực quan trọng thúc đẩy kinh tế nông nghiệp, nông thôn phát triển.

 Tuổi trẻ Bản Xèo trên hành trình khởi nghiệp

Tuổi trẻ Bản Xèo trên hành trình khởi nghiệp

Bản Xèo là xã đặc biệt khó khăn của tỉnh Lào Cai, được hợp nhất từ 3 xã: Bản Xèo, Mường Vi và Pa Cheo, với tỷ lệ hộ nghèo và cận nghèo sau khi hợp nhất chiếm tới 63%. Ở vùng đất địa hình cheo leo, nhìn đâu cũng thấy đá tai mèo, đồng bào các dân tộc xã Bản Xèo đang nỗ lực tìm hướng để thoát nghèo bền vững. Bằng ý chí và khát vọng của tuổi trẻ, có những thanh niên người dân tộc thiểu số đã và đang mạnh dạn thử nghiệm các mô hình mới góp phần nâng cao thu nhập cho gia đình.

Cộng đồng dân cư liên kết giữ rừng

Cộng đồng dân cư liên kết giữ rừng

Tỷ lệ che phủ rừng toàn tỉnh Lào Cai hiện đạt 61,33%, và trong 10 tháng năm 2026, cả tỉnh chỉ xảy ra một vụ cháy rừng. Kết quả này gắn liền với mạng lưới 2.431 tổ bảo vệ rừng thôn, bản gồm 24.618 thành viên, nơi người dân vùng cao tự ký cam kết quản lý nương rẫy và duy trì lịch tuần tra thường xuyên tại cơ sở.

Hội thảo “Trà Shan - Kết nối văn hóa bản địa với phát triển du lịch Lào Cai”

Hội thảo “Trà Shan - Kết nối văn hóa bản địa với phát triển du lịch Lào Cai”

Sáng 21/11, tại Trung tâm Hội nghị tỉnh, Sở Văn hóa, Thể thao và Du lịch tỉnh tổ chức Hội thảo “Trà Shan - Kết nối văn hóa bản địa với phát triển du lịch Lào Cai”. Đây là hoạt động nằm trong chuỗi các hoạt động Ngày Văn hóa Việt Nam gắn với Ngày hội Đại đoàn kết toàn dân tộc năm 2026 trên địa bàn tỉnh Lào Cai.

Cộng đồng dân tộc Lào Cai có kinh nghiệm canh tác quế.

Lào Cai giữ màu xanh bền vững cho vùng quế

Gần 60 năm bén rễ trên vùng đất Lào Cai, cây quế đã trở thành cây trồng chủ lực, đưa địa phương vươn lên dẫn đầu cả nước về diện tích và giá trị sản xuất.  Tuy nhiên, việc mở rộng nhanh về diện tích và yêu cầu ngày càng cao của thị trường, bài toán đặt ra là làm sao để giữ được màu xanh bền vững cho vùng quế.

Siết quy định chuyển nhượng nhà ở xã hội, bảo đảm đúng đối tượng thụ hưởng

Siết quy định chuyển nhượng nhà ở xã hội, bảo đảm đúng đối tượng thụ hưởng

Luật Nhà ở (sửa đổi) quy định, sau 5 năm, bên mua, bên thuê mua nhà ở xã hội chỉ được bán lại cho chủ đầu tư dự án hoặc đối tượng thuộc trường hợp được mua nhà ở xã hội với giá bán tối đa bằng giá bán trong hợp đồng mua bán với chủ đầu tư dự án xây dựng nhà ở xã hội.

Quốc hội chính thức cho phép tính giá điện sinh hoạt theo giờ cao điểm, thấp điểm

Quốc hội chính thức cho phép tính giá điện sinh hoạt theo giờ cao điểm, thấp điểm

Luật sửa đổi, bổ sung một số điều của Luật Điện lực bổ sung lộ trình áp dụng giá bán lẻ điện theo giờ cao điểm, thấp điểm và giờ bình thường đối với khách hàng sinh hoạt khi điều kiện kỹ thuật cho phép, mở đường cho việc thay đổi cách tính tiền điện trong thời gian tới.

Đồng lòng kiến thiết nông thôn mới

Đồng lòng kiến thiết nông thôn mới

Thời gian qua, để tạo động lực xây dựng nông thôn mới, xã Lục Yên đã chủ động lồng ghép nguồn vốn từ các chương trình mục tiêu quốc gia, ngân sách địa phương để đầu tư hạ tầng giao thông thiết yếu. Từ nền tảng này, chính quyền xã tiếp tục đẩy mạnh vận động, khơi dậy sự đồng thuận hưởng ứng góp sức của Nhân dân. Qua đó, góp phần nâng cao chất lượng đời sống người dân, đưa diện mạo nông thôn Lục Yên ngày càng khởi sắc.

Lao Chải đề xuất hơn 161 tỷ đồng, ưu tiên đầu tư giao thông và thủy lợi

Lao Chải đề xuất hơn 161 tỷ đồng, ưu tiên đầu tư giao thông và thủy lợi

Giai đoạn 2026–2030, xã Lao Chải đề xuất nhu cầu vốn hơn 161 tỷ đồng để thực hiện các mục tiêu xây dựng nông thôn mới, giảm nghèo bền vững và phát triển kinh tế - xã hội vùng đồng bào dân tộc thiểu số và miền núi. Trong đó, xã ưu tiên đầu tư hạ tầng thiết yếu, nhất là giao thông và thủy lợi.

"Cánh tay nối dài" đưa tín dụng chính sách đến với người dân

"Cánh tay nối dài" đưa tín dụng chính sách đến với người dân

Trong hành trình đưa nguồn vốn tín dụng chính sách (TDCS) đến đúng đối tượng, đúng nhu cầu và phát huy hiệu quả, các tổ trưởng tổ tiết kiệm và vay vốn (TK&VV) giữ vai trò đặc biệt quan trọng. Họ là những người gần dân, hiểu dân, kết nối giữa ngân hàng với người vay vốn, góp phần đưa chính sách tín dụng ưu đãi đến từng hộ gia đình, tạo động lực phát triển kinh tế và giảm nghèo bền vững.

fb yt zl tw