Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

11/12 địa phương đã kiểm đếm phục vụ giải phóng mặt bằng Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

11/12 địa phương đã kiểm đếm phục vụ giải phóng mặt bằng Dự án đường sắt Lào Cai - Hà Nội - Hải Phòng

Đến nay, 11/12 địa phương có dự án đường sắt Lào Cai - Hà Nội - Hải Phòng đi qua đã tổ chức kiểm đếm, với tổng số 1.140 hộ dân và 47 tổ chức. Tuy nhiên, công tác giải phóng mặt bằng, bố trí tái định cư vẫn còn một số khó khăn, vướng mắc cần tập trung tháo gỡ.

Dự án mở rộng cao tốc Nội Bài - Lào Cai đối mặt nguy cơ chậm tiến độ

Dự án mở rộng cao tốc Nội Bài - Lào Cai đối mặt nguy cơ chậm tiến độ

Dự án mở rộng cao tốc Nội Bài - Lào Cai đã thực hiện được hơn 71% giá trị hợp đồng, giải ngân đạt 49,02%. Tuy nhiên, khối lượng thực hiện mới đạt hơn 77% kế hoạch. Với tiến độ hiện nay, dự án có nguy cơ không hoàn thành cơ bản trong năm 2026 theo yêu cầu, nhất là hạng mục thảm bê tông nhựa mặt đường.

Cần có giải pháp đồng bộ

Xây dựng hạ tầng cấp nước sinh hoạt tại các đô thị nhỏ: Cần có giải pháp đồng bộ

Hiện nay, tại các đô thị lớn trên địa bàn tỉnh, hệ thống cấp nước sinh hoạt cơ bản đáp ứng nhu cầu của người dân. Tuy nhiên, ở nhiều đô thị nhỏ và khu vực trung tâm các xã được định hướng phát triển đô thị, hạ tầng cấp nước vẫn thiếu hoặc chưa theo kịp tốc độ phát triển, làm ảnh hưởng đến đời sống, đồng thời trở thành “điểm nghẽn” đối với phát triển kinh tế - xã hội, du lịch và thu hút đầu tư.

Phường Lào Cai mở lại chợ đêm Kim Tân

Phường Lào Cai mở lại chợ đêm Kim Tân

Từng là chợ đầu mối nông sản lớn nhất tỉnh Lào Cai, nơi tập kết, phân phối hàng trăm tấn hàng hóa mỗi đêm, chợ đêm Kim Tân được phường Lào Cai tổ chức hoạt động trở lại sau thời gian gián đoạn. Việc mở lại chợ đáp ứng nguyện vọng của tiểu thương, đồng thời phát huy lợi thế về cơ sở vật chất, kết nối giao thông, tạo điều kiện thúc đẩy giao thương hàng hóa.

Biến động giá nhân công xây dựng tại Lào Cai - Những vấn đề cần quan tâm

Biến động giá nhân công xây dựng tại Lào Cai - Những vấn đề cần quan tâm

Khi đơn giá nhân công phục vụ lập dự toán chưa phản ánh đầy đủ những biến động của thị trường lao động, khoảng cách giữa chi phí dự tính và chi phí thực tế trở thành nỗi lo của không ít nhà thầu. Câu chuyện đơn giá nhân công xây dựng năm 2026 tại Lào Cai cho thấy những vấn đề cần tháo gỡ trong công tác lập dự toán, quản lý chi phí và thực hiện hợp đồng xây dựng.

Phường Yên Bái tháo gỡ điểm nghẽn, thúc đẩy phát triển công nghiệp - tiểu thủ công nghiệp

Phường Yên Bái tháo gỡ điểm nghẽn, thúc đẩy phát triển công nghiệp - tiểu thủ công nghiệp

Có thị trường, có nhu cầu mở rộng sản xuất nhưng không ít doanh nghiệp, cơ sở sản xuất vẫn gặp khó về mặt bằng, hạ tầng, vốn, lao động và công nghệ, do đó, phường Yên Bái, tỉnh Lào Cai đã tìm cách tháo gỡ điểm nghẽn để tạo động lực phát triển công nghiệp - tiểu thủ công nghiệp.

UBND tỉnh Lào Cai làm việc với Đoàn công tác Hiệp hội Doanh nghiệp Việt Nam - Đài Loan (Trung Quốc)

UBND tỉnh Lào Cai làm việc với Đoàn công tác Hiệp hội Doanh nghiệp Việt Nam - Đài Loan (Trung Quốc)

Sáng 9/11, tại Vườn quốc gia Hoàng Liên, đồng chí Giàng Quốc Hưng, Phó Chủ tịch UBND tỉnh Lào Cai đã có buổi làm việc với Đoàn công tác Hiệp hội Doanh nghiệp Việt Nam – Đài Loan (Trung Quốc) do ông Lin, Chin -Chang, Chủ tịch Tập đoàn Eastern Ever International Co., Ltd làm Trưởng đoàn.

fb yt zl tw