Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Giữ rừng giáp ranh: Chủ động “phòng” để hạn chế “chống”

Giữ rừng giáp ranh: Chủ động “phòng” để hạn chế “chống”

Khi đồng bào vùng cao bước vào cao điểm sản xuất, những cánh rừng đầu nguồn cũng đứng trước áp lực gia tăng rõ rệt cả từ tự nhiên lẫn con người. Ở các khu vực giáp ranh, nơi địa hình chia cắt, ranh giới hành chính đan xen, nguy cơ xâm hại rừng không chỉ đến từ một phía mà thường là hệ quả cộng hưởng của tập quán canh tác, nhu cầu sinh kế và những “khoảng trống” trong quản lý.

Tháo gỡ nút thắt, đẩy nhanh tiến độ các dự án nguồn điện trên địa bàn tỉnh Lào Cai

Tháo gỡ nút thắt, đẩy nhanh tiến độ các dự án nguồn điện trên địa bàn tỉnh Lào Cai

Chiều 04/5, tại trụ sở UBND tỉnh, đồng chí Nguyễn Tuấn Anh - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh đã chủ trì hội nghị đánh giá tình hình triển khai các dự án nguồn điện theo Điều chỉnh Quy hoạch điện VIII và Điều chỉnh Quy hoạch tỉnh Lào Cai thời kỳ 2021 - 2030, tầm nhìn đến năm 2050.

Thu “trái ngọt” từ cần cù lao động

Thu “trái ngọt” từ cần cù lao động

Từ chỗ sản xuất phụ thuộc nhiều vào cây lúa truyền thống, bà Hoàng Thị Inh - tổ dân phố Năm Hăn Thượng, phường Trung Tâm đã mạnh dạn chuyển đổi đất lúa sang trồng dưa hấu và thu “trái ngọt” từ chăm chỉ, cần cù lao động trên ruộng đồng.

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Từ một thôn vùng cao còn nhiều khó khăn của xã Mường Khương, thôn Lùng Húi đang từng bước thay đổi diện mạo nhờ chuyển đổi cơ cấu cây trồng theo hướng hàng hóa. Chè và ớt - những cây trồng phù hợp với điều kiện khí hậu, thổ nhưỡng đang mở ra hướng phát triển mới, góp phần nâng cao thu nhập, hướng tới giảm nghèo bền vững cho người dân.

Gần dân, sát việc, củng cố niềm tin

Gần dân, sát việc, củng cố niềm tin

Với phương châm “gần dân, sát việc, vì dân phục vụ”, thời gian qua, xã Văn Chấn đã chủ động bám nắm địa bàn, kịp thời tháo gỡ khó khăn, đưa các nghị quyết vào cuộc sống bằng những giải pháp thiết thực. Qua đó, nhiều chính sách hỗ trợ phát triển sản xuất, nâng cao thu nhập cho người dân được triển khai hiệu quả, góp phần thúc đẩy phát triển kinh tế - xã hội và củng cố niềm tin của Nhân dân.

Để sản phẩm OCOP thúc đẩy kinh tế nông thôn

Để sản phẩm OCOP thúc đẩy kinh tế nông thôn

Sau gần 10 năm triển khai Chương trình “Mỗi xã một sản phẩm” (OCOP), Lào Cai đã đạt được những kết quả quan trọng. Tuy nhiên, phía sau sự tăng cao về số lượng sản phẩm thì vấn đề đang đặt ra là làm thế nào để sản phẩm OCOP mang lại hiệu quả kinh tế thực thụ và giá trị bền vững cho người nông dân, thúc đẩy phát triển kinh tế nông thôn.

Cửa khẩu Kim Thành thông quan thông suốt dịp nghỉ lễ, không để ùn ứ hàng hóa

Cửa khẩu Kim Thành thông quan thông suốt dịp nghỉ lễ, không để ùn ứ hàng hóa

Trong các ngày nghỉ lễ từ 30/4 đến 02/5, hoạt động xuất nhập khẩu hàng hóa tại các cửa khẩu đường bộ phía Bắc diễn ra liên tục, không bị gián đoạn. Tại Cửa khẩu Quốc tế đường bộ số II Kim Thành (Lào Cai), hoạt động thông quan được duy trì ổn định, không phát sinh ách tắc hàng hóa.

Tháo gỡ "điểm nghẽn", quyết tâm cho mục tiêu tăng trưởng hai con số

Tháo gỡ "điểm nghẽn", quyết tâm cho mục tiêu tăng trưởng hai con số

Trong mục tiêu phát triển kinh tế - xã hội những năm tới, tỉnh Lào Cai xác định phấn đấu đạt tốc độ tăng trưởng hai con số, trong đó công nghiệp khai thác, chế biến khoáng sản tiếp tục giữ vai trò trụ cột. Tuy nhiên, qua rà soát thực tế tại các doanh nghiệp cho thấy, giải phóng mặt bằng đang là "điểm nghẽn" lớn, ảnh hưởng trực tiếp đến tiến độ đầu tư và sản xuất.

Thúc đẩy chuyển đổi số, thương mại điện tử xuyên biên giới

Thúc đẩy chuyển đổi số, thương mại điện tử xuyên biên giới

Phát huy lợi thế cửa khẩu quốc tế, tỉnh Lào Cai đang từng bước đẩy mạnh ứng dụng công nghệ số, phát triển thương mại điện tử xuyên biên giới gắn với logistics hiện đại nhằm mở rộng thị trường, đặc biệt là thị trường Trung Quốc. Hướng đi này không chỉ phù hợp với xu thế chuyển đổi số mà còn góp phần nâng cao giá trị sản phẩm, tăng hiệu quả xuất - nhập khẩu và tạo động lực tăng trưởng bền vững cho địa phương.

Hành trình làm chủ hợp tác xã

Hành trình làm chủ hợp tác xã

Trên địa bàn tỉnh, nhiều nông dân đã nỗ lực vượt qua khó khăn, trở thành giám đốc hợp tác xã, vừa làm giàu cho gia đình, vừa giúp những nông dân khác vươn lên.

Khí thế thi đua trên các công trình trọng điểm

Khí thế thi đua trên các công trình trọng điểm

Những ngày này, trên khắp các công trình xây dựng trọng điểm của tỉnh, không khí thi công diễn ra sôi động. Từ vùng thấp đến vùng cao, biên giới; từ công trình giao thông đến dự án giáo dục, đâu đâu cũng rộn tiếng máy, tiếng xe, thể hiện tinh thần lao động hăng say, quyết tâm vượt khó, đẩy nhanh tiến độ để sớm đưa công trình vào khai thác, phục vụ phát triển kinh tế - xã hội địa phương.

Giúp người lao động an cư

Giúp người lao động an cư

Cùng với sự phát triển của các khu - cụm công nghiệp, số lượng công nhân, người lao động trên địa bàn tỉnh ngày càng tăng, kéo theo nhu cầu lớn về nhà ở ổn định. Vì vậy, quan tâm hỗ trợ nhà ở cho công nhân, người lao động đang là yêu cầu cấp thiết, góp phần bảo đảm an sinh xã hội trên địa bàn.

Khơi nguồn nước - gieo niềm hy vọng

Khơi nguồn nước - gieo niềm hy vọng

Những ngày cuối tháng 4, dưới cái nắng hanh hao của vùng cao Lào Cai, các thửa ruộng bậc thang bắt đầu được dẫn nước để chuẩn bị bước vào vụ sản xuất Hè Thu. Với đồng bào các dân tộc nơi đây, sản xuất không chỉ là một khung thời vụ trong năm,  mà còn gắn liền với "cuộc chiến" bảo đảm sinh kế và an ninh lương thực.

fb yt zl tw