Tổ chức, doanh nghiệp có thể bị chatbot AI lừa làm nhiệm vụ có hại

Nhiều công ty sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot và công cụ đó sẽ thay thế những hoạt động tìm kiếm trên Internet, chăm sóc khách hàng và gọi điện chào mua hàng.

Nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot.

Các quan chức Anh cảnh báo các tổ chức cần thận trọng về việc tích hợp các chatbot sử dụng công nghệ Trí tuệ Nhân tạo (AI) vào hoạt động kinh doanh của họ.

Các nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa thực hiện các nhiệm vụ có hại.

Trong bài xuất bản hôm 30/8, Trung tâm An ninh Mạng Quốc gia Anh (NCSC) cho biết các chuyên gia vẫn chưa nắm bắt được các vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra các tương tác giống con người - được gọi là các mô hình ngôn ngữ lớn (LLM).

Hiện nhiều công ty đã sử dụng công cụ hỗ trợ tích hợp AI dưới dạng chatbot. Một số người hình dung những công cụ đó sẽ thay thế không chỉ các tìm kiếm trên Internet, mà còn cả những hoạt động khác như chăm sóc khách hàng và gọi điện chào mua hàng.

NCSC cho biết điều đó có thể mang tới rủi ro, đặc biệt nếu các mô hình như vậy được đưa vào những hoạt động khác mà tổ chức xử lý.

Các học giả và nhà nghiên cứu đã nhiều lần tìm ra cách làm biến chất các chatbot bằng cách đưa cho chúng những lệnh lừa đảo, hoặc đánh lừa chúng phá vỡ chính các rào chắn bảo vệ tích hợp sẵn của mình.

Ví dụ được đưa ra là một chatbot hỗ trợ AI do một ngân hàng triển khai có thể bị lừa thực hiện giao dịch trái phép, nếu tin tặc thiết lập cấu trúc truy vấn đúng cách.

Trong bài đăng trên blog chính thức, NCSC cảnh báo các tổ chức đang xây dựng dịch vụ có sử dụng LLM cần phải cẩn thận ở mức độ tương tự như khi họ đang sử dụng sản phẩm đang trong quá trình thử nghiệm.

Theo NCSC, các tổ chức không nên để sản phẩm tích hợp AI đó tham gia thực hiện các giao dịch thay mặt khách hàng. Cơ quan này đồng thời hy vọng các tổ chức, doanh nghiệp không hoàn toàn tin tưởng vào sản phẩm đó và thái độ thận trọng tương tự cũng nên được áp dụng với các LLM.

Giới chức trách trên toàn thế giới đang vật lộn với sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Nhiều doanh nghiệp đang kết hợp ứng dụng trên vào một loạt dịch vụ, bao gồm bán hàng và chăm sóc khách hàng của mình.

Tuy nhiên, phía Mỹ và Canada cho biết họ đã ghi nhận việc giới tin tặc chấp nhận và nắm bắt công nghệ này.

VietnamPlus

Có thể bạn quan tâm

Tin cùng chuyên mục

Thu “trái ngọt” từ cần cù lao động

Thu “trái ngọt” từ cần cù lao động

Từ chỗ sản xuất phụ thuộc nhiều vào cây lúa truyền thống, bà Hoàng Thị Inh - tổ dân phố Năm Hăn Thượng, phường Trung Tâm đã mạnh dạn chuyển đổi đất lúa sang trồng dưa hấu và thu “trái ngọt” từ chăm chỉ, cần cù lao động trên ruộng đồng.

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Lùng Húi thoát nghèo từ chuyển đổi cây trồng

Từ một thôn vùng cao còn nhiều khó khăn của xã Mường Khương, thôn Lùng Húi đang từng bước thay đổi diện mạo nhờ chuyển đổi cơ cấu cây trồng theo hướng hàng hóa. Chè và ớt - những cây trồng phù hợp với điều kiện khí hậu, thổ nhưỡng đang mở ra hướng phát triển mới, góp phần nâng cao thu nhập, hướng tới giảm nghèo bền vững cho người dân.

Gần dân, sát việc, củng cố niềm tin

Gần dân, sát việc, củng cố niềm tin

Với phương châm “gần dân, sát việc, vì dân phục vụ”, thời gian qua, xã Văn Chấn đã chủ động bám nắm địa bàn, kịp thời tháo gỡ khó khăn, đưa các nghị quyết vào cuộc sống bằng những giải pháp thiết thực. Qua đó, nhiều chính sách hỗ trợ phát triển sản xuất, nâng cao thu nhập cho người dân được triển khai hiệu quả, góp phần thúc đẩy phát triển kinh tế - xã hội và củng cố niềm tin của Nhân dân.

Để sản phẩm OCOP thúc đẩy kinh tế nông thôn

Để sản phẩm OCOP thúc đẩy kinh tế nông thôn

Sau gần 10 năm triển khai Chương trình “Mỗi xã một sản phẩm” (OCOP), Lào Cai đã đạt được những kết quả quan trọng. Tuy nhiên, phía sau sự tăng cao về số lượng sản phẩm thì vấn đề đang đặt ra là làm thế nào để sản phẩm OCOP mang lại hiệu quả kinh tế thực thụ và giá trị bền vững cho người nông dân, thúc đẩy phát triển kinh tế nông thôn.

Cửa khẩu Kim Thành thông quan thông suốt dịp nghỉ lễ, không để ùn ứ hàng hóa

Cửa khẩu Kim Thành thông quan thông suốt dịp nghỉ lễ, không để ùn ứ hàng hóa

Trong các ngày nghỉ lễ từ 30/4 đến 02/5, hoạt động xuất nhập khẩu hàng hóa tại các cửa khẩu đường bộ phía Bắc diễn ra liên tục, không bị gián đoạn. Tại Cửa khẩu Quốc tế đường bộ số II Kim Thành (Lào Cai), hoạt động thông quan được duy trì ổn định, không phát sinh ách tắc hàng hóa.

Tháo gỡ "điểm nghẽn", quyết tâm cho mục tiêu tăng trưởng hai con số

Tháo gỡ "điểm nghẽn", quyết tâm cho mục tiêu tăng trưởng hai con số

Trong mục tiêu phát triển kinh tế - xã hội những năm tới, tỉnh Lào Cai xác định phấn đấu đạt tốc độ tăng trưởng hai con số, trong đó công nghiệp khai thác, chế biến khoáng sản tiếp tục giữ vai trò trụ cột. Tuy nhiên, qua rà soát thực tế tại các doanh nghiệp cho thấy, giải phóng mặt bằng đang là "điểm nghẽn" lớn, ảnh hưởng trực tiếp đến tiến độ đầu tư và sản xuất.

Thúc đẩy chuyển đổi số, thương mại điện tử xuyên biên giới

Thúc đẩy chuyển đổi số, thương mại điện tử xuyên biên giới

Phát huy lợi thế cửa khẩu quốc tế, tỉnh Lào Cai đang từng bước đẩy mạnh ứng dụng công nghệ số, phát triển thương mại điện tử xuyên biên giới gắn với logistics hiện đại nhằm mở rộng thị trường, đặc biệt là thị trường Trung Quốc. Hướng đi này không chỉ phù hợp với xu thế chuyển đổi số mà còn góp phần nâng cao giá trị sản phẩm, tăng hiệu quả xuất - nhập khẩu và tạo động lực tăng trưởng bền vững cho địa phương.

Hành trình làm chủ hợp tác xã

Hành trình làm chủ hợp tác xã

Trên địa bàn tỉnh, nhiều nông dân đã nỗ lực vượt qua khó khăn, trở thành giám đốc hợp tác xã, vừa làm giàu cho gia đình, vừa giúp những nông dân khác vươn lên.

Khí thế thi đua trên các công trình trọng điểm

Khí thế thi đua trên các công trình trọng điểm

Những ngày này, trên khắp các công trình xây dựng trọng điểm của tỉnh, không khí thi công diễn ra sôi động. Từ vùng thấp đến vùng cao, biên giới; từ công trình giao thông đến dự án giáo dục, đâu đâu cũng rộn tiếng máy, tiếng xe, thể hiện tinh thần lao động hăng say, quyết tâm vượt khó, đẩy nhanh tiến độ để sớm đưa công trình vào khai thác, phục vụ phát triển kinh tế - xã hội địa phương.

Giúp người lao động an cư

Giúp người lao động an cư

Cùng với sự phát triển của các khu - cụm công nghiệp, số lượng công nhân, người lao động trên địa bàn tỉnh ngày càng tăng, kéo theo nhu cầu lớn về nhà ở ổn định. Vì vậy, quan tâm hỗ trợ nhà ở cho công nhân, người lao động đang là yêu cầu cấp thiết, góp phần bảo đảm an sinh xã hội trên địa bàn.

Khơi nguồn nước - gieo niềm hy vọng

Khơi nguồn nước - gieo niềm hy vọng

Những ngày cuối tháng 4, dưới cái nắng hanh hao của vùng cao Lào Cai, các thửa ruộng bậc thang bắt đầu được dẫn nước để chuẩn bị bước vào vụ sản xuất Hè Thu. Với đồng bào các dân tộc nơi đây, sản xuất không chỉ là một khung thời vụ trong năm,  mà còn gắn liền với "cuộc chiến" bảo đảm sinh kế và an ninh lương thực.

Xuyên lễ giữ nhịp thi công, sản xuất

Xuyên lễ giữ nhịp thi công, sản xuất

Kỳ nghỉ lễ 30/4 - 01/5 là dịp để nhiều người nghỉ ngơi, sum họp sau những ngày làm việc miệt mài. Thế nhưng, tại nhiều công trình xây dựng, nhà máy, không khí lao động vẫn diễn ra khẩn trương, sôi động. Hàng trăm công nhân vẫn miệt mài bám công trường, bám dây chuyền sản xuất, nỗ lực giữ nhịp sản xuất, bảo đảm tiến độ công việc, góp phần hoàn thành mục tiêu phát triển của doanh nghiệp và địa phương.

Viết trang sử mới dưới dãy Hoàng Liên

Viết trang sử mới dưới dãy Hoàng Liên

Sau giải phóng miền Nam, thống nhất đất nước, Đảng bộ, chính quyền và Nhân dân các dân tộc Lào Cai đã đi qua hành trình nhiều gian khó để vươn lên. Từ một tỉnh biên giới với xuất phát điểm thấp, hạ tầng thiếu đồng bộ, Lào Cai hôm nay đang từng bước khẳng định vai trò là “cực tăng trưởng” của vùng trung du và miền núi phía Bắc, viết tiếp “trang sử mới” dưới dãy Hoàng Liên Sơn.

Tập trung nguồn lực xây dựng cửa khẩu thông minh

Tập trung nguồn lực xây dựng cửa khẩu thông minh

Ngày 18/3, Thủ tướng Chính phủ ban hành Quyết định 453/QĐ-TTg phê duyệt Đề án xây dựng cửa khẩu thông minh tại Cửa khẩu Quốc tế Lào Cai. Đây được xem là bước đi chiến lược nhằm hiện đại hóa hoạt động xuất - nhập khẩu. Tuy nhiên, để hiện thực hóa mục tiêu này, bài toán đặt ra là phải tập trung nguồn lực đồng bộ từ hạ tầng, công nghệ đến con người và cơ chế vận hành.

fb yt zl tw