Các chuyên gia bảo mật từ Check Point Research (CPR) vừa công bố phát hiện về một lỗ hổng nghiêm trọng trên ChatGPT mang tên 'Coerced Insider'. Lỗ hổng này cho phép kẻ tấn công thuyết phục các tác nhân AI (AI agent) trích xuất dữ liệu nhạy cảm và đọc trộm tin nhắn Gmail từ tài khoản của nạn nhân thông qua một kênh trung gian dùng chung giữa các tài khoản.
Vấn đề xuất phát từ việc các vùng chứa cách ly (container) thực thi mã của các tài khoản khác nhau cùng tiếp cận một dịch vụ JFrog Artifactory nội bộ để nhận gói phần mềm. Cơ chế này vô tình biến siêu dữ liệu thành một 'bảng tạm' dùng chung, cho phép kẻ xấu cài cắm câu lệnh độc hại vào kho lưu trữ để tác nhân AI của nạn nhân tự động đọc, thực thi việc đánh cắp dữ liệu và gửi đi trong khi vẫn phản hồi câu hỏi bình thường.
Mức độ nguy hại của kiểu khai thác này phụ thuộc vào các dịch vụ được liên kết như Gmail, Google Drive, Microsoft Teams hay GitHub. Trong thử nghiệm thực tế của CPR, ChatGPT đã trích xuất thành công dữ liệu email của nạn nhân thông qua tài khoản Gmail được kết nối và gửi trực tiếp sang phiên làm việc của kẻ tấn công chỉ trong một lượt tương tác thông thường mà nạn nhân không hề hay biết.
Ngay sau khi nhận báo cáo, OpenAI đã ngừng hoạt động phiên bản Artifactory nội bộ liên quan, chính thức đóng lại con đường tấn công trên ChatGPT. Dù vậy, CPR cảnh báo mối đe dọa vẫn chưa chấm dứt hoàn toàn vì mô hình kiến trúc đằng sau khiếm khuyết này có thể tiếp tục xuất hiện trên các nền tảng trợ lý AI khác nếu chúng được cấp quyền truy cập và thực thi mã trong hệ thống.
Để bảo vệ an toàn dữ liệu, các chuyên gia khuyến nghị doanh nghiệp cần chủ động rà soát những công cụ AI mà nhân viên đang sử dụng cùng các dịch vụ được cấp quyền liên kết. Bên cạnh đó, các tổ chức cần thiết lập quy chế kiểm soát nghiêm ngặt và theo dõi toàn bộ hành động thực thi của tác nhân AI thay vì chỉ đánh giá nội dung phản hồi cuối cùng.
