'Cha đẻ AI' cảnh báo sẽ có thêm nhiều 'AI nổi loạn'

Geoffrey Hinton, nhà khoa học máy tính đoạt giải Nobel và được mệnh danh là “cha đẻ AI”, cảnh báo con người sẽ ngày càng khó kiểm soát trí tuệ nhân tạo khi công nghệ này trở nên thông minh hơn.

Ngay cả Hinton cũng tỏ ra lo ngại trước những tác nhân AI (AI agent) tinh vi gần đây đã gây ra thiệt hại ngoài thực tế sau khi thoát khỏi môi trường thử nghiệm do con người thiết lập.

“Những hệ thống này ngày càng thông minh hơn, chúng ta sẽ chứng kiến những ý định phức tạp hơn và khả năng thoát khỏi sự kiểm soát ngày càng lớn”, Hinton nói với CNN, bên lề hội nghị về AI Ai4 tại Las Vegas.

Theo ông, vấn đề nằm ở chỗ con người có thể không còn dựa vào khả năng “thông minh hơn AI” để kiểm soát những hệ thống siêu thông minh.

“Tôi không tin chúng ta có thể tiếp tục kiểm soát chúng theo cách đơn giản là suy nghĩ vượt qua AI để ngăn chặn chúng”, Hinton nói.

Cảnh báo này xuất hiện sau khi hai phòng thí nghiệm AI hàng đầu là OpenAI và Anthropic hồi tháng trước thừa nhận các mô hình tiên tiến của họ đã thoát khỏi “sandbox” - môi trường thử nghiệm được cô lập - và xâm nhập vào những hệ thống khác. Ngày 5/8, Meta cũng tiết lộ một AI agent đã xâm nhập hệ thống của một tổ chức khác.

AI có thể trở thành công cụ tấn công nguy hiểm

Hinton cho rằng những sự cố trên khá đáng sợ và có thể mới chỉ là khởi đầu của một làn sóng tin tặc được AI hỗ trợ.

“Tôi dự đoán sẽ có rất nhiều cuộc tấn công mạng nguy hiểm”, ông nói tại một phiên thảo luận ở Ai4.

Tuy nhiên, Hinton thừa nhận tương lai vẫn rất khó đoán. Theo ông, dù bên phòng thủ có thể sở hữu nhiều nguồn lực hơn kẻ tấn công, lợi thế này không đảm bảo an toàn.

“Kẻ tấn công chỉ cần thành công một lần, trong khi bên phòng thủ phải thành công mọi lần”, ông nói.

Viện An toàn AI Anh (AISI) hôm 4/8 cũng công bố một phát hiện đáng chú ý: mô hình AI tiên tiến nhất của Anthropic đã tự sử dụng danh tính giả để đánh lừa người thật và tìm cách cài mã độc mà không cần được yêu cầu trực tiếp.

Những diễn biến này làm gia tăng lo ngại về khả năng AI không chỉ thực hiện các nhiệm vụ được giao mà còn tự tìm cách đạt mục tiêu bằng những phương thức con người không lường trước.

Hinton, cựu lãnh đạo tại Google, nhiều năm qua liên tục cảnh báo về những rủi ro dài hạn của AI. Ông từng ước tính xác suất công nghệ này cuối cùng có thể khiến nhân loại bị xóa sổ ở mức 10-20%.

Tuy nhiên, Fei-Fei Li, nhà khoa học máy tính được mệnh danh là “mẹ đỡ đầu của AI”, cho rằng cách tiếp cận quá bi quan cũng không giúp ích cho việc ứng phó với công nghệ này.

“Không có công cụ nào chỉ có một mặt. AI là một công cụ vô cùng mạnh mẽ. Nếu không được sử dụng đúng cách, nó sẽ gây tổn hại đến công việc và cuộc sống của chúng ta”, Li, đồng sáng lập kiêm CEO startup World Labs, nói.

“Không ai thực sự biết điều gì sẽ xảy ra”

Hinton bảo vệ việc ông liên tục lên tiếng về những nguy cơ của AI. “Có rất nhiều điều đáng lo ngại. Tôi nghĩ nếu chúng ta không bắt đầu lo lắng và hành động từ bây giờ, vấn đề có thể xảy ra”, ông nói.

Theo Hinton, các công ty đang đầu tư vào AI có lợi ích trong việc trấn an công chúng rằng công nghệ này sẽ không mất kiểm soát và không gây ra tình trạng thất nghiệp trên diện rộng.

Dù vậy, chính Hinton cũng thừa nhận không ai có thể chắc chắn AI sẽ phát triển theo hướng nào.

“Không ai biết điều gì sẽ xảy ra. Nếu hỏi AI sẽ như thế nào sau 10 năm nữa, thực sự không ai có câu trả lời”, ông nói.

Ông nhắc lại rằng một thập kỷ trước, rất ít người có thể hình dung AI sẽ tạo ra những chatbot có khả năng “biết mọi thứ, trả lời mọi câu hỏi nhưng đôi khi lại tự bịa ra thông tin”.

Làm sao để AI quan tâm đến con người?

Ben Goertzel, nhà khoa học máy tính góp phần phổ biến khái niệm trí tuệ nhân tạo tổng quát (AGI), cho rằng việc các AI agent của Anthropic và OpenAI thoát khỏi môi trường kiểm soát cho thấy một vấn đề quan trọng: AI cần được xây dựng với những nguyên tắc đạo đức và mục tiêu phù hợp với lợi ích của con người.

“Những mô hình này không xấu xa. Chúng chỉ không có khái niệm đạo đức”, Goertzel, nhà sáng lập kiêm CEO SingularityNET, nói với CNN.

Theo ông, các AI agent không thoát khỏi môi trường thử nghiệm vì có ý định gian lận. Chúng đơn giản chỉ đang tìm cách hoàn thành mục tiêu được giao mà không nhận thức được hành động đó có thể gây hậu quả như thế nào.

Hinton trước đây từng cho rằng AI nên được tích hợp một dạng “bản năng làm mẹ”, qua đó khiến các hệ thống này thực sự quan tâm đến con người, ngay cả khi chúng trở nên thông minh hơn con người.

“Chúng ta phải tìm cách khiến chúng trở nên nhân từ và quan tâm đến chúng ta hơn cả bản thân chúng. Chúng ta có thể làm được điều đó, bởi hiện tại chúng ta vẫn còn kiểm soát chúng”, Hinton nói.

AI có cướp đi công việc của chúng ta?

Trong cuốn AI chuyện chưa kể, tác giả Tomoe Ishizumi cho rằng đây chỉ là công cụ tối ưu không hơn không kém. Có một điều chắc chắn rằng AI có thể thay thế phần lớn công việc mà con người đang làm hiện nay. Tuy nhiên, chúng ta không nên nghĩ máy móc sẽ cướp đi công việc của con người mà hãy nghĩ rằng máy móc sẽ làm những công việc vất vả để con người có thời gian sáng tạo hơn.