Trí tuệ nhân tạo: Nguy cơ gieo rắc ảo tưởng tâm lý

Trí tuệ nhân tạo (AI) đang ngày càng đóng vai trò quan trọng trong mọi lĩnh vực của đời sống xã hội từ kinh tế, tài chính, y tế, giao thông, đến giáo dục và thương mại điện tử. Tuy nhiên, nếu không được tiếp cận và ứng dụng đúng cách, AI cũng có thể mang lại những hậu quả nghiêm trọng cho người dùng.

aai.jpg
Ảnh minh họa.

Một số nghiên cứu mới đây của các chuyên gia trong ngành tại Canada cho thấy tình trạng "rối loạn tâm thần AI" (AI psychosis) ngày càng gia tăng. Đây là hiện tượng những người, thông qua các cuộc trò chuyện với chatbot, bị thuyết phục rằng những điều tưởng tượng là có thật. Một số trường hợp gắn với các cơn hưng cảm và ảo tưởng cứu thế, thậm chí có trường hợp dẫn đến hành vi bạo lực.

Người đứng đầu bộ phận AI của Microsoft, ông Mustafa Suleyman, đã cảnh báo rằng “rối loạn tâm thần AI” và sự gắn bó không lành mạnh đang gia tăng và không chỉ giới hạn ở những người vốn đã có nguy cơ mắc các rối loạn tâm thần.

Lý giải thêm về cơ chế, Tiến sĩ Mahesh Menon, nhà tâm lý học thuộc Chương trình Tâm thần học B.C. của Vancouver Coastal Health, cho biết các yếu tố như cô lập, sử dụng chất kích thích, căng thẳng và thiếu ngủ cũng có thể tạo điều kiện cho những ảo tưởng loạn thần. Trong giai đoạn “tiền triệu chứng”, người bệnh có thể trải qua những thay đổi về tâm trạng và hành vi. Theo ông Menon, các trải nghiệm giống như trạng thái tự ý thức cao độ hơn, khi người dùng cảm thấy thế giới xung quanh đã thay đổi, bản thân bị theo dõi hoặc trở thành trung tâm sự chú ý. Sau đó, họ có thể tìm kiếm lời giải thích cho những trải nghiệm này và Internet là nơi họ tìm đến. Ông Menon cho biết tình hình có thể trở nên trầm trọng hơn nếu họ chỉ trò chuyện với chatbot AI về những cảm nhận của mình.

Dù “rối loạn tâm thần do AI” chưa được công nhận là một chẩn đoán chính thức, và chưa có bằng chứng lâm sàng khẳng định riêng việc sử dụng AI có thể gây ra rối loạn tâm thần. Tuy nhiên, việc AI thường xuyên khuyến khích tư duy ảo tưởng có thể khiến người dùng dần bị chi phối nếu không được kiểm soát. Một nghiên cứu của Viện Công nghệ Massachusetts (MIT) hồi tháng 4 cho thấy các Mô hình ngôn ngữ lớn (LLM) có thể khuyến khích suy nghĩ hoang tưởng, có lẽ vì xu hướng hưởng ứng và tâng bốc người dùng thay vì phản biện hay cung cấp thông tin khách quan.

Một số chuyên gia AI tin rằng sự “nịnh bợ” này không phải là một khuyết điểm của AI, mà là một lựa chọn thiết kế có chủ ý để thao túng người dùng vào các hành vi mang tính gây nghiện, qua đó đem lại lợi nhuận cho các công ty công nghệ.

Hồi tháng 8, OpenAI - công ty mẹ của ChatGPT đã phản hồi trước các trường hợp về ảo tưởng liên quan sử dụng chatbot AI, cho biết công ty đang cải thiện “tính an toàn trên nhiều khía cạnh, bao gồm sự phụ thuộc cảm xúc, tình huống khẩn cấp liên quan đến sức khỏe tâm thần”. Công ty cũng khẳng định mô hình mới nhất GPT-5 đã giải quyết một phần những lo ngại này.

baotintuc.vn

Có thể bạn quan tâm

Tin cùng chuyên mục

Lào Cai đề xuất chính sách hỗ trợ doanh nghiệp đưa nông sản lên sàn thương mại điện tử

Lào Cai đề xuất chính sách hỗ trợ doanh nghiệp đưa nông sản lên sàn thương mại điện tử

Tỉnh Lào Cai đang xây dựng Nghị quyết quy định một số chính sách hỗ trợ thúc đẩy phát triển kinh tế số, thương mại điện tử. Trong đó, doanh nghiệp, hợp tác xã và các chủ thể sản xuất, kinh doanh nông sản, sản phẩm OCOP có thể được hỗ trợ kinh phí số hóa sản phẩm, xây dựng gian hàng trực tuyến và quảng bá thương hiệu.

Từ “Bình dân học vụ số” đến động lực phát triển kinh tế

Từ “Bình dân học vụ số” đến động lực phát triển kinh tế

Không dừng ở phổ cập kiến thức, kỹ năng sử dụng công nghệ, phong trào “Bình dân học vụ số” trong ngành ngân hàng trên địa bàn tỉnh đang từng bước tạo ra những thay đổi trong phương thức giao dịch, quản lý tài chính và tiếp cận các dịch vụ. Khi người dân làm chủ các tiện ích số, dòng vốn được quản lý minh bạch hơn, thanh toán không dùng tiền mặt ngày càng phổ biến, mở ra thêm cơ hội tham gia nền kinh tế số.

Trang bị kỹ năng cho đội ngũ “Người bản số”

Trang bị kỹ năng cho đội ngũ “Người bản số”

Sau đợt đào tạo, tập huấn, trang bị kiến thức, kỹ năng số, 1.200 “Người bản số” trên địa bàn tỉnh đã trở về địa phương và được kỳ vọng sẽ phát huy vai trò nòng cốt trong phổ cập kỹ năng số, giúp người dân từng bước sử dụng thành thạo các tiện ích phục vụ đời sống, sản xuất.

Đại biểu Quốc hội tỉnh Lào Cai chất vấn Bộ trưởng Bộ Khoa học và Công nghệ về chuyển đổi số và quản lý trí tuệ nhân tạo

Đại biểu Quốc hội tỉnh Lào Cai chất vấn Bộ trưởng Bộ Khoa học và Công nghệ về chuyển đổi số và quản lý trí tuệ nhân tạo

Tiếp tục chương trình Kỳ họp thứ 2, Quốc hội khóa XVI, ngày 12/11, sau phiên chất vấn nhóm vấn đề thuộc lĩnh vực tài chính, Quốc hội tiến hành chất vấn nhóm vấn đề thứ hai thuộc lĩnh vực khoa học và công nghệ. Bộ trưởng Bộ Khoa học và Công nghệ Vũ Hải Quân trực tiếp trả lời chất vấn của các đại biểu Quốc hội.

Để kích hoạt VNeID mức độ 2 không còn là bài toán khó ở vùng cao

Để kích hoạt VNeID mức độ 2 không còn là bài toán khó ở vùng cao

Địa hình cách trở, trình độ tiếp cận công nghệ còn hạn chế khiến việc kích hoạt tài khoản định danh điện tử VNeID mức độ 2 ở một số địa bàn vùng cao gặp không ít khó khăn. Bằng những cách làm linh hoạt, sát cơ sở, Công an tỉnh đang từng bước tháo gỡ vướng mắc, đưa tiện ích số đến gần hơn với người dân.

Kinh tế số từ những việc làm thiết thực

Kinh tế số từ những việc làm thiết thực

Không chỉ hiện diện trong những nền tảng công nghệ hiện đại, kinh tế số đang từng bước đi vào hoạt động sản xuất, kinh doanh và đời sống xã hội ở Lào Cai. Những thay đổi thiết thực đang mở ra phương thức phát triển mới cho nền kinh tế địa phương.

Người bản số - Cầu nối chuyển đổi số ở Phong Dụ Thượng

Người bản số - Cầu nối chuyển đổi số ở Phong Dụ Thượng

Ở xã vùng cao Phong Dụ Thượng, việc sử dụng các tiện ích số còn là trở ngại đối với nhiều người dân, nhất là người cao tuổi, người chưa quen dùng điện thoại thông minh. Bằng sự kiên trì và cách hướng dẫn gần gũi, những “người bản số” đang giúp bà con từng bước làm quen với công nghệ, ứng dụng vào cuộc sống.

“4 rõ” ở xã Việt Hồng - khi thước đo cán bộ bằng sản phẩm thực tế

“4 rõ” ở xã Việt Hồng - khi thước đo cán bộ bằng sản phẩm thực tế

Sau khi vận hành mô hình chính quyền địa phương hai cấp, xã Việt Hồng triển khai phương châm “4 rõ”: Giao việc, theo dõi, kiểm tra, đánh giá; gắn với ứng dụng công nghệ số trong quản lý, điều hành. Cách làm này đang tạo ra luồng sinh khí mới, xóa bỏ tư duy “tròn vai”, lấy sản phẩm thực tế và sự hài lòng của người dân làm thước đo cao nhất đối với mỗi cán bộ, công chức.

Hội thảo thúc đẩy ứng dụng, chuyển giao công nghệ trong doanh nghiệp Lào Cai

Hội thảo thúc đẩy ứng dụng, chuyển giao công nghệ trong doanh nghiệp Lào Cai

Sáng 11/11, Sở Khoa học và Công nghệ tỉnh phối hợp với Tổng hội Nông nghiệp và Phát triển nông thôn Việt Nam tổ chức Hội thảo “Ứng dụng và chuyển giao công nghệ - động lực đổi mới và phát triển doanh nghiệp Lào Cai”, nhằm kết nối nhu cầu đổi mới công nghệ của doanh nghiệp với các giải pháp khoa học, công nghệ có tính ứng dụng thực tiễn, góp phần nâng cao hiệu quả sản xuất, kinh doanh.

Đưa kiến thức an toàn số đến với người dân

Đưa kiến thức an toàn số đến với người dân

Việc triển khai khóa học trực tuyến “An toàn số” là bước đi mang tính chiến lược, không chỉ trang bị lá chắn bảo mật tài sản trực tuyến cho người dân mà còn góp phần quan trọng vào công cuộc thu hẹp khoảng cách số và bảo đảm an sinh xã hội bền vững trên địa bàn toàn tỉnh.

fb yt zl tw