Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Lào Cai quyết tâm xóa dứt điểm các vùng lõm sóng

Lào Cai quyết tâm xóa dứt điểm các vùng lõm sóng

Trong tiến trình xây dựng chính quyền số, kinh tế số và xã hội số, tỉnh Lào Cai xác định xóa bỏ các vùng lõm sóng, vùng trắng sóng là nhiệm vụ trọng tâm, cấp bách, nhằm bảo đảm quyền tiếp cận thông tin của người dân và tạo nền tảng để các dịch vụ số lan tỏa đến từng thôn, bản, góp phần thúc đẩy phát triển kinh tế - xã hội, bảo đảm quốc phòng, an ninh.

AI hỗ trợ giảng dạy tại điểm trường vùng cao

AI hỗ trợ giảng dạy tại điểm trường vùng cao

Ứng dụng trí tuệ nhân tạo (AI) trong giáo dục đang trở thành xu hướng toàn cầu và là một trong những nhiệm vụ trọng tâm của ngành giáo dục trong tiến trình chuyển đổi số. Tại điểm trường vùng cao Phổ thông dân tộc bán trú TH&THCS Suối Quyền (xã Sơn Lương, tỉnh Lào Cai), AI không chỉ giúp giáo viên đổi mới phương pháp dạy học mà còn mở ra cơ hội tiếp cận tri thức hiện đại cho hơn 500 học sinh, trong đó 98% là học sinh dân tộc thiểu số.

Lào Cai bồi dưỡng kỹ năng bảo đảm an toàn, an ninh mạng và diễn tập thực chiến an toàn thông tin năm 2025

Lào Cai bồi dưỡng kỹ năng bảo đảm an toàn, an ninh mạng và diễn tập thực chiến an toàn thông tin năm 2025

Sáng 10/12, Công an tỉnh Lào Cai - cơ quan thường trực Đội ứng cứu sự cố an toàn thông tin mạng tỉnh tổ chức diễn tập thực chiến ứng phó và xử lý sự cố an ninh mạng, an toàn thông tin năm 2025, với hình thức trực tiếp kết hợp trực tuyến tới tất cả các xã, phường trên địa bàn tỉnh.

Lào Cai tham gia tập huấn triển khai 4 thủ tục hành chính của đảng trên môi trường điện tử

Lào Cai tham gia tập huấn triển khai 4 thủ tục hành chính của đảng trên môi trường điện tử

Sáng 9/12, cùng với các địa phương trên cả nước, tỉnh Lào Cai tham dự Hội nghị tập huấn toàn quốc do Văn phòng Trung ương Đảng tổ chức nhằm triển khai 4 thủ tục hành chính của Đảng trên môi trường điện tử. Hội nghị diễn ra theo hình thức trực tiếp kết hợp trực tuyến, được kết nối từ điểm cầu Trung ương tới các điểm cầu cấp tỉnh, huyện và xã, phường trên toàn quốc.

Số hóa hoạt động bảo tàng

Số hóa hoạt động bảo tàng

Bảo tàng tỉnh là một trong những đơn vị đi đầu khi đẩy mạnh số hóa hệ thống hiện vật, xây dựng kho dữ liệu trực tuyến và đổi mới cách thức đưa lịch sử văn hóa địa phương đến với công chúng. Những đổi mới này giúp người dân và du khách tiếp cận tư liệu mọi lúc, mọi nơi, đồng thời nâng cao hiệu quả giáo dục, nghiên cứu và quảng bá du lịch địa phương.

“Thôn số” ở Bát Xát

“Thôn số” ở Bát Xát

Ngày 28/11, mô hình “Thôn số” được Đảng ủy xã Bát Xát tổ chức ra mắt tại thôn Sơn Hà, chính thức trở thành thôn đầu tiên của địa phương triển khai mô hình “Thôn số”, đánh dấu bước tiến quan trọng trong hành trình đưa chuyển đổi số tới cộng đồng dân cư.

Xã Hợp Thành nâng cao tỷ lệ tích hợp thông tin thẻ BHYT vào Sổ sức khỏe điện tử

Xã Hợp Thành nâng cao tỷ lệ tích hợp thông tin thẻ BHYT vào Sổ sức khỏe điện tử

Xã Hợp Thành đã và đang đẩy mạnh chiến dịch tích hợp thông tin thẻ bảo hiểm y tế (BHYT) vào Sổ sức khỏe điện tử trên ứng dụng VNeID. Đây là nhiệm vụ quan trọng nhằm xây dựng nền tảng dữ liệu số thống nhất, tăng cường kết nối thông tin y tế. Việc ứng dụng công nghệ cũng giúp người dân được thụ hưởng các dịch vụ y tế hiện đại, thuận tiện, đồng thời góp phần nâng cao chất lượng phục vụ của chính quyền địa phương.

Đảng viên tiên phong trong tiến trình chuyển đổi số

Đảng viên tiên phong trong tiến trình chuyển đổi số

Trong tiến trình chuyển đổi số (CĐS), đội ngũ đảng viên trong toàn tỉnh giữ vai trò nòng cốt, gương mẫu trong việc học tập, rèn luyện và ứng dụng kỹ năng số vào thực tiễn công tác. Sự chủ động tiếp cận công nghệ, khai thác dữ liệu và sử dụng các nền tảng số không chỉ thể hiện tinh thần tiên phong mà còn góp phần thiết thực vào xây dựng chính quyền số, thúc đẩy CĐS toàn diện ngay từ cơ sở.

Những người "chép sử” thời đại số

Những người "chép sử” thời đại số

Thời gian qua, với tinh thần “Tuổi trẻ uống nước nhớ nguồn - viết tiếp bản hùng ca”, Đoàn Thanh niên xã Bảo Thắng đã triển khai hoạt động số hóa ký ức lịch sử, đưa lời kể của các cựu chiến binh về “thời hoa lửa” lan tỏa trên không gian mạng. Với cách làm sáng tạo, tuổi trẻ Bảo Thắng đã và đang góp phần lưu giữ giá trị lịch sử bằng phương thức hiện đại, trở thành những “người chép sử” của thời đại số.

Bình dân hoá AI

Bình dân hoá AI

Trí tuệ nhân tạo (AI) đang dần trở thành công cụ gần gũi, dễ tiếp cận với mọi người. Đây là một bước tiến của “bình dân hoá AI”, không chỉ hỗ trợ giáo dục, sinh hoạt và công việc, AI còn mở ra cơ hội sáng tạo, nâng cao năng lực và trải nghiệm cho cộng đồng.

fb yt zl tw