Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Chuyển đổi số - "đòn bẩy" để hình thành hệ sinh thái du lịch thông minh

Chuyển đổi số - "đòn bẩy" để hình thành hệ sinh thái du lịch thông minh

Trước sức bật từ sự phục hồi mạnh mẽ sau dịch Covid-19 cùng sức ép cạnh tranh với các điểm đến trong khu vực, ngành du lịch Việt Nam đang đứng trước giai đoạn phát triển mới, nơi công nghệ số đóng vai trò là "đòn bẩy" để đổi mới cách thức quản lý, kinh doanh và phục vụ du khách. Qua đó, đưa du lịch ngày càng phát triển bền vững.

"Chìa khóa" thu hẹp khoảng cách số

"Chìa khóa" thu hẹp khoảng cách số

Phong trào “Bình dân học vụ số” tại Lào Cai đang tạo chuyển biến rõ rệt, giúp người dân và đội ngũ cán bộ cơ sở từng bước làm chủ công nghệ, nâng cao năng lực số, thích ứng với yêu cầu quản lý và phục vụ trong thời đại chuyển đổi số.

Mua sắm Tết online

Mua sắm Tết online

Những ngày giáp Tết Nguyên đán Bính Ngọ 2026, khi nhịp sống cuối năm trở nên hối hả, không khí mua sắm trên địa bàn tỉnh Lào Cai cũng bước vào cao điểm. Bên cạnh hình ảnh quen thuộc tại các chợ truyền thống, siêu thị, cửa hàng, một “chợ Tết” khác đang hình thành ngay trên không gian số.

Bản Lầu đẩy mạnh công nghệ số phục vụ người dân

Bản Lầu đẩy mạnh công nghệ số phục vụ người dân

Sau khi sáp nhập từ ba đơn vị hành chính cũ, xã biên giới Bản Lầu, tỉnh Lào Cai phải đối mặt với bài toán quản lý trên địa bàn rộng, dân số đông và điều kiện tự nhiên phức tạp. Để khắc phục khó khăn, địa phương lựa chọn chuyển đổi số làm khâu đột phá, từng bước đưa công nghệ vào thực tiễn quản lý, điều hành và phục vụ đời sống Nhân dân, góp phần hiện đại hóa nền hành chính công ở cơ sở.

Nâng cao tỷ lệ người dân sử dụng ứng dụng định danh điện tử VNeID mức độ 2

Nâng cao tỷ lệ người dân sử dụng ứng dụng định danh điện tử VNeID mức độ 2

Định danh điện tử VNeID mức độ 2 đang từng bước trở thành “chìa khóa số” quen thuộc trong đời sống người dân Lào Cai. Để hoàn thành mục tiêu đến năm 2026 có 90% người trưởng thành sở hữu tài khoản định danh điện tử mức độ 2, công an các địa phương trên địa bàn tỉnh đã và đang triển khai nhiều giải pháp đồng bộ.

Chuyển đổi số trong hoạt động chuyên môn và quản lý

Tòa án nhân dân khu vực 1 - Lào Cai: Chuyển đổi số trong hoạt động chuyên môn và quản lý

Thời gian qua, dưới sự lãnh đạo, chỉ đạo của Tòa án nhân dân tối cao và Tòa án nhân dân tỉnh Lào Cai, công tác chuyển đổi số trong hệ thống Tòa án nhân dân nói chung và tại Tòa án nhân dân khu vực 1 - Lào Cai nói riêng đã đạt được nhiều kết quả tích cực, tạo chuyển biến rõ nét trong hoạt động chuyên môn và quản lý.

Khoa học mở lối cho nông nghiệp Lào Cai

Khoa học mở lối cho nông nghiệp Lào Cai

Với sự đồng hành của khoa học công nghệ cùng tinh thần đổi mới, sáng tạo của nông dân, Lào Cai đang từng bước hiện thực hóa mục tiêu xây dựng nền nông nghiệp xanh, sạch, bền vững - vừa làm giàu cho người dân, vừa giữ gìn cảnh quan, môi trường và bản sắc.

Nhà nông "bén duyên" với công nghệ số

Nhà nông "bén duyên" với công nghệ số

Từ sản xuất manh mún, phụ thuộc vào thương lái, nhiều nhà nông trên địa bàn tỉnh đã từng bước làm quen, rồi “bén duyên” với công nghệ số để tổ chức lại sản xuất, mở rộng thị trường tiêu thụ. Việc ứng dụng công nghệ số từ khâu sản xuất, tiêu thụ đến thanh toán không chỉ giúp nâng cao giá trị nông sản, ổn định đầu ra mà còn hình thành tư duy làm kinh tế nông nghiệp hiện đại, thích ứng với cơ chế thị trường.

fb yt zl tw