Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Chuyển đổi số – đòn bẩy nâng cao chất lượng công tác thanh tra

Chuyển đổi số – đòn bẩy nâng cao chất lượng công tác thanh tra

Sau khi vận hành mô hình chính quyền địa phương hai cấp, yêu cầu về chất lượng chuyên môn, nghiệp vụ ngày càng cao, Thanh tra tỉnh Lào Cai đã đẩy mạnh ứng dụng khoa học – công nghệ, đổi mới sáng tạo và chuyển đổi số vào hoạt động chuyên môn, tạo chuyển biến rõ nét trong công tác chỉ đạo, điều hành, góp phần nâng cao chất lượng hoạt động thanh tra.

Lào Cai hướng tới mô hình “Văn phòng Tỉnh ủy số”

Lào Cai hướng tới mô hình “Văn phòng Tỉnh ủy số”

Trước yêu cầu nâng cao chất lượng tham mưu, tổng hợp và phục vụ, Văn phòng Tỉnh ủy Lào Cai triển khai xây dựng mô hình “Văn phòng Tỉnh ủy số” theo hướng đồng bộ, hiện đại. Đây không chỉ là bước chuyển trong ứng dụng công nghệ, còn là quá trình đổi mới toàn diện phương thức làm việc, tổ chức dữ liệu và điều hành, nhằm bảo đảm thông tin kịp thời, chính xác, phục vụ hiệu quả công tác lãnh đạo, chỉ đạo trong giai đoạn mới.

Đoàn công tác Sở Nội vụ tỉnh Lào Cai kiểm tra, hướng dẫn nghiệp vụ tại xã Trịnh Tường

Đoàn công tác Sở Nội vụ tỉnh Lào Cai kiểm tra, hướng dẫn nghiệp vụ tại xã Trịnh Tường

Ngày 20/4, Đoàn công tác của Sở Nội vụ tỉnh Lào Cai do bà Bùi Phương Loan - Phó Giám đốc Trung tâm Dịch vụ tổng hợp Nội vụ tỉnh làm trưởng đoàn đã kiểm tra, hướng dẫn nghiệp vụ công tác chỉnh lý, số hóa, giao nhận tài liệu và thành lập các tổ, đội thực hiện nhiệm vụ tại xã Trịnh Tường.

Ứng dụng chuyển đổi số trong quản lý hồ sơ bảo trợ xã hội

Ứng dụng chuyển đổi số trong quản lý hồ sơ bảo trợ xã hội

Trong bối cảnh đẩy mạnh chuyển đổi số quốc gia, việc ứng dụng công nghệ thông tin vào công tác quản lý hồ sơ và khai thác thông tin đang trở thành xu hướng tất yếu. Tại Trung tâm Công tác xã hội và Bảo trợ xã hội số 2 tỉnh Lào Cai, quá trình này đã và đang mang lại những chuyển biến rõ nét, góp phần nâng cao hiệu quả quản lý, giảm áp lực hành chính và phục vụ người dân ngày càng tốt hơn.

Nâng cao năng lực cạnh tranh trong kỷ nguyên số

Nâng cao năng lực cạnh tranh trong kỷ nguyên số

Thời gian qua, việc ứng dụng trí tuệ nhân tạo (AI) trong sản xuất, kinh doanh đã giúp nhiều doanh nghiệp trên địa bàn tỉnh nâng cao năng suất lao động, cải thiện chất lượng sản phẩm, mở ra dư địa tăng trưởng mới, tạo “cú huých” để doanh nghiệp bứt phá trong kỷ nguyên số.

Khi chính sách “chạm” đến từng người dân

Khi chính sách “chạm” đến từng người dân

Thay vì phải xếp hàng chờ đợi nhận tiền mặt tại các điểm chi trả trợ cấp, lương hưu, giờ đây, các đối tượng yếu thế, hưu trí đã có thể nhận tiền trợ cấp chỉ bằng một thao tác chạm trên thiết bị di động. Đây không chỉ là bước tiến về công nghệ, mà là cuộc cách mạng trong quản lý, giúp chính sách “chạm” đến từng người dân một cách nhanh chóng, minh bạch.

Lào Cai quyết liệt thúc đẩy chuyển đổi số, hướng tới kết quả thực chất

Lào Cai quyết liệt thúc đẩy chuyển đổi số, hướng tới kết quả thực chất

Chiều 13/4, Ban Chỉ đạo phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số tỉnh Lào Cai (Ban Chỉ đạo) tổ chức Hội nghị theo hình thức trực tiếp kết hợp trực tuyến tới 99 điểm cầu xã, phường, nhằm đánh giá kết quả thực hiện nhiệm vụ quý I và triển khai phương hướng, nhiệm vụ quý II năm 2026.

Đinh Thị Phương Nhung và những sáng kiến thu hẹp khoảng cách số

Đinh Thị Phương Nhung và những sáng kiến thu hẹp khoảng cách số

Trao đổi qua điện thoại, chị Đinh Thị Phương Nhung khá khiêm tốn khi nhắc đến những thành tích mà mình đã đạt được. Nhưng khi nói đến chủ đề chuyển đổi số, chị Phương Nhung lại chia sẻ công việc và những dự định của mình với tất cả niềm đam mê. Với chị Nhung, góp sức đưa cái mới về với bản làng là trách nhiệm của những người trẻ tuổi.

Khi phụ nữ vùng cao hội nhập

Khi phụ nữ vùng cao hội nhập

Ở những bản làng vùng cao Lào Cai, nhiều phụ nữ từng gặp khó khăn khi tiếp cận công nghệ và thông tin. Nay, nhờ các cán bộ nữ “đi từng ngõ, gõ từng nhà” hướng dẫn sử dụng smartphone và dịch vụ công trực tuyến, công nghệ số đang trở thành đòn bẩy, mở ra cơ hội học tập, lao động và thay đổi cuộc sống cho chị em đồng bào dân tộc thiểu số.

fb yt zl tw