Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Văn Bàn: Đối thoại giữa lãnh đạo UBND huyện với thanh niên

Văn Bàn: Đối thoại giữa lãnh đạo UBND huyện với thanh niên

Nhằm nắm tình hình và lắng nghe những kiến nghị, đề xuất của thanh niên, kịp thời chỉ đạo giải quyết, tháo gỡ những khó khăn, vướng mắc liên quan đến chính sách, chương trình, đề án phát triển thanh niên trong giai đoạn hiện nay, sáng 11/6, UBND huyện Văn Bàn tổ chức hội nghị đối thoại giữa lãnh đạo UBND huyện với thanh niên năm 2024.

[Infographic] Chiến lược phát triển thông tin cơ sở trên địa bàn tỉnh Lào Cai giai đoạn 2021 - 2025

[Infographic] Chiến lược phát triển thông tin cơ sở trên địa bàn tỉnh Lào Cai giai đoạn 2021 - 2025

UBND tỉnh Lào Cai ban hành Kế hoạch số 283/KH-UBND về Kế hoạch hành động năm 2024 triển khai Chiến lược phát triển lĩnh vực thông tin cơ sở giai đoạn 2021 - 2025 trên địa bàn tỉnh Lào Cai. Kế hoạch nhằm thúc đẩy chuyển đổi số mạnh mẽ, phát triển mạng lưới thông tin cơ sở từng bước hiện đại trong năm 2024 và giai đoạn 2024 - 2025.

Tích cực tháo gỡ các điểm nghẽn trong triển khai Đề án 06; đẩy mạnh kết nối, chia sẻ dữ liệu

Tích cực tháo gỡ các điểm nghẽn trong triển khai Đề án 06; đẩy mạnh kết nối, chia sẻ dữ liệu

Sáng 10/6, tại Trụ sở Chính phủ, Thủ tướng Phạm Minh Chính chủ trì Hội nghị sơ kết 1 năm thực hiện chỉ đạo của Thủ tướng Chính phủ về tháo gỡ các “điểm nghẽn” trong triển khai Đề án 06, và đẩy mạnh kết nối, chia sẻ dữ liệu phục vụ phát triển thương mại điện tử, nâng cao hiệu quả công tác quản lý thuế. Cùng dự có các Phó Thủ tướng Chính phủ Lê Minh Khái và Trần Lưu Quang; đại diện lãnh đạo các bộ, ngành, cơ quan Trung ương.

"Tấn công" người dùng di động bằng tổng đài ảo

"Tấn công" người dùng di động bằng tổng đài ảo

Vấn nạn quấy rối qua điện thoại bằng cuộc gọi rác, tin nhắn rác đã trở thành nỗi ám ảnh của không ít người trong thời gian dài. Sau khi sim rác bị kiểm soát gắt gao, thì nay, cuộc gọi rác, tin nhắn rác từ tổng đài ảo ứng dụng trí tuệ nhân tạo (AI) lại nổi lên, dai dẳng “tấn công” người dùng di động.

Nhiều ứng dụng AI gây ấn tượng tại Triển lãm Telefilm 2024

Nhiều ứng dụng AI gây ấn tượng tại Triển lãm Telefilm 2024

Từ ngày 6-8/6, Triển lãm quốc tế phim và công nghệ truyền hình Việt Nam lần thứ 12 - Telefilm 2024 diễn ra tại Thành phố Hồ Chí Minh. Tại sự kiện, ba giải pháp tích hợp AI (trí tuệ nhân tạo) nâng cao chất lượng và hiệu quả trong ngành công nghiệp phim và truyền hình đã được Thủ Đô Multimedia giới thiệu và thu hút sự chú ý.

Áp dụng nền tảng số ở điểm nóng cháy rừng

Áp dụng nền tảng số ở điểm nóng cháy rừng

Lào Cai là điểm nóng về cháy rừng, ý thức người dân chưa cao, địa hình chia cắt, lực lượng mỏng, thiếu thiết bị chuyên dụng nên công tác chống cháy rừng còn gian nan. Để có cái nhìn toàn diện về công tác bảo vệ rừng trên địa bàn, PV đã có cuộc phỏng vấn với ông Nguyễn Việt Hà - Chi cục Trưởng Chi cục Kiểm lâm tỉnh Lào Cai. 

fb yt zl tw