Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Đặt lên bàn cân iPhone 18 Pro 1TB và 18 Pro Max 1TB: Chênh lệch có đáng để lên đời?

Đặt lên bàn cân iPhone 18 Pro 1TB và 18 Pro Max 1TB: Chênh lệch có đáng để lên đời?

iPhone 18 Pro 1TB và iPhone 18 Pro Max 1TB có nhiều điểm tương đồng về phần cứng, nổi bật với chip A20 Pro và hệ thống camera 48MP Pro Fusion. Sự khác biệt chủ yếu tập trung ở kích thước, trọng lượng, màn hình, thời lượng pin và giá bán. iPhone 18 Pro phù hợp với người đề cao sự gọn nhẹ, trong khi Pro Max dành cho nhu cầu sử dụng màn hình lớn và thời gian hoạt động dài hơn.

Nóng: iPhone Duo chính thức lộ diện, "trùm cuối" mới thay thế 18 series năm nay

Nóng: iPhone Duo chính thức lộ diện, "trùm cuối" mới thay thế 18 series năm nay

iPhone Duo đã chính thức xuất hiện cùng iPhone 18 Series, nhưng điểm đáng chú ý không nằm ở việc Apple tạo thêm một phiên bản cấu hình cao. Đây là chiếc iPhone gập đầu tiên, mở ra cách sử dụng khác hẳn thiết kế dạng thanh quen thuộc. Vì vậy, “trùm cuối” năm nay nên được hiểu là vị trí sản phẩm nổi bật nhất về trải nghiệm, thay vì mẫu máy thay thế hoàn toàn dòng iPhone 18.

Phó Bí thư Thường trực Tỉnh ủy Hoàng Giang: Khẩn trương, quyết liệt đẩy nhanh tiến độ thực hiện nhiệm vụ chuyển đổi số trong các cơ quan Đảng

Phó Bí thư Thường trực Tỉnh ủy Hoàng Giang: Khẩn trương, quyết liệt đẩy nhanh tiến độ thực hiện nhiệm vụ chuyển đổi số trong các cơ quan Đảng

Chiều 9/9, đồng chí Hoàng Giang - Phó Bí thư Thường trực Tỉnh ủy, Chủ tịch HĐND tỉnh, Phó Trưởng Ban Thường trực Ban Chỉ đạo về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số tỉnh đã chủ trì buổi làm việc về tình hình triển khai thực hiện Nghị quyết số 57-NQ/TW của Bộ Chính trị trong các cơ quan Đảng.

Lào Cai thống nhất nhiệm vụ, lộ trình và kế hoạch triển khai thí điểm chuyển đổi số xây dựng mô hình "Xã, phường xã hội chủ nghĩa"

Lào Cai thống nhất nhiệm vụ, lộ trình và kế hoạch triển khai thí điểm chuyển đổi số xây dựng mô hình "Xã, phường xã hội chủ nghĩa"

Sáng 8/9, UBND tỉnh Lào Cai và Công ty Cổ phần Tập đoàn Công nghệ CMC tổ chức buổi làm việc thống nhất nhiệm vụ, lộ trình và kế hoạch triển khai thí điểm chuyển đổi số trong xây dựng mô hình "Xã, phường xã hội chủ nghĩa" tại phường Lào Cai và xã Trấn Yên.

Chuyển đổi số mở rộng không gian phát triển du lịch Bắc Hà

Chuyển đổi số mở rộng không gian phát triển du lịch Bắc Hà

Khi xu hướng du lịch trực tuyến lên ngôi, chuyển đổi số chính là chìa khóa nâng cao sức cạnh tranh của các điểm đến. Với Bắc Hà - vùng đất giàu bản sắc văn hóa và cảnh quan thiên nhiên độc đáo, công nghệ số đang trở thành cầu nối đắc lực giúp quảng bá hình ảnh, mở rộng thị trường, kết nối du khách với các sản phẩm và dịch vụ du lịch bản địa. 

8 "bài toán" lớn và khát vọng tăng trưởng hai con số

8 "bài toán" lớn và khát vọng tăng trưởng hai con số

Từ tài nguyên, cửa khẩu, nông nghiệp, du lịch đến dữ liệu và nguồn nhân lực, tỉnh lựa chọn 8 "bài toán" lớn nhằm xác định đúng "điểm nghẽn", tìm lời giải khả thi, tạo ra sản phẩm ứng dụng và đo đếm bằng hiệu quả thực tế, qua đó, góp phần hiện thực hóa mục tiêu tăng trưởng kinh tế hai con số giai đoạn 2026 - 2030.

Sa Pa khánh thành tháp đồng hồ biểu tượng, đưa Kiosk số và Wifi công cộng vào phục vụ du khách

Sa Pa khánh thành tháp đồng hồ biểu tượng, đưa Kiosk số và Wifi công cộng vào phục vụ du khách

Sáng 3/9, UBND phường Sa Pa tổ chức khánh thành công trình biểu tượng tháp đồng hồ tại nút giao đường Xuân Viên - Ngũ Chỉ Sơn, đồng thời cắt băng khai trương công trình Kiosk số và Wifi công cộng. Đây là những công trình góp phần chỉnh trang đô thị, tạo điểm nhấn kiến trúc và từng bước hình thành các tiện ích đô thị thông minh tại Sa Pa.

Từng bước tạo lập hệ sinh thái dữ liệu

Từng bước tạo lập hệ sinh thái dữ liệu

Chuyển đổi số đang mở ra một phương thức quản trị mới, trong đó dữ liệu trở thành nền tảng, công nghệ trở thành “đòn bẩy”, kết quả và sự hài lòng của người dân trở thành thước đo. Từ đổi mới điều hành, giải quyết thủ tục hành chính đến ứng dụng trí tuệ nhân tạo (AI), bộ chỉ số đo lường hiệu suất công việc (KPI) và xây dựng hệ sinh thái dữ liệu, Lào Cai đang cụ thể hóa tinh thần Nghị quyết 57 bằng những cách làm thiết thực, từng bước nâng cao hiệu năng, hiệu lực, hiệu quả của bộ máy.

fb yt zl tw