Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Đẩy mạnh kết nối hạ tầng công nghệ thông tin trọng yếu

Đẩy mạnh kết nối hạ tầng công nghệ thông tin trọng yếu

Tại Lào Cai, việc đầu tư đồng bộ, hiện đại hóa hạ tầng công nghệ thông tin đang được đẩy mạnh, không chỉ bảo đảm vận hành chính quyền số hiệu quả mà còn tạo bước đệm vững chắc để phát triển kinh tế số, xã hội số. Đặc biệt, sau sắp xếp đơn vị hành chính, tỉnh đã và đang khẩn trương chuẩn hóa, nâng cấp hạ tầng kỹ thuật, sẵn sàng cho giai đoạn phát triển số toàn diện.

Định hình tương lai thanh toán số

Định hình tương lai thanh toán số

Chuyển đổi số và phát triển thanh toán không dùng tiền mặt đang trở thành trụ cột của nền kinh tế số. Mục tiêu quốc gia 80% người trưởng thành có tài khoản ngân hàng vào năm 2025, mỗi giao dịch được thực hiện bằng 1 “chạm” làm thay đổi thói quen tiêu dùng, bước chuyển để nền kinh tế hướng tới minh bạch, hiện đại, bền vững.

Thanh toán không dùng tiền mặt, thúc đẩy kinh tế số

Thanh toán không dùng tiền mặt, thúc đẩy kinh tế số

Trong hành trình xây dựng đô thị du lịch thông minh, văn minh và hiện đại, phường Sa Pa đang đặt trọng tâm vào phát triển các dịch vụ số, trong đó có thanh toán không dùng tiền mặt. Đây không chỉ là xu thế tất yếu của xã hội hiện đại mà còn là giải pháp quan trọng để nâng cao chất lượng phục vụ du khách, thúc đẩy phát triển kinh tế - xã hội địa phương.

Sinh viên Việt Nam thành tâm điểm chiến lược AI của các tập đoàn công nghệ

Sinh viên Việt Nam thành tâm điểm chiến lược AI của các tập đoàn công nghệ

Các “ông lớn” công nghệ như Google, OpenAI và Microsoft đang tăng tốc triển khai công cụ trí tuệ nhân tạo tại Việt Nam, tập trung vào nhóm sinh viên và người trẻ. Cùng lúc, các nền tảng AI nội địa cũng nổi lên, tạo nên cuộc cạnh tranh sôi động trong nỗ lực phổ cập AI đến mọi tầng lớp người dùng.

Tọa đàm “Chuyển đổi số và ứng dụng AI” trong các cơ quan Đảng tỉnh Lào Cai

Tọa đàm “Chuyển đổi số và ứng dụng AI” trong các cơ quan Đảng tỉnh Lào Cai

Chiều 10/10, tại Trường Chính trị tỉnh, Đảng ủy Các cơ quan Đảng tỉnh, Trường Chính trị tỉnh, Học viện Công nghệ và Bưu chính Viễn thông phối hợp tổ chức Tọa đàm khoa học cấp tỉnh với chủ đề: "Chuyển đổi số và ứng dụng AI - Đột phá chiến lược nâng cao hiệu quả hoạt động trong các cơ quan Đảng tỉnh Lào Cai".

"Đòn bẩy" chiến lược đưa Lào Cai thành cực tăng trưởng

"Đòn bẩy" chiến lược đưa Lào Cai thành cực tăng trưởng

Với tư duy lãnh đạo đổi mới, tỉnh Lào Cai đã và đang triển khai hàng loạt quyết sách, lấy Nghị quyết 57-NQ/TW của Bộ Chính trị làm kim chỉ nam. Từ thể chế, hạ tầng đến con người, mọi yếu tố đang được Lào Cai chủ động thực hiện, tạo nền tảng vững chắc để bứt phá phát triển năng động, thành cực tăng trưởng mới nơi biên cương Tổ quốc.

Phát huy hiệu quả hoạt động Tổ công nghệ số cộng đồng ở Đông Cuông

Phát huy hiệu quả hoạt động Tổ công nghệ số cộng đồng ở Đông Cuông

Trong bối cảnh chuyển đổi số đang được triển khai sâu rộng đến từng địa phương, việc phát huy vai trò của Tổ công nghệ số cộng đồng đã trở thành yếu tố quan trọng giúp người dân nông thôn tiếp cận công nghệ. Tại xã Đông Cuông, mô hình này đang được triển khai hiệu quả, góp phần thúc đẩy quá trình chuyển đổi số cơ sở gắn với xây dựng nông thôn mới.

Chuyển đổi số – động lực mới trong xây dựng nông thôn mới

Chuyển đổi số – động lực mới trong xây dựng nông thôn mới

Chuyển đổi số đang trở thành một trong những yếu tố then chốt trong quá trình xây dựng nông thôn mới tại Lào Cai. Trên cả ba trụ cột: chính quyền số, kinh tế số và xã hội số, nhiều giải pháp đã và đang được triển khai đồng bộ, góp phần nâng cao hiệu quả quản lý, thay đổi phương thức sản xuất và cải thiện đời sống của người dân nông thôn, miền núi.

Số hóa để phát triển bền vững

Số hóa để phát triển bền vững

Tại Lào Cai, cộng đồng doanh nghiệp chủ yếu là doanh nghiệp vừa và nhỏ (DNVVN), việc chủ động tiếp cận và ứng dụng công nghệ số không chỉ giúp doanh nghiệp tối ưu hóa hoạt động sản xuất, kinh doanh, cải thiện hiệu suất lao động mà còn là chìa khóa mở rộng thị trường trong kỷ nguyên số.

Lào Cai hưởng ứng Ngày Chuyển đổi số Quốc gia

Lào Cai hưởng ứng Ngày Chuyển đổi số Quốc gia

Hưởng ứng Ngày hội đổi mới sáng tạo Quốc gia (1/10) và Ngày Chuyển đổi số quốc gia (10/10), tỉnh Lào Cai sẽ tổ chức nhiều hoạt động hưởng ứng nhằm khẳng định cam kết mạnh mẽ của tỉnh Lào Cai trong thúc đẩy đổi mới sáng tạo và chuyển đổi số, coi đây là động lực chiến lược để tăng trưởng kinh tế nhanh, bền vững, nâng cao năng suất và năng lực cạnh tranh quốc gia.

fb yt zl tw