Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Nền tảng phát triển bền vững ở Tả Phìn

Nền tảng phát triển bền vững ở Tả Phìn

Ở xã Tả Phìn, chính quyền, dữ liệu và người dân cùng kết nối trong nhịp sống số. Tả Phìn đang chuyển mình thành “xã số” ở mọi lĩnh vực, từ quản trị, kinh tế đến an sinh, tạo nền tảng phát triển bền vững.

Phát triển các dịch vụ số cho người nộp thuế

Phát triển các dịch vụ số cho người nộp thuế

Nhằm tạo thuận lợi tối đa cho người nộp thuế, ngành thuế đang đẩy mạnh cải cách, đơn giản hóa thủ tục hành chính và số hóa quy trình quản lý, đồng thời khuyến khích người dân, doanh nghiệp tham gia giám sát hoạt động của cơ quan thuế. Những nỗ lực này góp phần hiện đại hóa công tác quản lý thuế, hướng đến mục tiêu thu ngân sách vượt mốc hơn 2 triệu tỷ đồng trong năm 2025.

Nâng cao kỹ năng số cho cán bộ, công chức hải quan

Nâng cao kỹ năng số cho cán bộ, công chức hải quan

Thực hiện Nghị quyết số 57-NQ/TW của Bộ Chính trị về “Đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia”, Chi cục Hải quan khu vực VII đã ban hành Kế hoạch hành động và thành lập Ban Chỉ đạo nhằm thúc đẩy khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số tại đơn vị.

Y tế Lào Cai - "Hiện đại, nhân văn, gần dân"

Y tế Lào Cai - "Hiện đại, nhân văn, gần dân"

Giai đoạn 2021 - 2025, ngành Y tế Lào Cai đã có bước chuyển mình toàn diện sau sáp nhập bộ máy và nhân lực của hai tỉnh Lào Cai và Yên Bái cũ. Ngành chủ động tinh gọn tổ chức, hiện đại hóa hạ tầng, thúc đẩy chuyển đổi số đồng bộ và nâng cao chất lượng dịch vụ, xây dựng hình ảnh đội ngũ y, bác sĩ gần dân, tận tâm, chuyên nghiệp, trở thành điểm tựa vững chắc của Nhân dân.

Tiến bộ sinh học và đạo đức công nghệ

Tiến bộ sinh học và đạo đức công nghệ

Công nghệ sinh học và trí tuệ nhân tạo (AI) đang tạo ra những bước tiến vượt bậc trong y học, mang lại hy vọng cho những căn bệnh hiểm nghèo tưởng chừng không thể chữa trị. Tuy nhiên, những tiến bộ này cũng tiềm ẩn những nguy cơ lớn, khi con người có thể vô tình hoặc cố ý tạo ra mối đe dọa an toàn sinh học chưa từng có.

“Đòn bẩy” cho chuyển đổi số toàn diện

“Đòn bẩy” cho chuyển đổi số toàn diện

Với quyết tâm chính trị cao và cách làm bài bản, Lào Cai đang biến chuyển đổi số từ chủ trương thành hành động cụ thể trong đời sống. Từ cơ quan Đảng, chính quyền đến từng thôn, tổ dân phố, phong trào chuyển đổi số đã lan tỏa sâu rộng, góp phần hiện đại hóa bộ máy, nâng cao năng suất, hiệu lực quản lý và chất lượng phục vụ Nhân dân.

Phường Trung Tâm quyết tâm “làm đến đâu, sạch đến đó”

Chiến dịch 90 ngày làm giàu, làm sạch dữ liệu đất đai: Phường Trung Tâm quyết tâm “làm đến đâu, sạch đến đó”

Chỉ sau hai tháng triển khai chiến dịch 90 ngày làm giàu, làm sạch dữ liệu đất đai, phường Trung Tâm đã hoàn thành gần 90% khối lượng công việc, với hơn 3.400 hồ sơ đất đai, nhà ở và thẻ căn cước công dân được thu thập. Kết quả này cho thấy sự vào cuộc quyết liệt, đồng bộ của cả hệ thống chính trị địa phương trong quá trình chuyển đổi số và hiện đại hóa quản lý đất đai.

Chuyển đổi số nâng cao hiệu quả công tác Đảng

Chuyển đổi số nâng cao hiệu quả công tác Đảng

Chuyển đổi số (CĐS) đang tạo ra những chuyển biến toàn diện trong công tác Đảng tại tỉnh Lào Cai, từ phương thức lãnh đạo, chỉ đạo đến sinh hoạt chi bộ và gắn kết đảng viên với nhân dân. Việc ứng dụng công nghệ thông tin giúp hệ thống chính trị hoạt động minh bạch, linh hoạt, hiệu quả hơn. Đồng thời nâng cao chất lượng hoạt động của tổ chức cơ sở Đảng, góp phần thực hiện thắng lợi nhiệm vụ phát triển kinh tế - xã hội của địa phương.

Học tập không giới hạn

Học tập không giới hạn

Từ một lựa chọn mang tính bổ trợ, học trực tuyến đã trở thành phương thức giáo dục phổ biến, tiếp cận hàng triệu người học ở mọi độ tuổi và lĩnh vực. Người học có thể chủ động hoàn toàn trong việc sắp xếp không gian, thời gian; lựa chọn nội dung và điều chỉnh tiến độ phù hợp với bản thân. Học trực tuyến đang mở rộng cánh cửa tri thức theo nhiều cách linh hoạt, đa dạng và thực tiễn hơn bao giờ hết.

Ứng dụng trí tuệ nhân tạo nâng cao hiệu quả tham mưu

Ứng dụng trí tuệ nhân tạo nâng cao hiệu quả tham mưu

Trong bối cảnh chuyển đổi số lan tỏa sâu rộng, trí tuệ nhân tạo (AI) đang trở thành công cụ giúp đổi mới phương thức lãnh đạo, chỉ đạo của Đảng. Chủ động bắt nhịp xu thế, Văn phòng Tỉnh ủy đã triển khai ứng dụng AI trong xử lý văn bản, lưu trữ hồ sơ, tổng hợp báo cáo và phục vụ hội nghị, đại hội Đảng. Qua đó, rút ngắn thời gian xử lý công việc, chuẩn hóa quy trình, tăng độ chính xác và nâng cao hiệu quả tham mưu phục vụ cấp ủy.

Lào Cai mời trường đại học về làm chuyển đổi số

Lào Cai mời trường đại học về làm chuyển đổi số

Nhằm đáp ứng yêu cầu vận hành chính quyền hai cấp và xây dựng nền hành chính hiện đại, linh hoạt, dựa trên dữ liệu, Ủy ban nhân dân tỉnh Lào Cai phối hợp với Đại học Quốc gia Hà Nội tổ chức lớp tập huấn “Kỹ năng phân tích, khai thác dữ liệu và công nghệ số cho đội ngũ cán bộ phụ trách chuyển đổi số”.

fb yt zl tw