Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào?

Theo nhà chức trách Anh quốc, khoảng 1,4 triệu trẻ em dưới 13 tuổi đang sử dụng TikTok và tiếp xúc với vô số nội dung độc hại, vô tri.

TikTok nổi tiếng với các video chia sẻ mẹo vặt, nhảy múa hay hài hước. Song, nó cũng là nơi chứa nhiều nội dung độc hại, rối loạn ăn uống. Theo nhà chức trách Anh, có tới 1,4 triệu trẻ em dưới 13 tuổi trong nước sử dụng ứng dụng. Họ cáo buộc công ty Trung Quốc chưa làm hết sức để kiểm tra đối tượng này.

Imran Ahmed đến từ Trung tâm chống thù ghét trực tuyến cho biết, TikTok có các nội dung tự làm hại bản thân và cả nội dung “vô tri” về cách đối phó với những điều kiện sức khỏe tinh thần khác nhau. Báo cáo tháng 12/2022 của trung tâm chỉ ra thuật toán gây nghiện của TikTok đẩy nội dung độc hại đến một số người dùng chỉ vài phút sau khi mở tài khoản.

Thuật toán TikTok khai thác điểm yếu của trẻ em như thế nào? ảnh 1

 Thuật toán TikTok bị cáo buộc gửi nội dung độc hại cho trẻ em chỉ vài phút sau khi đăng ký tài khoản.

Ông Ahmed nhận xét, điều nguy hiểm nhất chính là sự lưu hành tuyệt đối của những nội dung như vậy trên các nền tảng mạng xã hội. Chúng khiến cho người xem có cái nhìn đặc biệt méo mó về bản thân, cơ thể, sức khỏe tinh thần và so sánh với người khác.

Theo nghiên cứu của trung tâm, nếu đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok, thuật toán sẽ cung cấp nội dung độc hại nhiều hơn 12 lần. “Thuật toán nhận diện điểm yếu và thay vì xem nó như một thứ cần thận trọng, nó lại nhìn nhận như một điểm gây nghiện tiềm năng, giúp tối ưu hóa thời gian trên nền tảng của đứa trẻ bằng cách phục vụ nội dung có thể kích hoạt một số lo lắng trước đó”, báo cáo có đoạn.

Nghiên cứu được thực hiện trên những người dùng TikTok 13 tuổi tại Anh, Mỹ, Canada và Australia. Sau khi đăng ký, người dùng nhỏ tuổi sẽ tiếp xúc với nội dung tự làm hại trong vòng 2,5 phút và nội dung rối loạn ăn uống trong 8 phút. Một nghiên cứu mới đây hơn còn gợi ý khi một cậu bé 14 tuổi bắt đầu dùng TikTok, nội dung từ Andrew Tate – một người thù ghét phụ nữ - sẽ hiện ra trong chưa đầy 3 phút.

Đây là điều đặc biệt đáng lo ngại vì ẩn bên dưới đều là sự kỳ thị căn bản, những góc nhìn nguy hiểm về việc một cô gái trẻ nên nhìn như thế nào hay một chàng trai trẻ nên hành xử và nhìn nhận phụ nữ như thế nào.

Theo Ủy viên thông tin Anh, hơn một triệu trẻ em dưới độ tuổi sử dụng TikTok có thể tiếp xúc với nội dung độc hại khi nền tảng thu thập và dùng dữ liệu cá nhân của chúng. Điều đó đồng nghĩa dữ liệu có thể bị lợi dụng để theo dõi và lập hồ sơ, dẫn trẻ em đến nội dung không phù hợp.

Người phát ngôn TikTok khẳng định muốn hỗ trợ những người đang gặp khó khăn với sức khỏe tinh thần hoặc trên hành trình phục hồi. Quy định của ứng dụng nêu rõ: cấm quảng bá, bình thường hóa hoặc tôn vinh nội dung rối loạn ăn uống, tự sát hay tự làm hại. Công ty thường trao đổi với các chuyên gia y tế, xóa bỏ nội dung vi phạm chính sách và cung cấp nguồn lực cho những ai có nhu cầu.

Ông Ahmed cho biết TikTok không phải nền tảng mạng xã hội duy nhất chưa làm đủ để kiểm duyệt nội dung độc hại. Ông mô tả đây là “cuộc đua vũ trang” giữa các nền tảng để đưa ra những cách giữ chân người dùng một cách hiệu quả, ngay cả khi chúng đặt người dùng vào tình huống rủi ro.

Có thể bạn quan tâm

Tin cùng chuyên mục

Từ “Bình dân học vụ số” đến động lực phát triển kinh tế

Từ “Bình dân học vụ số” đến động lực phát triển kinh tế

Không dừng ở phổ cập kiến thức, kỹ năng sử dụng công nghệ, phong trào “Bình dân học vụ số” trong ngành ngân hàng trên địa bàn tỉnh đang từng bước tạo ra những thay đổi trong phương thức giao dịch, quản lý tài chính và tiếp cận các dịch vụ. Khi người dân làm chủ các tiện ích số, dòng vốn được quản lý minh bạch hơn, thanh toán không dùng tiền mặt ngày càng phổ biến, mở ra thêm cơ hội tham gia nền kinh tế số.

Trang bị kỹ năng cho đội ngũ “Người bản số”

Trang bị kỹ năng cho đội ngũ “Người bản số”

Sau đợt đào tạo, tập huấn, trang bị kiến thức, kỹ năng số, 1.200 “Người bản số” trên địa bàn tỉnh đã trở về địa phương và được kỳ vọng sẽ phát huy vai trò nòng cốt trong phổ cập kỹ năng số, giúp người dân từng bước sử dụng thành thạo các tiện ích phục vụ đời sống, sản xuất.

Đại biểu Quốc hội tỉnh Lào Cai chất vấn Bộ trưởng Bộ Khoa học và Công nghệ về chuyển đổi số và quản lý trí tuệ nhân tạo

Đại biểu Quốc hội tỉnh Lào Cai chất vấn Bộ trưởng Bộ Khoa học và Công nghệ về chuyển đổi số và quản lý trí tuệ nhân tạo

Tiếp tục chương trình Kỳ họp thứ 2, Quốc hội khóa XVI, ngày 12/11, sau phiên chất vấn nhóm vấn đề thuộc lĩnh vực tài chính, Quốc hội tiến hành chất vấn nhóm vấn đề thứ hai thuộc lĩnh vực khoa học và công nghệ. Bộ trưởng Bộ Khoa học và Công nghệ Vũ Hải Quân trực tiếp trả lời chất vấn của các đại biểu Quốc hội.

Để kích hoạt VNeID mức độ 2 không còn là bài toán khó ở vùng cao

Để kích hoạt VNeID mức độ 2 không còn là bài toán khó ở vùng cao

Địa hình cách trở, trình độ tiếp cận công nghệ còn hạn chế khiến việc kích hoạt tài khoản định danh điện tử VNeID mức độ 2 ở một số địa bàn vùng cao gặp không ít khó khăn. Bằng những cách làm linh hoạt, sát cơ sở, Công an tỉnh đang từng bước tháo gỡ vướng mắc, đưa tiện ích số đến gần hơn với người dân.

Kinh tế số từ những việc làm thiết thực

Kinh tế số từ những việc làm thiết thực

Không chỉ hiện diện trong những nền tảng công nghệ hiện đại, kinh tế số đang từng bước đi vào hoạt động sản xuất, kinh doanh và đời sống xã hội ở Lào Cai. Những thay đổi thiết thực đang mở ra phương thức phát triển mới cho nền kinh tế địa phương.

Người bản số - Cầu nối chuyển đổi số ở Phong Dụ Thượng

Người bản số - Cầu nối chuyển đổi số ở Phong Dụ Thượng

Ở xã vùng cao Phong Dụ Thượng, việc sử dụng các tiện ích số còn là trở ngại đối với nhiều người dân, nhất là người cao tuổi, người chưa quen dùng điện thoại thông minh. Bằng sự kiên trì và cách hướng dẫn gần gũi, những “người bản số” đang giúp bà con từng bước làm quen với công nghệ, ứng dụng vào cuộc sống.

“4 rõ” ở xã Việt Hồng - khi thước đo cán bộ bằng sản phẩm thực tế

“4 rõ” ở xã Việt Hồng - khi thước đo cán bộ bằng sản phẩm thực tế

Sau khi vận hành mô hình chính quyền địa phương hai cấp, xã Việt Hồng triển khai phương châm “4 rõ”: Giao việc, theo dõi, kiểm tra, đánh giá; gắn với ứng dụng công nghệ số trong quản lý, điều hành. Cách làm này đang tạo ra luồng sinh khí mới, xóa bỏ tư duy “tròn vai”, lấy sản phẩm thực tế và sự hài lòng của người dân làm thước đo cao nhất đối với mỗi cán bộ, công chức.

Hội thảo thúc đẩy ứng dụng, chuyển giao công nghệ trong doanh nghiệp Lào Cai

Hội thảo thúc đẩy ứng dụng, chuyển giao công nghệ trong doanh nghiệp Lào Cai

Sáng 11/11, Sở Khoa học và Công nghệ tỉnh phối hợp với Tổng hội Nông nghiệp và Phát triển nông thôn Việt Nam tổ chức Hội thảo “Ứng dụng và chuyển giao công nghệ - động lực đổi mới và phát triển doanh nghiệp Lào Cai”, nhằm kết nối nhu cầu đổi mới công nghệ của doanh nghiệp với các giải pháp khoa học, công nghệ có tính ứng dụng thực tiễn, góp phần nâng cao hiệu quả sản xuất, kinh doanh.

Đưa kiến thức an toàn số đến với người dân

Đưa kiến thức an toàn số đến với người dân

Việc triển khai khóa học trực tuyến “An toàn số” là bước đi mang tính chiến lược, không chỉ trang bị lá chắn bảo mật tài sản trực tuyến cho người dân mà còn góp phần quan trọng vào công cuộc thu hẹp khoảng cách số và bảo đảm an sinh xã hội bền vững trên địa bàn toàn tỉnh.

KPI - từ giao việc đến đo lường hiệu quả công vụ

KPI - từ giao việc đến đo lường hiệu quả công vụ

Tại Lào Cai, việc triển khai thí điểm phần mềm đánh giá cán bộ, công chức theo chỉ số đo lường hiệu quả công việc từng bước đưa các tiêu chí định lượng vào quản lý công vụ, tạo cơ sở xác định rõ trách nhiệm và đo lường hiệu quả thực hiện nhiệm vụ của từng cá nhân.

fb yt zl tw