Çocuk İçeriklerini Denetlediğimizi Sanıyoruz. Peki, Ya Algoritmaları?
Çocuklar günümüzde ya telefondan kısa videolar izlemek istiyor ya da kendi profillerinin bulunduğu dijital yayın platformlarına yöneliyor. Peki, çocukların karşısına çıkan içerikleri kim seçiyor?
Hilal Yazıcı
Türkiye'de internet kullanımı, TÜİK'in 2025 verilerine göre nüfusun %90,9'una ulaşarak gündelik yaşamın ayrılmaz bir parçası haline geldi. Bu dijitalleşme, çocukların interneti nasıl kullandığına da bakmayı gerektiriyor.
TÜİK'in 2024 verileri 6-15 yaş grubundaki çocukların %91,3'ünün internet kullandığını gösteriyor. Aynı araştırmaya göre çocukların internet kullanım amaçlarının başında video izleme geliyor. Çocukların en fazla kullandığı sosyal medya platformu ise %96,3 ile YouTube. Bu tablo yalnızca Türkiye'ye özgü değil.
Ofcom raporuna göre, geleneksel televizyon yayıncılığı çocuklar arasındaki popülaritesini hızla kaybederken; video paylaşım platformları günümüzde çocukların ev içi video tüketiminde en yüksek paya sahip mecra haline gelmiş durumda. Çocuklar artık belirli yayın akışlarını takip etmiyor. Algoritmalar tarafından kişiselleştirilen ve sürekli yenilenen içerik akışları içinde zaman geçiriyor.
Ancak asıl değişim ekranlarda değil, içeriklerin çocuklara ulaşma biçiminde yaşanıyor. Riskli içerikler dün de vardı. Fakat bugün bu içerikler hem daha hızlı yayılıyor hem de yapay zekâ araçları sayesinde çok daha kolay ve çok daha fazla sayıda üretilebiliyor. Algoritmalar da bu içerikleri çocukların karşısına çıkarabiliyor. Dolayısıyla artık tartışmamız gereken mesele yalnızca ekran süresi değil. Asıl soru, çocukların karşısına çıkan içeriklerin kim tarafından seçildiği, nasıl üretildiği ve ne kadar denetlenebildiğidir.
Görünmez Riskler
Bu sorunun en çarpıcı örneklerinden biri, 2017 yılında ortaya çıkan ve “Elsagate” olarak adlandırılan içeriklerdi. İlk bakışta masum görünen bu videolar Elsa ve Örümcek Adam gibi çocukların sevdiği karakterleri kullanıyor, renkli görseller ve eğlenceli müziklerle güven veriyordu. Ancak videolar ilerledikçe şiddet, korku, müstehcenlik ve çocukların yaşına uygun olmayan sahneler ortaya çıkıyordu. 2017 yılında ebeveynlerin ve duyarlı kullanıcıların YouTube’daki bu içeriklere dikkat çekmesiyle birlikte Elsagate, X platformunda popüler bir hashtag haline geldi ve kitlesel bir farkındalık oluşturdu. Zamanla yapılan araştırmalar, çocuklara yönelik görünmek üzere tasarlanan bu içeriklerde şiddet, korku, cinsellik veya pedagojik açıdan uygun olmayan rahatsız edici sahnelerin bulunduğunu gösterdi.
Elsagate’i tehlikeli yapan yalnızca içerikler değildi. Asıl sorun, bütün bunların bir çizgi filmin içine gizlenmiş olmasıydı. Çocuk dostu başlıklar ve tanıdık karakterler hem ebeveynlerin dikkatini dağıtıyor hem de platformların denetim sistemlerini kolayca aşabiliyordu. Aradan yıllar geçmiş olsa da Elsagate’in gösterdiği tehlike ortadan kalkmış değil.
Bugün aynı sorun, yapay zekâ ile üretilen videolarla çok daha büyük bir boyuta ulaştı. Artık çok kısa sürelerde yüzlerce video üretmek mümkün. Üstelik bu videoların çoğunda belirli bir hikâye bile yok. Karakterler sürekli şekil değiştiriyor, sahneler birbiriyle bağlantı kurmuyor ve gerçek dünyada karşılığı olmayan görüntüler peş peşe geliyor. Yetişkinlerin bile anlamakta zorlandığı bu içerikleri çocukların sağlıklı biçimde yorumlamasını beklemek gerçekçi değil.
Bu içerikleri üretenler sistemin nasıl çalıştığını çok iyi biliyor. Dışarıdan bakıldığında sıradan bir animasyon gibi görünen bu videoların içinde zorbalık, şiddet ve müstehcenlik bulunabiliyor. İnternet artık sadece insanların aktör olduğu içeriklerden oluşmuyor. Yapay zekâ da her gün bu devasa havuza binlerce yeni video üretiyor. Bu hıza rağmen denetim sistemleri maalesef geri planda. Denetim mekanizmaları hâlâ önleyici değil, büyük ölçüde ihlal gerçekleştikten sonra devreye giren bir yapıyla çalışıyor. Sonuç olarak, çocukların internette karşılaştığı riskler giderek daha görünmez hâle geliyor.
Bir ebeveyn güvenli olduğunu düşünerek çocuğuna bir video açabilir. Ancak o videonun birkaç dakika sonra nereye evrileceğini bilmek, artık her zamankinden daha zor. Bu tabloyu, “Dijital Platformlarda Çocuk İçerikleri: Yaşa Uygunluk ve Risk Alanları” analizinde de detaylandırdık. Bulgular, yaş etiketleri, profil kilitleri ve ebeveyn denetim araçlarının tek başına güvenli bir dijital alan oluşturmakta yetersiz kaldığını gösterdi. Çünkü çocuk güvenliği, yalnızca teknik filtrelere indirgenebilecek bir konu değildir. İçeriğin pedagojik niteliği, algoritmaların çalışma biçimi ve platformların içerik yönetim tercihleri bu sürecin en belirleyici unsurlarıdır.
Ne Yapmalı?
Tüm bu tablo içinde en önemli değişimlerden biri sorumluluğun dağılımıdır. Bugün çocuk içeriklerine yönelik denetim yükü büyük ölçüde ailelere bırakılmış durumdadır. Ancak milyarlarca videonun dolaşımda olduğu bir ekosistemde, ebeveynlerin her içeriği önceden incelemesini beklemek gerçekçi değildir. Çocuk güvenliği, yalnızca ailelerin değil; platformların, düzenleyici kurumların ve içerik sağlayıcıların da ortak sorumluluğu olarak ele alınmalıdır.
Öncelikle çocukların dijital platformlarda bıraktığı veriler, platformların ticari amaçlarına hizmet eden bir araç olmamalıdır. Çocukların çevrim içi davranışlarından elde edilen verilerin nasıl toplandığı, işlendiği ve kullanıldığı kamu otoritelerinin etkin denetimine açık olmalıdır. Çocuklara yönelik öneri sistemleri düzenli olarak bağımsız incelemelere tabi tutulmalı ve bu sistemlerin nasıl çalıştığına ilişkin bulgular kamuoyuyla paylaşılmalıdır.
İkinci olarak, çocuk içeriklerinde uygulanan denetim mekanizmaları yalnızca şikâyetlere veya sonradan yapılan kaldırma işlemlerine dayanmamalıdır. Riskli içerikler henüz çocuklara ulaşmadan tespit edilmelidir. Özellikle çocuk karakterlerini, çizgi film figürlerini ve popüler çocuk içeriklerini kullanan videolar için daha sıkı bir ön inceleme sistemi oluşturulmalı ve tespit edilen riskli içeriklerden platformlar sorumlu tutulmalıdır.
Üçüncü olarak, platformlar yapay zekâ destekli moderasyon sistemlerinin sınırlarını kabul etmeli ve çocuk güvenliği söz konusu olduğunda insan denetimini artırmalıdır. Elsagate vakası ve benzeri örnekler, algoritmaların her zaman bağlamı anlayamadığını göstermiştir.
Teknolojik önlemlerin yanında, ebeveynlerin de çocuklarıyla dijital içerikler hakkında daha fazla konuşması, ne izlediklerini takip etmesi ve karşılaştıkları riskli içerikleri raporlaması önem taşımaktadır. Çünkü çocukları korumanın en etkili yollarından biri ekranın sunduğu içerikleri birlikte anlamlandırabilmektir.
Sonuçta temel mesele değişmiyor: Çocukların dijital dünyadaki deneyimini artık yalnızca aileler ya da platform kuralları belirlemiyor. Görünmez algoritmalar, hangi içeriğin öne çıkacağına ve hangisinin daha görünür olacağına her gün yeniden karar veriyor. Bu nedenle mesele çocukların ekrana ne kadar baktığının yanında, ekranın çocuklara bakması ve istediğini göstermesidir.