Siber zorbalık, bağımlılık, müstehcen içerik ve suistimal... Çevrim içi dünyanın çocuklar için barındırdığı başlıca tehlikelerden sadece birkaçı.

Çocukların, Instagram, TikTok ve YouTube gibi platformlarda geçirdikleri yoğun zaman, onları ciddi hak ihlallerine karşı savunmasız bırakabiliyor. YouTube’un çocukları riskli içeriklerden korumak amacıyla aldığı önlemler ve yayımladığı şeffaflık raporu, bu durumun ciddiyetini gözler önüne seriyor.

YouTube’un 2024 ilk çeyrek içerik temizliği

YouTube, 2024 yılının ilk üç ayında kaldırılan içeriklerin yüzde 43,4'ünün çocuklarla ilgili olduğunu raporladı. Bu içeriklerin yüzde 26,5'i zararlı ve tehlikeli olarak sınıflandırılırken, yüzde 9,5'i şiddet içerdiği için kaldırıldı. Ayrıca, platformdan silinen 1 milyar 443 milyon 821 bin 162 yorumun yüzde 4'ü, doğrudan çocukların güvenliğini tehlikeye atan nitelikteydi.

Meta’ya ait olan YouTube, geliştirdiği yapay zeka algoritmaları sayesinde uygunsuz içerikleri tespit ederek hızla platformdan kaldırıyor ve tekrarlayan ihlallerde bulunan hesapları kalıcı olarak kapatıyor. Bu süreç, çocukların dijital deneyimlerini daha güvenli hale getirme çabalarının önemli bir parçası.

TikTok’un şeffaflık raporu: Çocukları koruma çabaları

TikTok’un yayımladığı şeffaflık raporu da benzer bir tabloyu ortaya koyuyor. 2023 yılında platformdan kaldırılan içeriklerin yüzde 34,5'i istismar, yüzde 26,5'i alkol, tütün ve uyuşturucu madde kullanımı, yüzde 39'u ise müstehcen içerik ve teşhir nedeniyle silindi. ABD, İngiltere, Pakistan, Kanada, Bangladeş, Brezilya, Türkiye ve Suudi Arabistan, en fazla içeriğin kaldırıldığı ülkeler arasında yer alıyor.

Çocuğun dijital dünyada üstün yararı: Teknoloji mi, hukuk mu?

“Çocuğun internet ortamında üstün yararı” ilkesi kapsamında dünya genelinde çeşitli düzenlemeler yapılmakta, ancak bu kavram henüz oldukça yeni. Alınan önlemler, teknolojinin hızına yetişmekte zorlanıyor. Yazılı hukuk kuralları ve devlet politikaları her ne kadar caydırıcı olsa da, milyarlarca veri arasından somut müdahaleler zaman alabiliyor.

Peki, çocukların dijital dünyada korunması, yine teknolojinin sunduğu imkanlarla mümkün mü? Yapay zeka, bu korumayı sağlayabilir mi?

Yapay zeka: Dijital dünyanın bekçisi mi olacak?

Dijital dünyanın barındırdığı potansiyel riskler ve tehlikeler, çocuklar için her geçen gün daha büyük bir tehdit oluşturuyor. Ancak, bu dünyadan çocukları koruyacak en etkili mekanizma olarak üretken yapay zeka algoritmaları öne çıkıyor.

Bununla birlikte, yapay zekanın bu potansiyelini tam anlamıyla gerçekleştirebilmesi için etik sorumluluklar, mahremiyet ve insan gözetimi gibi kritik unsurların da göz önünde bulundurulması gerekiyor. Yapay zekanın şeffaf ve sorumlu bir şekilde çalışması, çocukların dijital dünyada en iyi şekilde korunmasını sağlayabilir.