İzleniyorlar, kayıt altındalar, tehlikedeler! Evdeki casus yapay zekâ çocukları tehdit ediyor

Yapay zekânın (YZ) çocuklar üzerindeki etkilerini inceleyen kapsamlı bir rapor, Türkiye'de 6-15 yaş arası çocukların % 91,3'ünün internet kullandığı, % 76,1'inin akıllı telefon sahibi olduğu ve % 66'sının sosyal medya platformlarında aktif olduğunu ortaya koydu.

Külünkoğlu Eğitim ve Kültür Derneği adına Prof. Dr. Murat Okcu tarafından hazırlanan "Çocuklar ve Yapay Zekâ - Bıçak Sırtı Bir Dönemde Eylem Çağrısı" başlıklı rapor, YZ'nin eğitimde fırsatlar sunduğunu ancak veri mahremiyeti, çocuk cinsel istismarı ve kültürel uyumsuzluk gibi ciddi tehditler barındırdığını vurguluyor. Rapor, çocuk haklarını merkeze alan ulusal bir YZ stratejisi geliştirilmesi, veri koruması için yasal reformlar ve şirketlere sorumluluk yüklenmesi çağrısında bulunuyor.

% 84'Ü VİDEO SEYREDİYOR

Rapor, üretken YZ'nin (ör. ChatGPT, DALL-E) çocuklara sahte cinsel içerikli görüntüler üreterek istismarı kolaylaştırdığına dikkat çekiyor ve bu tür içeriklerin üretiminin acilen suç sayılmasını öneriyor. Türkiye İstatistik Kurumu'nun (TÜİK) 2024 verilerine göre, çocukların % 83,9'u internette video seyrediyor, % 75'i ödev yapıyor ve % 72,7'si oyun oynuyor. Bu da dijital dünyada yoğun bir varlık gösterdiklerini kanıtlıyor. Rapor, çocukların verilerinin oyunlar ve akıllı oyuncaklar aracılığıyla toplandığını, ticari amaçlarla işlendiğini ve "gözetim kapitalizmi" riskini artırdığını belirtiyor.

EĞİTİMDE FIRSAT KAPILARI AÇABİLİR

Rapor, YZ'nin eğitimde dönüştürücü bir rol oynayabileceğini ortaya koyuyor. Eğitime özel YZ modelleri (EdGPT), kişiselleştirilmiş öğrenme, analitik düşünme becerileri ve özel gereksinimli çocuklar için destek sunabilir. Ancak, bu modellerin pedagojik etkilerinin henüz yeterince araştırılmadığı belirtiliyor. UNESCO'nun 2021 "YZ ve Eğitim Kılavuzu"na atıfta bulunan rapor, YZ'nin öğrenci, öğretmen ve sistem odaklı kullanımlarının Türkiye'de yerel değerlerle uyumlu şekilde geliştirilmesini öneriyor.

GÜVENLİK ALARMI! DEEPFAKE ÇOCUKLAR İÇİN BÜYÜK TEHDİT

Güvenlik tarafında ise rapor alarm veriyor. Dünya Bankası'na göre, 2024'te en iyi 40 üretken YZ uygulaması aylık 3 milyar ziyaret alıyor ve ChatGPT bu trafiğin % 82'sini yönetiyor. Ancak, bu teknolojiler deepfake yoluyla çocukların sahte cinsel görüntülerini üretebiliyor. Europol'ün 2024 verilerine göre, çocuk cinsel istismarı internetteki en tehditkar suçlar arasında ilk üçe giriyor. Rapor, paylaşımcı ebeveynlik (sharenting) ve çocukların sosyal medya paylaşımlarının bu tür içeriklere kaynak oluşturduğunu, ebeveynlerin acilen bilinçlendirilmesi gerektiğini vurguluyor.

TÜRKİYE'DEKİ ÇOCUKLARIN DİJİTAL PROFİLİ

TÜİK'in 2024 "Çocuklarda Bilişim Teknolojileri Kullanım Araştırması"na göre, 6-15 yaş arası çocukların dijital alışkanlıkları çarpıcı bir tablo sunuyor:

-İnternet Kullanımı: % 91,3 (erkekler % 92,2, kızlar % 90,3).

-Akıllı Telefon Sahipliği: % 76,1 (11-15 yaş grubunda % 86,2).

-Sosyal Medya Kullanımı: % 66 (6-10 yaş: % 53,5; 11-15 yaş: % 79).

-Popüler Platformlar: YouTube (% 96,3), Instagram (% 41,5), TikTok (% 26,2).

-Aktiviteler: Video izleme (% 83,9), ödev/ders (% 75), oyun oynama (% 72,7), sosyal medya takibi (% 72,6).

-Zamanlama: Hafta içi % 42,9, hafta sonu % 53,6 internet kullanımı; çocuklar günde 2 saat ve üzeri çevrimiçi.

ÇOCUKLARIN ÜÇTE BİRİ İNTERNETTE

Rapor, çocukların interneti genellikle evde kullandığını, bu durumun "ev = dijital dünya" algısını güçlendirdiğini belirtiyor. UNICEF'in Global Kids Online araştırmasına göre, dünya genelinde çocukların üçte biri internet kullanıcısı ve internet kullanıcılarının üçte biri çocuk.

OYUN VE OYUNCAKLAR MASUM DEĞİL

Rapora göre, eğlence amaçlı geliştirilen dijital oyunlar ve akıllı oyuncaklar, çocukları görünmez bir gözetim ağına hapsediyor. Yapay zekâ ile çalışan bu araçlar, çocukların yalnızca eğlenmesini sağlamıyor; aynı zamanda onları izliyor, verilerini topluyor ve kayıt altına alıyor. Rapor, bu oyuncakların çocukların ses, görüntü, konum bilgisi ve biyometrik verilerini (örneğin kalp atışı) işlediğini ve bu verilerin ticari amaçlarla kullanıldığını ortaya koyuyor. Dijital oyunlar ise kullanıcı davranışlarını analiz ederek çocuklara kişiselleştirilmiş, bağımlılık yapıcı içerikler sunuyor.

500 BİN ÇOCUĞUN VERİLERİ SIZDIRILDI

2017 yılında yaşanan CloudPets veri sızıntısı, bu alandaki riskin büyüklüğünü gözler önüne serdi. İnternete bağlanan bir oyuncak aracılığıyla 500.000 çocuğa ait ses kayıtları ve hesap bilgileri sızdırıldı. Rapora göre bu tür vakalar artık istisna değil, sistematik hale geliyor. Veri sömürgeciliği kavramına dikkat çekilen raporda, dijital oyuncakların "masum" görüntüsüne rağmen çocukların mahremiyetini ihlal eden yapılar haline geldiği belirtiliyor. Bu nedenle, ebeveynlerin dijital ürünler karşısında bilinçlendirilmesi, veri işleyen şirketlere çocuklara karşı özel sorumluluk yüklenmesi ve yasal çerçevenin yeniden düzenlenmesi gerektiği vurgulanıyor.

CİNSEL İSTİSMARLA MÜCADELE

Üretken YZ'nin en ciddi tehditlerinden biri, çocuk cinsel istismarı materyali üretimi. Rapor, YZ'nin gerçekte cinsel eyleme katılmayan çocukların bile çıplak veya uygunsuz göründüğü deepfake içerikler oluşturabildiğini belirtiyor. Bu tür içeriklerin şantaj ve ticarileştirme için kullanıldığına dikkat çekiliyor.

Öneriler arasında şunlar yer alıyor:

-YZ ile çocuk cinsel istismarı materyali üretimi ve bu materyalle model eğitimi suç sayılmalı.

-Pornografik veri setleriyle eğitilmiş YZ modelleri yasaklanmalı, istemler kısıtlanmalı.

-Emniyet Teşkilatı Siber Suçlarla Mücadele Birimi güçlendirilmeli.

-BTK'nın İnternet Bilgi İhbar Merkezi daha etkin tanıtılmalı.

--Rapor, YZ'nin çocuk haklarıyla uyumlu olmasını sağlamak için kapsamlı bir yol haritası sunuyor:

-2025'te güncellenecek Türkiye Ulusal YZ Stratejisi'ne çocuk hakları ve üretken YZ eklenmeli. Şu anki strateji (2021-2025) bu konuları kapsamıyor.

*Yasal reformlar:

-6698 sayılı Kişisel Verilerin Korunması Kanunu (KVKK), YZ ve çocuk hakları odaklı güncellenmeli.

-Biyometrik veri toplama yasaklanmalı, çocukları profileyen verilerin otomatik işlenmesi engellenmeli.

-Türk Ceza Kanunu'na (TCK 137) "çocuğa karşı veri suçu" nitelikli suç olarak eklenmeli.

-Çocuk Etki Değerlendirmeleri: YZ sistemleri için zorunlu olmalı.

*Yaş sınırı:

-YZ kullanımı için minimum yaş 13; yaş doğrulama teknolojileri yaygınlaşmalı.

*Şirket sorumlulukları:

-Şirketlere "çocuklara karşı özen yükümlülüğü" getirilmeli.

-16 yaş altına hedefli reklamlar yasaklanmalı.

-Oyunlarda bağımlılık yapıcı özellikler sınırlandırılmalı.

-Sosyal medya platformlarında "doğrulanabilir ebeveyn izni" zorunlu olmalı.

-YZ temelli öneri algoritmaları periyodik raporlanmalı.

Eğitimde Yapay Zekâ

YZ, eğitimde üç alanda etkili:

*Öğrenci odaklı:

EdGPT gibi modellerle kişiselleştirilmiş öğrenme, özel gereksinimli çocuklar için destek.

*Öğretmen odaklı:

-Öğretim araçları ve veri analizi.

*Sistem odaklı:

-Eğitim yönetimi (ör. ders takibi, teftiş otomasyonu).

Pedagojik etkileri araştırılmalı

Rapor, Türkiye'nin küresel modellerin (ör. ChatGPT) kültürel uyumsuzluğuna karşı yerel EdGPT modelleri geliştirmesini, Milli Eğitim Bakanlığı'nın (MEB) eğitim teknolojileri birimlerini yeniden yapılandırmasını ve TÜBİTAK'ın YZ araştırmalarını desteklemesini öneriyor. Ancak, YZ'nin pedagojik etkilerinin araştırılması ve insani etkileşimin korunması gerektiği vurgulanıyor.

Kültürel uyum ve iş geleceği

Rapor, küresel YZ modellerinin Türkiye'nin toplumsal ve ailevi değerleriyle uyumsuz olduğunu, özellikle LGBT içeriklerine karşı hassasiyet gerektiğini belirtiyor. Ayrıca, YZ otomasyonunun iş piyasasını dönüştürdüğüne dikkat çekiyor. Stanford YZ Endeksi'ne göre, 2023'te 2.175 YZ yasama işlemi yapıldı; bu, düzenleme ihtiyacını gösteriyor. Çocukların dijital ve teknik becerilerle donatılması için okulların müfredatlarını güncellemesi öneriliyor.

Çocuk katılımı ve araştırma

Rapor, çocukların YZ politikalarına dahil edilmesi gerektiğini savunuyor. Avrupa Konseyi'nin 2021 rehberine atıfta bulunarak, çocukların karar alma süreçlerinde söz sahibi olması gerektiği belirtiliyor. Türkiye'ye özgü saha araştırmaları için pedagog, psikolog ve eğitim bilimleri uzmanlarından oluşan ekipler öneriliyor. Global Kids Online projesinin Türkiye ayağının başlatılması da teklifler arasında.

Uluslararası işbirliği

Rapor, Türkiye'nin küresel YZ yönetişiminde aktif rol almasını öneriyor. 2023 Bletchley Deklarasyonu'na imza atan 28 ülkeden biri olan Türkiye'nin, Küresel Güney'e öncülük ederek çocuk odaklı politikaları savunması gerektiği belirtiliyor. UNESCO'nun 2021 "YZ Etiği Tavsiye Kararı", UNICEF'in 2019 "YZ ve Çocuk Hakları Memorandumu" ve İngiltere'nin 2023 Çevrimiçi Güvenlik Yasası, rehber olarak öne çıkıyor.