Yapay zeka çocukların günlük yaşamında daha fazla kullanılıyor
Yapay zeka destekli sohbet robotlarının yaygınlaşması, çocukların teknolojiyle kurduğu ilişkiyi de değiştiriyor.
Çocuklar yapay zeka araçlarından ders çalışmak ve ödev hazırlamak için yararlanırken, aynı zamanda sağlık, beden, duygular ve kişisel sorunlar hakkında bilgi almak için de bu sistemlere başvuruyor.
Google’ın eski güven ve güvenlik yöneticisi Tom Siegel, yapay zekanın çocuklar üzerindeki etkisine ilişkin çeşitli uyarılarda bulundu. Siegel, özellikle sohbet tabanlı yapay zeka sistemlerinin çocuklarla doğrudan ve uzun süreli iletişim kurabilmesinin yeni güvenlik sorunları yaratabileceğini belirtti.
Sosyal medya dönemindeki hatalara dikkat çekti
Siegel’in değerlendirmelerinde sosyal medya deneyimi önemli bir yer tutuyor.
Teknoloji şirketlerinin sosyal medyanın hızlı büyüdüğü dönemde çocukların ruh sağlığı, bağımlılık ve zararlı içeriklere maruz kalması gibi sorunlara yeterince erken müdahale etmediğini belirten Siegel, benzer sorunların yapay zeka alanında da yaşanmaması gerektiğini savunuyor.
Yapay zeka sistemlerinin sosyal medyadan farklı olarak kullanıcıyla doğrudan iletişim kurduğuna dikkat çeken Siegel, çocukların bir sohbet robotuna soru sorabildiğini, tavsiye alabildiğini ve uzun süreli bir iletişim kurabildiğini belirtiyor.
Çocukların yüzde 86’sı yapay zeka kullanıyor
Common Sense Media tarafından ABD’de 9-17 yaş arasındaki 1.204 çocukla gerçekleştirilen araştırma, yapay zekanın çocuklar arasındaki kullanım oranını ortaya koydu.
Araştırmaya katılan çocukların yüzde 86’sı yapay zeka kullandığını söyledi. Yaklaşık dörtte biri ise yapay zeka araçlarını her gün kullandığını belirtti.
Araştırmanın sonuçları, yapay zekanın çocukların günlük yaşamında giderek daha fazla yer edindiğini gösteriyor.
Kullanım alanları eğitimle sınırlı değil
Çocukların yapay zeka kullanım amaçları da araştırmada incelendi.
Yapay zeka kullanan çocukların yarısından fazlası sağlık veya bedenleriyle ilgili konularda bu sistemlere başvurduğunu belirtti.
Çocukların üçte birinden fazlası ise duyguları veya kişisel sorunları hakkında yapay zeka ile konuştuğunu söyledi.
Bu sonuçlar, yapay zeka sistemlerinin çocuklar tarafından yalnızca eğitim ve eğlence amacıyla kullanılmadığını ortaya koyuyor.
Bazı çocuklar yapay zekanın kendilerini daha iyi anladığını düşünüyor
Araştırmada çocukların yapay zeka ile kurduğu duygusal ilişkiye dair sonuçlar da yer aldı.
Duygusal veya kişisel sorunlarını yapay zeka ile paylaşan çocukların yaklaşık dörtte biri, sistemlerin kendilerini çoğu insandan daha iyi anladığını düşündüğünü belirtti.
Ayrıca yapay zeka kullanan her beş çocuktan yaklaşık biri, bu araçları bir ay boyunca kullanamamanın kendisi için zor olacağını söyledi.
Uygunsuz içerikle karşılaşan çocuklar bulunuyor
Araştırmada yapay zeka kullanımının içerik güvenliği boyutu da ele alındı.
Sohbet robotlarını kullanan çocukların yaklaşık altıda biri uygunsuz içerikle karşılaştığını bildirdi.
Ancak bu çocukların yalnızca yaklaşık üçte biri yaşadığı durumu güvendiği bir yetişkine anlattı.
Bu sonuç, çocukların yapay zeka kullanırken karşılaştıkları bazı sorunların ebeveynler veya diğer yetişkinler tarafından fark edilmeyebileceğine ilişkin soru işaretleri oluşturuyor.
Çocukların yapay zekaya duyduğu güven tartışılıyor
Araştırmanın bir başka sonucu ise çocukların yapay zekanın bilgi doğruluğu konusunda yeterli farkındalığa sahip olmayabileceğini gösterdi.
Katılımcıların yalnızca yaklaşık üçte biri, yapay zekanın doğru ve yanlış bilgiyi her zaman güvenilir biçimde ayıramayacağını bildiğini söyledi.
Özellikle sağlık ve kişisel sorunlar gibi hassas konularda yapay zeka tarafından verilen bilgilerin sorgulanması gerektiği belirtiliyor.
Yapay zeka ürünlerine bağımsız güvenlik testi
Tom Siegel, Common Sense Media bünyesinde kurulan Youth AI Safety Institute’un ilk icra direktörü olarak görev yapacak.
Enstitünün temel hedeflerinden biri, çocukların kullandığı yapay zeka ürünlerini şirketlerden bağımsız biçimde test etmek ve güvenlik standartları oluşturmak.
Bu çalışmalar, otomobillerde gerçekleştirilen bağımsız güvenlik testlerine benzer bir model üzerinden yürütülecek.
Yapay zeka sistemlerinin kriz durumlarında nasıl yanıt verdiği, zararlı tavsiyeler üretip üretmediği, çocuklarla yaşlarına uygun iletişim kurup kurmadığı ve duygusal bağımlılığı teşvik edebilecek davranışlar sergileyip sergilemediği incelenecek.
Test sonuçlarının kamuoyuna açıklanması planlanıyor
Yeni enstitünün gerçekleştireceği değerlendirmelerin sonuçlarının kamuoyuyla paylaşılması hedefleniyor.
Ayrıca yapay zeka şirketlerinin karşılaması gereken ölçülebilir güvenlik kriterlerinin oluşturulması planlanıyor.
Enstitünün finansman sağlayıcıları arasında Anthropic ve OpenAI Foundation da bulunuyor. Kuruluş, finansman sağlayan şirketlerin test sonuçları ve güvenlik değerlendirmeleri üzerinde söz sahibi olmadığını ve çalışmalarında bağımsızlığını koruduğunu belirtiyor.
Çocuk güvenliği için yeni standart arayışı
Siegel’in yaklaşımının merkezinde, yapay zeka şirketlerinin kendi ürünlerinin güvenliğini yalnızca kendi iç denetimleriyle değerlendirmemesi gerektiği görüşü bulunuyor.
Çocukların yapay zekayı eğitimden sağlığa, kişisel sorunlardan duygusal paylaşımlara kadar geniş bir alanda kullanmaya başlaması, bağımsız denetim ihtiyacını da gündeme getiriyor.
Yapay zekanın çocukların günlük yaşamındaki kullanımının artmasıyla birlikte teknoloji şirketleri, aileler, eğitimciler ve düzenleyici kurumlar açısından çocuklara yönelik güvenlik standartlarının nasıl oluşturulacağı önümüzdeki dönemin önemli tartışma başlıklarından biri olacak.
