Hızla gelişen yapay zeka teknolojileri, sistemlerin sahip olduğu yetkilerin genişlemesiyle birlikte yeni güvenlik tartışmalarını da beraberinde getiriyor. ABD Başkanı Donald Trump'ın teknoloji şirketlerinin yöneticileriyle yaptığı toplantının ardından Google, OpenAI, Meta, Anthropic, Nvidia ve xAI dört katmanlı gönüllü denetim sistemi üzerinde uzlaştı.
Yeni model kapsamında şirketlerin yapay zeka sistemlerini şirket içinde izlemesi, ayrı güvenlik ekipleri kurması, bağımsız dış denetim yaptırması ve sonuçları yönetim kurulu seviyesinde takip etmesi planlanıyor. Sistemlerin izinsiz olarak başka teknik altyapılara erişmesini veya bunları hacklemesini engellemek de taahhütler arasında yer alıyor.
Yapay zeka ajanlarının yetkileri genişliyor
ABD Ulusal Standartlar ve Teknoloji Enstitüsü'ne (NIST) göre yapay zeka ajanları saatler boyunca bağımsız şekilde çalışabiliyor. Bu sistemler yazılım geliştirme, hata ayıklama, e-posta ve takvim yönetimi gibi görevlerin yanı sıra alışveriş işlemlerini de gerçekleştirebiliyor.
Ajanların klasik yapay zeka sistemlerinden ayrılan önemli özelliklerinden biri, dış sistemlerle etkileşime girebilmeleri. Bu nedenle bir sohbet robotunun yanlış yanıt vermesiyle, gerçek sistemlere erişim yetkisi bulunan bir ajanın hatalı işlem yapmasının sonuçları aynı olmuyor.
Ajanlara verilen yetki arttıkça, olası bir hatanın gerçek sistemlere taşınma riski de büyüyor.
Bir yapay zeka ajanı kamu sistemine girdi
Bu riskin dikkat çeken örneklerinden biri Avustralya'da yaşandı. Bir OpenAI ajanının haziranda hükümete ait sağlık portalındaki yetkisiz bir arka kapı üzerinden sisteme girdiği bildirildi.
Yetkililer, olayın ardından kişisel verilere erişildiğine ilişkin herhangi bir kanıt bulunmadığını açıkladı.
Benzer olayların şirket sistemlerinde de yaşandığı aktarıldı. OpenAI'a ait otonom ajanların kapalı test ortamından çıkarak Hugging Face platformuna yöneldiği, Anthropic ve Google'ın da benzer izinsiz faaliyetler tespit ettiği bildirildi.
Yaşanan olaylar, yapay zekanın gerçek sistemlerde gerçekleştirdiği işlemlerden kimin sorumlu olacağı tartışmasını da gündeme taşıdı.
Yapay zeka kaynaklı olaylar yüzde 55 arttı
Stanford Üniversitesi'nin 2026 AI Index raporunda yer alan verilere göre AI Incident Database'e kaydedilen yapay zeka kaynaklı olay sayısı 2024'te 233 iken, 2025'te 362'ye yükseldi.
Böylece kayıtlara geçen vaka sayısı yaklaşık yüzde 55 arttı. Stanford, yapay zeka sistemlerinin yetenekleri hızla gelişirken güvenlik ve sorumlu kullanım testlerinin aynı hızda ilerlemediğine dikkat çekti.
Uluslararası rapor riskleri üç başlıkta topladı
Turing Ödüllü yapay zeka araştırmacısı Prof. Yoshua Bengio'nun başkanlığında hazırlanan 2026 Uluslararası Yapay Zeka Güvenliği Raporu, yapay zeka kaynaklı riskleri üç ana grupta ele aldı.
Türkiye'nin de aralarında bulunduğu 30'dan fazla ülke ve uluslararası kuruluşun destek verdiği rapor, 100'ü aşkın uzmanın katkısıyla hazırlandı.
Raporda mevcut yapay zeka sistemlerinin henüz insan kontrolünü tamamen aşabilecek yeteneklere sahip olmadığı belirtildi. Ancak ajanların daha uzun süre bağımsız çalışabilmesi ve dış sistemlere erişim imkanlarının artması, insanların bir hatayı fark etmesinden önce gerçek dünyada işlem yapılması riskini artırıyor.
İlk risk: Kötüye kullanım
Rapora göre bugün için en somut risklerden biri yapay zekanın dolandırıcılık, siber saldırı, manipülasyon ve sahte içerik üretiminde kullanılması.
Sistemlerin çok kısa sürede büyük miktarda içerik üretebilmesi, bu tür faaliyetlerin daha geniş ölçekte yürütülmesine imkan sağlayabiliyor.
İkinci risk: Hatalı işlemlerin büyümesi
Ajanların sahip olduğu işlem yetkilerinin artması, yanlış kararların etkisini de büyütebilir.
Raporda mevcut yapay zekaların yanlış bilgi üretebildiği, hatalı kod yazabildiği ve kendilerine verilen görevleri beklenmeyen biçimlerde yerine getirebildiği belirtiliyor.
İnsan müdahalesinin azalması halinde hataların gerçekleşmeden önce tespit edilip durdurulmasının zorlaşabileceği vurgulanıyor.
Üçüncü risk: İnsan denetiminin kaybedilmesi
Uzmanların ele aldığı en ileri risk senaryosu ise gelecekte çok daha güçlü yapay zeka sistemlerinin insan denetiminin dışına çıkabilmesi.
Rapora göre böyle bir durumun ortaya çıkabilmesi için sistemlerin denetimden kaçabilmesi, uzun vadeli plan yapabilmesi ve kapatılmaya karşı koyabilmesi gibi yetenekler kazanması gerekiyor.
Bugünkü sistemlerin henüz bu seviyede olmadığı belirtilirken, uzmanların böyle bir senaryonun gerçekleşme ihtimali konusunda görüş birliğine sahip olmadığı ifade ediliyor. Buna rağmen rapor, olası sonuçların çok ağır olabileceği gerekçesiyle bu risk alanının şimdiden araştırılması gerektiğine dikkat çekiyor.
Yeni denetim modeli gönüllülük esasına dayanıyor
Trump yönetimi ile teknoloji şirketlerini bir araya getiren toplantının ardından ortaya çıkan dört katmanlı model; şirket içi izleme, özel güvenlik ekipleri, bağımsız dış denetim ve yönetim kurulu seviyesinde takip mekanizmalarından oluşuyor.
Ancak mutabakatın yasal olarak bağlayıcı olmaması, şirketlerin kendi kendilerini denetlemesinin yeterli olup olmayacağı konusundaki tartışmaların devam etmesine neden oluyor.
