362 Belgelenmiş Yapay Zekâ Olayı
Yapay zekâ kaynaklı belgelenmiş olay sayısı keskin biçimde arttı. Stanford’un bağımsız yıllık raporu 2025 yılı için 362 belgelenmiş yapay zekâ olayı sayıyor. Aynı rapor sorumlu yapay zekâ tarafının yetenek tarafının gerisinde kaldığını söylüyor.
Bu sayı yalnızca belgelenenleri kapsıyor. Yani gerçek sayı daha yüksek. Çoğu olay hiç kayda geçmiyor; küçük işletmede ise neredeyse hiç.
Rakam Ne Söylüyor?
BU BÖLÜMÜN ÖZETİ
- Artış kullanımla birlikte geliyor
- Kayıt tutmak istisna
- Sorumlu yapay zekâ geride
Üç bulgu var.
Artış kullanımla birlikte geliyor
Kullanım yaygınlaştıkça olay sayısı da artıyor. Bu beklenen bir şey. Kullanım arttıkça hata da artıyor. Sorun artışın kendisi değil, hızı. Denetim aynı hızda kurulmuyor. Asıl mesele artışın hızı; benimseme eğrisiyle olay eğrisi birlikte yükseliyor. Denetim eğrisi ise geride kalıyor. Aradaki mesafe her yıl biraz daha açılıyor. Kullanım hızlı büyüyor, denetim yavaş. Fark risk olarak birikiyor. Bir noktada görünür hâle geliyor. Genelde de en kötü zamanda; müşteriye giden bir hatayla.
Kayıt tutmak istisna
Rapor kurumların çoğunun olay kaydı tutmadığına dikkat çekiyor. Kaydı olmayan işletme neyin yanlış gittiğini göremiyor. Aynı hata tekrar ediyor. Üç satırlık bir kayıt bunu önlüyor. Yazmak iki dakika sürüyor. Bir yıl sonra da hangi işte hata çıktığı görünür oluyor.
Sorumlu yapay zekâ geride
Raporun en sık tekrarladığı uyarı bu. Yetenekler her yıl belirgin biçimde ilerliyor. Denetim ve gözetim tarafı aynı hızda ilerlemiyor. Makas da her yıl açılıyor.
Manşetin Kaçırdığı
BU BÖLÜMÜN ÖZETİ
- Olay büyük kaza demek değil
- İnsan gözetimi isteğe bağlı görülüyor
- Kendine güvenen yanlış en tehlikelisi
Üç ayrıntı var.
Olay büyük kaza demek değil
Belgelenen olayların çoğu felaket değil. Yanlış bilgi, uygunsuz çıktı ya da hatalı karar. Küçük işletmede de aynı türden şeyler oluyor; yalnızca kimse buna olay demiyor. Düzeltilip geçiliyor ve unutuluyor. Oysa aynı hata birkaç ay sonra tekrar çıkıyor. İkinci seferde kimse bunun tekrar olduğunu fark etmiyor. Kayıt olmadığı için öğrenme de birikmiyor. Her seferinde sıfırdan başlanıyor. Tecrübe kişide kalıyor ama kurumda kalmıyor. O kişi ayrıldığında da gidiyor. Kayıt, tecrübeyi kuruma bağlayan tek şey oluyor. Üç satır bunun için yeterli oluyor. Uzun rapor kimseden çıkmıyor. Kısa kayıt ise alışkanlığa dönüşüyor ve sürdürülebiliyor. Yılda birkaç satır bile yeterli.
İnsan gözetimi isteğe bağlı görülüyor
Rapor insan denetiminin bir tercih olmadığını vurguluyor. Ama uygulamada denetim çoğu yerde biçimsel kalıyor. Onay veriliyor ama kontrol edilmiyor. İmza atmak okumak anlamına gelmiyor. Biçimsel onay, hiç onay olmamasıyla aynı sonucu veriyor. Hatta daha kötü; herkes kontrol edildiğini sanıyor.
Kendine güvenen yanlış en tehlikelisi
Çıktı emin bir tonla geliyor. Yanlış olduğunda da aynı tonla geliyor. Okuyan kişi bu yüzden sorgulamıyor. Sorun bilgisizlik değil. Güvenin yanlış yere kurulması. Doğrulama düzeni tam olarak bunu hedefliyor.
İşletme Ne Yapmalı?
BU BÖLÜMÜN ÖZETİ
- Maliyet: olay kaydı üç satır
- İlk adım: geçmişe bakın
- Sonraki adım: kontrol noktası koyun
Üç adım.
Maliyet: olay kaydı üç satır
Bir şey yanlış gittiğinde üç satır yazın. Ne oldu? Nerede fark edildi? Ne yapıldı? Yılda birkaç kayıt bile örüntüyü gösteriyor. Hangi işte hata çıktığı böylece netleşiyor. Denetim o işe yoğunlaştırılıyor. Diğerlerine hafif kontrol yetiyor. Böylece denetim sürdürülebilir hâle geliyor.
İlk adım: geçmişe bakın
Son altı ayda yapay zekâ çıktısı yüzünden düzeltme yaptınız mı? Cevap evetse zaten bir olayınız var. Yazılmadığı için görünmüyor. Görünmeyen sorun yönetilmiyor. İlk kayıt da geçmişe bakarak yazılabiliyor.
Sonraki adım: kontrol noktası koyun
Müşteriye giden her metin bir kişiden geçsin. Bu tek kural olayların çoğunu daha dışarı çıkmadan durduruyor. İş-araç eşleşmesi riski baştan azaltıyor.
Kayıt tutmayan işletme, aynı hatayı ikinci kez yapana kadar sorunu fark etmiyor.