%88 Kullanıyor, Üçte Biri Denetliyor
Kurumların %88’i yapay zekâ kullanıyor. Ama kullandığını denetleyen çok daha az. Stanford Üniversitesi’nin bağımsız yıllık raporu bu ayrımı net koyuyor: kurumsal benimseme %88’e ulaştı. Aynı rapor bir şey daha söylüyor: model kıyaslamaları, gerçek dünyadaki doğrulamadan hızlı ilerliyor.
Yani araç yaygınlaştı, denetim yaygınlaşmadı. Aradaki boşluk da her yıl büyüyor. Araç almak kolay; denetim kurmak bir düzen istiyor.
Rakam Ne Söylüyor?
BU BÖLÜMÜN ÖZETİ
- Benimseme artık haber değil
- Kullanım geniş ama sığ
- Yetenek doğrulamayı geçti
Üç bulgu var.
Benimseme artık haber değil
%88 bir doygunluk göstergesi. Kullanmak bir üstünlük olmaktan çıktı; kullanmamak ise geride kalmak anlamına geliyor. Fark artık nasıl kullanıldığında. Denetimli mi, denetimsiz mi? Aynı araç iki işletmede farklı sonuç veriyor. Belirleyici olan araç değil, etrafına kurulan düzen. Bu düzen satın alınmıyor. Kuruluyor. Bir saatlik bir kararla da başlıyor; tek sayfalık bir kural yeterli oluyor. Kurumsal bir çerçeveye gerek kalmıyor. Üç başlık çoğu işletmeyi kapsıyor: hangi iş, kim denetler, ne doğrulanmadan çıkmaz. Fazlası okunmuyor, uygulanmıyor ve raftaki bir belgeye dönüşüyor.
Kullanım geniş ama sığ
Rapor benimsemenin yaygın olduğunu ama derinleşmediğini söylüyor. Kurumların çok küçük bir bölümü ölçekli kullanıma geçebilmiş. Aradaki fark da düzen farkı. Yani çoğu işletme denemede kalmış durumda. Araç var ama düzen yok. Denemeden ölçekli kullanıma geçmek tam burada tıkanıyor. Araç işe yarıyor ama kimse ona güvenip karar veremiyor.
Yetenek doğrulamayı geçti
Modeller hızla iyileşiyor. Ama o modellerin gerçek işte ne yaptığını ölçen düzenler aynı hızda gelişmiyor. Kıyaslama tablosu iyileşiyor ama sizin işiniz aynı kalıyor. Modelin iyi olması, çıktının doğru olduğu anlamına gelmiyor. Doğruluk sizin işinizde ölçülüyor. Kıyaslama tablosu size bunu söylemiyor. Kendi işinizde denemek gerekiyor. Rapor bunu en önemli uyarılarından biri sayıyor. Yetenek artarken güvence artmıyor. İkisi arasındaki fark da risk olarak birikiyor.
Manşetin Kaçırdığı
BU BÖLÜMÜN ÖZETİ
- Çerçeve kullanan azınlıkta
- Şeffaflık düşük
- Sorun modelde değil düzende
Üç ayrıntı var.
Çerçeve kullanan azınlıkta
Kurumların üçte biri kadarı tanınmış bir risk yönetim çerçevesi kullandığını söylüyor. Geri kalanı kendi yolunu buluyor. Ya da hiç yol aramıyor. İkisi de aynı riski taşıyor. Yani çoğunluk hiçbir çerçeveye bağlı değil. Denetim kişisel dikkate kalmış durumda. Dikkatli çalışan varsa iş yürüyor. Yoksa yürümüyor; bu da kişiye bağlı bir düzen demek.
Şeffaflık düşük
Rapora göre sorumlu yapay zekâ ölçütlerinin yalnızca küçük bir kısmı kamuya açıklanıyor. Bu, sağlayıcılar için de geçerli. Kullandığınız aracın kendi denetim verisine erişemiyorsunuz. Bu yüzden sorumluluk sizde kalıyor. Sağlayıcı aracı veriyor; sonucun hesabını siz veriyorsunuz.
Sorun modelde değil düzende
Rapor sürekli aynı yere işaret ediyor: çıktılar izlenebilir, gözden geçirilebilir ve hesabı verilebilir olmalı. Bu bir yazılım özelliği değil. Bir iş düzeni; kurulması da size düşüyor.
İşletme Ne Yapmalı?
BU BÖLÜMÜN ÖZETİ
- Maliyet: kendi durumunuzu görmek yarım saat
- İlk adım: riskli işleri ayırın
- Sonraki adım: sorumluyu yazın
Üç adım.
Maliyet: kendi durumunuzu görmek yarım saat
Hangi işlerde yapay zekâ çıktısı doğrudan kullanılıyor? Kim kontrol ediyor? Bu iki soruyu yazın. Çoğu işletmede ikinci sorunun cevabı boş çıkıyor. Kimse kontrol etmiyor ama herkes birinin ettiğini sanıyor.
İlk adım: riskli işleri ayırın
Her çıktı aynı denetimi gerektirmiyor. Sayı, alıntı, hukuki ifade ve müşteriye giden metin yüksek riskli sayılıyor. İç not ve taslak ise düşük riskli. Hepsine aynı özeni göstermek de sürdürülemiyor. Doğrulama düzeni bu ayrımla başlıyor.
Sonraki adım: sorumluyu yazın
Kimin neyi kontrol edeceği yazılı değilse kimse kontrol etmiyor. Bir isim yeterli. Sorumlu belli olduğunda denetim yapılıyor. İş-araç eşleşmesi de bu sorumluluğu kolaylaştırıyor.
Aracı benimsemek kolaydı. Zor olan, çıktısına güvenip güvenemeyeceğinizi bilmek.