Güven Araca Değil, Düzene Kurulur
Yapay zekâya güvenmek diye bir şey yok. Kurduğunuz düzene güveniyorsunuz. Stanford’un bağımsız raporu bunu tekrar tekrar söylüyor: çıktılar izlenebilir, gözden geçirilebilir ve hesabı verilebilir olmalı. Bu bir yazılım özelliği değil. Satın alınamıyor. Kuruluyor ve kurması da size düşüyor. Sağlayıcı bu işi sizin yerinize yapmıyor. Aracı veriyor. Düzeni siz kuruyorsunuz ve hesabını da siz veriyorsunuz.
Yani soru “bu araç güvenilir mi” değil. Soru şu: bu çıktı yanlış olsa, sizin düzeniniz onu yakalar mı? Cevabı olan işletme hangi aracı kullandığından bağımsız olarak güvende.
Soru Neden Şimdi Soruluyor?
BU BÖLÜMÜN ÖZETİ
- Araç herkeste, düzen çok azında
- Çıktı emin bir tonla geliyor
- Model karşılaştırması yanıltıyor
- Sorumluluk devredilemiyor
Dört gelişme bu soruyu öne çıkardı.
Araç herkeste, düzen çok azında
Kurumsal benimseme çok yüksek. Ama tanınmış bir risk çerçevesi kullananlar üçte birde kalıyor. Yani araç yaygınlaştı ama denetim yaygınlaşmadı. Aradaki boşluk her yıl büyüyor. Kullanım hızlı artıyor. Denetim yavaş kuruluyor ve aradaki fark risk olarak birikiyor.
Çıktı emin bir tonla geliyor
Doğru olduğunda da yanlış olduğunda da aynı tonla geliyor. Okuyan kişi bu yüzden ayrımı yapamıyor. Güven, doğruluğa değil akıcılığa kuruluyor. Emin bir tonla yazılmış yanlış da en tehlikelisi. Okuyan kişi sorgulamıyor, çünkü metin sorgulanacak gibi durmuyor.
Model karşılaştırması yanıltıyor
Kıyaslama tabloları iyileşiyor. Ama rapor açıkça söylüyor: bu tablolar gerçek dünyadaki doğrulamadan hızlı ilerliyor. İyi kıyaslama, sizin işinizde doğru çıktı anlamına gelmiyor. Doğruluk ancak kendi işinizde ölçülüyor. Bir modelin genel başarısı, sizin sorunuza doğru cevap vereceğini garanti etmiyor. Kıyaslama başka bir görevde yapılmış oluyor. Sizin işiniz o listede yer almıyor. Kendi işinizde denemek bir öğleden sonra sürüyor. Sonuç da kıyaslama tablosundan çok daha anlamlı çıkıyor. Kendi verinizle yapılan test, kimsenin listesine ihtiyaç bırakmıyor.
Sorumluluk devredilemiyor
Sağlayıcı aracı veriyor. Ama müşteri sizinle konuşuyor. Hangi araçla yazıldığı bir savunma sayılmıyor; hesabı yayımlayan veriyor. Okuyucu için imza sizin imzanız. Aracın adı hiçbir yerde yazmıyor. Sorumluluk da bu yüzden devredilemiyor.
Yanlış Olan Ne?
BU BÖLÜMÜN ÖZETİ
- “Daha iyi model alalım”
- “Ekip zaten dikkatli”
- “Her çıktıyı kontrol ediyoruz”
- “Hata yaparsak düzeltiriz”
Dört ezber güveni yanlış yere kuruyor.
“Daha iyi model alalım”
Model değiştirmek en kolay hamle ve en az işe yarayanı. Yeni model bazı hataları azaltıyor, bazılarını artırıyor. Düzen yoksa hangi hatanın azaldığını ölçemiyorsunuz. Değişiklik yapıldı ama sonucu bilinmiyor. Model değiştirmek bir çözüm gibi görünüyor. Aslında kararı erteliyor ve altı ay sonra yeni model de eskiyor.
“Ekip zaten dikkatli”
Dikkat kişiye bağlı bir şey. Yoğun günde azalıyor, kişi değişince kayboluyor. Yazılı olmayan dikkat bir düzen sayılmıyor. Kişiye bağlı kalıyor. O kişiyle birlikte de gidiyor; yeni gelen aynı hataları baştan yapıyor. Kurumda kalan bir şey olmuyor. Yazılı kural ise devir sırasında da elden ele geçiyor.
“Her çıktıyı kontrol ediyoruz”
Her şeyi kontrol etmek sürdürülemiyor. Bir süre sonra kontrol biçimselleşiyor; onay veriliyor, okunmuyor. Katmanlı düzen bu yüzden gerekiyor.
“Hata yaparsak düzeltiriz”
Bazı hatalar düzeltiliyor. Bazıları düzeltilemiyor. Müşteriye giden yanlış sayı, yayımlanan hatalı bilgi, imzalanan yanlış teklif. Bunlarda geri dönüş yok. Özür dilemek her zaman yetmiyor. Güven bir kez sarsıldığında geri kazanmak aylar sürüyor. Bazı müşteriler hiç dönmüyor. Yeni müşteri bulmak ise çok daha pahalı. Bir hatanın maliyeti bu yüzden göründüğünden büyük. Yarım saatlik denetim bu yüzden ucuz kalıyor. Karşılaştırma yapılınca da tartışma bitiyor.
Asıl Mekanizma
BU BÖLÜMÜN ÖZETİ
- Parça 1: risk ayrımı
- Parça 2: eşleşme
- Parça 3: sorumlu
- Parça 4: kayıt
Güvenilir bir düzen dört parçadan oluşuyor.
Parça 1: risk ayrımı
Her çıktı aynı değil. Müşteriye giden metin ile iç taslak aynı denetimi gerektirmiyor. Ayrım yapılmadığında ya her şey kontrol ediliyor ya hiçbir şey. İkisi de çalışmıyor. Ayrım yapmadan kurulan denetim kâğıt üstünde kalıyor. Bir süre sonra atlanıyor. Kimse de fark etmiyor, çünkü zaten kimse bakmıyordu.
Parça 2: eşleşme
Hangi iş hangi araca gidiyor? İş-araç eşleşmesi riski baştan azaltıyor. Dönüştürme işi düşük riskli, araştırma yüksek; ikisi aynı yere gitmemeli. Yanlış eşleşme fark edilmeden risk üretiyor. Kullanan kişi bunu görmüyor. Çıktı düzgün göründüğü için sorgulanmıyor ve hata sessizce ilerliyor.
Parça 3: sorumlu
Kimin neyi kontrol edeceği isimle yazılı. İsimsiz bir kontrol adımı uygulamada hiç var olmuyor; tek bir ad yazmak bunu değiştiriyor.
Parça 4: kayıt
Ne yanlış gitti, nerede fark edildi? Olay kaydı olmadan düzen kendini düzeltemiyor. Aynı hata tekrar ediyor ve kimse görmüyor. Öğrenme de birikmiyor. Kurum aynı dersi ikinci kez ödüyor. Bedeli de her seferinde artıyor; müşteriye yansıdığında büyüyor.
Kimi Nasıl Etkiler?
BU BÖLÜMÜN ÖZETİ
- Tek kişilik işletme
- Küçük ekip
- Müşteriye rapor veren işletme
- Ajans ve hizmet sağlayıcı
Dört profil.
Tek kişilik işletme
İkinci göz yok, bu yüzden zaman kullanılıyor. Metni yazdıktan bir gün sonra okumak çoğu kusuru gösteriyor. Kritik tekliflerde ise dışarıdan bir bakış, harcanan zamana değiyor. Tek kişilik işletmede en büyük risk kendi çıktısını sorgulayamamak. Onaylayacak ikinci kişi olmadığı için de kural daha katı yazılmalı; yazılı kural, unutulan dikkatin yerini tutuyor.
Küçük ekip
En kolay kurulum. Yüksek riskli işlerde ikinci göz, düşük riskli işlerde serbestlik. Kural bir toplantıda anlatılıyor ve uygulanıyor. Buradaki tek risk, kuralın yazılmayıp konuşulmakla bırakılması. Konuşulan kural üç ayda unutuluyor; yazılan kural duruyor.
Müşteriye rapor veren işletme
Risk en yüksek burada. Rapordaki bir sayı yanlışsa güven tamamen gidiyor. Bu profilde kural net olmalı: kaynağı olmayan sayı rapora girmiyor. İstisna da tanınmıyor. Bir kez esnetilen kural, ikinci seferde hiç uygulanmıyor. Bu profilde katılık, esnekliğe tercih ediliyor.
Ajans ve hizmet sağlayıcı
Müşteri artık bunu soruyor: içerikte yapay zekâ kullanıyor musunuz, nasıl denetliyorsunuz? Hazır cevabı olan işletme öne geçiyor. Cevapsız kalan teknik yeterliliğine rağmen eleniyor. Yani denetim düzeni bir uyum işi olmaktan çıkıyor. Satış masasında işe yarayan bir belgeye dönüşüyor.
Karar Sırası
BU BÖLÜMÜN ÖZETİ
- Bir: bedeli ağır olanları ayırın
- İki: her katmana kural yazın
- Üç: sorumluyu isimle yazın
- Dört: kaydı açın
Dört adım.
Bir: bedeli ağır olanları ayırın
İşletmeden dışarı ne çıkıyor ve hangisinde yanlış affedilmez? Liste kısa oluyor. Yarım saatte de tamamlanıyor.
İki: her katmana kural yazın
Ağır işlerde ikinci bir okuma ve kaynak sorgusu. Orta seviyede yazan kişinin kendi kontrolü. Hafif işlerde hiçbir engel yok. Üç cümlelik bir metin bunu karşılıyor.
Üç: sorumluyu isimle yazın
Bir isim ya da bir görev adı yeterli. Hane boş kaldığında o kontrol hiç gerçekleşmiyor.
Dört: kaydı açın
Ortak bir belge açın. İlk kaydı geçmişe bakarak da yazabilirsiniz. Son altı ayda bir düzeltme yaptıysanız zaten bir olayınız var; yazılmadığı için görünmüyor.
Nereden Başlanır?
BU BÖLÜMÜN ÖZETİ
- Ağır olanları belirleyin
- Kuralı tek sayfaya yazın
- Bir toplantıda anlatın
- Kayıt belgesini açın
Dört iş, ilk hafta.
Ağır olanları belirleyin
Dışarı çıkan işler. Kısa bir liste yeterli.
Kuralı tek sayfaya yazın
Üç başlık yeterli. Hangi iş, kim denetler, ne doğrulanmadan çıkmaz?
Bir toplantıda anlatın
Gönderilen kural okunmuyor. Anlatılan kural uygulanıyor; soru sorulabilmesi de anlaşılmayı kolaylaştırıyor.
Kayıt belgesini açın
İlk satırı bugün yazın. Sonrası kolay geliyor ve alışkanlık hâline dönüşüyor.
Ne Yapılmamalı?
BU BÖLÜMÜN ÖZETİ
- Güveni araçta aramak
- Kuralı yazıp anlatmamak
- Denetimi her yere eşit dağıtmak
- Kaydı ceza aracına çevirmek
Dört tuzak.
Güveni araçta aramak
Hangi modelin daha az yanıldığı bir soru. Ama sizin sorunuz değil. Sizin sorunuz, yanılırsa ne olacağı. İkisi farklı sorular ve farklı hazırlık istiyor. Birincisi bir araç seçimi. İkincisi bir düzen kurma işi ve asıl belirleyici olan da bu.
Kuralı yazıp anlatmamak
Yazılıp gönderilen kural okunmuyor. Yarım saatlik bir konuşma, yazılı belgeden çok iş görüyor. Yine de ikisi birlikte yapılmalı. Yazılı metin hatırlatıcı, konuşma ise ikna edici oluyor.
Denetimi her yere eşit dağıtmak
Kaynak sınırlı. Her yere eşit dağıtılan denetim hiçbir yerde yeterli olmuyor. Kayıt, denetimin nereye yoğunlaşacağını gösteriyor. Tahmin yerine veri konuşuyor. Denetim doğru yere yoğunlaşıyor. Diğer yerlerde de hafifliyor; toplam yük artmıyor.
Kaydı ceza aracına çevirmek
Kim hata yaptı sorusu öne çıkarsa kayıt bitiyor. Soru şu olmalı: nasıl fark edildi ve nasıl önlenir? Kişi değil süreç konuşulmalı. Ceza kültürü kaydı bitiriyor, öğrenme kültürü besliyor.
Sağlam Dijital Zemin
BU BÖLÜMÜN ÖZETİ
- Risk katmanları
- İş-araç tablosu
- Sorumlu listesi
- Olay defteri
Dört taş.
Risk katmanları
Ağır, orta ve hafif işler. Yılda bir gözden geçiriliyor; işler değişince katmanlar da değişiyor.
İş-araç tablosu
Hangi iş hangi araca gidiyor ve hangi kuralla? Yeni bir araç geldiğinde tek satır ekleniyor.
Sorumlu listesi
Ağır işlerde kim kontrol ediyor? İsim yazılı ve boş hane bırakılmıyor.
Olay defteri
Üç satırlık kayıtlar. Çeyrekte bir okunuyor ve denetimin yönünü belirliyor.
Sıkça Sorulan Sorular
Yavaşlatan şey kural değil, kuralsızlık. Bir çalışan taslağı kime göstereceğini bilmiyorsa bekliyor. Yöneticiye soruyor, cevap gelene kadar iş duruyor. Bu bekleme her gün tekrarlanıyor ve kimse toplamını hesaplamıyor. Katmanlar tanımlandığında o bekleme ortadan kalkıyor; sıradan işler doğrudan çıkıyor, ağır olanlar sıraya giriyor.
Bu soru göründüğü kadar yararlı değil. Kıyaslama tabloları belirli görevlerde ölçüm yapıyor; sizin işiniz o görevlerden biri olmayabilir. Ayrıca modeller sık değişiyor, bugünkü sıralama altı ay sonra geçersiz oluyor. Sorulacak doğru soru şu: bu çıktı yanlış olsa kim fark eder? Cevabı olan işletme, hangi modeli kullandığından bağımsız olarak güvende. Cevabı olmayan ise en iyi modelle bile risk taşıyor.
Gizlemek risk yaratıyor, kullanmak yaratmıyor. Fark edilen gizleme, açık kullanımdan çok daha fazla zarar veriyor. Doğru yaklaşım şu: nasıl kullandığınızı ve nasıl denetlediğinizi anlatabilmek. Denetim düzeniniz varsa bu konuşma bir güvence oluyor. Yoksa zaten anlatacak bir şey yok. Soru o zaman rahatsız edici oluyor. Hazırlıklı olmak cevabı bir güvenceye çeviriyor. Aynı soru iki işletmede iki farklı sonuç doğuruyor.
Toplam maliyeti bir saatlik kurulum ve çeyrekte bir yarım saatlik okuma. Küçük işletmede kural yazan kişi zaten kararı veren kişi; onay zinciri beklemiyor. Büyük kurumda aynı iş aylarca dolaşıyor. Yani küçük olmak burada bir avantaj. Dezavantaj değil; hız sizin tarafınızda.
