Yıllarını verdiği tezgâhı kalfasına devreden ustanın gözü hep o tezgâhtadır. Çocuğuna bisiklet sürmeyi öğreten bir ebeveyn, çocuğun artık düşmeyeceğini bilse de seledeki elini bir türlü çekemez. Bir işi başkasına devrederken kâğıt üzerinde yalnızca zaman kazandığımızı düşünürüz. Oysa içimizde, işin sonucunu ve bütün sorumluluğunu da teslim etmişiz gibi bir his vardır.
Yönetim kitapları devretmeyi birkaç adımlık akılcı bir teknik gibi anlatır. Oysa devretmek, insanın en eski dürtülerinden biriyle çatışır: kontrol etme isteği. Bir işin yürümesi bize hiçbir zaman yetmemiştir; bizim kontrolümüzde yürümesi gerekir.
En iyi yönetici, yapmak istediği işi yapacak iyi insanları seçecek kadar sağduyulu, onlar işi yaparken karışmayacak kadar da kendine hâkim olan kişidir.
Theodore Roosevelt
Roosevelt bu sözü yüz yıl önce, insanların insanları yönettiği bir dünya için söylemişti. İnsan insanı yönetirken bile kendini tutmakta bu kadar zorlanıyordu. Bugün aynı sınavı, kendi başına çalışan sistemlerle veriyoruz. İşin ilginç yanı da şu: makinelere karşı, insanlara olduğumuzdan çok daha acımasızız.
Bunun nedeni teknolojiden çekinmek ya da ona önyargıyla bakmak değil. Arkasında, laboratuvarda ölçülmüş iki köklü refleks var.
Makinenin hatasını neden affetmiyoruz?
2015 yılında Wharton'da üç araştırmacı (Berkeley Dietvorst, Joseph Simmons ve Cassie Massey) çok sade bir deney tasarladı. Katılımcılara bir tahmin görevi verildi ve bir seçim sunuldu: kazançlarını bir insanın tahminine mi bağlamak isterler, yoksa istatistiksel bir algoritmanın tahminine mi? Bazı gruplar seçim yapmadan önce hem insanın hem algoritmanın geçmiş performansını görebildi.
Sonuç beklenenin tersiydi: katılımcılar algoritmayı çalışırken gördükçe ona daha az güvendi, hem de algoritma insandan açıkça daha iyi tahmin yaptığı halde. Küçük bir hata yapan algoritmaya olan güvenlerini, aynı hatayı yapan bir insana göre çok daha hızlı kaybettiler.
Literatürde Algoritma Kaçınması (Algorithm Aversion) adıyla geçen bu refleksi ofiste her gün görürüz. Yeni başlayan bir stajyer hata yaptığında hoş görürüz: "Daha yeni, öğrenecek, bir dahakine dikkat eder," deriz. Aynı hatayı bir yapay zeka aracı yaptığında ise ona olan güvenimizi bir anda kaybeder, fişini çeker ve direksiyona kendimiz geçeriz.
İnsanın kusurunu kolayca bağışlarız; makinenin kusuruna ise hiç tahammülümüz yoktur. Bir kez hata yapan yazılımı kullanmayı bırakmak, bir kez hata yapan çalışanı işten çıkarmaktan çok daha kolay gelir.
Bu bir teknoloji sorunu değil, insanın makineyle kurduğu eşitsiz ilişkinin doğası. Şirketinde yapay zeka kullanmaya başlayan her yönetici bununla ilk gün karşılaşır.
Çalışmayan düğmelere basmaya devam ediyoruz
İkinci refleks çok daha tanıdık bir alışkanlıkta saklıdır.
Asansörü çağırırken düğmeye bir kez basmak kimseye yetmez. Asansör biraz gecikince bir daha, bir daha basarız. Kumandanın pili zayıfladığında tuşa daha sert basar, kolumuzu televizyona doğru uzatırız. Kahvehanede tavla oynayanları izleyin: şeş isteyen, zarı avucunda uzun uzun sallar, üfler, sonra masaya sert atar.
Bu sadece bize özgü bir huy değil. Sosyolog James Henslin 1967'de zar oyuncularını izlerken aynı şeyi gördü: büyük sayı isteyen zarı sert, küçük sayı isteyen yavaş atıyordu. 2024'te yapılan bir deney bunu ölçtü: katılımcılar altı gelsin diye zarı, bir gelsin diye attıklarından daha sert attılar.
Davranış bilimleri buna Kontrol Yanılsaması (Illusion of Control) der: sonuç üzerinde gerçek bir etkimiz olmasa da işin içinde olduğumuzu hissetmek bizi rahatlatır. Düğmeye basmak sonucu değiştirmez, ama beklemenin sıkıntısını hafifletir.
Bunun belgelenmiş en çarpıcı örneği New York'tadır. Şehirdeki yaya geçitlerinde bulunan düğmelerin çoğu hiçbir işe yaramaz. Şehir 1970'lerde trafik ışıklarını bilgisayarla yönetmeye başlayınca düğmelerin sistemle bağlantısı kesildi, ama düğmeler direklerde kaldı. New York Times 2004'te konuyu araştırdığında, şehirdeki 3.250 düğmenin 2.500'den fazlasının hiçbir yere bağlı olmadığı ortaya çıktı.
İnsanlar ne yaptı peki? Basmaya devam ettiler. Bugün de her gün o düğmelere basıyorlar.
Bir yapay zeka aracının başında gereksiz yere beklediğimiz dakikalar da zarı üflemekten farksızdır. Araç işini zaten yapacaktır. Biz yine de ekranın başında "Cari hesabı doğru firmayla mı eşleştirecek?", "Faturadaki KDV'yi doğru mu okuyacak?" diye her adımı izleriz. Bunun sonucu değiştirmediğini biliriz, ama elimizin direksiyonda olduğunu hissetmek isteriz.
Çare güven vermek değil, biraz kontrol vermek
Buraya kadar tablo karamsar: insan makineye güvenmiyor ve başında boşuna nöbet tutuyor. Teknoloji sektörünün buna cevabı da hep aynı olmuştur: "Arkanıza yaslanın, yapay zekaya güvenin."
Bu tavsiye işe yaramaz. İşe yaramadığını da yine aynı araştırmacılardan biliyoruz.
Aynı ekip 2018'de deneyi tek bir farkla tekrarladı: katılımcılar bu kez algoritmanın tahminini az da olsa kendileri değiştirebiliyordu.
Sonuç netti. Küçük bir müdahale payı olan katılımcılar, kusursuz olmayan algoritmayı çok daha sık seçti. Algoritmayı kullandıkları için tahminleri de iyileşti ve daha fazla kazandılar.
En çarpıcı bulgu şuydu: değişiklik payı %2 ya da %5 gibi sembolik bir sınırda tutulduğunda bile etki kaybolmadı. Yani insanlar algoritmanın her tahminini yeniden yapmak istemiyordu. Onlara gerektiğinde düzeltebileceklerini bilmek yetiyordu.
Şirketinde yapay zeka kullanan herkesin aklında tutması gereken ders bu. İnsanlara "teknolojimize güvenin" diyerek algoritma kaçınmasını aşamazsınız. Bu refleksi güven vaadi değil, kontrolü geri vermek kırar. Hem de kontrolün tamamını değil, kritik anlarda küçük bir parçasını.
Yaya düğmesinin asıl dersi de burada: New York'un hatası düğmeyi koymak değildi, arkasındaki kabloyu kesmekti. İnsana kontrol hissi verip arkasını boş bırakırsanız elinizde bir plasebo kalır. Düğmenin arkasında gerçekten çalışan bir mekanizma olmalı.
Biz bu sistemi nasıl inşa ediyoruz?
Buradan çıkan tasarım kuralı yalın: insanın kontrol içgüdüsünü bastırmaya çalışmayacaksınız. Ona, işi yavaşlatmadan kullanabileceği bir kontrol vereceksiniz.
Bir chatbot soruya cevap verir; cevap yanlışsa okur, geçersiniz. Agent ise sizin adınıza iş yapar: müşteriye WhatsApp'tan dönüş yapar, tedarikçiye e-posta atar, gece yarısı vadesi gelen tahsilatları çıkarır. Yaptığı hata ekranda kalmaz; müşteriye, tedarikçiye, muhasebeye ulaşır. Her şeye karışma isteği de en çok burada güçlenir. Biz bu dengeyi beş kural üzerine kuruyoruz:
1. Son onay butonu sizde
İnsanın o düğmeye basma ihtiyacını ciddiye alıyoruz. Botonom'da bir agent'ın yetkisi, prompt'a yazılmış bir ricadan ibaret değildir; veri katmanında kesin kurallarla sınırlanır. Kritik işler (ödeme talimatları, kayıt silme, müşteriye giden fiyat teklifleri) her zaman bir insanın onayından geçer. Agent hazırlığın neredeyse tamamını yapar, son onay butonu ise yöneticidedir. Deneydeki "küçük müdahale payı"nın üründeki karşılığı budur. Bu bir süs değil; algoritma kaçınmasına doğrudan çaredir.
2. Yaptığı her işin kaydı
Bir asistanın en tedirgin edici yanı, arka planda ne yaptığının bilinmemesidir. Botonom'da agent'ın çalıştırdığı her araç (tool) anında kayda geçer: hangi aracı çağırdı, hangi bilgiyi gönderdi, karşılığında ne aldı. Bu kayıtlar kullanıcıya açıktır ve 90 gün saklanır. "Arkamdan ne yaptı?" kuşkusunun yerini "İstersem açıp adım adım bakarım" rahatlığı alır. Bir sınırı da baştan söyleyelim: agent'ın attığı adımları gösteriyoruz, modelin ham düşünce akışını göstermiyoruz. Şeffaflıktan kastımız, yapılan işin kaydıdır.
3. Kimse bakmıyorken yetki kısıtlı
Agent'ın gece yarısı zamanlanmış bir görevi tek başına çalıştırdığı anlar, kontrol kaygısının en haklı olduğu anlardır; çünkü başında kimse yoktur. Bu yüzden Botonom'da zamanlanmış görevler varsayılan olarak kısıtlı çalışır: dışarıya yazan ya da mesaj gönderen yetkiler kapalıdır. Agent vadesi geçen tahsilatları çıkarır, hatırlatma mesajlarını hazırlar, ama müşteriye tek mesaj göndermez. Siz sabah çayınızı alıp onay verene kadar kilit açılmaz.
4. Her sabah aynı talimatı vermek zorunda değilsiniz
Güveni en hızlı yıkan şey sürprizdir. Aynı işi dün bir türlü, bugün başka türlü yapan bir sisteme hiçbir yönetici işini gönül rahatlığıyla devredemez. Botonom'da agent'a verdiğiniz bir talimat ("Fiyat teklifini ben görmeden müşteriye gönderme" gibi) o günkü konuşma bitince unutulmaz. Ertesi hafta da, başka bir kanalda da geçerlidir. Aynı uyarıyı her sabah tekrarlamanız gerekmediğini gördüğünüz gün, direksiyondaki elinizi gevşetmeye başlarsınız.
5. Sohbetin başında nöbet tutmak yerine: Botonom Bağımsız Ajan Karnesi
Mikro yönetimin en yorucu hali, "Müşteriye doğru üslupla yaklaştı mı, derdini anladı mı, şirket ilkelerine uydu mu?" kaygısıyla yüzlerce satırlık konuşma kaydını tek tek okumaktır. Hiçbir yönetici, çağrı merkezindeki her görüşmeyi kulaklık takıp dinlemez. Şirketlerde bunun yerine kalite standartları, bağımsız denetimler ve dönemsel değerlendirmeler vardır.
Botonom'a bu yüzden bağımsız bir denetim mekanizması koyduk: Botonom Bağımsız Ajan Karnesi.
Temel ilke şu: agent kendine not vermez. Bir çalışan kendi performans değerlendirmesini tek başına yazamaz. Agent'ın kendi konuşması için "harika konuştum" demesi de bir şey ifade etmez. Konuşma bittiğinde bağımsız mekanizma onu önceden belirlenmiş, nesnel ölçütlerle değerlendirir:
- Yanıt açık ve anlaşılır mıydı?
- Üslup şirketin diline uygun muydu?
- Müşterinin mesajındaki memnuniyetsizlik ya da risk işaretleri zamanında fark edildi mi?
Sonuç, karmaşık bir teknik log değil; yöneticinin önüne gelen kısa bir karnedir. Yönetici yüzlerce konuşmayı okumak yerine göstergeleri bir bakışta görür, sapmayı hemen fark eder ve ekibini bir orkestra şefi gibi yukarıdan yönetir. Ölçümün bağımsız ve nesnel olduğunu bilmek, seledeki o tereddütlü eli çekmeyi kolaylaştırır.
Asıl mesele
İnsanlara kontrol etme isteklerinden vazgeçmelerini söyleyemezsiniz. O istek bir kusur ya da kapris değil; insanın belirsizlik karşısında ayakta kalmasını sağlayan en köklü reflekslerden biri.
Söylediğimiz şey basit: kontrolü elde tutmak için işi yavaşlatmak ya da agent'ın elini kolunu bağlamak gerekmez. Onay kapısı, okunabilir iş kaydı, unutulmayan talimatlar ve Bağımsız Ajan Karnesi, insanı süreçten koparmadan mikro yönetimden kurtarır.
Direksiyonu tamamen bırakmanız gerekmiyor. Yalnızca her virajda, parmaklarınız bembeyaz olana kadar sıkmanıza gerek yok.
Sıkça sorulan sorular
Algoritma kaçınması sadece yapay zekaya mı özgü?
Hayır, kavram yapay zekadan çok daha eski. Wharton'ın 2015 çalışması istatistiksel modellerle yapılmıştı. Bugün agent'larda daha belirgin olmasının nedeni, bu sistemlerin artık doğrudan iş yapması ve hatalarının daha çabuk görünmesi. Makinenin hatasına karşı tahammülsüzlük ise yapay zekadan çok önce de vardı.
Onay kapıları agent'ların çalışma hızını yavaşlatmaz mı?
Yavaşlatır; kritik işlerde yavaşlatması da gerekir. Asıl mesele, hangi işin onaydan geçeceğini doğru seçmektir. Her küçük adımı onaya bağlarsanız işi zaten kendiniz yapmış olursunuz. Hiçbirini bağlamazsanız ilk hatada sistemin fişini çekersiniz. Onay kapısı, bu iki uç arasındaki dengedir.
İnsanların yapay zekaya her adımda karışmayı bırakması ne kadar sürer?
Bunun belli bir süresi yok; çünkü güven telkinle değil, öngörülebilir tekrarla oluşur. Yönetici, agent'ın aynı işi defalarca beklediği gibi yaptığını gördükçe denetimi kendiliğinden azaltır. Sistemin görevi, bu süreci şeffaf, kayıtlı ve sürprizsiz tutmaktır.
Araç kayıtlarında neler var, modelin düşüncesini de görebilir miyiz?
Kayıtlarda agent'ın şirket sistemlerinde çalıştırdığı araçlar, gönderdiği bilgiler ve aldığı yanıtlar 90 gün boyunca saklanır. Modelin iç düşünce akışı bilerek gösterilmez. Şeffaflıktan kastımız agent'ın yaptığı işin kaydıdır, yöneticinin ekranını ham düşünce yığınlarıyla doldurmak değil.
