Bir Yapay Zeka Agent'ı Sessizce Nasıl Başarısız Olur: 5 Biçim

İş çalıştı diyordu. Durum yeşil, hata yok, uyarı yok ve aşağıda biri raporun nerede kaldığını sorana kadar kimse bir daha bakmadı. Hiçbir şey çökmemişti: tur, hiç yapılmamış bir iş için başarı kaydı tutuyordu ve kayıtta yanlış olan tek şey, herkesin ona inanmasıydı.

Bir yapay zeka ajanı (agent) işi gerçekten yaptı mı? Bunu doğrulamak için tur durumuna değil sonuca bakın. Bir tur ancak çağırdığı her araç teyit edilmiş bir başarı döndürdüyse, beklenen çıktı hedef sistemde gerçekten duruyorsa ve eylem kaydı neyin değiştiğini yazıyorsa tamamlanmış sayılır. Hata olmaması, işin bittiğinin kanıtı değildir.

Agent neden hiçbir şey olmadığı hâlde "tamamlandı" diyor?

Bu sonucu üreten birbirinden ayrı üç mekanizma var ve her birinin çözümü farklı.

1. Taşıma sağlıklı kaldı, son adım hiç çalışmadı. Akış temiz kapandı, dolayısıyla turu saran altyapı temiz bir bitiş kaydetti. Agent, zincirin ortasında bir yerde süresini, adım bütçesini ya da bütçesini tüketmişti ve zincirin sonundaki teslim adımına hiç sıra gelmedi.
2. Araç, etkiyi teyit etmeden biçimi düzgün bir yanıt döndürdü. Çağrı kabul edildi, yanıt ayrıştırıldı; hedef sistem sonra o çağrıyı reddetti, kuyruğa aldı, kıstı ya da değeri sessizce değiştirdi. Tur kaydında duran şey kabul, sonuç değil.
3. Agent, bir niyeti tamamlanmış bir eylem gibi anlattı. Özet, e-postanın gönderildiğini yazıyor. Gönderme aracı hiç çağrılmadı. Metin akıcı, kendi içinde tutarlı ve olmamış bir şeyi anlatıyor.

Üçü de birebir aynı tur kaydını üretir. Durum alanına bakarak bunları birbirinden ayıramazsınız; zaten durum alanının yanlış yer olmasının sebebi de tam olarak bu.

Üçünün çaresi de bu yazının ilerleyen bölümlerinde tek tek karşınıza çıkacak: birincisi araç sonuçlarından hesaplanan bir tamamlanma sinyaliyle, ikincisi hedef sistemden alınan teyitle, üçüncüsü de özette iddia edilen her eylemi araç çağrısı listesiyle eşleştirerek kapanır.

Bir agent turunda sessiz hata nedir?

“

Sessiz hata, hiçbir hata sinyali üretmediği hâlde amaçladığı etkiyi de üretmeyen bir agent turudur. Hiçbir şey çökmez, hiçbir uyarı çıkmaz ve tur kaydı tamamlanmış gibi okunur.

Gürültülü hata ucuz olanıdır: birini böler, kayda girer ve genellikle aynı gün düzelir. Sessiz hatanın ekonomisi tam tersidir. Bugün hiçbir maliyeti yoktur ve her turda üstüne biner; kimse de bakmaz, çünkü bakmayı tetikleyecek olan şey zaten çalışmayan şeydir.

Bu yüzden sessiz hatanın maliyeti parayla değil zamanla ölçülür: hata ne kadar uzun süre fark edilmeden kalırsa, geriye dönüp elden geçirilmesi gereken tur sayısı o kadar büyür. Gürültülü hatada bu aralık dakikalarla ifade edilir, sessiz hatada haftalarla.

Gözetimsiz iş bunun sivri hâlini taşır. Etkileşimli bir oturumda cevabı okuyan bir insan vardır ve o insan bedava bir doğrulama katmanıdır: fatura numarasının tuhaf durduğunu fark eder. Gece üçte devreye giren zamanlanmış bir agent turunun ise okuyucusu yoktur; turun kendisi hakkında söylediği şey, aşağıda biri sıkıntıya girene kadar var olan tek ifadedir.

İzleme ile doğrulama arasındaki fark ne?

İzleme sistemi izler: süreç ayakta kaldı mı, istek döndü mü, ne kadar sürdü. Doğrulama dünyayı izler: fatura kesildi mi, mesaj ulaştı mı, satır güncellendi mi, sayı doğru mu. İzlenen ama hiç doğrulanmayan bir agent kadrosu, kendinden emin ve yanlış durum panolarını üreten tam da o kurulumdur.

İzleme aynı zamanda satın alması kolay olan taraftır ve panolar bu yazıdaki bütün hata biçimlerinin içinden yeşil çıkar, çünkü hepsinde süreç normal davranırken iş olmamıştır. Kimse sonucu kontrol etmediği için hiç görünmeyen tasarruf da buradan doğar.

İkisinin cevabı pratikte farklı yerlerde durur: izlemenin cevabı sizin panelinizde, doğrulamanınki hedef sistemde. Bu yüzden yalnız panele bakarak geçirilen bir hafta, doğrulama açısından hiç bakılmamış bir haftadır.

İzleme size agent'ın çalıştığını söyler. İşin olduğunu yalnız hedef sistem söyler.

Beş sessiz hata biçimi ve her birinin dışarıdan görünüşü

Tabloyu, panelinizin size gösterdiği şeyden gidip kendi elinizle bakabileceğiniz şeye doğru okuyun. Satırlardan biri, token tabanlı yetkilendirmenin belgelenmiş bir davranışına dayanıyor: OAuth 2.0 çerçevesinde (RFC 6749, IETF, Ekim 2012) erişim token'ının süresi dolar ve yenileme token'ı, belirtimin ifadesiyle, "mevcut erişim token'ı geçersiz hâle geldiğinde veya süresi dolduğunda yeni bir erişim token'ı almak" için vardır. Bir yeteneğin araçlarını listelemek ile o araçları çağırmak ayrı ayrı yetkilendirilir; bu yüzden bağlı bir entegrasyon, arkasındaki yetki çoktan düşmüşken bile araçlarını sorunsuz listelemeye devam edebilir.

Bu beşinden dördü tur kaydında hiç görünmez, yalnız hedef sistemde görünür.

Yarım tamamlanmanın ikinci bir hâli de işin bir agent'tan diğerine geçtiği yerde yaşanır: devir, gönderen tarafta başarılı görünürken alan taraf işi hiç bitirmemiş olabilir. Ayrıca bu hata biçimlerinin ne sıklıkta yaşandığına dair yüzdeler dolaşıyor. Hiçbirinin inandırıcı bir kaynağı yok ve kolay kolay da olamaz, çünkü sessiz hata tanımı gereği kimsenin saymadığı hatadır. Bu yazıda hiçbir başarısızlık oranı olmamasının sebebi budur.

Bir turu güvenebileceğiniz bir tamamlanma sinyaline nasıl çevirirsiniz?

Hesaplayarak. Tamamlanma sinyali, araç çağrılarının ne döndürdüğünden çıkarıldığında güvenilirdir; sürecin bitmiş olmasından çıkarıldığında hiçbir işe yaramaz.

1. Sonucu bağlantıdan değil araç sonuçlarından değerlendirin. Neyin denendiğini, neyin başarılı olduğunu ve neyin başarısız olduğunu sayın.
2. Yan etkili çağrılarının tamamı başarısız olan bir turu, agent akıcı bir özet üretmiş olsa bile başarısız tur sayın.
3. Yeteneğin, modelin etrafından dolaşabileceği bir düzyazı cümlesi yerine makine tarafından okunabilir kodlu yapılandırılmış bir hata döndürmesini şart koşun.
4. Sonucu yalnız dökümün içine değil, işin kendi üzerine yazın; böylece bir insan hiçbir şey okumadan tamamlandı ile başarısız arasındaki farkı görebilsin.

Dördü birlikte tek bir kuralı uygular: tamamlanma, turun kendisi hakkında söylediği şey değil, araç sonuçlarından çıkan bir hesaptır. Bu hesabın turun bittiği anda yapılması da önemli; sonradan dökümden çıkarılan bir sonuç, kimsenin bakmadığı bir yerde durur.

Bunu Botonom'da kendi kadromuzda öğrendik. Zamanlanmış bir paylaşım, hedef hesap kısıtlı olduğu için geri döndü; akış temiz kapandığı için de iş "tamamlandı" olarak kaydedildi. Ağustos 2026'da çalışma zamanını değiştirdik: artık son olay, araç sonuçlarından hesaplanan bir sonuç bilgisi taşıyor ve neyin denendiğini, neyin başarılı olduğunu, neyin başarısız olduğunu sayıyor. Böylece yan etkili çağrılarının tamamı patlamış bir tur artık başarı olarak kaydedilemiyor.

Tamamlanma bayrağı sonuçlardan hesaplanır, sonuçları yazan tarafından iddia edilmez.

Zamanlanmış bir iş, bağlı olduğu yetenekleri neden baştan bildirmeli?

Çünkü bildirilmiş bağımlılık, bozulmuş bir yetkilendirmeyi kendinden emin bir boş sonuç yerine gürültülü bir hataya çevirir. Zamanlanmış bir iş hangi bağlantılara ihtiyacı olduğunu baştan söylerse, model eksik aracın etrafından doğaçlamaya başlamadan tur durdurulabilir.

Asıl tehlike o doğaçlamadır. Veri kaynağına ulaşamayan bir agent çoğu zaman hiçbir şey hakkında akıcı ve inandırıcı bir rapor üretir, çünkü diğer yetenekleri gittiğinde elinde kalan tek yetenek metin üretmektir. Bu yüzden her tekrar eden iş için dokunduğu sistemleri yazın ve her biri için tek bir soru sorun: bu erişilemez hâle gelirse tura ne olur? Cevap "yine de çalışır ve bir şeyler yazar" ise, o işin bildirilmiş bir bağımlılığa ihtiyacı var demektir.

Platformumuzdaki tekrar eden işler bağlı oldukları yetenekleri bildiriyor; gün başında analitik kaynağından veriyi çekip tabloya yazan bir günlük rapor işi, bu ikisinden biri erişilemez olduğunda sessizce boş bir rapor üretmek yerine gürültülü biçimde durduruluyor.

Bildirilmiş bağımlılığın ikinci faydası kayıt tarafındadır: iş durdurulduğunda hangi bağlantının düştüğü eylem kaydına adıyla girer, dolayısıyla ertesi sabah bakan kişi turun tamamını okumadan sebebi görür.

Bir iş üst üste başarısız olmayı sürdürdüğünde ne olmalı?

Kendini duraklatmalı, adı konmuş bir sahibine haber vermeli ve para harcamayı kesmeli. Çalışmaya ve uyarı üretmeye devam etmemeli. Üçüncü aynı uyarı tasarımı gereği görmezden gelinir; bu arada her turda patlayan gözetimsiz bir iş hiçbir şey üretmeden bütçe yakar.

Mekanizmanın bir adı var: sabit bir eşikte devreyi kesen ve ilk başarıda sıfırlanan ardışık hata sayacı. Eşik gerçek bir ödünleşimdir. Çok düşük tutarsanız geçici tek bir ağ hatası sağlıklı bir işi duraklatır; çok yüksek tutarsanız bozuk bir iş bir hafta boyunca çalışır. İşin insan yarısı da en az sayaç kadar önemli: duraklatılan işin, duraklatıldığı kendisine söylenen bir sahibi olmalı. Yoksa sessiz hatayı sessiz duraklamayla takas etmiş olursunuz.

Kendi zamanlamalarımızda ardışık hata sayacı var: üst üste üç başarısız tur zamanlamayı duraklatıyor ve sahibine bildiriyor, ilk başarı da sayacı sıfırlıyor. Sınırını açıkça söylemekte fayda var. Tekrar eden zamanlamalar, onları çalıştıran altyapının yeniden başlamasından sağ çıkıyor; ama vakti bir bakım penceresinin içine düşen tek seferlik bir iş yine de kaçırılabilir. O ayrı bir problemdir ve ayrı bir kontrol ister.

Mühendis olmayan birinin okuyabileceği bir eylem kaydında ne bulunmalı?

İş diliyle beş alan: kim istedi, ne çalıştı, ne değişti, ne harcadı, ne reddedildi. Buna beş alanlı eylem kaydı deyin ve gözetimsiz her agent işini buna tabi tutun.

Kim istedi. Turu başlatan insan ya da zamanlama ve turun kimin yetkisiyle çalıştığı. İşten ayrılmış bir çalışanın izinleriyle atılan bir adım, aynı adımın sizin yetkinizle atılmasından bambaşka bir olaydır.

Ne çalıştı. Sırayla gerçek araç çağrıları ve her birinin ne döndürdüğü; bunların düzyazı özeti değil. Zaten kontrol etmeye çalıştığınız şey o özettir.

Ne değişti. Artık farklı olan kayıt, dosya, mesaj ya da satır; hedef sistemde arayıp bulabileceğiniz bir tanımlayıcıyla birlikte. Arayıp bulamadığınız bir değişiklik, değişiklik değil iddiadır.

Ne harcadı. Turun kendi tüketimi; böylece tek bir agent turunun gerçekte ne harcadığı görünür olur ve pahalı bir hata pahalı bir hata olarak görünür.

Ne reddedildi. Engellenen, onaya takılan ya da bir izin kuralıyla reddedilen her çağrı.

Düzenleyiciler de aynı yere vardı. 13 Haziran 2024'te kabul edilen (AB) 2024/1689 sayılı Yapay Zeka Yasası'nın 12. maddesi, "Kayıt tutma", yüksek riskli yapay zeka sistemlerinin "yaşam döngüsü boyunca olayların (logların) otomatik olarak kaydedilmesine teknik olarak imkân tanıması" gerektiğini söylüyor. Bu yükümlülük tek bir kategoriyi, yüksek riskli sistemleri bağlar ve tekrar eden arka ofis işlerinin çoğu bu kapsamın dışında kalır. Tasarım ilkesi ise kapsamdan bağımsız ayakta duruyor: kayda geçmemiş, yalnızca iddia edilmiş bir gözetimi kimse kontrol edemez.

Reddedilenler, kayıttan ilk atılan alandır ve aslında gereksiz ayrıntı değil kanıttır: red, sınırın tuttuğunu ve agent'ın tekrar tekrar nereye gitmeye çalıştığını söyler. Bir eylemi çalışmadan önce durdurmak, çalıştığını kanıtlamaktan başka bir problemdir ve o konu onay kapılarının tasarımına aittir. Ama aynı eylemde tekrarlanan bir red başlı başına bir tasarım sinyalidir: ya izin yanlıştır ya iş. Kaydın tamamı için yeterlilik testi şu: orada olmayan biri, kimseye sormadan turu yeniden kurabilmeli.

Bir haftalık agent işini on beş dakikada nasıl gözden geçirirsiniz?

Önce başarısızlara bakın, sonra her iş için hedef sistemde tek bir gerçek çıktıyı teyit edin. On beş dakikalık haftalık kontrol beş hamledir ve panosu da mühendisi de olmayan biri için tasarlanmıştır.

1. Önce başarısız turları açın, başarılıları değil. İki dakika.
2. Tekrar eden her iş için tur kaydında değil, hedef sistemde tek bir çıktıyı teyit edin. Beş dakika.
3. Reddedilen ve onaya takılan eylemleri tekrar var mı diye tarayın. İki dakika.
4. Maliyeti geçen haftayla karşılaştırın; sert oynadıysa neyin değiştiğini sorun. Üç dakika.
5. Her iş için tek satır yazın: devam, ayarla ya da duraklat. Sekmeyi kapatmadan önce de uygulayın. Üç dakika.

İki artı beş artı iki artı üç artı üç, on beş eder; bütçenin tamamı bu. Sıra bilinçli: başarısız turlar zaten doğruyu söylüyor, dolayısıyla zaman ayırmaya değen taraf başarılı görünenlerdir.

Beş hamlenin hiçbiri panoya bakmayı içermiyor; hepsi ya tur listesinde ya hedef sistemde yapılıyor. Kontrolü haftanın sabit bir gününe koyun; iş sayısı on beş dakikaya sığmayacak kadar arttığında hamleleri hızlandırmak yerine işleri ikinci bir sahiple paylaştırın.

Hiçbir şeyi duraklatmayla sonuçlanmayan kontrol, kontrol değildir.

Hangi kontroller otomatik çalışır, hangileri insan ister, ucuz örnekleme nasıl yapılır?

Varlık ve sayı işi makinenin işidir; muhakeme insanın. Tablo, gözetimsiz bir agent işinin ihtiyaç duyduğu kontrolleri bu çizgiden ikiye ayırıyor.

Bir şeyin olup olmadığını soran kontrolleri otomatikleştirin, olması gerekip gerekmediğini soran kontrollere insan ayırın.

Doğrulamanın da bir bütçesi var ve kontrol etmek işi yapmak kadar pahalıysa o iş zaten devredilmemeliydi: tekrar eden, dramsız iş gözetimsiz turların gerçekten iyi olduğu iştir ve doğrulaması da en ucuz olan odur. Maliyeti düşük tutan dört teknik var: tur kaydından değil hedef sistemden teyit alın; tur başına sabit ve küçük bir örneklem alın, ki iki dakikadan on teyit haftada yirmi dakika etsin; içerik okumak yerine sayıları mutabık kılın; bir de önceden tahmin edebileceğiniz tek bir bilinen değeri işin içine koyup onu arayın. Hedef sistemden teyit pazarlık dışıdır, çünkü kontrol edilen şeyden bağımsız tek kontrol odur. Agent'a kendi işini doğrulatmanın sayılmamasının sebebi de bu: o size ikinci bir kaynak değil, ikinci bir kendinden emin anlatı verir.

Sessiz bir hatayı fark ettikten sonraki ilk saatte ne yapmalı?

İncelemeden önce duraklatın. İş çalışmaya devam ettiği her dakika, hasar penceresinin içine bir tur daha giriyor; üstelik birazdan ölçmek zorunda kalacağınız şey o pencere.

1. İncelemeye başlamadan önce işi duraklatın ki pencere büyümeyi bıraksın.
2. Pencereyi belirleyin. Sınır, "tamamlandı" işaretli son tur değil; amaçlanan sonucu ürettiğini olumlu biçimde teyit edebildiğiniz son turdur.
3. Etkilenen kayıtları veya alıcıları tur geçmişinden değil, hedef sistemden listeleyin.
4. İleriye doğru düzeltin ve yeniden çalıştırırsanız neyin mükerrer olabileceğini açıkça yazın; çünkü yarım kalmış bir zinciri yeniden çalıştırmak, zaten başarılı olmuş adımları tekrarlar.
5. Bunu yakalayacak durdurma kuralını sıkın, sonra haftalık kontrolde bunu yüzeye çıkaracak tek kontrolü ekleyin.
6. Olayı sade bir dille, tarihi ve maliyetiyle birlikte yazın; çünkü kimsenin yazmadığı olay tekrar eder.

İkinci adım herkesin atladığı adımdır ve diğer beşinin ne kadar iş çıkaracağını o belirler, çünkü "tamamlandı" işaretli bir tur sınır değildir. Zaten en başta yanılan iddia odur.

İlk saatin çıktısı bir düzeltme değil, bir sınırdır: hangi tarihten sonrasının şüpheli olduğunu ve kaç kaydın etkilendiğini yazılı olarak bilmek. Düzeltmenin kendisi bundan sonra planlanır ve o noktada artık acil bir iş olmaktan çıkmıştır.

Gözetimsiz her agent işi için doğrulama kontrol listesi

• İş, bağlı olduğu sistemleri bildiriyor ve bunlardan biri erişilemez olduğunda gürültülü biçimde başarısız oluyor.
• Tamamlanma, bağlantının kapanmasından değil araç sonuçlarından hesaplanıyor.
• Her yan etki, hedef sistemde arayıp bulabileceğiniz bir tanımlayıcı bırakıyor.
• Tekrarlanan başarısızlık işi duraklatıyor ve adı konmuş bir kişiye bildiriyor.
• Eylem kaydı şu beş soruyu cevaplıyor: kim istedi, ne çalıştı, ne değişti, ne harcadı, ne reddedildi.
• Her iş için hedef sistemde haftada bir çıktı teyit ediliyor.
• Her işin adı konmuş bir sahibi var ve o kişi işi duraklatma yetkisini taşıyor.

Doğrulama sürprizi azaltır, ortadan kaldırmaz. Hedef, bir hata ile birinin onu fark ettiği an arasındaki mesafeyi kısaltmaktır.

Bir aydır bakmadığınız, tekrar eden bir agent işi seçin. Son beş turunu açın ve her biri için ürettiğini söylediği şeyi gidip bulun: tur kaydında değil, o şeyi gerçekten tutacak olan sistemde. Bir dakikanın altında bulamıyorsanız elinizde doğrulama yok; sizinle bir süredir hemfikir olan bir durum alanı var. O mesafeyi kapatmak bir haftalık küçük değişiklik demek ve güvendiğiniz bir agent ile kontrol etmeyi bıraktığınız bir agent arasındaki fark tam olarak bu.

Kendi operasyonunuzun nerede durduğuna bakarak başlamak isterseniz, hazırlık değerlendirmesi bir puan, ölçtüğü üç boyutun her biri için ayrı bir sonuç ve her ay geri kazanabileceğiniz elle yapılan iş saatine dair bir tahmin döndürüyor.

Sık sorulan sorular

Sessiz hata ile halüsinasyon arasındaki fark ne?

Halüsinasyon, cevabın içindeki yanlış içeriktir. Sessiz hata ise cevabın dışındaki eksik etkidir: metin kusursuz doğru olabilir ve fatura yine de kesilmemiştir. Biri okuyarak görebileceğiniz bir kalite problemi, diğeri yalnız hedef sistemde bulabileceğiniz bir muhasebe problemidir.

Agent'ın kendi yaptığı işe dair özetine güvenilir mi?

Kanıt olarak hayır. Özet, agent'ın kendi turu hakkındaki ifadesidir ve işi yapan sürecin yazdığı bir ifade, o işi bağımsız olarak teyit edemez. Özeti neyi kontrol edeceğinizin listesi sayın, sonra iddia edilen her değişikliği onu tutan sistemde teyit edin.

Mühendislik ekibi yoksa doğrulamanın sahibi kim olmalı?

Agent'ı yapılandıran kişi değil, sonuçtan sorumlu olan kişi. Doğrulama teknik değil ticari bir kontroldür: sürecin ayakta kalıp kalmadığını değil, faturanın gidip gitmediğini sorar. O kişiyi iş bazında adıyla belirleyin ve işi duraklatma yetkisini de verin.

Agent tur kayıtları ne kadar süre saklanmalı?

Sonradan gelecek soruyu cevaplamaya yetecek kadar; bu da genellikle bir hata ayıklama penceresinden uzundur. Pratik taban, agent'ın dokunduğu sürecin tam bir denetim veya raporlama döngüsüdür. Sektör kuralı zaten altta yatan kayıt için bir saklama süresi belirlemişse, yeni bir süre uydurmak yerine onunla eşleyin.

Doğrulama, agent'ın kazandırdığı zamanı geri götürür mü?

Yalnız yanlış yoldan doğrularsanız. Her çıktıyı baştan okumak kazancı gerçekten silip süpürür. Çıktının tanımlayıcısıyla var olduğunu teyit etmek, sabit sayıda kayıt örneklemek ve sayıları mutabık kılmak haftada birkaç dakika tutar. Kontrolü, işi ölçtüğünüz gibi ölçün; iki maliyet birbirine yaklaşıyorsa sorun doğrulamada değil, seçilen iştedir.

Bir agent işi diğerine devrettiğinde aynı kontroller geçerli mi?

Evet, üstelik devir bir tane daha ekliyor. Birleşme noktasındaki kabul, en uçtaki tamamlanma anlamına gelmez; zincirin işin nihayet indiği yerde kendi sinyaline ihtiyacı var. Son çıktıyı onu tutan sistemde teyit edin ve aradaki her onayı sonuç değil, alındı belgesi sayın.

Bir kişi gerçekçi olarak kaç gözetimsiz agent işini doğrulayabilir?

Çoğu ekibin sandığından azını. Sınır, iş sayısı değil; bir kişinin tek oturuşta açabileceği hedef sistem sayısıdır. Liste bunu aştığında her işi daha baştan savma kontrol etmek yerine ya iş sayısını azaltın ya da işleri adı konmuş sahipler arasında paylaştırın.

Kayıt tutmaya başlamadan önce yaşanan sessiz hatalar ne olacak?

O aralığı temiz değil, bilinmeyen sayın. En çok zarar vermiş olabilecek çıktıları seçip hedef sistemde elle teyit edin ve kayıt tutmaya başladığınız tarihi yazın. O tarihten öncesi doğrulanmamış geçmiştir ve bunu böyle söylemek, başarı varsaymaktan iyidir.