Çoğu ofisin bir köşesinde, saksısına bantla isim yapıştırılmış bir bitki durur. Biri ona bu ismi vermiş, kimse de itiraz etmemiştir; artık haftada üç kişi "Bu hafta Dost'u sulayan oldu mu?" diye sorar.
Bu, insanın en değişmez alışkanlıklarından biridir ve teknolojiyle hiçbir ilgisi yoktur. Denizciler gemilere, sürücüler arabalara, müzisyenler enstrümanlarına isim verir. Bir atölyedeki makine, gelişinden bir ay sonra genellikle pek de iltifat sayılmayacak bir ad alır; o günden sonra da operatörler size onun "pazartesileri sevmediğini" söyler.
Bu insanların hiçbiri nesnenin gerçekten canlı olduğuna inanmaz. Doğrudan sorarsanız gülüp geçerler. Yine de bunu yapmaya devam ederler. Bunun nedenini anlamakta fayda var; çünkü aynı refleks, artık bize cevap verebilen yazılımlar karşısında da devreye giriyor ve neredeyse hiç kimse bunu bilinçli olarak tasarlamıyor.
Görmezden gelinmesi zor bir bulgu
2007 yılında dört araştırmacı, robot süpürge sahipleri üzerine bir çalışma yürüttü. Otuz kullanıcıyla yapılan bu çalışmada, ortalama on aylık bir kullanım süresinin ardından süpürgenin ev hayatına nasıl dâhil olduğu üzerine görüşmeler yapıldı.
Otuz kişiden yirmi biri cihazlarına bir isim vermişti. On altısı ondan bir erkekmiş gibi söz ediyordu. Bunun nedeni sorulduğunda süpürgenin biçimini, rengini ve makinelerin genellikle "erkek işi" sayılmasını gerekçe gösterdiler. İki kadın katılımcı ise temizliği bir erkeğin yapıyor olması fikrinin hoşlarına gittiğini belirtti. Çoğu kişi isim verme nedenini tam olarak açıklayamasa da bunun doğal geldiğini ve makinenin bunu hak ettiğini söyledi.
Alt tarafı bir süpürge. Mobilyalara çarpıp şarj istasyonuna dönen bir disk. Yüzü yok, sesi yok, kelimeleri yok; zihin sayılabilecek hiçbir şeye sahip değil.
Asıl akılda tutulması gereken ise araştırmacıların ulaştığı sonuçtur: isim vermek, insanların robot hakkında konuşmasını ve yazmasını mümkün kılmıştı. İlişki de bu iletişimin üzerine inşa edilmişti. Önce isim geldi, sonra iletişim. İlişki ise iletişimin üzerine kuruldu.
Bu sıralama çok önemli ancak çoğu kişi bunu tersinden kurguluyor. İsimlendirmeyi veya nitelendirmeyi, var olan bir ilişkinin üzerine eklenen bir süs sanıyoruz. Oysa durum tam tersidir: nitelendirme iletişimi mümkün kılan şeydir, ilişkiyi kuran ise iletişimin kendisidir.
İsim vermek insan psikolojisini nasıl etkiliyor
İnsana göre dünya, onun ikili tutumuna uygun olarak ikilidir.
Buber kitabına şu düşünceyle başlar: insan, karşısındaki nesneyle temel olarak iki tür ilişki kurabilir. İlkinde nesne bir "O"dur; elinize aldığınız, sınıflandırdığınız, kullandığınız ve çıktı elde ettiğiniz bir şey. İkincisinde ise bir "Sen"dir; doğrudan hitap ettiğiniz bir varlık. Her iki durumda da nesne aynıdır. Değişen tek şey insanın duruşudur ve karşılaşmaya dair her şey bu duruşla birlikte şekil değiştirir.
Hiç kimse bir nesneye "O" muamelesi yapmaya bilerek karar vermez. Nesne size ona hitap edebileceğiniz bir alan bırakmadığında, varsayılan tutum zaten budur.
Yanıp sönen bir imleç veya sıradan bir kadran, hitap edilecek bir alan bırakmaz. Ancak adı olan ve "pazartesileri sevmediği" bilinen bir makine bu alanı yaratır. İşte bu yüzden insanlar onunla konuşur, onun hakkında sohbet eder ve sesi tuhaflaştığında bunu hemen fark eder.
Davranış bilimleri bunu otuz yıldır farklı biçimlerde dile getiriyor: insanlar, nezaket ve cinsiyet gibi detaylar da dâhil olmak üzere, toplumsal kuralları makinelere otomatik olarak ve düşünmeden uygularlar. Bu, insanların yaptığı bir hata değil, insan dikkatinin çalışma biçimidir. Bir nesneye karakter atfetmek, onu algılamanın, onu öngörülebilir kılmanın en kolay ve en beklenen sonucudur.
Ancak bu davranışın tarihi boyunca, çok yakın zamana kadar hiç değişmeyen bir sınırı vardı: gemi size asla cevap vermezdi. Ona isim verebilir, onu savunabilir, suçlayabilir veya fırtınada onunla konuşabilirdiniz ama karşılık alamazdınız. İlişkinin tamamı tek bir kişinin zihninde yaşanırdı. Bunun tek getirisi, sizin o nesneye daha iyi davranmanızdı.
Nesne cevap verebildiğinde neler değişir?
Dil modelleri bu sınırı tamamen ortadan kaldırdı ve bunun sonucu duygusal değil, mekaniktir.
İnsanlık tarihinde ilk kez, karşımızdaki nesne bize dille cevap veriyor, söylediklerimizi aklında tutuyor ve bunlarla işlem yapıyor. Yani insanların zaten içgüdüsel olarak yaptığı şey, yani isim verme ve kişileştirme, bir süs olmaktan çıkıp işlevsel hâle geldi. Sebebi çok basit: bu sistemler dille çalışır, kişileştirme ise tam olarak dil üretir. Bu da daha fazla bağlam, daha fazla gerekçe ve zihninizden geçenlerin daha fazla aktarılması demektir.
Aynı yazılımı kullanan iki kişiyi ele alalım. Birincisi sadece ödenmemiş faturalar yazıyor. İkincisi ise "Geçen aydan hâlâ ödenmemiş olan faturaları çıkarır mısın? Cumaya kadar kimi aramam gerektiğini bilmem lazım," yazıyor. İkinci kişi her zaman daha iyi bir sonuç alır ve bu durum aylar boyunca böyle devam eder. Aslında ikisi de sistemin teknik olarak nasıl çalıştığını bilmez. Aradaki tek fark, birinin sistemi sadece "kullanması", diğerinin ise sistemle "konuşmasıdır".
Elli yıldır yazılımlar hepimize birinci davranışı, hem de çok iyi bir şekilde öğretti. Bir arama kutusuna derdinizi uzun uzun anlatmazsınız. İstenen çıktıyı verecek en kısa girdiyi yazar, akıl yürütmenizin geri kalanını zihninizde tutarsınız; çünkü makinenin buna ihtiyacı yoktur. Bu durum bugüne kadar kullandığımız tüm yazılımlar için geçerliydi ancak yapay zekâda durum tam tersidir.
Böylece döngü tamamlanıyor: hitap edilebilen bir nesneyle konuşuluyor. Bu konuşma, bağlam üretiyor. Bağlam, daha iyi çıktılar sağlıyor. Daha iyi çıktılar ise iş verimliliğini artırıyor. Tüm bu sürecin gerçekleşmesi için modelin daha "akıllı" olmasına bile gerek kalmıyor. Bunu açıkça belirtmekte fayda var; çünkü teknoloji sektörü, tüm mesaisini döngünün ilerletilmesi en zor olan teknik kısmına harcıyor.
Peki ya agent'ler?
Sadece soruları cevaplayan bir asistan başka bir şeydir, yapay zeka ajanı (agent) ise bambaşka bir şey. Agent'lar zaman içinde, birden fazla kanalda, belirli yetkilerle çalışır ve gerçek sonuçlar doğuran eylemler gerçekleştirirler. Bir süpürgeye isim verirken yanılırsanız bunun bir bedeli yoktur. Ancak sizin adınıza fatura gönderen bir sistemle "çalışma ilişkisi" kurmak çok daha ciddi bir meseledir.
Mesele tek cümleye iniyor: insanlar bir şeye değil, birine iş devreder. Bir işi gerçekten bırakabilmeniz için karşınızdakini öngörebilmeniz, öngörebilmeniz için de karşınızda tutarlı bir kimlik olması gerekir.
Bu durum, psikolojinin çok da umursamadığı ama yazılım mimarisinin mutlaka çözmesi gereken bir şartı beraberinde getirir.
Adlar doğru değilse, dil şeylerin hakikatine uygun düşmez.
Karakter, gelecekteki davranışlara dair bir vaattir. İsmin arkasındaki varlık her hafta farklı bir tarzda cevap veriyorsa, söylenenleri unutuyorsa ya da e-postada WhatsApp'takinden farklı biri gibi davranıyorsa, kullanıcı aslında var olmayan bir şeye hitap ediyor demektir. İnsanlar bu tutarsızlığı mantıklı bir şekilde açıklayabilmeden çok önce hissederler. Ardından yaşanan şey ise bu sektördeki en pahalı başarısızlıktır: kullanıcı, hiçbir şikâyette bulunmadan sistemi kullanmayı sessizce bırakır.
Kişileştirilmiş sistemler üzerine yapılan araştırmalar da aynı noktayı işaret ediyor. Çalışmalarda sadece görsel kimlik değiştirilip davranış sabit tutulduğunda, kişileştirmenin etkisi büyük ölçüde kayboluyor. Asıl yükü sözel ve davranışsal katman taşır: sistemin nasıl yazdığı, istikrarlı olarak neyi talep edip neyi reddettiği, geçen haftayı hatırlayıp hatırlamadığı ya da perşembe günkü sürümün pazartesi günküyle aynı davranıp davranmadığıdır önemli olan.
Kısacası, sistemin "yüzü" sadece bir kulptur. Sizin o kulptan tuttuğunuz şey ise tutarlılıktır. Hiçbir şeye bağlı olmayan bir kulp, hiç kulp olmamasından daha kötüdür; çünkü bu, sistemin altından kalkamayacağı bir ilişkiye davetiye çıkarır.
Biz bu sistemi nasıl inşa ediyoruz?
İşte Botonom'un üzerine inşa edildiği temel problem budur. Bu problemin çözümünün büyük bir kısmı karakter tasarımında değil, kimsenin görmediği o arka plandaki altyapıda yatar.
Kimliği müşteri oluşturur, sistem hazır gelmez. Renk seçimine gelene kadar belirlenmesi gereken on sekiz ayrı özellik vardır; bu yüzden iki farklı şirket asla aynı agent ile karşılaşmaz. On bin farklı şirkete dağıtılan hazır bir karakter sadece bir "maskot"tur. Oysa bir ekibin kendi iş dinamiklerine göre inşa ettiği kimlik, gerçekten hitap edebileceği bir varlıktır.
Bütün kanallarda tek hafıza. WhatsApp'ta, e-postada, web sitesinde ve mobilde aynı agent vardır; tek bir konuşma akışı ve tek bir geçmiş bulunur. İşin psikolojik boyutunu ayakta tutan teknik şart budur. Çoğu uygulamanın sessizce başarısız olduğu yer de tam olarak burasıdır: farklı bir iletişim kanalına geçildiğinde size yeniden "yabancılaşan" bir asistan, aslında hiç kimse olamaz.
Kalıcı kurallar. Bir kuralı bir kez söylersiniz ve o kural tüm oturumlar boyunca, süresiz olarak akılda tutulur. Pratikte tutarlılık budur ve o ismin arkasında sağlam durması gereken asıl şey de bu tutarlılıktır.
Yetki ve onay kapıları. Botonom'da agent'ın yetkisi veri katmanında tanımlanmıştır ve kritik eylemler mutlaka bir insanın onayından geçer. Buraya kadar anlatılanların en dürüst karşı ağırlığı şudur: bir agent'ı "iş arkadaşı" olarak gören kişi, onu sadece bir "araç" olarak gören kişiye kıyasla daha dikkatsiz kontrol eder. Bu dikkatsizliğin yaratacağı maliyet kaçınılmazdır. Bunun çözümü agent'ı daha "sönük" hâle getirmek değil; sınırları net ve belirgin bir şekilde çizmek ve geçmiş işlemlerin incelenebileceği şeffaf ve gözlemlenebilir bir kayıt sistemine sahip olmaktır. Botonom doğuştan bu mimariye sahiptir.
Persona sadece işi anlatır, duyguları asla. En sıkı sıkıya bağlı olduğumuz ve belki biraz da sıkıcı kuralımızdır. Projeniz için "heyecanlandığını" söyleyen bir agent yapmacık gelir ve insanlar bunu tam olarak adlandıramayabilir ama sezerler. Öte yandan "Belli bir tutarın üzerindeki iadeleri onaysız işleme alamam," diyen bir agent yetkin bir iş arkadaşı izlenimi verir. Aynı kişilik tasarımı bütçesi, tamamen farklı iki amaca hizmet etmiştir.
Asıl mesele
İnsanlar bunu tarih boyunca hep yaptı. Gemilere, tezgâhlara, sandalye ayaklarına çarpan robot süpürgelere veya pencere kenarındaki saksı bitkilerine hep isim verdiler.
Bugün değişen tek şey şu: nesne artık bize cevap veriyor. Ne kadar iyi cevap vereceği ise kişinin ona ne kadar detay anlattığına bağlıdır. Kişinin ne kadar detay anlatacağı da tek bir şeye bağlıdır: karşısındakini sadece kullandığı bir "alet" olarak mı görüyor, yoksa "biriyle" konuştuğunu mu düşünüyor?
Biriyle konuştuğunu düşünen kişi, zamanla sistemle verimli bir çalışma ilişkisi kurar. Sadece bir alet kullandığını düşünen kişi ise karşısında konuşan bir arama kutusu bulur ve en nihayetinde bu teknolojinin abartıldığına karar verir.
Sonuç olarak, ona bir isim ve görünüm kazandırmak basit bir süsleme değil, ilişkinin hangi yöne evrileceğini belirleyen esas unsurdur.
Sıkça sorulan sorular
Bu durum, süslenmiş bir antropomorfizmden ibaret değil mi?
Evet, bu tam olarak antropomorfizmdir ve mesele de budur: süpürge araştırmasının da gösterdiği gibi, bunu kimse bilinçli olarak tasarlamasa bile kendiliğinden gerçekleşir. Buradaki asıl tasarım sorusu, buna izin verilip verilmeyeceği değildir. Soru, bu eğilimin neye tutunacağıdır: bilinçli ve tutarlı bir kimliğe mi, yoksa ekibin aylar içinde parça parça edindiği bulanık bir izlenime mi?
Sadece görsel bir yüz mü önemli, isim vermek yetmez mi?
İşin büyük kısmını isim hallediyor; çünkü asıl etki görselde değil, dilde ve davranıştadır. Görsel kimlik asıl olarak, ortamda birden fazla agent olduğunda insanların onları bulup ayırt etmesine yarar ve soyut bir "sistem" algısından belirli bir "bireye" geçişi hızlandırır.
İnsanlar, iş arkadaşı hissi veren bir agent'a gereğinden daha fazla güvenebilirler mi?
Güvenebilirler; nitekim hayali bir risk değil, asıl gerçek maliyet tam olarak budur. Ancak bunun çözümü daha sönük bir agent yaratmak değildir. Çözüm, açıkça belirlenmiş sınırlar koymak ve bir insanın inceleyebileceği şeffaf kayıtlar tutmaktır. Böylece güven duygusu sadece soyut bir izlenime değil, somut verilere dayanır.
Agent duygu ifade etmeli mi?
Agent'ın ne yaptığını, neye karar verdiğini ya da neyi yapmayacağını anlatması, kullanıcı tarafından bir "yetkinlik" olarak algılanır ve güvenlidir. Ancak agent'ın ne "hissettiğini" anlatmaya başlaması, kişileştirilmiş sistemlerin yapmacık bir tiyatroya dönüştüğü noktadır. Agent'ın ne yaptığını tasarlayın ama ne hissettiğini asla.
