Şirketlerin bilgi güvenliği yolculuğunda ISO 27001 uzun yıllardır bir mihenk taşı ve altın standart kabul edilir. Verileriniz nerede saklanıyor, kimler erişebiliyor, sızıntılara karşı nasıl korunuyor sorularının resmi yanıtını bu sertifikasyon verir.
Ancak şirketinizin iş süreçlerine otonom yapay zekâ (AI/SI) agent'ları dahil olduğunda bu sorular yetersiz kalmaya başlar. Çünkü bir agent, veriyi sadece depolayan pasif bir yazılım değildir. Şirketinizin kurumsal kimliğiyle e-posta gönderir, müşteriye WhatsApp'tan yanıt verir, sipariş açar, finansal tabloları yorumlar ve nihai kararlar alır.
Bu durum, yönetimin daha önce hiç karşılaşmadığı yepyeni sorular doğurur: Bir agent müşteriye yetkisiz bir taahhütte bulunursa hukuki sorumluluk kimdedir? Bir şeyler ters gittiğinde süreci anında ve kesin olarak durdurabiliyor musunuz? Altı ay sonra bir denetçi veya müfettiş "bu karar tam olarak neden verildi" diye sorduğunda masaya koyabileceğiniz somut bir kanıt kaydınız var mı?
Dünyanın ilk yapay zekâ yönetim sistemi standardı olan ISO/IEC 42001:2023, tam olarak bu soruları şirketler için cevaplanabilir ve denetlenebilir kılmak amacıyla yayımlandı.
ISO 27001 ile ISO 42001 Arasındaki Temel Fark
İki standardı birbirinden ayıran asıl çizgi odak noktalarıdır:
- ISO 27001 veriyi korur: Bilginin gizliliği, bütünlüğü ve erişilebilirliği üzerine odaklanır. Hassas kurumsal verilerin yetkisiz ellerin eline geçmesini engeller.
- ISO 42001 karar ve davranışları yönetir: Yapay zekânın hangi yetki sınırları içinde çalıştığını, karar verirken hangi güvenlik kapılarından geçtiğini, operasyonel riskin nasıl sınırlandığını ve bir kaza anında sorumluluğun kimde olduğunu belirler.
Kısacası ISO 27001 kasanın kapısını kilitler; ISO 42001 ise kasanın anahtarıyla işlem yapan yapay zekânın neyi, nereye kadar yapabileceğini kurallara bağlar.
Bu iki standart birbirinin alternatifi değildir. Bilgi güvenliğiniz kağıt üzerinde kusursuz olabilir; yine de bir yapay zekâ agent'ının müşterinize verdiği bağlayıcı bir sözden ötürü şirketçe sorumlu kalabilirsiniz.
Karar Vericilerin Mutlaka Cevaplaması Gereken Beş Soru
ISO/IEC 42001 kapsamlı ve detaylı bir standarttır; ancak pratikte bir şirket yöneticisinin masasında şu beş temel soruya indirgenir. Bir yapay zekâ çözümünü değerlendirirken bu soruları açıkça sorun:
1. Bir şeyler ters gittiğinde sistemi anında durdurabiliyor musunuz?
En büyük operasyonel risk, istenmeyen veya hatalı bir davranış başladığında sistemin durdurulamamasıdır. Piyasadaki çoğu üründe "durdur" butonu yalnızca açık sohbet penceresini kapatır. Oysa arka planda çalışan zamanlanmış görevler, takvim tetikleyicileri ve veri döngüleri çalışmaya devam eder; müşteriden gelen yeni bir mesaj agent'ı yeniden tetikler.
Gerçek bir acil durdurma (kill-switch) şunları eksiksiz yapar: Agent'ın tüm arka plan görevlerini dondurur, mesajlaşma kanallarını susturur, açık API oturumlarını sonlandırır ve sistemi kimin, ne zaman durdurduğunu denetim kaydına işler.
Sorulacak net soru şudur: "Durdur dediğim anda sistem gerçekten kaç saniyede susar ve bu müdahalenin kaydı kimin imzasıyla tutulur?"
2. Müşteri verisi nereye akıyor, istendiğinde kalıcı olarak silinebiliyor mu?
Müşteriler veya şirket personeli sohbet esnasında T.C. kimlik numarası, kredi kartı bilgisi veya IBAN paylaşabilir. Bu veriler farkında olmadan yapay zekânın kalıcı hafızasına işlenebilir.
KVKK ve GDPR mevzuatı açısından iki kritik noktayı netleştirmeniz şarttır: Birincisi, bu hassas verilerin hafızaya yazılmadan önce otomatik olarak maskelenip maskelenmediği. İkincisi, bir müşteri "verilerimi silin" talebinde bulunduğunda (unutulma hakkı) bunun sahiden uygulanıp uygulanamadığı. Veri imhası sadece ham kayıtları değil; yapay zekânın çıkardığı özetleri, vektör veritabanını ve öğrenilmiş bağlamı da kapsamalıdır.
Ayrıca sözleşmenize mutlaka şu yazılı taahhüdü ekletin: Kurumsal verileriniz hiçbir genel yapay zekâ modelinin eğitiminde kullanılamaz.
3. Altı ay sonra "bu kararı neden böyle aldı" sorusuna cevap verebiliyor musunuz?
Kurumsal dünyada hiçbir sürecin "kara kutu" kalmasına göz yumulmaz. Bir resmi denetim, müşteri ihtilafı veya hukuki dava her zaman geriye dönük nesnel hesap sorar.
Agent'ın attığı her adımın, karara varırken hangi veri parçasına dayandığının ve nihai sonucun ne olduğunun silinemez kaydı tutulmalıdır. Bu kaydın iki vazgeçilmez özelliği olmalıdır: Sonradan değiştirilememeli ve üçüncü parti denetçilere bağımsız dosya olarak sunulabilmelidir.
Önemli bir güvenlik kuralı daha: Dışarıya sunulan bu denetim raporları, veritabanınızdaki auto-increment sayısal ID'leri ve iç sıra numaralarını dışarıya sızdırmamalıdır; kayıtlar iş dünyasının anlayacağı açık ve anlamlı adlarla belgelenmelidir.
4. Agent'ı dışarıdan manipüle etmek (kandırmak) mümkün mü?
Bu, geleneksel siber güvenlikte karşılığı olmayan yeni nesil bir risk alanıdır (Prompt Injection). Agent'ın internetten okuduğu bir web sayfası, gelen bir e-posta veya yüklenen bir fatura PDF'i içine gizlenmiş kötü niyetli talimatlar barındırabilir. Saldırgan sisteminize sızmaz; agent'ınızı kandırarak şirketin yetkilerini kötüye kullanır.
Buradaki temel savunma kuralı şudur: Yetkiler serbest sohbetle asla genişletilemez. Kurumsal iş kuralları konuşmanın akışıyla esnetilemez olmalı, dışarıdan okunan her metin talimat değil sadece pasif veri muamelesi görmeli ve riskli işlemler yalnızca yetkili bir insanın açık onayıyla yürütülmelidir.
Tedarikçinize açıkça sorun: "Agent'a dışarıdan gelen bir metin parçası, benim tanımlamadığım bir yetkiyi yapay zekaya kullandırabilir mi?"
5. Altyapı sağlayıcısı çökerse işiniz tamamen durur mu?
Kritik bir kurumsal iş sürecini tek bir model sağlayıcısının (OpenAI, Anthropic, Google vb.) erişilebilirliğine göbekten bağlamak ciddi bir operasyonel zafiyettir. Küresel bir kesinti anında sistemin yedek modellere veya alternatif altyapılara kesintisiz geçebilmesi gerekir.
Sorulacak ticari soru şudur: "Ana model sağlayıcısı iki saat kesintiye uğrarsa, benim müşterilerim veya şirket operasyonum bunu hisseder mi?"
Botonom Bu Beş Soruya Nasıl Cevap Veriyor?
Botonom, şirketlerin bu karmaşık güvenlik kontrollerini sıfırdan inşa etmek zorunda kalmaması için tasarlandı. Platformdaki her bir agent:
- Tek tıkla acil durdurulur: İster web panelinden ister mobil uygulamadan. Tüm zamanlanmış görevler anında donar, kanallar susar, açık oturumlar kapatılır ve işlem tutanağa geçer.
- Kendi şirketinin veri sınırında izole çalışır: Konuşma geçmişi ve bilgi tabanı multi-tenant mimaride kesin sınırlarla ayrılmıştır; hiçbir agent başka bir şirketin verisine dokunamaz. Müşteri verileri asla genel model eğitimine dahil edilmez.
- Tanımlı yetkisi kadar iş yapar: Para transferi, kritik kayıt silme veya toplu bildirim çıkma gibi işlemler yöneticinin ekranına onay kapısı olarak düşer. Onay ancak yetkili insanın tıklamasıyla verilir; agent kendi yetkisini genişletemez.
- Şeffaf hesap verir: Attığı her adım saniyesi saniyesine loglanır; istenen tarih aralığı filtrelenerek bağımsız denetçilere resmi rapor olarak dışa aktarılabilir.
- Unutulma hakkını tam uygular: Şirketin tüm agent hafızası, konuşma geçmişi ve indekslenmiş dokümanları yönetici onayıyla kalıcı ve geri döndürülemez şekilde silinebilir.
Sıkça Sorulan Sorular
ISO 42001 belgesi almak şirketler için yasal bir zorunluluk mu?
Bugün için doğrudan bir ceza maddesi yoktur. Ancak Avrupa Birliği Yapay Zekâ Yasası (EU AI Act), KVKK ilke kararları ve finansal denetimler, kurumların yapay zeka sistemlerini şeffaf ve denetlenebilir bir yönetişim çerçevesine oturtmasını beklemektedir. Pratikte şirketleri asıl harekete geçiren güç ise büyük kurumsal müşterilerdir: Kurumsal alıcılar, tedarikçilerinden bu olgunluk standartlarını resmi şartname maddesi olarak talep etmeye başlamıştır.
Kendi yapay zeka modelimizi eğitmiyorsak bu standart bizi bağlar mı?
Kesinlikle evet. ISO 42001 yalnızca temel model geliştiren teknoloji devlerini değil; iş süreçlerinde hazır yapay zekâ servislerini ve agent'ları kullanan tüm işletmeleri kapsar. Müşterilerinizle veya şirket verilerinizle temas eden bir sistem çalıştırıyorsanız, doğacak her kararın sorumluluğu şirketinize aittir.
Botonom kullanmak ISO 42001 uyum sürecimizi tek başına tamamlar mı?
Tek başına tamamlamaz, ancak süreci aylar yerine haftalara indirir. Acil durdurma mekanizması, insan onay kapıları (HITL), rol bazlı yetki matrisi, silinemez denetim izi ve güvenli veri imhası platformumuzda yerleşik olarak sunulduğu için; uyum sürecinin teknik ve altyapısal ayağı maliyetli bir yazılım projesi olmaktan çıkar. Kendi kurumsal denetim sürecinize tam donanımlı ve hazır girmenizi sağlar.
