Algoritmik Şeffaflık ve “Kara Kutu”(Black Box) Problemi: Yapay Zekâ Gerçekten Açıklanabilir mi?
Yazar: Arda Akgür
Giriş
Yapay zekâ sistemleri artık yalnızca önerilerde bulunan yardımcı araçlar olmaktan çıkmış; kredi değerlendirmelerinden işe alım süreçlerine, sağlık hizmetlerinden adli analizlere kadar birçok kritik alanda karar süreçlerinin bir parçası hâline gelmiştir. Bu gelişim beraberinde önemli bir hukuki soruyu da gündeme getirmiştir: Bir yapay zekâ sistemi neden belirli bir sonuca ulaştığını açıklayabiliyor mu?
Bu soru son yıllarda özellikle Avrupa Birliği’nin Yapay Zekâ Tüzüğü (AI Act) ve çeşitli uluslararası düzenlemeler kapsamında daha fazla önem kazanmıştır. Düzenleyici kurumlar, bireyleri etkileyen algoritmik kararların şeffaf, denetlenebilir ve mümkün olduğunca açıklanabilir olmasını talep etmektedir.
Ancak burada gözden kaçan önemli bir husus bulunmaktadır. Yapay zekâ sistemlerinin açıklanamamasının sebebi gerçekten algoritmaların “gizli” olması mıdır? Yoksa problem çok daha temel bir noktada, insanın bilişsel sınırlarında mı yatmaktadır?
Bu çalışmada kara kutu probleminin klasik açıklamalarının ötesine geçilerek, sorunun esasen şeffaflık eksikliğinden değil, hesaplama karmaşıklığından kaynaklandığı yönündeki görüş savunulacaktır.
Kara Kutu Problemi Nedir?
Bilgisayar bilimlerinde “kara kutu” kavramı, bir sistemin girdileri ve çıktıları bilinse bile bu çıktılara hangi süreçler sonucunda ulaşıldığının tam olarak anlaşılamadığı durumları ifade etmektedir.
Geleneksel yazılım sistemlerinde geliştirici, programın hangi koşulda hangi kararı verdiğini satır satır takip edebilir. Ancak derin öğrenme tabanlı modern yapay zekâ sistemlerinde durum farklıdır. Milyarlarca parametreye sahip büyük dil modelleri ve sinir ağları, eğitim süreçleri sonunda son derece karmaşık karar mekanizmaları geliştirmektedir.
Örneğin bir görüntü işleme sistemi belirli bir fotoğrafı “kanserli doku” olarak sınıflandırabilir veya bir büyük dil modeli belirli bir hukuki soruya belirli bir yanıt verebilir. Ancak bu sonuca hangi ara değerlendirmeler sonucunda ulaşıldığını ayrıntılı biçimde ortaya koymak çoğu zaman mümkün değildir.
Bu nedenle modern yapay zekâ sistemleri sıklıkla “kara kutu” olarak tanımlanmaktadır.
Kara Kutu Problemine Farklı Bir Bakış
Kara kutu problemine ilişkin hâkim görüş, sistemin yeterince şeffaf olmadığı yönündedir. Buna göre algoritmanın iç işleyişi daha görünür hâle getirildiğinde veya geliştiriciler daha fazla teknik bilgi sunduğunda problem büyük ölçüde çözülebilecektir.
Kanaatimizce bu yaklaşım eksiktir.
Modern yapay zekâ sistemlerinde çoğu zaman model mimarisi bilinmektedir. Kullanılan yöntemler bilinmektedir. Hatta birçok durumda model ağırlıkları dahi kamuya açıktır. Buna rağmen sistemin belirli bir sonucu neden ürettiği tam anlamıyla açıklanamamaktadır.
Bunun nedeni algoritmanın kapalı olması değil, karar mekanizmasının insan zihninin takip edemeyeceği kadar karmaşık olmasıdır.
Başka bir ifadeyle:
Kara kutu aslında kapalı bir kutu değildir. Kutu açıktır; ancak içerisindeki süreç insan tarafından takip edilemeyecek kadar karmaşıktır.
Bir insan beyninin belirli bir kararı neden verdiğini tüm nöron seviyesinde açıklayamadığımız gibi, milyarlarca parametreli bir yapay zekâ modelinin de her kararını eksiksiz şekilde açıklayamayabiliriz.
Dolayısıyla sorun şeffaflık eksikliğinden çok, hesaplama karmaşıklığından kaynaklanmaktadır.
Açıklanabilir Yapay Zekâ Yaklaşımlarının Sınırları
Kara kutu problemine çözüm olarak son yıllarda “Açıklanabilir Yapay Zekâ” (Explainable AI – XAI) adı verilen yöntemler geliştirilmiştir.
Bu sistemler genel olarak:
- Kararda hangi verilerin etkili olduğunu,
- Hangi özelliklerin daha fazla ağırlık taşıdığını,
- Hangi girdilerin sonucu değiştirdiğini
göstermeye çalışmaktadır.
İlk bakışta bu yöntemler sorunu çözüyormuş gibi görünmektedir. Ancak daha yakından incelendiğinde farklı bir durum ortaya çıkmaktadır.
XAI sistemleri çoğu zaman kararın gerçek sebebini açıklamaz. Bunun yerine insanın anlayabileceği ölçüde basitleştirilmiş bir yorum sunar.
Bir başka ifadeyle açıklanabilir yapay zekâ sistemleri çoğu zaman yapay zekânın nasıl düşündüğünü değil, insanın anlayabileceği bir hikâyeyi göstermektedir.
Bu durum hukuki açıdan da önemlidir. Çünkü açıklama ile açıklama görünümü arasında ciddi bir fark bulunmaktadır. Bir kararın neden verildiğini gerçekten bilmek ile karar hakkında makul görünen bir özet sunmak aynı şey değildir.
Dolayısıyla açıklanabilirlik talepleri değerlendirilirken, teknik olarak mümkün olan ile hukuken arzu edilen arasında dikkatli bir ayrım yapılmalıdır.
Hukukun Beklentileri ve Teknik Gerçeklik
Avrupa Birliği Yapay Zekâ Tüzüğü başta olmak üzere birçok düzenleme, yapay zekâ sistemlerinden şeffaflık ve hesap verebilirlik talep etmektedir.
Bu yaklaşımın temel amacı bireylerin haklarını korumaktır. Bir kişi hakkında verilen kararın nasıl oluştuğunu bilmek istemesi son derece doğaldır. Özellikle kamu gücünün kullanıldığı veya temel hakların etkilendiği durumlarda bu beklenti daha da güçlenmektedir.
Ancak teknik gerçeklik farklı bir tablo ortaya koymaktadır.
Bazı sistemler teorik olarak tamamen incelenebilir olsa bile pratikte insan tarafından tam olarak anlaşılamayabilir. Bunun sebebi kötü tasarım veya gizlilik değil, sistemin sahip olduğu aşırı karmaşıklıktır.
Bu noktada hukuk şu soruyla karşı karşıya kalmaktadır:
İnsan zekâsının takip edemeyeceği ölçüde karmaşık sistemlerden insan seviyesinde açıklama talep etmek ne kadar mümkündür?
Bu soruya verilecek cevap, gelecekte yapay zekâ hukukunun şekillenmesinde belirleyici olacaktır.
Tam Açıklanabilirlik Yerine Denetlenebilirlik
Kanaatimizce geleceğin hukuk sistemi, yapay zekâlardan tam açıklanabilirlik beklemek yerine güvenilir denetim mekanizmalarına odaklanmalıdır.
Bir sistemin her kararını açıklayamıyor olmamız, o sistemin güvenilmez olduğu anlamına gelmez.
Örneğin modern uçakların içerisinde bulunan milyonlarca satırlık yazılım kodunu hiçbir insan bütünüyle zihninde tutamaz. Buna rağmen bağımsız testler, sertifikasyon süreçleri ve güvenlik denetimleri sayesinde bu sistemlere güven duyulmaktadır.
Benzer şekilde yapay zekâ sistemlerinde de şu unsurlar daha önemli olabilir:
- Bağımsız denetim,
- Kayıt altına alma yükümlülüğü,
- Performans ölçümleri,
- Hata oranlarının raporlanması,
- Ayrımcılık testleri,
- Güvenlik ve dayanıklılık analizleri,
- Sürekli gözetim mekanizmaları.
Bu yaklaşım, teknik gerçeklikle hukuki beklentiler arasında daha dengeli bir çözüm sunmaktadır.
Sonuç
Yapay zekâ alanında tartışılan kara kutu problemi genellikle şeffaflık eksikliği olarak ele alınmaktadır. Ancak modern yapay zekâ sistemlerinin yapısı incelendiğinde, sorunun çoğu zaman gizlilikten değil karmaşıklıktan kaynaklandığı görülmektedir.
Algoritmaların kaynak kodlarının bilinmesi veya model mimarisinin açıklanması tek başına yeterli değildir. Çünkü bazı karar süreçleri insanın bilişsel kapasitesinin ötesinde bir karmaşıklığa ulaşabilmektedir.
Bu nedenle gelecekte yapay zekâ hukukunun temel hedefi, sistemleri tamamen açıklamaya zorlamak değil; onların güvenilir, denetlenebilir ve hesap verebilir olmasını sağlamak olmalıdır.
Sonuç olarak kara kutu problemi, çoğu zaman algoritmaların kapalı olmasından değil, insanın anlayabileceğinden daha karmaşık olmasından kaynaklanmaktadır. Geleceğin hukuk düzeni de bu teknik gerçeği dikkate almak zorundadır.