Yapay zekâ sistemleri giderek daha karmaşık kararlar alırken önemli bir soru gündeme geliyor: Bu sistemlerin verdiği kararları gerçekten anlayabiliyor muyuz?
Erzurum Birikim gazetesinde 14 Ekim 2026 tarihinde yayımlanan “Zeki Ama Ketum: Yapay Zekânın Kara Kutusu ve Açıklanabilirlik Devrimi” başlıklı köşe yazımda, yapay zekânın kara kutu problemini ve Açıklanabilir Yapay Zekâ (XAI) yaklaşımını ele aldım.
Yazıda SHAP ve LIME gibi açıklanabilirlik yöntemlerinden hareketle, bir yapay zekâ modelinin kararını açıklayabilmenin o kararın mutlaka doğru, adil veya güvenilir olduğunu kanıtlamadığını vurguluyorum. Sağlık, bankacılık, işe alım ve diğer karar destek sistemleri üzerinden insan gözetiminin, bilimsel doğrulamanın ve hesap verebilirliğin önemini değerlendiriyorum.
Yapay zekânın gerçek başarısının yalnızca güçlü tahminler üretmekten değil, insan aklıyla şeffaf, denetlenebilir ve sorumlu biçimde birlikte çalışabilmesinden geçtiğini tartışıyorum.
Makalenin tamamı Erzurum Birikim gazetesinde yayımlanmıştır. Yazının tamamını okumak için aşağıdaki orijinal yayın bağlantısını ziyaret edebilirsiniz.
Dr. Ozan ÖNAL
Yapay Zekâ Uzmanı | Veri Bilimci