7. Örnek Tabanlı Açıklamalar (Example-Based Explanations)
Örnek tabanlı açıklama yöntemleri, makine öğrenimi modellerinin davranışlarını veya altında yatan veri dağılımını açıklamak için veri kümesinin belirli örneklerini seçer.
Örnek tabanlı açıklamalar çoğunlukla modelden bağımsızdır, çünkü herhangi bir makine öğrenimi modelini daha yorumlanabilir hale getirir. Modelden bağımsız yöntemlerden farkı, örnek tabanlı yöntemlerin bir modeli özniteliklerin özetlerini (örneğin, öznitelik önemi veya kısmi bağımlılık) oluşturarak değil, veri kümesinin örneklerini seçerek açıklamasıdır. Örnek tabanlı açıklamalar yalnızca bir veri örneğini insan tarafından anlaşılabilir bir şekilde temsil edebilirsek mantıklıdır. Bu, görüntüler için iyi çalışır, çünkü bunları doğrudan görebiliriz. Genel olarak, örnek tabanlı yöntemler, bir örneğin öznitelik değerlerinin daha fazla bağlam taşıdığı, yani verilerin görüntüler veya metinler gibi bir yapıya sahip olduğu durumlarda iyi çalışır. Tabular veriler için anlamlı bir temsili sağlamak daha zordur, çünkü bir örnek yüzlerce veya binlerce (daha az yapısal) öznitelikten oluşabilir. Bir örneği tanımlamak için tüm öznitelik değerlerini listelemek genellikle yararlı değildir. Ancak az sayıda öznitelik varsa veya bir örneği özetlemenin bir yolu varsa bu işe yarayabilir.
Örnek tabanlı açıklamalar, insanların makine öğrenimi modelinin ve modelin eğitildiği verilerin zihinsel modellerini oluşturmasına yardımcı olur. Özellikle karmaşık veri dağılımlarını anlamada faydalıdır. Peki, örnek tabanlı açıklamalar derken neyi kastediyorum? Bunları işlerimizde ve günlük hayatımızda sık sık kullanırız. Şimdi birkaç örnekle başlayalım:
Bir doktor, alışılmadık bir öksürük ve hafif ateşi olan bir hastayı görür. Hastanın semptomları, yıllar önce benzer semptomları olan başka bir hastayı hatırlatır. Doktor, hastanın aynı hastalığa sahip olabileceğinden şüphelenir ve bu hastalığı test etmek için bir kan örneği alır.
Bir veri bilimcisi, müşterilerinden biri için yeni bir projede çalışıyor: Klavye üretim makinelerinin arızalanmasına yol açan risk faktörlerinin analizi. Veri bilimcisi, daha önce benzer bir projede çalıştığını hatırlar ve eski projeden kodun bir kısmını yeniden kullanır çünkü müşterinin aynı analizi istediğini düşünür.
Bir kedi yavrusu, yanmakta olan ve boş bir evin pencere pervazında oturur. İtfaiye ekipleri zaten gelmiştir ve itfaiyecilerden biri, yavruyu kurtarmak için binaya girip giremeyeceğini bir an düşünür. Geçmişte benzer olayları hatırlar: Yavaşça yanan eski ahşap evler genellikle kararsızdı ve sonunda çöktü. Bu durumun benzerliği nedeniyle binaya girmemeye karar verir, çünkü binanın çökme riski çok büyüktür. Neyse ki, yavru pencereden atlar, güvenle yere iner ve yangında kimse zarar görmez. Mutlu son.
Bu hikayeler, insanların örnekler veya benzetmelerle nasıl düşündüğünü göstermektedir. Örnek tabanlı açıklamaların temel planı şudur: B şeyi, A şeyine benzer ve A, Y'ye neden olduysa, B'nin de Y'ye neden olacağını tahmin ediyorum. Bazı makine öğrenimi yaklaşımları örtük olarak örnek tabanlı çalışır. Karar ağaçları, verileri hedefi tahmin etmek için önemli olan özniteliklerdeki benzerliklere göre düğümlere ayırır. Bir karar ağacı, yeni bir veri örneği için tahmini, benzer örnekleri bulup (aynı terminal düğümde olanlar) bu örneklerin sonuçlarının ortalamasını döndürerek yapar. K-en yakın komşu (knn) yöntemi ise açıkça örnek tabanlı tahminlerle çalışır. Yeni bir örnek için, bir knn modeli k-en yakın komşuyu bulur (örneğin, k=3 en yakın örnek) ve bu komşuların sonuçlarının ortalamasını bir tahmin olarak döndürür. Bir knn tahmini, k komşuların geri çağrılmasıyla açıklanabilir ki bu da yalnızca bir örneği iyi bir şekilde temsil edebilme durumunda anlamlıdır.
Aşağıdaki yorumlama yöntemleri örnek tabanlıdır:
Karşı-olgusal açıklamalar (Counterfactual explanations), bir örneğin tahminini önemli ölçüde değiştirmek için nasıl değişmesi gerektiğini söyler. Karşı-olgusal örnekler oluşturarak modelin tahminlerini nasıl yaptığını öğrenebilir ve bireysel tahminleri açıklayabiliriz.
Adversarial örnekler, makine öğrenimi modellerini yanıltmak için kullanılan karşı-olgusal örneklerdir. Burada odak noktası tahmini tersine çevirmek üzerinedir, açıklamak değil.
Prototipler, veriden seçilmiş temsilci örneklerdir ve eleştiriler, bu prototipler tarafından iyi temsil edilmeyen örneklerdir.
Etkili örnekler, bir tahmin modelinin parametreleri veya tahminleri üzerinde en etkili olan eğitim veri noktalarıdır. Etkili örnekleri belirlemek ve analiz etmek, veriyle ilgili sorunları bulmaya, modeli hata ayıklamaya ve modelin davranışını daha iyi anlamaya yardımcı olur.
K-en yakın komşu modeli, örneklere dayalı bir (yorumlanabilir) makine öğrenimi modelidir.
Aamodt, Agnar, and Enric Plaza. “Case-based reasoning: Foundational issues, methodological variations, and system approaches.” AI communications 7.1 (1994): 39-59.↩︎
Kim, Been, Rajiv Khanna, and Oluwasanmi O. Koyejo. “Examples are not enough, learn to criticize! Criticism for interpretability.” Advances in Neural Information Processing Systems (2016).↩︎
Last updated