11. Kristal Küreye Bir Bakış

Yorumlanabilir makine öğreniminin geleceği nedir? Bu bölüm, yorumlanabilir makine öğreniminin nasıl gelişeceğine dair spekülatif bir zihinsel egzersiz ve öznel bir tahmindir. Kitabı oldukça kötümser kısa hikayelerle açtım ve daha iyimser bir bakış açısıyla sonlandırmak istiyorum.

“Tahminlerimi” üç önermeye dayandırdım:

Dijitalleşme: Herhangi (ilginç) bilgi dijitalleştirilecektir. Elektronik nakit ve çevrimiçi işlemleri düşünün. E-kitapları, müzik ve videoları düşünün. Çevremiz, insan davranışlarımız, endüstriyel üretim süreçlerimiz ve benzeri tüm duyusal verileri düşünün. Her şeyin dijitalleşmesinin itici güçleri: Ucuz bilgisayarlar/sensörler/depolama, ölçeklenme etkileri (kazanan her şeyi alır), yeni iş modelleri, modüler değer zincirleri, maliyet baskısı ve daha fazlası.

Otomasyon: Bir görev otomatikleştirilebildiğinde ve otomasyon maliyeti, görevi zaman içinde yerine getirmenin maliyetinden daha düşük olduğunda, görev otomatikleştirilecektir. Bilgisayarın tanıtımından önce bile belirli bir otomasyon derecemiz vardı. Örneğin, dokuma makinesi dokumayı otomatikleştirirken ya da buhar makinesi at gücünü otomatikleştiriyordu. Ancak bilgisayarlar ve dijitalleşme, otomasyonu bir sonraki seviyeye taşıyor. Basitçe for-döngüleri programlayabilmeniz, Excel makroları yazabilmeniz, e-posta yanıtlarını otomatikleştirebilmeniz gibi özellikler, bireylerin ne kadar otomatikleştirebileceğini gösteriyor. Bilet makineleri tren biletlerinin satın alınmasını otomatikleştirir (artık kasiyere gerek yoktur), çamaşır makineleri çamaşırı otomatikleştirir, sabit emirler ödeme işlemlerini otomatikleştirir ve benzeri. Görevleri otomatikleştirmek zaman ve para tasarrufu sağlar, bu nedenle şeyleri otomatikleştirmek için büyük ekonomik ve kişisel bir teşvik vardır. Şu anda dil çevirisi, sürüş ve küçük bir ölçüde bilimsel keşif gibi alanların otomasyonunu gözlemliyoruz.

Yanlış Belirleme: Tüm kısıtlamalarıyla bir hedefi mükemmel şekilde belirleyemiyoruz. Şişedeki cinin dileklerinizi her zaman kelimenin tam anlamıyla kabul etmesini düşünün:

• “Dünyanın en zengin insanı olmak istiyorum!” -> En zengin kişi olursunuz, ancak yan etki olarak elinizdeki para birimi enflasyon nedeniyle çöker.

• “Hayatımın geri kalanında mutlu olmak istiyorum!” -> Önümüzdeki 5 dakika çok mutlu hissedersiniz, sonra cin sizi öldürür.

• “Dünya barışını diliyorum!” -> Cin tüm insanları öldürür.

Hedefleri yanlış belirliyoruz, ya tüm kısıtlamaları bilmediğimiz için ya da onları ölçemediğimiz için. Mükemmel olmayan hedef belirleme örneği olarak şirketlere bakalım. Bir şirketin basit hedefi, hissedarları için para kazanmaktır. Ancak bu belirleme, gerçekten çabaladığımız tüm kısıtlamalarla birlikte gerçek hedefi yakalamaz: Örneğin, para kazanmak için insanları öldüren, nehirleri zehirleyen ya da sadece kendi parasını basan bir şirketi takdir etmiyoruz. Mükemmel olmayan hedef belirlemeyi düzeltmek için yasalar, düzenlemeler, yaptırımlar, uyum prosedürleri, sendikalar ve daha fazlasını icat ettik. Kendi deneyimleyebileceğiniz bir diğer örnek ise mümkün olduğunca çok kağıt klipsi üretme hedefiyle oynadığınız bir oyun olan Paperclips'tir. UYARI: Bağımlılık yapıcıdır. Çok fazla bozmak istemiyorum, ancak diyelim ki işler gerçekten hızla kontrolden çıkıyor. Makine öğreniminde, hedef belirlemedeki kusurlar, kusurlu veri soyutlamalarından (yanlı popülasyonlar, ölçüm hataları, ...), kısıtlamasız kayıp fonksiyonlarından, kısıtlamaların bilgisinin eksikliğinden, eğitim ve uygulama verileri arasındaki dağılım kaymalarından ve daha fazlasından kaynaklanır.

Dijitalleşme, otomasyonu yönlendiriyor. Mükemmel olmayan hedef belirleme, otomasyonla çelişiyor. Bu çelişkinin kısmen yorumlama yöntemleriyle araya girdiğini iddia ediyorum.

Tahminlerimizin sahnesi hazır, kristal küre hazır, şimdi alanın nereye gidebileceğine bakalım!