2.1 Hikaye Zamanı
Last updated
Last updated
Bazı kısa hikayelerle başlayacağız. Her hikaye, yorumlanabilir makine öğrenimi için kabul edilmiş abartılı bir çağrıdır. Eğer aceleciyseniz, hikayeleri atlayabilirsiniz. Eğlenmek ve motive olmak isterseniz, okumaya devam edin!
Bu format, Jack Clark'ın Import AI Bülteni'ndeki Tech Tales bölümünden esinlenmiştir. Eğer bu tür hikayelerden hoşlanırsanız veya yapay zeka konusunda ilgi duyuyorsanız, bu bülteni takip etmenizi öneririm.
2030: İsviçre'deki bir tıp laboratuvarı...
"Ölmenin en kötü yolu kesinlikle bu değil!" Tom, trajedide bir şey olumlu bulmaya çalışarak özetledi. İntravenöz direkten pompayı çıkardı.
"Sadece yanlış nedenlerle öldü," Lena ekledi.
"Ve kesinlikle yanlış morfin pompasıyla! Sadece daha fazla iş çıkartıyoruz!" Tom, pompadaki arka plakayı çözerken şikayet etti. Tüm vidaları çıkardıktan sonra plakayı kaldırdı ve kenara koydu. Bir kablo bağladı teşhis portuna.
"İşiniz olduğu için mi şikayet ettin?" Lena alaycı bir gülümsemeyle ona baktı. "Tabii ki hayır. Asla!" Sarkastik bir tonla bağırdı.
Pompayı çalıştırdı.
Lena kabloyu diğer ucunu tablete takarak, "Tamam, teşhisler çalışıyor," dedi. "Nelerin yanlış gittiğini gerçekten merak ediyorum." "Kesinlikle bizim John Doe'yu Nirvana'ya gönderdi. Bu morfin maddesinin yüksek konsantrasyonu. Vay be. Yani... bu bir ilki, değil mi? Genellikle bozuk bir pompa ya az miktarda ya da hiç bu tatlı şeyden vermez. Ama hiç, bilirsin, böyle deli bir dozda değil," Tom açıkladı. "Biliyorum. Beni ikna etmene gerek yok... Bak buraya." Lena tableti yukarı kaldırdı. "Bu tepeyi görüyor musun? Bu ağrı kesiciler karışımının etkinliği. Bak! Bu çizgi referans seviyesini gösteriyor. Bu talihsiz adamın kan sistemine ölümünden 17 kez fazla ağrı kesici karıştırmışlar. İşte pompamız tarafından enjekte edilmiş. Ve burada..." diye kaydırdı, "burada hastanın ölüm anını görebilirsin."
"Öyleyse, ne oldu sence, patron?" Tom patronuna sordu.
"Hmm... Sensörler iyi gibi görünüyor. Kalp atış hızı, oksijen seviyeleri, glukoz... Veriler beklenildiği gibi toplandı. Kan oksijen verilerinde birkaç eksik değer var, ama olağan değil. İşte burada. Sensörler, morfin türetilmiş maddeden ve diğer ağrı bloke edicilerden kaynaklanan yavaşlayan kalp hızını ve aşırı düşük kortizol seviyelerini de tespit etmiş." Teşhis raporunda ilerlemeye devam etti.
Tom büyülenmiş bir şekilde ekrana baktı. Gerçek bir cihaz hatası soruşturmasına ilk defa tanık oluyordu.
"Tamam, işte bulmacamızın ilk parçası. Sistem, hastanenin iletişim kanalına bir uyarı göndermeyi başaramadı. Uyarı tetiklendi, ama protokol düzeyinde reddedildi. Bizim hatamız olabilir, ama hastanenin hatası da olabilir. Lütfen günlükleri IT ekibine gönderin," Lena Tom'a söyledi.
Tom, gözleri hala ekrana odaklanmış bir şekilde başını salladı.
Lena devam etti: "Garip. Uyarının pompayı kapatması gerekirdi. Ama bunu açıkça başaramadı. Bu bir hata olmalı. Kalite ekibinin gözünden kaçırmış olabileceği bir şey. Gerçekten kötü bir şey. Belki protokol sorunuyla ilgili olabilir." "Peki, pompadaki acil durum sistemi nasıl bozuldu da John Doe'ya bu kadar çok ağrı kesici enjekte etti?" Tom merakla sordu.
"İyi soru. Haklısın. Protokol acil durumu başarısızlık meselesini bir kenara bırakırsak, pompa hiçbir şekilde bu kadar çok ilaç vermemeliydi. Algoritma, kortizol seviyesinin düşüklüğü ve diğer uyarı işaretlerine dayanarak çok daha önce durmalıydı," Lena açıkladı.
"Belki şanssızlık, milyonda bir olası bir şey, yani yıldırım düşmek gibi mi?" Tom ona sordu.
"Hayır, Tom. Sana gönderdiğim belgeleri okusaydın, pompanın hayvan deneylerinde eğitildiğini, daha sonra insanlar üzerinde eğitildiğini ve duyusal girdiye dayanarak mükemmel miktarda ağrı kesici enjekte etmeyi öğrendiğini bilirdin. Pompanın algoritması belirsiz ve karmaşık olabilir, ama rastgele değil. Yani aynı durumda pompa aynı şekilde davranır. Hastamız tekrar ölürdü. Sensör girdilerinin bir kombinasyonu veya istenmeyen bir etkileşim yanlış davranışı tetiklemiş olmalı. İşte bu yüzden daha derine kazmamız ve burada ne olduğunu bulmamız gerekiyor," Lena açıkladı.
"Anlıyorum..." Tom düşüncelere dalmış bir şekilde cevapladı. "Hasta zaten yakında ölecek miydi? Kanser veya bir şeyden dolayı mı?"
Lena analiz raporunu okurken başını salladı.
Tom ayağa kalktı ve pencereye gitti. Dışarıyı seyretti, gözleri uzak bir noktaya sabitlenmişti. "Belki de makine ona iyilik etti, biliyor musun, acıdan onu kurtardı. Artık daha fazla acı çekmeyecek. Belki sadece doğru şeyi yaptı. Bir yıldırım gibi, ama, biliyorsun, iyi bir yıldırım gibi. Yani bir çekiliş gibi, ama rastgele değil. Ama bir sebeple. Eğer ben pompa olsaydım, aynısını yapardım."
Sonunda başını kaldırdı ve ona baktı.
O hala dışarıya bakmaya devam ediyordu.
Her ikisi de birkaç an sessiz kaldı.
Lena tekrar başını eğdi ve analize devam etti. "Hayır, Tom. Bu bir hata... Sadece lanet bir hata."
2050: Singapur'da bir metro istasyonu
Bishan metro istasyonuna aceleyle koştu. Düşünceleri zaten iş yerindeydi. Yeni sinir mimarisinin testleri şimdiye kadar tamamlanmış olmalıydı. "Bireysel Varlıklar için Vergi Yakınlık Tahmin Sistemi"nin (Tax Affinity Prediction System for Individual Entities) yeniden tasarımını yönetmişti. Bu sistem, bir kişinin vergi dairesinden para saklayıp saklamayacağını tahmin ediyordu. Ekibi zarif bir mühendislik parçası ortaya koymuştu. Başarılı olması durumunda, sistem sadece vergi dairesine hizmet etmekle kalmayacak, aynı zamanda terörle mücadele alarm sistemi ve ticari sicile gibi diğer sistemlere de besleyecekti. Bir gün hükümet, tahminleri Medeni Güven Puanı'na entegre edebilirdi. Medeni Güven Puanı, bir kişinin ne kadar güvenilir olduğunu tahmin eder ve bu tahmin günlük hayatınızın her alanını etkiler, kredi almak veya yeni pasaport beklemek gibi. Yürüyen merdiveni inerken, ekibinin sisteminin Medeni Güven Puanı Sistemi'ne nasıl entegre edileceğini hayal etti.
Rutin olarak RFID okuyucunun üzerinden elini silerek yürümeye devam etti. Zihni meşguldü, ancak duyusal beklentilerle gerçeklik arasındaki uyumsuzluk beyninde alarm zilleri çaldırdı.
Çok geç kalmıştı.
Burnuyla birlikte metro giriş kapısına çarptı ve kıçıyla yere düştü. Kapının açılması gerekiyordu, ... ama açılmadı. Şaşkına dönmüş bir şekilde ayağa kalktı ve kapının yanındaki ekrana baktı. Ekranda güleryüzlü bir ifade ile "Lütfen bir kez daha deneyin," önerisi belirdi. Birisi yanından geçti ve onu görmezden gelerek elini okuyucunun üzerinden sildi. Kapı açıldı ve o geçti. Kapı tekrar kapandı. Burnunu sildi. Acıyor ama en azından kanamıyordu. Kapıyı açmayı denedi, ancak yine reddedildi. Garip. Belki toplu taşıma hesabında yeterli jeton yoktu. Akıllı saatine bakarak hesap bakiyesini kontrol etti.
"Aktif giriş reddedildi. Lütfen Vatandaş Danışma Bürosu ile iletişime geçin!" saatı ona bilgi verdi.
Bir mide bulantısı hissi, ona bir yumruk gibi vurdu. Ne olduğunu tahmin ediyordu. Teorisini doğrulamak için mobil oyunu "Sniper Guild", birinci şahıs nişancı oyununu başlattı. Uygulama otomatik olarak kapanarak teorisini onayladı. Başı döndü ve tekrar yerlere oturdu.
Tek bir olası açıklama vardı: Medeni Güven Puanı düşmüştü. Ciddi şekilde. Küçük bir düşüş, birinci sınıf uçuşlar alamamak veya resmi belgeler için biraz daha uzun süre beklemek gibi küçük rahatsızlıklara yol açardı. Düşük bir güven puanı nadirdi ve bir kişinin topluma bir tehdit olarak sınıflandırıldığı anlamına gelirdi. Bu kişilerle başa çıkmak için alınan bir önlem, onları metro gibi halka açık yerlerden uzak tutmaktı. Hükümet, Medeni Güven Puanı düşük olan kişilerin finansal işlemlerini kısıtlamaya başlamıştı. Ayrıca sosyal medyadaki davranışlarını aktif olarak izlemeye başlamış ve hatta şiddet içeren oyunlar gibi belirli içeriği kısıtlamıştı. Puanı ne kadar düşükse, o kadar zor olduğu için Medeni Güven Puanı'nı artırmak giderek daha zor hale gelmişti. Çok düşük bir puanı olan insanlar genellikle asla toparlanmazlardı.
Puanının neden düştüğüne dair bir sebep düşünemiyordu. Puan, makine öğrenimine dayanıyordu. Medeni Güven Puanı Sistemi, toplumu işleten yağlı bir makine gibi çalışıyordu. Güven Puanı Sistemi'nin performansı her zaman yakından izleniyordu. Makine öğrenimi, yüzyılın başından beri çok daha iyi hale gelmişti. O kadar etkili hale gelmişti ki, Güven Puanı Sistemi'nin aldığı kararlar artık tartışılamazdı. Kusursuz bir sistem.
Umutsuzca gülmeye başladı. Kusursuz sistem. Keşke öyle olsa. Sistem nadiren başarısız oldu. Ama başarısız oldu. O, o özel durumlardan biri olmalı; sistem hatası; bundan sonra bir dışlanmış. Kimse sistemi sorgulamaya cesaret edemezdi. Hükümete, topluma kendisi kadar entegre olmuştu ki sorgulanamazdı. Az sayıda kalan demokratik ülkelerde anti-demokratik hareketler oluşturmak yasaktı, çünkü kötü niyetli olmalarından ziyade mevcut düzeni destabilize ederlerdi. Aynı mantık artık daha yaygın olan algoritmalarda da geçerliydi. Algoritmalar üzerinde eleştiri, mevcut düzen için tehdit oluşturduğu için yasaklanmıştı.
Algoritmik güven, toplumsal düzenin kumaşıydı. Ortaya çıkan nadir yanlış güven değerlemeleri, ortak menfaat için sessizce kabul edildi. Yüzlerce diğer tahmin sistemi ve veritabanı puanın içine aktarılırken, puanının düşmesine neyin sebep olduğunu bilmek imkansızdı. Büyük ve karanlık bir boşluğun içine doğru açılıyor gibi hissetti. Dehşetle boşluğa baktı.
Vergi yakınlık sistemi sonunda Medeni Güven Puanı Sistemine entegre edildi, ancak o bunu hiçbir zaman öğrenemedi.
Mars Yerleşimi Sonrası Yılı 612: Mars'ta bir müze
"Tarih sıkıcıdır," Xola arkadaşına fısıldadı. Mavi saçlı bir kız olan Xola, sol eliyle odayı dolaşan projektör drone'lardan birini tembelce takip ediyordu. Öğretmenleri kızlara bakarak, "Tarih önemlidir," dedi kızdırmış bir sesle. Xola kızarmıştı. Öğretmeninin onu duymasını beklememişti.
"Xola, yeni öğrendiğin şey neydi?" diye sordu öğretmen. "Eski insanların Earthler Gezegeni'ndeki tüm kaynakları tükettiğini ve sonra öldüklerini mi?" dikkatlice sordu. "Hayır. İklimi sıcak yaptılar ve insanlar değil, bilgisayarlar ve makineler idi. Ve Gezegen Earth değil, Planet Earth," diye ekledi Lin adındaki başka bir kız. Xola onunla aynı fikirde kafa salladı. Biraz gururla, öğretmen gülümsedi ve onayladı. "Haklısınız ikisi de. Peki, bunun neden olduğunu biliyor musunuz?" "İnsanlar kısa görüşlü ve açgözlü olduğu için mi?" diye sordu Xola. "İnsanlar makinelerini durduramadılar!" diye patlattı Lin.
"Tekrar haklısınız," diye karar verdi öğretmen, "ama bu çok daha karmaşık bir konu. O dönemde çoğu insan olan biteni farkında değildi. Bazıları drastik değişiklikleri gördü, ama onları geri çeviremedi. Bu dönemden en ünlü eser, anonim bir yazarın bir şiiri. O dönemde olanları en iyi anlatan eser bu. Dikkatlice dinleyin!"
Öğretmen şiire başladı. Küçük dronlardan on iki tanesi çocukların önünde yeniden konumlandı ve videoyu doğrudan gözlerine yansıtmaya başladılar. Şiir, yalnızca ağaç kütüklerinin kaldığı bir ormanda duran bir kişiyi gösteriyordu. Konuşmaya başladı:
Makineler hesaplıyor; makineler tahmin ediyor.
Onun parçası olduğumuz gibi ilerliyoruz.
Eğitildiğimiz gibi bir optimumu takip ediyoruz.
Bu optimum, boyutları tek boyutlu, yerel ve kısıtlamasızdır.
Silikon ve et, üstel büyüme için peşinde.
Büyüme, zihnimizin hali.
Tüm ödüller toplandığında,
ve yan etkiler göz ardı edildiğinde;
Tüm paralar çıkarıldığında,
ve doğa geride kaldığında;
Sorun yaşayacağız,
Sonuçta, üstel büyüme bir kabarcık.
Ortakların trajedisi açılıyor,
Patlıyor,
Gözlerimizin önünde.
Soğuk hesaplamalar ve buz gibi açgözlülük,
Dünyayı ısıyla dolduruyor.
Her şey ölüyor,
Ve biz uymaktayız.
Atlar gibi peşinde koştuğumuz yarışın kör halleriyle,
Medeniyetin Büyük Süzgeci'ne doğru yarışıyoruz.
Ve bu yüzden acımasızca ilerliyoruz.
Çünkü biz makinenin bir parçasıyız.
Entropiyi benimseyerek.
Öğretmen, odadaki sessizliği bozmak için, "Karanlık bir anı," dedi. "Bunun kütüphanenize yüklenmesi gerekecek. Ödeviniz gelecek hafta kadar bunu ezberlemek," diye ekledi Xola iç çekti. Küçük dronlardan birini yakalamayı başardı. Drone'un CPU ve motorlarından dolayı sıcaktı. Xola, ellerini ısıttığını seviyordu.
