AGI Çok, Çok Uzakta...

 

Başlığı son derece karamsar attığımın farkındayım. Fakat özellikle son zamanlarda gerek sektörün içinde gerekse dışında pek çok kişi ve kurum yapay genel zekânın ulaşmamıza çok az kaldığı, hatta çoktan ulaşıldığı gibi açıklamalar yapıyor. Ortalık karışık. Pastanın büyüklüğünü gören ilgili ilgisiz herkes bu işten bir şekilde nemalanmanın peşinde. AGI de pastada en büyük payı olanların sürekli gündemde tuttukları bir konu. En ufak gelişmede ısıtılıp ısıtılıp önümüze konuyor.

Bilmediğimiz çok şey var. Zekânın doğasını bilmiyoruz. Hafıza ile olan ilişkisini bilmiyoruz. Bilinç hakkında en ufak fikrimiz yok. Tüm hikayenin beyinde olup bittiğinden bile emin değiliz, zira insan beyni ve çalışma mekanizması hakkında bilgimiz hâlâ yok denecek kadar az. O kadar gelişmiş teknolojiye rağmen daha geçen sene ilk defa bir memeli beyninin (fare) tam haritasını çıkarabildik. Sadece haritasını. Bu kadar bilinmeyenin olduğu bir denklemde zekâ hakkında atıp tutmak tehlikelidir.

Matematiği ele alalım. Bir kesim matematiği bilim dalı olarak kabul eder. Benim de içinde olduğum başka bir kesim ise matematiğin yalnızca bir dil olduğunu savunur. Fakat konu kesinlik olunca matematiğin elimizdeki en güçlü silah olduğu konusunda hemen herkes hemfikirdir. Bu kesinliği aslen tanımlara borçluyuz. Matematikte her şey tanımlarla başlar. İşin içinden çıkamadığınız durumda, Ali Nesin’in de deyimiyle, “tanıma dönmeniz” gerekir. Ben de AGI’nin ufukta olmadığı iddiamı desteklemeye başlamadan önce tanımları vereyim:

OpenAI’ın AGI tanımı aynen şu şekilde: “a highly autonomous system that outperforms humans at most economically valuable work”. Yani, ekonomik açıdan en değerli işlerde insanlardan daha iyi performans gösteren yüksek düzeyde otonom bir sistem.

Bu tanım her ne kadar geniş kitlelerce kabul görse de, eksik ve hatalıdır. Eksiktir, çünkü hiçbir ekonomik değeri olmayan ve insanlar için çok basit olan bazı görevler göz ardı ediliyor. Buna en güzel örnek François Chollet’nin ARC-AGI projesidir. Chollet ve ekibi, yalnızca boyutları değişebilen bir grid (kareli kağıt gibi düşünebilirsiniz) ve bir renk paleti kullanarak çeşitli şekillerden oluşan bulmacalar tasarladılar. Amaç, şekiller arasındaki mantıksal ilişkiyi çözmek (projeden HBR Türkiye’de yayınlanan yazımda detaylıca bahsettim. İlgilenenler bir göz atabilir). 

Kaldı ki, insanlar için zor olan karmaşık görevleri yerine getirme de tek başına ölçüt olamaz. Buna da en güzel örneklerden biri DeepMind’ın kurucu ortağı Mustafa Suleyman’ın Turing testinin yerine önerdiği testtir. Mustafa Suleyman’ın ortaya attığı üzere, 100 bin dolar sermaye ile başlayıp bunu 1 milyon dolara çıkarabilmek bir AGI testi olamaz. 100 bin doları batırmanız size aptal yapmayacağı gibi, 1 milyon dolara çıkarmanız da zeki olduğunuz anlamına gelmez. Sistemin önce 100 bin doların ne anlama geldiğini, yani para konseptini kavramasını beklerim. Bu müthiş bir adım olur. Neyi neden yaptığını bilmeyen bir sistem zeki olamaz. Douglas Lenat’ın efsanevi Cyc projesi tam da bunu amaçlıyordu: Yapay zekâya sağduyu kazandırmak. Her ne kadar projenin yaratıcılarından Ramanathan V. Guha sağduyu sahibi bir sistem yaratma fikrinin başarısız olduğunu itiraf etse de proje hala devam ediyor. Bir umut…

Şimde denebilir ki, OpenAI’ın henüz piyasaya sürülmeyen o3 sistemi ARC üzerinde tarihi bir başarıya imza attı. Doğru, zira tebrik birinci ağızdan, Chollet’den geldi. Fakat temkinli olmakta fayda var. Birincisi, o3’ün çözemediği ve insanlar için oldukça basit olan onlarca bulmaca mevcut. Kaldı ki Chollet, çok yakında yepyeni bir bulmaca setinin açıklanacağı, bu sette insanların başarısının %95’i bulurken o3 gibi sistemlerin %30’lara düşmesini beklediğinin sinyalini verdi. İkincisi, yine OpenAI tarafından GPT-3 piyasaya sürüldüğünde “AGI hayırlı uğurlu olsun” mealindeki açıklamalar rövaçtaydı. Kimsenin hayalini yıkmak istemem ama üstün zekâlı GPT-3’ün ARC bulmacalarındaki skoru %0! Sıradan bir insanın %80’ini doğru yaptığı bulmacaların tek bir tanesini bile doğru çözememiş. Yorumu size bırakıyorum.  

Aynı zamanda hatalıdır, çünkü halihazırda pek çok sistem insanlardan daha iyi performans gösteriyor. Özellikle tıp alanında bu tür sistemlerden daha fazla görmeye başladık. Fiziki, hatta düşünsel görevlerde ölçülen performans zekânın ancak bir bileşeni olabilir. Daha fazlası değil.

Şimde bir de François Chollet’nin AGI tanımına bakalım: “AGI is a system that can efficiently acquire new skills outside of its training data. More formally, the intelligence of a system is a measure of its skill-acquisition efficiency over a scope of tasks, with respect to priors, experience, and generalization difficulty”. Yani, AGI, üzerinde eğitildiği verilerin dışında verimli bir şekilde yeni beceriler edinebilen bir sistemdir. Daha resmi bir ifadeyle, bir sistemin zekâsı, öncellere, deneyime ve genelleme zorluğuna göre bir görev kapsamı üzerinde beceri edinme verimliliğinin bir ölçüsüdür.

Adını çok net olarak koyalım: AGI henüz hayatımızda değil. Olacak mı, meçhul. Olması en büyük temennimiz ama, bunun için doğru yolda olduğumuz bile şüpheli. Ha geldi ha geliyor diyerek, yok 3 yıl kaldı, pardon 5 demek istemiştim, aslında 10 yıl olarak düşünebiliriz gibi her tutmayan tahminde bol keseden “zaman kazanarak” yalnızca kendimizi kandırıyoruz. Tüm dünya nefesinin tutmuş ‘OpenAI şimdi ne yapacak’ diye bekliyor ama bana kalırsa AGI’nin doğum yeri bu tarz şirketler değil bilim camiası olacak. Tıpkı François Chollet’nin ARC bulmacalarında %85 eşiğinin (diğer tüm kuralları da sağlayacak şekilde) yapay zekâ sektörünün dışında aşılacağı öngörüsü gibi…

Barış Yalın Uzunlu