LLM Bizim Zurnamızı Dürecek mi?
Selamlar! İlk kez arka arkaya iki gün blog gönderisi yazıyorum, heyecan var. Ama bu gönderi de önceki gibi YZ/LLM odaklı olacak ne yazık ki.
Öncelikle, bir ay boyunca her gün bir gönderi yazmak konusunda kendime meydan okuduğumu yazmak istiyorum. Günlük yazmaya birkaç ay önce başladım ama günlük tutmayı sürekli yapabilmemi sağlayan şey gerçekten her gün yazıyor olmamdı. Bir günü kaçırmam o günü yazmayacağım anlamına gelmiyor, tam tersine ilerideki bir gün daha fazla yazmak zorunda bırakıyor beni. Bu da sonuç olarak beni her gün günlük yazmaya teşvik ediyor. Benzeri bir yaklaşımı blogumda da sergilemek istiyorum açıkçası. Her gün zorla gönderi yazarsam ve yazmadığım günlerin eksiğini sonraki günlerde tamamlarsam muhtemelen kendime uyguladığım itki yeterince güçlü olacaktır. Günün sonunda gerçekten her gün yazmak değil amacım ama, sadece düzenli olarak bir şeyler yazmak, bu meydan okuma sadece kendime bu alışkanlığı kazandırmayı amaçlıyor. 18 ilâ 254 gün arasında bir aralıkta tekrarlamakla alışkanlık kazanıyor insanlar, bu meydan okuma da alt sınırı halletmemi sağlar demek oluyor. Ayrıca kasım ayının sonundayız, yani aralık ayındaki Advent of Code'a oldukça yakınız. İkisi birlikte genel olarak güzel alıştırmalar olabilir benim için, insan yazısı olarak blog ve makine yazısı olarak AOC.
Bu sefer bahsetmek istediğim konu dediğim gibi yine LLM'lerle ilgili. Bugün şu videoyu izledim, LLM ve genel olarak YZ'nin insanların işlerini elinden alması ve bunun üzerine tahminî bir senaryodan bahseden bir video. YZ tarafından oluşturulmuş olma ihtimalinin yüksekliğini geçersek, biraz korku pompalayan ama ilginç noktalara değinen bir video aynı anda. Korku pompalamasının sebebi aslında akla yatkın, Terminatör gibi değil de daha gerçekçi olan türden, ama görece kötü olan bir senaryoyu ve geleceği anlatması aslında. Yani insan mantıklı buluyor, sonuç olarak o kadar kötü bir geleceğin olabileceğini düşünüyor, bundan da korkuyor.
YZ'nin insanın yerini almasının şartı olarak hem zeki hem otonom hem de genel olması gerekti şeklinde bir sav var videoda. Örnek olarak da sadece zeki olan AlphaFold ve hem zeki hem otonom olan otonom araç YZ'lerinden bahsediyor. Genel olması niteliğini GPT ve Claude gibi modeller üzerinden örneklendiriyor. Akla oldukça yatkın. Genel anlamda zeki ve kendi başına hareket edebilen bir varlık insanın yaptığı işi yapabilir, bazı işlerde de bunu insandan daha iyi yapabilir.
Benim eleştireceğim ilk kısım bu daha iyi kısmı. YZ bazı işleri insandan iyi yapabiliyor doğru, videoda dediği gibi jünyörlerin yerini alabiliyor YZ çünkü aynı işi daha ucuza çözebiliyor LLM'ler özellikle yazılım gibi alanlarda. Fakat burada bir varsayım mevcut, ki bu varsayımdan da videonun ilerideki kısımlarında bahsediyor: YZ sürekli gelişecek. Bu konuda tartışmalar sürüyor olsa da benim görüşüm kolay erişilebilecek başarıları bitirdiğimiz yönünde. Günümüzdeki LLM'lerin temel mimarisi Attention is All You Need isimli, 2017 çıkışlı bir makaleden geliyor. Aslında bu makale tam olarak yeni bir yöntem sunmuyor bize. O döneme kadarki dil işleme modelleri çeşitli yöntemleri birleştirirken bu makaleyi yazanlar, odak sisteminin tek başına yettiğini ve hatta modeli daha bile başarılı kıldığını yazıyor. Nitekim sonuç olarak görece kısa zaman içinde GPT modeli ortaya çıkıyor, bugünün GPT-5'inin dedesinin dedesi yani. GPT'den GPT-5'e kadar olan süreç içerisinde çok büyük bir gelişme oluyor, doğru, fakat bu gelişmenin düze çıktığını da gözlemleyebiliyoruz aslında. GPT-2 ile GPT-3 arasındaki sıçrama, GPT-4 ile GPT-5 arasındakinden çok çok daha büyük. Olaya yapmaca metrikler üzerinden de bakmamak lazım, gerçekten GPT-2 ile olan sohbet deneyimi ile 3 ile olan sohbet deneyimi gündüz ile gece kadar farklı birbirinden. Bu sebeple düşünüyorum aslında düze çıktığımızı.
Yöntemler konusunda kıtlık var denebilir, gerçekten bir yöntem üretimi pek var değil günümüzde. Akademi nasıl bir şeyleri rastgele deneriz de derin öğrenme makalesi yazıp âtıf torbasının ağzını açarız derdine düşmüş durumda. Attention is All You Need'in bile aslında ortaya yeni bir yöntem atmadığını düşününce, yakın gelecekte gerçekten büyük bir gelişimin olup olmadığından emin olamıyor insan. Şu an gözüken, olmadığı yönünde bu sebeplerden ötürü.
Fakat işte asıl sorun burada oluyor. LLM'ler şu an jünyörlerin yerini alacak kadar iyi olabilir, ama eğer gelişim eğrisi durmaya doğru gidiyorsa senyörlerin yerini alamaz LLM'ler. Senyörlerin yerini alamaması da şirketlerden kovulan jünyörlerin senyör olamaması ve sonuç olarak yakın gelecekte çok büyük bir senyör eksiği çıkması anlamına geliyor. Şu anda jünyörlerini kovan şirketler, LLM'lerin herkesin yerini alabileceği varsayımıyla bunu yapıyor. Şayet bu gerçekleşmezse, iş piyasasının dengesini altüst edecekler demektir. Bir şirket olarak ya buna inanır ve jünyörleri kovar, LLM'lerin senyörlerin yerini almasını dört gözle beklersiniz ya da LLM'lerin ve YZ'nin bu seviyeye yakın gelecekte erişemeyeceğini varsayar ve jünyör yetiştirmeye devam edersiniz. YZ firmaları için aslında ikisi de uzun vadede kötü. Eğer ilki doğruysa, bir noktada en üstte yer alan şeflerin ve yönetim kurullarının da yerini alacaktır YZ ve sonuç olarak şirket tamamen yok olacak bir bakıma, en azından insan faktörü açısından. İkincisi doğruysa da bir noktada ilerleme duracağı için yine YZ firmalarının sonu gelecektir. Kısacası, Keynes'in dediği gibi uzun vadede hepimiz ölüyüz, tabii sadece YZ şirketleri için geçerli bu bağlam içerisinde. İlk senaryodan uzun vadede yararlanabilecek hiçbir insan yok yani, dolayısıyla o senaryoya yatırım yapmak uzun vadede hiçbir kâr getirmediği gibi dolaylı yoldan bu senaryonun gerçekleşmesini önleyecek insanların iş imkânlarını ellerinden almaktan kaynaklı olarak kaçınılmaz sonu hızlandıracağından dolayı bu duruma yatırım yapmak kendi ayağına sıkmak oluyor. Fakat eğer benim de inandığım gibi YZ'nin gelişim eğrisi bir sonraki büyük atılıma kadar durağan kalacaksa bu senaryoya yatırım yapmak mantıklı oluyor. Ama bu yatırım tam olarak pasif olmamalı. Eğer olaylar bu şekilde cereyan edecekse, bir şirket kendi jünyörlerinin yerine YZ koymak yerine kendi çalışanlarını yetiştirirse ve balon patladığında bu yetiştirdiği elemanları kendi elinde tutmaya çalışırsa, belki tam olarak kâr edemez ama piyasanın altüst olmasından görece küçük yaralarla kurtulabilir. Ayrıca rakiplerini de yetişmiş eleman açlığına mahkûm edeceği için inanılmaz bir rakip eleme gücüne kavuşacaktır.
Sonuç olarak, geleceğe bakışım biraz umutlu aslında. Benim veya senin yapacağından tamamen bağımsız şekilde insanlık yok oluşa gidiyorsa umutsuz olmanın anlamı yok. Öteki türlü ise bu sefer de kendini yetiştirebilmiş insanların inanılmaz yüksek bir pazarlık gücünün olduğu bir geleceğe ilerliyoruz demektir, ki bu durum insanlık için fazlasıyla yararlı bir durum aslında. Çünkü şirketlerin ve işverenlerin eli zayıflamış, çalışanların eli ise fazlasıyla güçlenmiş olacak. Bu gücü insanlar doğru kullanır mı, orası meçhul, ama böyle bir gücün var olacak olması bile başlı başına bir umut sebebi.