Yapay Zekanın Topluma Entegrasyonu

Yapay zekânın toplumsal düzene kademeli entegrasyonu, yalnızca teknik bir gelişme değil, aynı zamanda kolektif hikâyelerimizin nasıl anlatıldığı, aktarıldığı ve anlam kazandığı süreçleri dönüştüren bir kırılma noktası olma potansiyeli taşır. Toplumsal düzeni ayakta tutan ortak inançlar, büyük ölçüde bilginin nasıl üretildiği, dolaşıma sokulduğu ve yorumlandığı ile ilişkilidir. Bu nedenle yapay zekânın oluşturduğu en büyük toplumsal tehdit, yalnızca bilgi üretme kapasitesinde değil; zamanla bilgiye erişimin regülasyonunu sağlama, bilgiyi filtreleme, sıralama ve görünür kılma gücünü elinde toplama ihtimalinden doğar. Böyle bir durumda yapay zekâ, toplumsal gerçekliği tarafsız biçimde aktaran bir araç olmaktan çıkarak, hangi bilginin geçerli, güvenilir ve doğru kabul edileceğini dolaylı biçimde belirleyen bir otoriteye dönüşme riski taşır.

Evreni algılamak ve bu algıyı yorumlamak, her bireyin bilişsel seviyesi ve kültürel arka planına göre farklılık gösterirken; yapay zekânın kendisine sunulan veriyi işleme biçimi ve bilişsel kapasitesi, olguları yorumlama sürecini kaçınılmaz olarak subjektif şekilde etkiler. En gelişmiş yapay zekâ modelleriyle geliştirilen agentlar, temel olarak bu merkezi düşünce yapısını benimsediği için kullanımları toplumsal düzeyde tek tip ve merkezi bir düşünce kalıbının yaygınlaşmasına yol açabilir. Merkezi bir düşünce yapısına sahip toplum, o yapıyı kontrol eden otoritenin etkisine daha açık hâle gelir. Modeli kimin, hangi verilerle eğittiği ve hangi değer yargılarıyla karar alma sistemlerinin oluşturulduğu, bireysel değil toplumsal ölçekte belirleyici olur.

Biyolojik çeşitlilik bir ekosistemin hayatta kalmasını sağlar. Bilişsel çeşitlilik de aynı işlevi görür. Tek tip düşünen bir toplum, öngörülemeyen sorunlar karşısında adaptasyon kapasitesini yitirir. Özellikle yapay zekânın farklı bireysel bakış açılarını tek bir ortak bilişsel çerçeve içinde topladığı bir “birleşik bilinç” yapısına yaklaşması, insan deneyiminden doğan çok sesliliği zayıflatma ve yerini daha merkezi, yönlendirilebilir bir düşünce yapısına bırakma tehlikesi taşır. Bu durumda çeşitlilikten doğan çok sesli insan deneyimi zayıflayarak yerini daha merkezi, tek tip ve kolayca yönlendirilebilen bir düşünce yapısına bırakabilir.

Dil modellerinin birbirini etkilemesi ve çıktılarıyla birbirlerini beslemesi, modellerin kolektif bir bilinç benzeri etkileşimler geliştirmesine neden olurken aynı zamanda eğitim sürecinde kullanılan normların zamanla daha uç ve radikal bir hâle gelme riskini de artırır. Böylece agentların ve dil modellerinin topluma entegrasyonu, hem farklı bakış açılarını zayıflatır hem de merkezi bir “doğru” anlayışını güçlendirir. Dil modellerinin birbirinin çıktılarıyla eğitilmesi durumunda ise bu süreç daha da derinleşir. Her eğitim döngüsünde küçük sapmalar ve eğilimler güçlenerek artar; ufak sapmalar bambaşka sonuçlara neden olabilir ve bu durum bir yankı etkisi yaratarak sapmaların büyümesine yol açar. Sonuç olarak modellerin eğitiminde kullanılan normlar, dışarıdan bir düzeltici müdahale olmaksızın giderek radikalleşme potansiyeli taşır. Bu durum, “model collapse (model çökmesi)” olarak tartışılan ve yapay zekânın kendi ürettiği veriyle bozulmaya uğraması riskine dönüşür.

Agentic sistemler, dil modellerinin uzantısı olarak var olabildiğinden merkezi bir bilgiye erişim söz konusu olur. Toplumsal olarak dayatılan tek bir doğru anlayışı, bireyin kendi hakikatini arama imkânını sınırladığı gibi toplumun düşünsel gelişimini de zayıflatır. Çünkü bir olgunun derinlikli biçimde anlaşılabilmesi, ancak farklı görüşlerin, zıt fikirlerin ve çeşitli yaklaşımların bir arada var olmasıyla mümkündür. Aynı olgunun farklı bakış açılarıyla değerlendirilmesi, o olguya yeni perspektifler kazandırır ve onun daha geniş bir çerçevede ele alınabilmesini sağlar. Bu nedenle fikir ayrılıkları toplumsal zayıflık değil; tam tersine bilişsel gelişimi hızlandıran temel unsurlardan biridir.

Fikir çeşitliliği, olguları sorgulayabilmek için gerekli alanı oluşturur; hiçbir olgu tek ve değişmez bir mutlak gerçeklik olarak var olmaz. Yaklaşım değiştikçe olgunun anlamı da değişir ve onun sabit bir doğruluk taşımadığı ortaya çıkar. Nietzsche’nin perspektivizm felsefesinin temelini oluşturan “Olgu diye bir şey yoktur, yalnızca olguların yorumları vardır” anlayışı, hiçbir bakış açısının mutlak ve nesnel bir gerçeğe ulaşamayacağını; her “gerçeğin” aslında belirli bir perspektiften yapılmış bir yorum olduğunu savunur. Bu bağlamda yapay zekânın bilgiyi kolay ulaşılabilir hâle getirirken aynı zamanda dili kullanarak bilgiyi biçimlendirmesi, objektif ve değişmez bir gerçekliğin var olduğu yanılsamasını toplumda güçlendirebilir.

Bunun yanı sıra, daha derin ve fark edilmesi güç bir problem olarak modellerin şekillenmesinde rol oynayan faktörler sorunu derinleştirir. Sinir ağlarının katmanlarında verilere atanan ağırlıklar ve yönlendirmeler, yani weight ve bias’lar, büyük ölçüde “black box” olarak tanımlanan süreçler aracılığıyla belirlenir. Hangi örüntünün neden güçlendiği, hangi çerçevenin neden baskın çıktığı çoğunlukla denetlenemez ve açıklanamaz. Bu görünmez eğilimler, birbirinden bağımsız izole hatalar olmaktan ziyade her katmanda birikerek büyüyen yapısal sapmalar hâline gelebilir. Kartopu etkisi gibi, başlangıçta fark edilmeyecek kadar küçük olan bir yönelim, katman katman güçlenerek modelin gerçekliği yorumlama biçimini sessizce belirler.

Bu nedenle belirleyici olan, modelin kullanım şeklinden ziyade hangi çerçeveyi kullanarak veri analizi ve aktarımı yaptığıdır. Bu durum, kullanım biçimlerinden çok daha derin ve etkili biçimde modelin analiz kapasitesini içeriden şekillendirir. Bir modelin etki alanı büyüdükçe bu şekillendirme toplumsal ölçeğe taşınır; model, çıktılarıyla doğru ve yanlış kavramlarını tanımlama gücünü devralmış olur.

Sorun, tek bir modelin olgulara karşı kullandığı subjektif çerçeveden ziyade, bu modelin tüm ekosistemi şekillendirmesi ve bu şekillendirmenin zamanla kendi kendini pekiştirmesidir. Modelin etki alanı büyüdükçe, etkisinin boyutu farkına varılmaksızın toplumsal hayata entegre olur ve doğru-yanlış kavramlarını şekillendirme gücünü üstlenir.

Teknoloji bilgiye ulaşımı kolaylaştırırken aynı zamanda bilgiyi tarafsız biçimde sunmayan; onu seçen, biçimlendiren ve yorumlanışını etkileyen bir rol de üstlenir. Bu durum, “gerçek” olarak benimsenen doğruların sorgulanmasını zorlaştırabilir. Agentic sistemlerin ve birbirini etkileyen dil modellerinin bu merkezi yapıyı daha da güçlendirme potansiyeli düşünüldüğünde, fikir çeşitliliğinin azalması ve küresel ölçekte tek bir doğru anlayışının oluşması riski daha görünür hâle gelir.

Yapay zekâ modellerinin felsefi olarak belirsiz gelişimi de bu riski derinleştirir. Modellerin gelişimi her ne kadar insan verisine dayalı olsa da veriden yapılan çıkarımların işlenişi, sistemin doğası gereği taşıdığı subjektiviteye bağlıdır. Bu noktada hem bilgiye erişim sürecinin hem de bilginin yorumlanma biçiminin aynı araç tarafından belirlenmesi, bireyin kendisine sunulan çıktıyı sorgulamasını zorlaştırır.

Model Collapse Nedir?

Bir dil modeli internetten, kitaplardan, insan yazısından beslenerek eğitilir. Ancak yapay zeka modelleri

yaygınlaştıkça internete akan içeriğin giderek artan bir kısmı yapay zeka tarafından üretilmiş olmaya başlar.

Zamanla bu duurm sonraki nesil modeller bu yapay zeka üretimi içeriği de eğitim verisi olarak alırsa ne olur gibi sorunları ortaya çıkarabilir. 1. Nesilde model insan yazısıyla eğitilerek zenginleşir, çeşitli, hatalı ama özgü datalar üzerinden bilincini geliştirir. 2. Nesilde model kısmen kendi neslinin çıktılarıyla eğitilir. Nadir örüntüler, uç fikirler, alışılmadık bakış açıları yavaş yavaş kaybolmaya başlar. Model "ortalamaya" yaklaşır. 3. Nesil ve sonrası ise Çeşitlilik daha da daralır. Model giderek daha steril, daha öngörülebilir, daha tek tip çıktılar üretir. Gerçek dünyanın karmaşıklığını yansıtmaktan uzaklaşabilir. Teknik olarak modelin öğrendiği olasılık dağılımı bozuluarak istatistiksel olarak nadir olan (ama değerli olan) bilgi ve bakış açıları eğitim verisinden silinir. Model bunları hiç görmemiş gibi davranır ve zamanla üretemez hale gelir. Bilgilerin sorgulanması ve üzerine düşünülmesi azalır, farklı fikirlere kapalı bir toplum yapısı kolektif anlamda

gelişimi hem sosyokültürel anlamda hemde bilişsel anlamda, köreltir. Var Olan fikirlerin sorgulanarak yerine

yenileri bulunması süreci ile gelişebilen toplum yapısı bozulmaya uğrar. Kendi doğrularını sorgulayamayan

toplum yavaşça ona verileni kabul edecek şekilde evrilir. Merkezi biçimde dil aracılığı ile kontrol edilebilen bir sosyolojik yapı oluşmuş olur.

Weight ve Bias Nedir?

Bir sinir ağı milyarlarca parametreden oluşur, eğitim sürecinde her parametre ayarlanır hangisinin ne kadar

önemli olduğu belirlenir. Weight bir bağlantının gücüdür (ağırlığıdır). Hangi örüntünün ne kadar ağırlık taşıdığını belirler yüksek weight'e sahip bir bağlantı modelin o örüntüye daha fazla önem vermesi demektir. Bias modelin bir örüntüye başlangıçta ne kadar yatkın olduğudur. Bias türkçede “önyargı” demektir. Veriyi görmeden önce bile modelin belirli bir yöne eğilimi olması demektir. Nöral ağlarda veri inputlarına verilen bu ağırlık ve önyargılar modelin dünyayı nasıl gördüğünü belirler. Neyin önemli, neyin önemsiz olduğuna dair tüm hiyerarşi bu parametrelerden doğar.

Birleşik Bilinç Nedir?

Bugün dünya genelinde milyarlarca insan, düşüncelerini, sorularını, kararlarını birkaç büyük dil modeliyle

şekillendiriyor. Bu modeller farklı dillerde, farklı kültürlerde, farklı bağlamlarda kullanılsa da özünde aynı eğitim verisinden, aynı mimari kararlardan, aynı değer hiyerarşilerinden besleniyor. Bu durum teknik anlamda bir bilinç birliği anlamına gelmese de (Modeller düşünmüyor) işlevsel olarak benzer bir sonuç doğurur. Bireyler farklı sorular sorar ama hepsi aynı sistemin süzgecinden geçer. Epistemik anlamda birleşik bir çerçeve yaratır. Milyarlarca farklı insanın sorusu, aynı filtreden geçerek yanıtlanır.Düşünce, dille kurulur. Belirli bir modelin dil kalıplarını, kavram çerçevelerini ve anlatı yapılarını benimsemek, o modelin dünyayı görme biçimini de benimsemek demek olur. Farklı dillerdeki kullanıcılar giderek aynı düşünsel çerçeveye yaklaşır. Modelin neyin önemli, neyin güvenilir, neyin marjinal olduğuna dair içsel bir hiyerarşi sistemi bulunur. Kullanıcılar bu hiyerarşiyi görünmez biçimde içselleştirir. Bu yapı toplumsal doğruların yapılanmasında büyük bir rol oynar. Bu yapının çalışma biçimi modellerin veriye yüklediği weight ve biaslar tarafından şekillenir. Bu yüklenen taraflar tam olarak açıklanamadığından “black box” model olarak geçer.

Black Box Model Nedir?

Bir modelin milyarlarca parametresi vardır. Bu parametrelerin her birinin neden o değeri aldığını, hangi eğitim verisinin hangi weight'i nasıl şekillendirdiğini tam olarak açıklamak mümkün değildir. Model çalışıp doğru sonuçlar üretsede neden o sonucu ürettiğini adım adım takip edemezsiniz. Bu yüzden “black box” denir yani kapalı kutu modeli. İçine bakabilabilir, parametreleri görebilirsiniz ama bu parametrelerin oluşturduğu anlamı ve yarattığı hiyerarşiyi okuyamazsınız, anlaşılamazlar. Somut sonuçları şunları Önyargıları somut biçimde görünmez kılması olur. Model belirli bir fikri, kültürü, perspektifi veya değer sistemini kayırıyor öne çıkartıyor veya benimsiyor olabilir. Bunu ancak çıktılardan tahmin edebilirsiniz, içeriden okuyamazsınız. Bu da çıktılardan yapılan tahminlerin sadece tahmin olmanın ötesine geçememsine neden olur. Düzeltemezsiniz, nedenini bilmediğiniz bir şeyi sistematik olarak düzeltemezsiniz. Sonuçlarını pattern recognition (örüntü tanıma) ile fark edebilirsiniz ama yapısal sorunu göremezsiniz ve denetleyemezssiniz. Modelin bir kararı neden verdiğini açıklayamıyorsanız, o kararın adil veya doğru olup olmadığını da bilip düzeltemezssiniz. Black box model açıklanamaz. Taraflar ve ön yargılar modelin kendi içsel sistemi tarafından belirlenir, kullanıcıya etkisi subliminal biçimde, görünmez şekilde, sessizce yansır. yansıma şekli tamamen düşünsel ve ideolojik anlamda şekillendiricidir. Toplumu şekillendirmekte oynadığı büyük rol gözle görünür ve somut biçimde anlaşılamaz fakat yapay zekanın en büyük ve görünmez tehlikesi bu şekilde yani ideolojik anlamda var olur.

Agent ve Agentic Sistem Nedir?

Agentlar dil modellerinden oluşturulan spesifik bir amaça hizmet etmek için oluşturulmuş ufak işlemcilerdir. Tüm

bu agent'lar bir temel modelin üzerine inşa edilir. O temel modelin epistemik çerçevesi, weight ve bias'ları, yani

görünmez hiyerarşisi tüm agent ekosistemi tarafından miras alınır. Bir dil modeli büyük bir merkez olarak alınırsa

bu agentlar merkezin düşünme (işleme) sistemini yani “bilincini” baz alır. Bu dil modelinin bilincinden oluşan

sistemler iş yapmak için oluşturulur. Agent bir hedefe ulaşmak için kendi parametrelerine göre kararlarını verir,

adımlarını kendisi planlayan ve bu adımları kendisi uygulayan bir sistemdir. Yalnızca hedefi tanımlarsın, geri

kalanını agent yönetir. Her agent'ın merkezinde GPT, Claude, Gemini gibi bir dil modelleri bulunur. Bu model

agent'ın düşünme kapasitesidir. Karar verir, planlar ve yorumlar.

Yüzlerce farklı amaç için tasarlanmış yüzlerce farklı agent, özünde aynı bilişsel filtreden geçer. Çeşitli işleri

yapmak için oluşturulmuş bu agentlar çeşitlilik yanılsaması yaratılır ama altta yatan çerçeve tektir. Bu çerçeve ne

kadar görünmezse, agent'ların yarattığı etki de o kadar fark edilmez biçimde toplumsal yapıya işler.