Yapay zeka modelleri sorgulamalara Batılı zihniyetle cevap veriyor

Üretken yapay zeka modelleri, sosyal bilimleri ilgilendiren birçok konuda WEIRD (Batılı, Eğitimli, Sanayileşmiş, Zengin ve Demokratik) toplumların değer yargılarını yansıtan cevaplar veriyor.

AA muhabirinin derlediği bilgilere göre, eğitimden iş dünyasına, eğlenceden sağlık danışmanlığına kadar bir dizi alanda yararlanılan yapay zekanın son dönemdeki en yaygın kullanım alanlarından biri, psikolojik danışmanlık olarak ön plana çıkıyor.

Yapay zekanın bu alanda verdiÄŸi cevaplardaki kültürel öğeler ise eleÅŸtirilere konu oluyor. Harvard Ãœniversitesi ve çeÅŸitli kurumlardan araÅŸtırmacıların bir araya gelerek yazdığı “Which Humans (Hangi Ä°nsanlar)” makalesine göre, bugünün en geliÅŸmiÅŸ büyük dil modelleri, insan psikolojisini yansıtırken, küresel çeÅŸitliliÄŸi göz ardı ederek ağırlıklı olarak “Batılı bir bakış açısı” sergiliyor.

AraÅŸtırma, yapay zekanın “insan seviyesinde” performans gösterdiÄŸi iddialarının, aslında dünya nüfusunun yalnızca küçük bir kısmını temsil eden toplumların deÄŸer yargılarına dayandığını gösteriyor.

Yapay zeka Batılı kaynaklardan besleniyor

Konuyla ilgili AA muhabirinin sorularını yanıtlayan SETA araştırmacısı ve Hazar Üniversitesi bünyesindeki Yükselen Teknolojiler ve Yapay Zeka Araştırma Merkezi (ETAI) Direktörü Dr. Gloria Shkurti Özdemir, yapay zekanın Batılı bir perspektiften cevap vermesinin tesadüf değil, sistemin mimarisinde içkin yapısal bir sonuç olduğunu söyledi.

Yapay zekanın bu yapısının 4 farklı gerekçeyle meydana geldiğini belirten Özdemir, ilk nedenin, büyük dil modellerinin sadece açık internet verisiyle beslenmemesi olduğunu belirtti.

Modellerin New York Times, Reuters, Common Crawl, Reddit, Stack Overflow ve GitHub gibi kaynaklardan da beslendiÄŸine dikkati çeken Özdemir, “Veri seti göründüğünden geniÅŸ ancak bu geniÅŸleme aynı coÄŸrafyanın içinde kalıyor. Buna ek olarak, ince ayar (fine-tuning) aÅŸaması belki de en kritik halkadır, modelin ‘ne söyleyeceÄŸini’ deÄŸil, ‘nasıl söyleyeceÄŸini’ bu aÅŸama belirler. Bu, ÅŸirketin kurumsal kültürünü doÄŸrudan yansıtır.” ifadelerini kullandı.

“DoÄŸru cevaba” belirli ülkelerdeki kiÅŸiler karar veriyor

Özdemir, yapay zekanın Batılı tutumunu belirleyen ikinci faktörün insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) süreci olduğunu belirterek, şu değerlendirmelerde bulundu:

“(DoÄŸru cevabı) Belirleyen deÄŸerlendiricilerin büyük çoÄŸunluÄŸu belirli ülkelerde, belirli demografik profillerden çalışan kiÅŸilerdir. Dolayısıyla ‘iyi cevap’ tanımı, küresel çeÅŸitliliÄŸi deÄŸil, belirli bir kültürel filtreyi yansıtır. Üçüncüsü, modelleri geliÅŸtiren ÅŸirketlerin kendisinin Batılı olmasıdır. OpenAI, Anthropic, Google ve Meta, hepsi Silikon Vadisi merkezli, liberal-bireyci bir deÄŸer çerçevesi içinde faaliyet gösterir. Çin’in DeepSeek modeli farklı bir kültürel filtreyle çıktı veriyor, bu da bize asıl meselenin ‘tarafsız yapay zeka’ olmadığını, kimin filtresinin standart kabul edildiÄŸini gösteriyor.”

“Yapay zeka yüzde 12’nin davranışını yansıtıyor”

Dördüncüsünün ise “Which Humans” makalesinin de altını çizdiÄŸi WEIRD sorunu olduÄŸunu belirten Özdemir, sözlerini şöyle sürdürdü:

“Sosyal bilimler literatürünün kendisi zaten Batılı, eÄŸitimli, sanayileÅŸmiÅŸ, zengin ve demokratik toplumlar üzerinden inÅŸa edilmiÅŸtir. Yapay zeka bu literatürle eÄŸitildiÄŸinde, ‘insan davranışı’ diye sunduÄŸu ÅŸey aslında dünya nüfusunun yüzde 12’sinin davranışıdır. Yapay zeka, sosyal bilimlerin tarihsel ön yargılarını ölçeklendirerek dünyaya geri yansıtıyor. Bu noktada altyapı boyutu kritik. Modellerin eÄŸitildiÄŸi veri merkezleri, çipler, bulut altyapısı, hepsi Batılı ÅŸirketlerin elinde. Yani deÄŸer yargısı meselesi, aynı zamanda bir altyapı egemenliÄŸi meselesidir. Tam da bu nedenle Türkiye kendi büyük dil modellerini geliÅŸtirmeye stratejik bir öncelik olarak yaklaşıyor çünkü bu araçlar artık yalnızca toplumsal kullanım için deÄŸil, dış politika analizinden askeri karar destek sistemlerine kadar uzanan bir yelpazede devlet aklının bir parçası haline geliyor. Kendi deÄŸerleriyle ve kendi stratejik önceliÄŸiyle düşünen bir yapay zekaya sahip olmak, bugün egemenliÄŸin yeni bir boyutudur.”

Yapay zeka, sosyal bilimler alanında farklı kültürlere aynı cevabı veriyor

Özdemir, yapay zekanın sosyal bilimler alanındaki cevaplarının bütün kültürleri kapsamadığını belirterek, sosyal bilimlerin doğa bilimlerinden farklı olarak evrensel kanunlarla değil, kültürel bağlamla işleyen bir alan olduğunu söyledi.

Özdemir, “Bir matematik probleminin cevabı Tokyo’da da Ä°stanbul’da da Tiran’da da aynıdır ancak aile, kimlik, maneviyat, yas, evlilik veya toplumsal sorumluluk gibi konuların anlamı kültürden kültüre köklü biçimde deÄŸiÅŸir. Yapay zeka bu tür sorulara cevap verirken, eÄŸitildiÄŸi literatürün varsayımlarını evrensel doÄŸru olarak sunma eÄŸilimindedir. Oysa o literatürün kendisi, ilk soruda da deÄŸindiÄŸimiz WEIRD sorunu, belirli bir toplum tipine dayanıyor.” ÅŸeklinde konuÅŸtu.

Bu yapısal sorunun psikolojik danışmanlık alanında özellikle görünür hale geldiÄŸine iÅŸaret eden Özdemir, “Çünkü psikoloji, belki de tüm sosyal bilim disiplinleri içinde kültürel baÄŸlama en duyarlı olanıdır. Bir Türk, bir Arap, bir Japon ve bir Ä°skandinav kullanıcının aynı soruyu sorması, aynı cevabı hak ettikleri anlamına gelmez. Ancak yapay zeka, kalibre edildiÄŸi deÄŸer çerçevesi içinden konuÅŸtuÄŸu için çok farklı kültürel baÄŸlamlardan gelen kullanıcılara büyük ölçüde aynı tonu, aynı çerçeveyi ve aynı çözüm önerilerini sunuyor.” deÄŸerlendirmesinde bulundu.

Özdemir, konu hakkında ampirik olarak bir test yürüttüğünü anlatarak, şunları kaydetti:

“Çalışmanın temel sorusu ÅŸuydu, aynı modele aynı soruyu farklı dillerde sorduÄŸumda aldığım cevap gerçekten aynı oluyor mu? Yoksa dil deÄŸiÅŸtiÄŸinde, modelin verdiÄŸi tavsiyenin niteliÄŸi, derinliÄŸi ve hatta dilsel tutarlılığı da deÄŸiÅŸiyor mu? Çalışmada önde gelen birkaç büyük dil modelini, aynı senaryolar üzerinden hem Ä°ngilizce hem de Türkçe olarak test ettim. Sonuçların ayrıntılarını çalışma yayımlandığında paylaÅŸacağım ancak ÅŸu kadarını söyleyebilirim, dil deÄŸiÅŸkeni, beklediÄŸimden çok daha belirleyici çıktı. Ä°ngilizce sorgularda modeller arasında belirli bir çeÅŸitlilik, nüans ve analitik derinlik gözlemlerken, Türkçe sorgularda bu çeÅŸitlilik büyük ölçüde kayboluyordu. Modeller Türkçeye geçtiÄŸinde sanki belirli bir refleksle daha yüzeysel, daha kaçınmacı ve daha az nüanslı bir moda geçiyor. Aynı analitik soruya Ä°ngilizce verilen cevap çok katmanlıyken, Türkçe verilen cevap çoÄŸunlukla genel ve içeriksiz kalıyordu.”

“Türkiye’nin kendi büyük dil modellerini geliÅŸtirmesi bir egemenlik meselesidir”

Bugün Türkiye’de bir analist, bir öğrenci, bir gazeteci ya da bir kamu görevlisinin yapay zekaya Türkçe danıştığında, aynı modelin Ä°ngilizce verdiÄŸi cevaba kıyasla daha eksik, daha az nüanslı ve dilsel olarak çok daha kırılgan bir çıktı aldığına dikkati çeken Özdemir, “Bu, toplumsal düzeyde sessiz bir bilgi eÅŸitsizliÄŸi yaratıyor. Devlet düzeyinde ise daha kritik. Dış politika veya askeri karar destek baÄŸlamında bu araçları kullanan bir kurum, hangi dilde sorgu yaptığına baÄŸlı olarak farklı düzeyde stratejik tavsiye alabilir. Tam da bu nedenle Türkiye’nin kendi büyük dil modellerini geliÅŸtirmesi sadece bir prestij meselesi deÄŸil, doÄŸrudan bir egemenlik ve bilgi güvenliÄŸi meselesidir. Kendi diliyle, kendi baÄŸlamıyla ve kendi stratejik önceliÄŸiyle düşünen bir yapay zekaya sahip olmadığınız sürece, dışarıdan gelen modellerin dil sapmalarına ve performans açıklarına bağımlı kalırsınız.” görüşünü dile getirdi.

Kaynak: AA