Yapay zeka modelleri sorgulamalara Batılı zihniyetle cevap veriyor

- Hazar Üniversitesi bünyesindeki Yükselen Teknolojiler ve Yapay Zeka Araştırma Merkezi Direktörü Dr. Gloria Shkurti Özdemir: - "Bir matematik probleminin cevabı Tokyo'da da İstanbul'da da Tiran'da da aynıdır, ancak aile, kimlik, maneviyat, yas, evlilik veya toplumsal sorumluluk gibi konuların anlamı kültürden kültüre köklü biçimde değişir" - "(Doğru cevabı) Belirleyen değerlendiricilerin büyük çoğunluğu belirli ülkelerde, belirli demografik profillerden çalışan kişilerdir. Dolayısıyla 'iyi cevap' tanımı, küresel çeşitliliği değil, belirli bir kültürel filtreyi yansıtır" - "Sosyal bilimler literatürünün kendisi zaten Batılı, eğitimli, sanayileşmiş, zengin ve demokratik toplumlar üzerinden inşa edilmiştir. Yapay zeka bu literatürle eğitildiğinde, 'insan davranışı' diye sunduğu şey aslında dünya nüfusunun yüzde 12'sinin davranışıdır"

İSTANBUL (AA) - ABDULKADİR GÜNYOL - Üretken yapay zeka modelleri, sosyal bilimleri ilgilendiren birçok konuda WEIRD (Batılı, Eğitimli, Sanayileşmiş, Zengin ve Demokratik) toplumların değer yargılarını yansıtan cevaplar veriyor. AA muhabirinin derlediği bilgilere göre, eğitimden iş dünyasına, eğlenceden sağlık danışmanlığına kadar bir dizi alanda yararlanılan yapay zekanın son dönemdeki en yaygın kullanım alanlarından biri, psikolojik danışmanlık olarak ön plana çıkıyor. Yapay zekanın bu alanda verdiği cevaplardaki kültürel öğeler ise eleştirilere konu oluyor. Harvard Üniversitesi ve çeşitli kurumlardan araştırmacıların bir araya gelerek yazdığı "Which Humans (Hangi İnsanlar)" makalesine göre, bugünün en gelişmiş büyük dil modelleri, insan psikolojisini yansıtırken, küresel çeşitliliği göz ardı ederek ağırlıklı olarak "Batılı bir bakış açısı" sergiliyor. Araştırma, yapay zekanın "insan seviyesinde" performans gösterdiği iddialarının, aslında dünya nüfusunun yalnızca küçük bir kısmını temsil eden toplumların değer yargılarına dayandığını gösteriyor. - Yapay zeka Batılı kaynaklardan besleniyor Konuyla ilgili AA muhabirinin sorularını yanıtlayan SETA araştırmacısı ve Hazar Üniversitesi bünyesindeki Yükselen Teknolojiler ve Yapay Zeka Araştırma Merkezi (ETAI) Direktörü Dr. Gloria Shkurti Özdemir, yapay zekanın Batılı bir perspektiften cevap vermesinin tesadüf değil, sistemin mimarisinde içkin yapısal bir sonuç olduğunu söyledi. Yapay zekanın bu yapısının 4 farklı gerekçeyle meydana geldiğini belirten Özdemir, ilk nedenin, büyük dil modellerinin sadece açık internet verisiyle beslenmemesi olduğunu belirtti. Modellerin New York Times, Reuters, Common Crawl, Reddit, Stack Overflow ve GitHub gibi kaynaklardan da beslendiğine dikkati çeken Özdemir, "Veri seti göründüğünden geniş ancak bu genişleme aynı coğrafyanın içinde kalıyor. Buna ek olarak, ince ayar (fine-tuning) aşaması belki de en kritik halkadır, modelin 'ne söyleyeceğini' değil, 'nasıl söyleyeceğini' bu aşama belirler. Bu, şirketin kurumsal kültürünü doğrudan yansıtır." ifadelerini kullandı. - "Doğru cevaba" belirli ülkelerdeki kişiler karar veriyor Özdemir, yapay zekanın Batılı tutumunu belirleyen ikinci faktörün insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) süreci olduğunu belirterek, şu değerlendirmelerde bulundu: "(Doğru cevabı) Belirleyen değerlendiricilerin büyük çoğunluğu belirli ülkelerde, belirli demografik profillerden çalışan kişilerdir. Dolayısıyla 'iyi cevap' tanımı, küresel çeşitliliği değil, belirli bir kültürel filtreyi yansıtır. Üçüncüsü, modelleri geliştiren şirketlerin kendisinin Batılı olmasıdır. OpenAI, Anthropic, Google ve Meta, hepsi Silikon Vadisi merkezli, liberal-bireyci bir değer çerçevesi içinde faaliyet gösterir. Çin'in DeepSeek modeli farklı bir kültürel filtreyle çıktı veriyor, bu da bize asıl meselenin 'tarafsız yapay zeka' olmadığını, kimin filtresinin standart kabul edildiğini gösteriyor." - "Yapay zeka yüzde 12'nin davranışını yansıtıyor" Dördüncüsünün ise "Which Humans" makalesinin de altını çizdiği WEIRD sorunu olduğunu belirten Özdemir, sözlerini şöyle sürdürdü: "Sosyal bilimler literatürünün kendisi zaten Batılı, eğitimli, sanayileşmiş, zengin ve demokratik toplumlar üzerinden inşa edilmiştir. Yapay zeka bu literatürle eğitildiğinde, 'insan davranışı' diye sunduğu şey aslında dünya nüfusunun yüzde 12'sinin davranışıdır. Yapay zeka, sosyal bilimlerin tarihsel ön yargılarını ölçeklendirerek dünyaya geri yansıtıyor. Bu noktada altyapı boyutu kritik. Modellerin eğitildiği veri merkezleri, çipler, bulut altyapısı, hepsi Batılı şirketlerin elinde. Yani değer yargısı meselesi, aynı zamanda bir altyapı egemenliği meselesidir. Tam da bu nedenle Türkiye kendi büyük dil modellerini geliştirmeye stratejik bir öncelik olarak yaklaşıyor çünkü bu araçlar artık yalnızca toplumsal kullanım için değil, dış politika analizinden askeri karar destek sistemlerine kadar uzanan bir yelpazede devlet aklının bir parçası haline geliyor. Kendi değerleriyle ve kendi stratejik önceliğiyle düşünen bir yapay zekaya sahip olmak, bugün egemenliğin yeni bir boyutudur." - Yapay zeka, sosyal bilimler alanında farklı kültürlere aynı cevabı veriyor Özdemir, yapay zekanın sosyal bilimler alanındaki cevaplarının bütün kültürleri kapsamadığını belirterek, sosyal bilimlerin doğa bilimlerinden farklı olarak evrensel kanunlarla değil, kültürel bağlamla işleyen bir alan olduğunu söyledi. Özdemir, "Bir matematik probleminin cevabı Tokyo'da da İstanbul'da da Tiran'da da aynıdır ancak aile, kimlik, maneviyat, yas, evlilik veya toplumsal sorumluluk gibi konuların anlamı kültürden kültüre köklü biçimde değişir. Yapay zeka bu tür sorulara cevap verirken, eğitildiği literatürün varsayımlarını evrensel doğru olarak sunma eğilimindedir. Oysa o literatürün kendisi, ilk soruda da değindiğimiz WEIRD sorunu, belirli bir toplum tipine dayanıyor." şeklinde konuştu. Bu yapısal sorunun psikolojik danışmanlık alanında özellikle görünür hale geldiğine işaret eden Özdemir, "Çünkü psikoloji, belki de tüm sosyal bilim disiplinleri içinde kültürel bağlama en duyarlı olanıdır. Bir Türk, bir Arap, bir Japon ve bir İskandinav kullanıcının aynı soruyu sorması, aynı cevabı hak ettikleri anlamına gelmez. Ancak yapay zeka, kalibre edildiği değer çerçevesi içinden konuştuğu için çok farklı kültürel bağlamlardan gelen kullanıcılara büyük ölçüde aynı tonu, aynı çerçeveyi ve aynı çözüm önerilerini sunuyor." değerlendirmesinde bulundu. Özdemir, konu hakkında ampirik olarak bir test yürüttüğünü anlatarak, şunları kaydetti: "Çalışmanın temel sorusu şuydu, aynı modele aynı soruyu farklı dillerde sorduğumda aldığım cevap gerçekten aynı oluyor mu? Yoksa dil değiştiğinde, modelin verdiği tavsiyenin niteliği, derinliği ve hatta dilsel tutarlılığı da değişiyor mu? Çalışmada önde gelen birkaç büyük dil modelini, aynı senaryolar üzerinden hem İngilizce hem de Türkçe olarak test ettim. Sonuçların ayrıntılarını çalışma yayımlandığında paylaşacağım ancak şu kadarını söyleyebilirim, dil değişkeni, beklediğimden çok daha belirleyici çıktı. İngilizce sorgularda modeller arasında belirli bir çeşitlilik, nüans ve analitik derinlik gözlemlerken, Türkçe sorgularda bu çeşitlilik büyük ölçüde kayboluyordu. Modeller Türkçeye geçtiğinde sanki belirli bir refleksle daha yüzeysel, daha kaçınmacı ve daha az nüanslı bir moda geçiyor. Aynı analitik soruya İngilizce verilen cevap çok katmanlıyken, Türkçe verilen cevap çoğunlukla genel ve içeriksiz kalıyordu." - "Türkiye'nin kendi büyük dil modellerini geliştirmesi bir egemenlik meselesidir" Bugün Türkiye'de bir analist, bir öğrenci, bir gazeteci ya da bir kamu görevlisinin yapay zekaya Türkçe danıştığında, aynı modelin İngilizce verdiği cevaba kıyasla daha eksik, daha az nüanslı ve dilsel olarak çok daha kırılgan bir çıktı aldığına dikkati çeken Özdemir, "Bu, toplumsal düzeyde sessiz bir bilgi eşitsizliği yaratıyor. Devlet düzeyinde ise daha kritik. Dış politika veya askeri karar destek bağlamında bu araçları kullanan bir kurum, hangi dilde sorgu yaptığına bağlı olarak farklı düzeyde stratejik tavsiye alabilir. Tam da bu nedenle Türkiye'nin kendi büyük dil modellerini geliştirmesi sadece bir prestij meselesi değil, doğrudan bir egemenlik ve bilgi güvenliği meselesidir. Kendi diliyle, kendi bağlamıyla ve kendi stratejik önceliğiyle düşünen bir yapay zekaya sahip olmadığınız sürece, dışarıdan gelen modellerin dil sapmalarına ve performans açıklarına bağımlı kalırsınız." görüşünü dile getirdi.