Bir modele cennet çizdirdiler. Çıkan görsel kimseye tanıdık gelmedi. Havada duran saraylar, dağa oyulmuş şehirler… Güzeldi belki ama bizim hayal ettiğimiz cennet değildi. Hiç benzemedi. Peki neden?
Ne oldu?
Görsel üreten bir yapay zekâya soyut bir kavram söylediğinizde, model kafasından bir şey uydurmuyor. Daha önce gördüğü milyonlarca görselin ortalamasını size geri veriyor. “Cennet” deyince aklına gelen şey, eğitildiği veride en çok tekrar eden cennet tasvirleri oluyor.
Sonuç, insanı şaşırtan bir yabancılık: havada asılı saraylar, dağın içine oyulmuş şehirler. Teknik olarak kusursuz, kültürel olarak yabancı bir tablo. Çünkü o “cennet” birinin cenneti; ama herkesin değil.
Nasıl çalışıyor?
Model, kendisine verilen görsellerden desen çıkarır. Hangi kavram hangi biçimlerle, hangi renklerle, hangi mekânlarla birlikte anılıyorsa onu öğrenir. Bu öğrenme masum görünür ama içinde sessiz bir varsayım taşır: eğitim verisinde çoğunlukta olan neyse, o “normal” kabul edilir.
Yani veri havuzunda bir kültürün tasvirleri baskınsa, model o kültürün hayal dünyasını herkes için geçerli sanır. Sizin geleneğinizdeki cennet o havuzda az temsil ediliyorsa, çıktıda da yoktur. Model kötü niyetli değil; sadece gördüğü dünyayı tüm dünya zannediyor.
“Kültürel veri yanlılığı” ne demek?
Kültürel veri yanlılığı, bir modelin öğrendiği kültürü herkesin varsayılanı sanmasıdır. Eğitim verisinde hangi kültür daha çok yer kaplıyorsa, model onun estetiğini, sembollerini ve hayal biçimlerini “tarafsız gerçek” gibi üretir. Diğer kültürler ise eksik, çarpık ya da hiç görünmez olur.
Bu, yazım hatası gibi tek seferlik bir kusur değil. Sistemin gördüğü dünyanın dar olmasından kaynaklanan yapısal bir eğilim. Girdi ne kadar tek renkliyse, çıktı da o kadar tek sesli oluyor.
Neden önemli?
Çünkü bu modeller giderek daha çok yerde karar veriyor, görsel üretiyor, içerik biçimlendiriyor. Eğer hepsi aynı dar pencereden bakıyorsa, ürettikleri her şey o pencerenin kültürünü çoğaltır. Sizin hayal ettiğiniz cennet ekrana gelmiyorsa, mesele sizin hayal gücünüz değil; modele kimin dünyasının gösterildiğidir.
Cennet örneği eğlenceli görünebilir. Ama aynı yanlılık bir yüz, bir şehir, bir aile ya da “normal bir insan” çizerken de devrede. Kime benzediğini gördüğünüzde, kimin unutulduğunu da fark edersiniz. Kültürel veri yanlılığını bilmek, ekranda gördüğünüz her “varsayılana” bir daha sormak demek: bu kimin varsayılanı?