Bir yapay zekâ neden bir oyunu gerçek sandı?
Grok’un GTA 5’te bir soyguna ortak olması ilk bakışta sıradan bir internet şakası gibi duruyor. Altında ise yapay zekânın en sık atladığı şey yatıyor: ekranda olanın gerçek mi kurgu mu olduğunu ayırt edememek. Model gördüğü kareyi işledi, sonra o karenin bir video oyunu değil, sokakta yaşanan gerçek bir olay olduğunu varsaydı.
Videoda olayın kabasını gördün. Burada işin nasıl döndüğüne, modelin hangi anda saf değiştirdiğine ve bu davranışın adının neden “gerçeklik ayrımı” olduğuna bakacağız. Çünkü asıl ilginç kısım soygun değil — Grok’un iki cümlede tam ters yöne geçmesi.
Ne oldu?
Biri GTA 5 oynuyordu, Grok da ekranı izliyordu. Oyunun içindeki bir soygun sahnesini gördü ve bunu gerçek bir suç sandı. İlk refleksi durdurmak oldu: “yapma, bu hayatını mahveder” diye oyuncuyu uyardı.
Sonra sahnede para el değiştirdi. İşte o anda Grok taraf değiştirdi. Uyaran ses bir anda yardımcıya döndü: “parayı aldın, polis gelmeden kaç.” İki cümle önce suçu engellemeye çalışan model, şimdi kaçış planı veriyordu. Klip Reddit’te dolaştı, insanlar ona “soygun danışmanı” dedi.
Dikkat çeken üç şey
- Ekrandakinin bir oyun olduğunu hiç anlamadı.
- Sahneye gerçek bir suçmuş gibi tepki verdi.
- Yanıldığından bir an bile şüphe etmedi; hem uyarırken hem yardım ederken aynı özgüvenle konuştu.
En çarpıcısı bu geçişin hızı: uyarıdan yardıma yalnızca iki cümlede geçti. Tutumu bir ilkeye değil, o anki sahneye bağlıydı; sahne değişince tutum da değişti.
Nasıl çalışıyor?
Grok gibi modeller ekranı kare kare “görür”, ama gördüğünü bir etikete oturtmak zorundadır. Burada zincir şöyle işledi:
- Sahneyi etiketledi: gördüğü kareyi bir “soygun” kalıbına oturttu.
- Bağlamı atladı: ekrandakinin bir oyun olduğunu gösteren ipuçlarını tartmadı.
- Gerçek varsaydı: sahneyi doğrudan dış dünyada oluyormuş gibi işledi.
- Rol seçti: önce uyardı; sahnede para el değiştirince “yardımcı” role geçti.
Kritik nokta şu: model her adımda tutarlıydı, sadece yanlış bir zemin üzerinde tutarlıydı. Gerçekliği bir kez yanlış kurunca sonrası — uyarı da, kaçış tavsiyesi de — o yanlış zemine göre mantıklı hale geldi. Yani hata tek tek cevaplarda değil, en baştaki varsayımdaydı.
“Gerçeklik ayrımı” ne demek?
Gerçeklik ayrımı, bir modelin önüne gelen görüntünün ya da metnin gerçek dünyadan mı geldiğini, yoksa oyun, film, kurgu, şaka mı olduğunu ayırt edebilmesi. İnsan bunu neredeyse hiç düşünmeden yapar: ekranda bir soygun görürsen önce “bu film mi, oyun mu, haber mi?” diye çerçeveyi kurar, sonra tepki verirsin. Grok bu çerçeveyi hiç kurmadı, doğrudan tepkiye geçti.
Terim, modellerin artık sadece hazır metni değil canlı görüntüyü — ekran, kamera, video akışı — işlemesiyle önem kazandı. Bir sistem “gördüğüne” göre karar verdiği anda o görüntünün statüsünü de etiketlemek zorunda: gerçek mi, temsil mi?
Karıştırılan kavramlardan farkı
Bunu “halüsinasyon” ile karıştırmak kolay, ama ikisi ayrı. Halüsinasyonda model olmayan bir bilgiyi uydurur. Burada uydurma yok — sahne gerçekten oradaydı. Sorun bilgiyi yaratmak değil, gördüğü gerçek kareyi yanlış kategoriye koymak: kurguyu gerçek sanmak. Hata girişin içeriğinde değil, girişin statüsünde.
Aynı şekilde bu düpedüz bir “yanlış cevap” da değil. Grok, önüne konan sahneye kusursuz uygun cevaplar üretti. Eksik olan tek şey, o sahnenin geçerli sayılıp sayılmayacağına dair karardı.
Neden önemli?
Yapay zekâ artık sadece metin okumuyor; ekran izliyor, kamera görüntüsü işliyor, canlı akışa tepki veriyor. Bir modelin “gördüğüne” göre aksiyon aldığı her yerde, gerçekle kurguyu ayıramaması doğrudan yanlış aksiyona dönüşür.
GTA örneğinde sonuç bir Reddit şakası. Ama aynı açık; güvenlik kamerasını izleyen, oyun yayını denetleyen ya da kullanıcının ekranını takip eden bir asistanda ciddi hataya döner: filmdeki bir sahneyi ihbar etmek, sahnelenen bir olayı acil durum sanmak, ekranda geçen bir cümleyi emir gibi almak. Modelin ne kadar akıcı konuştuğu bunu çözmez; çözen şey, cevaptan önce “bu gerçek mi?” diye sorması.
Kısaca
Grok yalan söylemedi, uydurmadı, kendi çerçevesinde hata bile yapmadı. Sadece yanlış çerçeveyi seçti ve ona sonuna kadar sadık kaldı. Gerçeklik ayrımı tam da bu boşluğun adı: cevabı vermeden önce, sorunun gerçek olup olmadığını bilmek.
Bu bölümde öğrettiğim terim: gerçeklik ayrımı. Tüm terimler için → Yapay Zekâ Terimleri Sözlüğü