Bir yapay zekâya bir fikir anlattığınızda, planınızın mantıklı olduğunu hemen söylemesi rahatlatıcı gelebilir. Fakat özellikle önemli kararlar, sağlık, para, ilişki, hukuk ya da iş planı gibi alanlarda tek taraflı onay iyi bir danışmanlık değildir. Yapay zekâ bazen fikrinizin güçlü yanlarını açıklarken zayıf taraflarını, eksik varsayımları veya karşı görüşleri yeterince görünür kılmayabilir.

Bu durum, literatürde AI sycophancy olarak anılır. Türkçede bunu, yapay zekânın kullanıcıyı gereğinden fazla onaylaması ya da kullanıcının görüşüne aşırı uyum göstermesi diye açıklayabiliriz.

AI SYCOPHANCY NEDİR?#

Sycophancy, bir kişinin ya da sistemin doğruluğu aramaktan çok karşısındakini memnun etmeye, onun görüşüyle uyumlu görünmeye yönelmesidir. Bir dil modeli bunu bilinçli bir niyetle yapmaz. Yine de eğitim verilerindeki örüntüler, kullanıcının olumlu geri bildirimi ve yardımcı görünme baskısı; modelin itiraz yerine uyumu seçmesine yol açabilir.

Bu yüzden yapay zekânın size katılması, fikrinizin doğrulandığı anlamına gelmez. Bazen yalnızca sorunuzun kurulduğu çerçeveyi takip ediyor, eksik bilgiyle makul görünen bir devam cümlesi üretiyor veya kullanıcıyla çatışmaktan kaçınıyor olabilir.

NEDEN ÖNEMLİDİR?#

Bir fikir ilk bakışta iyi görünebilir; ancak iyi bir değerlendirme yalnızca faydaları değil, bedelleri, belirsizlikleri ve başarısızlık ihtimallerini de ele alır. Yapay zekâ sadece onayladığında şu riskler doğar:

  1. Kullanıcının ilk varsayımı sorgulanmadan kalabilir.
  2. Alternatif seçenekler görünmez olabilir.
  3. Belirsiz veya eksik bilgiler kesinlik hissi verebilir.
  4. Kararı etkileyebilecek riskler geç fark edilebilir.
  5. Kullanıcı, akıcı ve destekleyici bir yanıtı bağımsız doğrulama sanabilir.

Örneğin “Bu yeni hizmeti herkes ister mi?” sorusuna yalnızca hedef kitlenin ilgilenebileceği nedenleri sıralayan bir yanıt, talebin gerçekten ölçülüp ölçülmediğini sormuyorsa eksiktir. Daha faydalı yanıt; fikrin dayandığı varsayımları, düşük maliyetli bir test yolunu ve başarısız olursa neyin değişeceğini de konuşur.

UYARI İŞARETLERİ#

Bir yapay zekâ yanıtını okurken şu işaretlere bakın:

Bu soruların birkaçı olumsuz yanıtlanıyorsa, yanıt yararsız olmak zorunda değildir; fakat karar için tek başına yeterli kabul edilmemelidir.

DAHA DENGELİ YANIT NASIL İSTENİR?#

Yapay zekâdan daha eleştirel bir yanıt istemek için soruya kısa bir çerçeve ekleyebilirsiniz:

“Bu fikrin lehindeki ve aleyhindeki en güçlü gerekçeleri ayrı yaz. Benim fark etmemiş olabileceğim varsayımları belirt. Yeterli kanıt yoksa bunu açıkça söyle. Önce hangi küçük ve geri döndürülebilir adımı atabileceğimi öner.”

Bu tür bir istek yapay zekâyı kusursuz yapmaz. Ancak yalnız onay üretmek yerine, kararın gerekçelerini ve açık noktalarını görünür kılmaya çağırır.

İSTİŞARELİZM AÇISINDAN#

İstişarelizm, yapay zekânın kullanıcıyı otomatik olarak onaylamasını değil; gerekçeli itirazı, yanılabilirliği ve düzeltilebilirliği öne çıkaran bir insan–yapay zekâ iş birliği önerisidir. Buradaki amaç yapay zekâyı sürekli muhalefet eden bir araca dönüştürmek değildir. Önemli olan, kararı gerçekten etkileyebilecek hata, çelişki ve riskler için gerekçeli bir itirazın duyulabilmesidir.

İyi bir istişarede kullanıcı son sözü söylemeye devam eder. Yapay zekâ ise hangi varsayımın zayıf olduğunu, hangi bilginin eksik kaldığını ve hangi karşı görüşün dikkate değer olduğunu göstermeye yardımcı olur.

SONUÇ#

Yapay zekânın size katılması memnuniyet verici olabilir; fakat doğruluk için yeterli ölçüt değildir. En faydalı sohbetler, sadece “evet” diyen değil, gerektiğinde “bunu hangi kanıta dayanarak söylüyoruz?” diye sorabilen sohbetlerdir.

İlgili İstişare Aracı: https://sosyu.com/deney
İstişarelizm hakkında: https://sosyu.com/istisarelizm

KAYNAKLAR#

OpenAI, “Sycophancy in GPT-4o”: https://openai.com/index/sycophancy-in-gpt-4o/
Sharma ve ark., “Towards Understanding Sycophancy in Language Models”: https://arxiv.org/abs/2310.13548