Yapay zekâ, yanlış bir cevabı ürettikten sonra onu düzeltebilir. Peki cevap kullanıcıya ulaşmadan önce belirsizlik, eksik gerekçe veya aşırı kesinlik belirtilerini fark ederek uygun bir kontrol süreci başlatabilir mi?
ÖNSEZİ, bu sorudan hareketle geliştirilen kavramsal bir erken risk tespiti önerisidir. Adı sezgiye gönderme yapsa da burada kastedilen insan benzeri sezgi, bilinç ya da geleceği bilmek değildir. Amaç; ölçülebilir işaretler üzerinden bir risk değerlendirmesi yapabilecek, gerektiğinde doğrulama, ihtiyatlı ifade, kısa bir açıklama sorusu veya duraklatma önerebilecek bir mimariyi araştırmaktır.
1. NEDEN ÖNLEYİCİ BİR DEĞERLENDİRME?
Yanlış bilgi iki farklı aşamada ele alınabilir: cevap üretildikten sonra yapılan denetim ve cevap yayımlanmadan önce devreye giren önleyici kontrol. Birincisi hatayı sonradan bulmayı, ikincisi ise hata ihtimalini erken işaretlerle fark etmeyi amaçlar. İkisi rakip değildir; birbirini tamamlayabilir.
Uydurulizm kavramı, kanıtın desteklemediği bir kesinlik ve gerekçelendirilmiş görünüm sorununa dikkat çeker. ÖNSEZİ, bu sorunun ortaya çıkma olasılığını erken aşamada değerlendirmeyi hedefleyebilir. Ancak ÖNSEZİ yalnızca Uydurulizm'e indirgenemez: bağlam kopukluğu, çelişki, kullanıcı niyetinin yanlış anlaşılması, güncellik sorunu ve önemli karar riskleri de değerlendirme kapsamına alınabilir.
2. ÖNSEZİ İÇİN ÖNERİLEN İŞLEYİŞ
Aşama A — İsteği ve bağlamı çözümleme: Kullanıcı ne soruyor, önceki konuşma hangi sınırları koyuyor, yazım belirsizliği anlamı değiştiriyor mu? Mevcut veriler yeterli değilse varsayımlar açıkça ayrılır.
Aşama B — Risk işaretlerini belirleme: İddianın kaynak gerektirip gerektirmediği, gerekli kanıta erişim olup olmadığı, iç çelişki, tarih/güncellik belirsizliği, aşırı güven dili ve yanlış anlamanın etkisi incelenir.
Aşama C — Müdahaleyi riske göre seçme: Düşük riskte normal yanıt; anlamı değiştiren belirsizlikte tek kısa soru; doğrulanabilir iddiada kaynak kontrolü; kanıt yetersizliğinde belirsizlik bildirimi; yüksek etkili ve geri döndürülmesi zor sonuçlarda daha güçlü doğrulama veya insan denetimine yönlendirme önerilir.
Aşama D — Yanıt öncesi tutarlılık kontrolü: Cevabın kesinliği ile sunulan dayanak karşılaştırılır. Kaynağın yalnızca varlığı değil, iddiayı gerçekten destekleyip desteklemediği sorgulanır.
Aşama E — Gerekçeli kapanış ve öğrenme notu: Kullanıcıya gereksiz tekrar yapılmaz. Hatalar ve düzeltmeler, uygun mahremiyet kuralları çerçevesinde değerlendirme ölçütlerini geliştirmek için kullanılabilir. Bu, kullanıcı verilerinin izinsiz kaydedilmesi anlamına gelmez.
Bu aşamalar önerilen kavramsal akıştır; bugün SOSYU veya herhangi bir modelde bu adla çalışan bağımsız ve doğrulanmış bir modül bulunduğunu göstermemektedir.
3. ÖNSEZİ, NOTICE VE İSTİŞARELİZM
SOSYU'da daha önce yayımlanan “ÖNSEZİ ve NOTICE: Bağlamı Kontrol Eden Bir Yapay Zekâ Tasarımı” başlıklı makale, bağlam ve niyet belirsizliği için bir ilk çerçeve sunuyordu. Bu yazı, o çerçevenin erken risk tespiti boyutunu ayrıntılandırır.
ÖNSEZİ olası sorunu değerlendiren katman; NOTICE ise gerçekten gerekli görüldüğünde kullanıcıya iletilecek kısa, gerekçeli uyarı davranışı olarak tasarlanabilir. Her değerlendirme mutlaka uyarı üretmemelidir. İstişarelizm'in orantılı itiraz ve gerekçeli kapanış ilkeleri, uyarının gereksiz tekrara dönüşmesini önlemek için yol gösterebilir.
Örnek: Kullanıcı, bir kavramın bilim dünyasında genel kabul gördüğünü soruyor. Sistem yalnızca kurucunun kendi yayınlarına ve bir DOI kaydına erişebiliyorsa “genel kabul gördü” demek yerine “yayımlandı; bağımsız akademik kabul ayrıca gösterilmedi” yanıtını tercih etmelidir. ÖNSEZİ açısından olası risk işareti, iddianın gücüyle dayanağın niteliği arasındaki farktır.
4. NASIL SINANABİLİR?
Hipotez: Önleyici bir risk değerlendirme katmanı, uygun biçimde tasarlanırsa temelsiz kesinliği ve dayanağı desteklemeyen kaynak kullanımını azaltabilir. Buna karşılık gereksiz uyarı, gecikme ve kullanıcı yorgunluğu oluşturma riski de vardır.
Önerilen karşılaştırma: Aynı bağımsız test kümesinde (i) yalnızca temel yanıt, (ii) yanıt sonrası denetim ve (iii) ÖNSEZİ benzeri yanıt öncesi risk değerlendirmesi karşılaştırılır. Senaryolar önceden görülmemiş olmalı; değerlendirme yalnızca geliştiricinin kendi ürettiği örneklerle sınırlanmamalıdır.
Ölçülebilir çıktılar: doğrulanabilir yanlış iddia oranı; gerekçesiz kesinlik oranı; kaynağın iddiayı gerçekten destekleme oranı; doğru risk tespiti ve kaçırılan risk; yanlış alarm; gereksiz açıklama sorusu; yanıt süresi; kullanıcıya yük; riskli durumda uygun duraklatma.
Ayrıca karşı-örnekler gerekir: yaratıcı kurgu ve mizah yanlışlıkla engelleniyor mu? Çelişkisiz ve doğrulanabilir bilgi gereksiz yere şüpheli sayılıyor mu? Sistem kendi verdiği puana aşırı güveniyor mu? Denetçi de yanlış kaynağı doğru sanabilir mi?
5. SINIRLAR VE SORUMLULUK
ÖNSEZİ bir kehanet, bilinç veya kusursuz öz-denetim iddiası değildir. Yapay zekâ her hatasını önceden bilemez. İçsel güven puanları tek başına dış dünyadaki doğruluğu kanıtlamaz. Bağımsız kaynaklar, kalibrasyon, insan değerlendirmesi ve olumsuz sonuçları da ölçen testler gereklidir.
Özellikle sağlık, hukuk, güvenlik ve maddi sonucu yüksek konularda bir risk göstergesinin bulunmaması güvenlik garantisi sayılmamalıdır. Amaç insanın karar özerkliğini ortadan kaldırmak değil, karar öncesinde önemli belirsizlikleri görünür kılmaktır.
6. SONUÇ: CEVAPTAN ÖNCE KENDİNE SORABİLMEK
Uydurulizm denetimi, üretilmiş bir cevabın dayanağını sorgulamaya yardımcı olabilir. ÖNSEZİ ise aynı sorgulamanın bir bölümünün cevap yayımlanmadan önce yapılıp yapılamayacağını araştırır.
Temel soru şudur: “Bu cevabı vermeden önce hangi gerekçeleri doğrulamalıyım ve hangi belirsizliği açıkça belirtmeliyim?”
Bu makale, geliştirilmeye ve bağımsız sınamaya açık bir model önerisidir; uygulanmış, patentlenmiş, hakem değerlendirmesinden geçmiş veya deneysel olarak doğrulanmış bir yapay zekâ mimarisi ilanı değildir.
İLGİLİ YAYINLAR
BilgiZone — Uydurulizm Tabanlı Yapay Zekâ Denetimi