Suni Zekâ Türk mü? ChatGPT ve Öteki Suni Zekâlar Niçin Asla “Bilmiyorum” Demiyor?

Suni zekâların niçin asla “Bilmiyorum” demediğini düşünmüş müydünüz? OpenAI araştırmacılarının yeni çalışmasına gore ChatGPT benzer biçimde modellerin “halüsinasyon” (şu demek oluyor ki uydurma data üretme) eğilimi, aslına bakarsak dürüst olmamaları için tasarlanmış olmalarından kaynaklanıyor. Modeller, doğru cevabı bilmediklerinde bile bir tahminde bulunmak suretiyle eğitiliyor. Esasında bu tıpkı, lise döneminde çoktan seçmeli bir sınavda boş bırakmak yerine rastgele işaretleme yaptığımız dönemlere benziyor.

Araştırmacılar, bu durumun suni zekânın eğitim sistemindeki yanlış “teşviklerden” kaynaklandığını söylüyor. Mevcut değerlendirme şekilleri, modellerin belirsizliklerini dürüstçe ifade etmesi yerine kati bir cevap üretmesini istiyor. Bu da bilhassa tıp yada hukuk benzer biçimde duyarlı alanlarda ciddi mesele. Uzmanlara gore çözüm, suni zekâların “güvenli olmadığı” durumlarda cezalandırılmaması ve hatalı özgüven yerine belirsizlik belirtmelerinin teşvik edilmesi yönünde.

Her cevapta “tahmin” yürütmek zorundalar

Suni zekâ modelleri, metinlerdeki kelime örüntülerini tahmin ederek öğreniyor sadece veriler devamlı tertipli yada güvenilir değil. Şu demek oluyor ki veri seti ne kadar geniş olursa olsun bazı durumlarda data eksikliği ve belirsizlik egemen oluyor. Bu aşamada modeller, “stratejik tahminler” yaparak cevap üretmeye devam ediyor. Zaman içinde daha doğru sonuçlar üretseler bile bir çok vakit halüsinasyon görüyorlar, bu da o hatalı ve saçma yanıtların temel sebebi.

Araştırmacılar, değerlendirme sistemlerinin doğruluk odaklı olmaktan çıkıp belirsizliğe de alan tanıması gerektiği mevzusunda hemfikirler. Böylece suni zekâlar, “her şeyi bilen” tavırlarından sıyrılıp daha dürüst bir yazışma biçimine evrilecekler. Kim bilir, AGI dediğimiz o nokta kim bilir bunu başarıyla yapabildikleri noktadır… Bunu artık vakit gösterecek.