Yapay Zekâ Doğru ve Yanlış Bilgiyi Iyi mi Ayırt Ediyor?
Yapay zekâlar artık hayatımızın her alanını çepeçevre sarmış durumda ve içten içe sundukları her bilgiye istemsizce güvenmeye başladık. Peki neyin doğru neyin yanlış bulunduğunu tam olarak hangi çerçevede ele alıyor?
İnternette gezinirken bir sürü bilgiye denk geliyoruz. Peki bu bilgilerin hepsi doğru mu? Değil doğal. Biz bile ara sıra düzmece haberlere, idrak meydana getirmeye yönelik istatistiklere ya da kulaktan dolma şeylere inanabiliyorsak, yapay zekâ bu işi iyi mi hallediyor? Gerçekle yalanı tam olarak iyi mi ayırt ediyor?
Yanıt rahat değil fakat mühim bu sebeple artık yapay zekâ hayatımızın içinde. Yeri geliyor ona soruyoruz, yeri geliyor düşünce alıyoruz. Peki ya ne kadar güveniyoruz? Bu içeriğimizde yapay zekâ detayları iyi mi ayırt ediyor ve neleri dikkate alıyor bunlara bakacağız.
Anlamıyor fakat çözümleme ediyor
Ilkin şunu netleştirelim… Yapay zekâ bir bilgiyi görüp “hmm bu mantıklı” demez. Kısaca bizim benzer biçimde anlamaz. Onun yapmış olduğu şey tamamen kuramsal. Hangi kelime hangisinden sonrasında daha mantıklı gelir, hangi cümle daha ilkin nerelerde geçmiş benzer biçimde şeylere bakar.
Kısacası bilgiyi değerlendiriyor fakat bizim benzer biçimde hissederek ya da sezerek değil. Elindeki dev veri yığınında, bir bilginin ne kadar yaygın olduğuna, nerelerde geçtiğine ve hangi kaynaklardan geldiğine gore karar veriyor.
Dil modellerinin kökenine inelim…
Söyleşi ettiğiniz yapay zekâlar (sözgelişi ChatGPT benzer biçimde) aslına bakarsak devasa dil modellerinden ibaret. Kısaca onlara milyonlarca metin okutulmuş ve hangi kelimenin, hangi cümleyle daha iyi gittiğini öğrenmişler.
Bu modellerin vakası, verilen bir soruya insan benzer biçimde yanıt vermek fakat verdiği yanıt aslına bakarsak bir tahminden ibaret. O yüzden kulağa fazlaca doğru benzer biçimde gelen bir bilginin aslına bakarsak yanlış olabileceğini unutmamak gerekir. Zira modelin temeldeki amacı sizi etkilemektir.
Güvenilir olarak baz almış olduğu kaynaklar da yok değil
Yapay zekâ eğitilirken bazı kaynaklara daha fazlaca güvenebileceğini öğreniyor.
- Wikipedia
- Bilimsel makaleler, bilimsel niteliği olan yayınlar
- Büyük haber ajansları
- Devlet kurumları ve resmî açıklamalar
Bu biçim kaynaklardan gelen detayları genel anlamda doğru olarak ele alıyor bu sebeple bunlar tertipli olarak denetim edilen, düzeltme meydana getirilen ve “ciddiye alınan” bölgeler. Yapay zekâ da haliyle buralardan gelen bilgiye daha çok ağırlık veriyor.
Peki bir informasyon her yerde var ise “doğru” mudur?
İşte burası tehlikeli sonuç. Bir informasyon fazlaca yaygınsa yapay zekâ bunu mühim bir sinyal olarak alıyor fakat her yerde olması daima doğru olduğu anlamına gelmez. Bilhassa toplumsal medyada bir saçmalık milyonlarca kez paylaşılmış olabilir. Bu, onun doğru olduğu anlamına gelmez.
Doğal yapay zekâ bunu fark edecek şekilde eğitilmemişse o bilgiyi “doğru” olarak ele alabilir. İyi ile fena yapay zekâları birbirinden ayrıştıran da bu konulardaki başarısıdır.
Bilginin doğruluğuna karar verilmiş olduğu süreç iyi mi işliyor?
Yapay zekâ detayları şöyleki değerlendiriyor diyebiliriz:
- Bu informasyon nerelerde geçmiş? (Kaynak kontrolü)
- Aynı informasyon başka güvenilir yerlerde de var mı? (Çapraz denetim)
- Data güncel mi? Eski bilgilerle çelişiyor mu? (Vakit kontrolü)
- Kimin söylediği belli mi?
Bu kriterlere gore detayları “daha güvenilir” yada “şüpheli” olarak değerlendiriyor fakat her ne olursa olsun yapay zekâları hiçbir vakit %100 güvenilir olarak ele alamayız -ki bu mevzuda her yapay zekâ botu onlarca defa kez kullanıcıları uyarmakta ve edindiğiniz çıktıları iki kez denetim etmenizi söylemekte-.
Günün sonunda iş gene bizde bitiyor
Ne kadar gelişmiş olursa olsun, yapay zekâ hâlâ insan zekâsının yerini tam olarak alamıyor. Onun için “gerçek” olan şey, verilerde en fazlaca geçen, en güvenilir kaynaklardan alınan şeydir. Zira her şey veriye dayanıyor; mantığa, bağlama ya da sezgiye değil.
Doğal bundan seneler ilkin yapay zekânın bugün geleceği noktayı kavrayamayacağımız benzer biçimde gelecek yıllarda ne denli gelişeceğini de kestirmemiz güç. Hatta “bileşik zekâ” denilen şey de nispeten bu tip açıkları kapatmayı amaçlıyor fakat bu da bir başka içeriğin mevzusu diyelim.
