OpenAI’dan Korkutan Izahat: ChatGPT’nin Kaç Kişiyle İntihar Konuşmuş olduğu Belli Oldu!

Dünyanın en popüler üretken yapay zekâ aracı ChatGPT, hayatımızın tam ortasına yerleşti. OpenAI’ın geliştirdiği yapay zekâ, artık birçoğumuz için bir sual sormaktan kod yazdırmaya, hatta dertleşmeye kadar her mevzuda başvurduğumuz ilk yer hâline geldi. Sadece bu “dertleşme” durumu, OpenAI için hem büyük bir mesuliyet hem de ciddi bir risk alanı oluşturuyor. Firmanın yayımladığı son veriler, durumun ne kadar tehlikeli sonuç bulunduğunu net bir halde ortaya koydu.

OpenAI, yapay zekâ modelinin “duyarlı konuşmalar” olarak adlandırdığı durumlarda iyi mi daha iyi destek sağlayabileceğine dair kapsamlı bir emek verme yayımladı. Bu emek verme, kullananların ruh sağlığı, bunalım anları ve hatta intihar düşünceleri şeklinde mevzularda ChatGPT’ye ne çoğunlukla açıldığını ve firmanın bu yanıtları iyileştirmek için neler yaptığını detaylandırıyor. İstatistikler hakkaten çarpıcı.

Haftada 1 milyondan fazla kullanıcı intihar hakkında konuşuyor

OpenAI’ın paylaşmış olduğu verilere bakılırsa ChatGPT’nin 800 milyonu aşan haftalık etken kullanıcısı bulunuyor. Bu devasa kullanıcı kitlesinin yüzde 0,15’i, şu demek oluyor ki ortalama 1,2 milyon şahıs, yapay zekâ ile intihar planları yada niyetleri içeren konuşmalar yapıyor. Bu, probleminin ne kadar yaygın bulunduğunu gösteren en net sayı.

Problem yalnız bununla sınırı olan değil. Firmanın analizine bakılırsa kullananların yüzde 0,07’si (ortalama 560.000 şahıs) psikoz yada engel şeklinde ciddi akıl sağlığı acil durumlarına işaret eden emareler gösteriyor. Ek olarak kullananların yüzde 0,15’i de yapay zekayâ karşı “sağlıksız duygusal bağlılık” geliştirme eğiliminde.

OpenAI, ChatGPT yanıtlarını iyileştirmek için uzmanlarla çalıştı

Bu ürkütücü tablo karşısında harekete geçen OpenAI, ChatGPT’nin varsayılan modelini (GPT-5) güncellemek için 170’ten fazla akıl sağlığı uzmanı ile çalıştı. Bu uzmanlar, modelin tehlikeli yanıtlar vermesini engellemek, konuşmaları yatıştırmak ve kullanıcıları gerektiğinde ustalaşmış desteğe yönlendirmek için modeli eğitti.

Meydana getirilen iyileştirmeler netice vermiş görünüyor. Şirket, yeni modelle “uygunsuz” yada “istenmeyen” yanıtlarda yüzde 65 ila yüzde 80 içinde bir azalma bulunduğunu ifade ediyor. Mesela, intihar ve kendine zarar verme mevzularındaki uygunsuz yanıtlar yüzde 65 azalırken, yapay zekâya sağlıksız duygusal bağlılık gösteren konuşmalardaki istenmeyen yanıtlar yüzde 80 oranında düşürüldü. Ek olarak kriz anlarında yardım hatlarına erişim genişletildi ve uzun konuşmalarda “ara ver” hatırlatmaları eklendi.

OpenAI’ın bu adımı, yapay zekânın omuzlarındaki yükün ne kadar arttığını ve bu hızla gelişen teknolojinin artık yalnız bir “data aracı” olmaktan çıkıp bir “dert ortağı” olarak da görüldüğünü ortaya koyuyor.

Peki siz ChatGPT’yi bu tür mevzularda bir “dert ortağı” olarak görüyor musunuz? Düşüncelerinizi yorumlarda bizimle paylaşın.