İlk Chatbot’un Mucidi Niçin Yapay Zekâya Düşmandı?
Bugün, elimizin altında duran ve artık her saniye başvurduğumuz ChatGPT’nin atası, aslen 1960’ların ortalarında ortaya çıkmıştı. Üstelik onu geliştiren şahıs, yapay zekâya büyük bir muhalif olarak anılıyordu.
İnsanlarla tıpkı bugün olduğu şeklinde söyleşi eden bu bot, ne oldu da mucidini kendisine düşman yapmıştı?
Ya da sanılanın aksine Joseph Weizenbaum onun değil, değişen teknolojinin düşmanıydı…
ELIZA, kolay bir dil işleme programıydı.
MIT’nin laboratuvarlarında dünyanın ilk söyleşi botu ELIZA’yı geliştiren Joseph Weizenbaum, yapay zekânın sınırlarını keşfederken aslen insan doğasına dair çarpıcı gerçeklerle de yüzleşmişti. Bu bot, kullanıcının cümlelerindeki anahtar kelimeleri yakalıyor ve sorulara dönüştürüyordu.
Tıpkı ChatGPT ile gerçekleştirdiğimiz söyleşi tadında, ELIZA’ya da “Yaşam fazlaca fena” dediğimizde, “Niçin fena hissediyorsun?” diye sorarak diyaloğu sürdürebiliyordu. Weizenbaum bu deneyi başlattığında, amacı insanların bir makineyle iyi mi etkileşim kuracağını gözlemlemekti.
Sadece ELIZA’nın yarattığı tesir, beklenmedik boyutlara ulaşmıştı.
Programın en meşhur senaristliği DOCTOR, psikoterapist Carl Rogers’ın yansıtıcı dinleme tekniklerini öykünmek ediyordu. İnsanlar, ekran karşısında bir terapistle konuşuyormuşçasına duygularını ELIZA’ya açıyorlardı.
Bu durum ise Weizenbaum’u rahatsız etmişti. İnsanların, hiçbir gerçek anlayış kabiliyeti olmayan bir yazılıma bu kadar kolay güvenmesi, onu yapay zekânın etik boyutunu sorgulamaya sevk etti. “ELIZA Tesiri” adını verdiği bu olgu, insanların teknolojiye atfettiği anlamın, tehlikeli bir yanılsamaya dönüşebileceğini anlatmaya çalışıyordu.
Weizenbaum, ELIZA’nın başarısının arkasından kariyerinde köktencilik bir dönüşüm yaşadı.
1976’da yayımladığı Computer Power and Human Reason adlı kitabında, insan ile makine arasındaki ontolojik farkı vurguluyordu. Ona nazaran bilgisayarlar, yalnızca “hesaplama” yapabilirdi. İnsanın haiz olduğu “yargı” yetisi ise deneyimlerden, etik değerlerden ve tarihsel bağlamdan besleniyordu.
Tüm bu sebeplerden dolayı Weizenbaum, yapay zekânın insan yaşamının belirli alanlarına müdahalesini “etik bir sapkınlık” olarak nitelendirmeye başlamıştı.
Hepimiz, bu görüşlerinden sonrasında Weizenbaum’u teknoloji düşmanı duyuru etti.
Weizenbaum’un öngörüleri ise bugün ChatGPT şeklinde dil modelleriyle tekrardan gündeme geliyor. Günümüzde insanoğlu, bu araçlara duygusal bağlanıyor, kişisel sorunlarını konu alıyor, fal bile baktırıyor.
Bilhassa TikTok şeklinde mecralarda “ChatGPT’ye şunu mesele, verdiği cevaba inanamayacaksınız” şeklinde birçok akımı görmemiz mümkün. Hâl bu şekilde olunca, Weizenbaum’un niçin bu şekilde düşündüğünü anlamamak mümkün değil.
Weizenbaum’a nazaran insanlık, teknolojiyi yönetmek yerine ona boyun eğdikçe, kendi insanlıklarını da kaybediyor. Bu düşüncesini de fazlaca güzel bir örnekle destekliyor: Bir askerin, drone ile öldürmüş olduğu insanları görmemesi, vicdani sorumluluğunu azalttığı için onu daha duyarsız bir hâle getirebiliyor.
Aslına bakarsak o, teknolojik ilerlemeye değil; onun, insani değerlerin önüne geçmesine karşıydı.
“Bilgisayarlar bizlere ne yapmamız icap ettiğini söylememeli, yalnız iyi mi yapacağımızı göstermeli” fikrine başat olan icat eden, ELIZA’yı yaratmasına karşın yapay zekânın karanlık potansiyelini ilk görenlerden de birisiydi.
Artık ChatGPT ile söyleşi ederken bir ihtimal Weizenbaum’un şu sözlerini hatırlarız:
“Bir şeyi yapabiliyor olmamız, yapmamız gerektiği anlamına gelmez. İnsan olmanın anlamını korumak*, teknolojiden daha değerlidir**.”*
