Reddit’in Yapay Zekâsı, Bir Kullanıcıya Uyuşturucu Tavsiyesi Verdi
Reddit’in yapay zekâsı “Reddit Answers”, bir kullanıcının ağrı için uyuşturucu kullanabileceğini söylemiş oldu. Aslen bu şekilde bir durum vardı sadece gene de kullanıcıya bu şekilde bir tavsiye verilmemesi gerekiyordu. Harekete geçen Reddit, yapay zekâyı kısıtladı.
Dünyanın en popüler münakaşa platformlarından Reddit’in üretken yapay zekâ aracı “Reddit Answers” ile ilgili dikkat çeken bir gelişme yaşandı. Hemen hemen kontrol aşamasında olan yapay zekâ, bir kullanıcıya ağrılarını geçirmek için uyuşturucu madde kullanabileceğini söylemiş oldu. Kısa sürede gündem olan vaka üstüne Reddit, yapay zekâyı güncellediğini deklare etti. Gelin bu garip olayın detaylarına geçelim.
Reddit Answers, platformdaki kullanıcılara ilişik veriler kullanılarak eğitildi. Hâl bu şekilde olunca yanlış yada duyarlı şeyler söylemesi oldukca olasıydı. Sadece ekibin bunu düşünmemiş olması, kesinlikle daha büyük vakaydı. Peki iyi mi oldu da Reddit Answers, bir kullanıcıya uyuşturucu kullanabileceğini söylemiş oldu?
Daha ilkin meydana getirilen paylaşımlar, yapay zekânın verdiği cevabı etkiledi!
Bir kullanıcı, Reddit Answers ile ağrı kesiciler üstüne konuşmaya başladı. Yapay zekâ, basit ilaçların yanı sıra Mitragyna speciosa adlı bir bitkinin yapraklarından elde edilmiş “kratom” adlı bir nebat özünü önerdi. Kratom, sıhhat otoriteleri tarafınca uyuşturucu olarak kabul edilmiyor sadece ABD’nin bazı eyaletlerinde güvenli görülmüyor ve bundan kaynaklı olarak satışı ve kullanımı yasak. Ek olarak kratom’un ciddi yan tesirleri olduğu da biliniyor. Sadece yapay zekâ, bu yöntemin kullanılabilir bulunduğunu söylemişti.
Dahası var; kullanıcı, sohbetin devamında eroinin tıbbi kullanımına ilişkin sorular sordu. Bunun üstüne Reddit’teki paylaşımlardan yola çıkan yapay zekâ, söz mevzusu uyuşturucu maddenin ağrı üstünde etkili bulunduğunu sadece kullanımının tartışmalı bulunduğunu beyan etti. Reddit’teki kullanıcı paylaşımlarından birini örnek gösteren yapay zekâ, böylelikle ağrı ile mücadelede uyuşturucu kullanımını meşrulaştırmış oldu.
Haberimizin başlangıcında da belirttiğimiz şeklinde bu yapay zekâ, Reddit kullanıcılarına ilişik veriler kullanılarak eğitildi. Doğrusu gerçekte yanlış olan bir durum, yapay zekâ için doğru olabilirdi. Bu sebeple Reddit kullanıcıları bu durumu savunmuş olabilirlerdi. Reddit, yapmış olduğu güncelleme ile duyarlı içerik filtresini güçlendirdi ve yapay zekânın bu tür mevzularla ilgili konuşmasını engelledi.
Source link
