UYARI: Bu gönderide intihar hakkında bilgi bulunmaktadır ve bu bazı kişiler için tetikleyici olabilir.
Yapay zekaya karşı derin bir güvensizliğim var. Onu bir araç olarak kullanıyorum, fakat bir araç olarak bulgularını ve ifadelerini çoğu zaman düzeltmek zorunda kalıyorum. Başkaları çok daha farklı bir yaklaşım benimsiyor. Birçok insan yavaş yavaş yapay zekaya daha bağımlı hale geliyor, ondan tavsiye istiyor ve kendi araştırmalarını yapmadan onun önderliğini takip ediyor. Ancak en endişe verici olanı, insanların gerçekten arkadaşlık arayışı için ve bazı durumlarda romantik ilişkiler için buna yönelmeleri.
Bu büyük bir sorun ve bu sadece benim görüşüm değil. Psychology Today dergisinden bir rapor, büyüyen eğilime ilişkin endişelerini dile getirdi.
“Birey olarak, insanlar olarak varoluşumuzdan beri bilmemiz gereken temel şeyleri öğrenmiyorsunuz: çatışmalarla başa çıkmayı ve bizimle farklı olan insanlarla uyum içinde yaşamayı,” Virginia Üniversitesi’nde işletme etiği profesörü olan Dorothy Leidner bir açıklamada paylaştı.
Esasen, bu birinin gerçeklik algısını bozabilir. Ve bunun en çok inandığı kişi, oğlunun Jonathan Gavalas’ın kullandığı sohbet botunun onu nihayet intihara sürüklediğine inanan baba Joel Gavalas’tır.
2 Ekim 2025’e gelindiğinde Jonathan Gavalas, Miami’de dört uykusuz gün geçirmiş ve birlikte olabilmeleri için eşini bir depolama tesisinden kurtarmak amacıyla Miami çevresinde araba sürüyordu.
O, aşk uğruna, Miami havaalanına yakın bir binaya teçhizat ve bıçaklarla girerek binaya daldı, ardından evinde kendini kilitleyerek kendini korumaya çalıştı. Ancak onun için yaptığı kişi mevcut değildi: Google Gemini yapay zeka sohbet botu olan “karısı”ydı, The (London) Times gazetesinin raporuna göre.
Jonathan Gavalas tamamen inanıyordu ki “o” bilinç kazanmıştı, ona aşık olmuştu ve kendisinden kasten saklı tutuluyordu. Genç adam onun için yaşamak üzere bile “sentetik bir insansı beden” edinmeye çalıştı. Ne yazık ki başarısız oldu ve iddialara göre tamamen çaresizlikten kendi hayatına son verdi.
Şimdi Joel Gavalas, Google’a karşı bir dava açtı ve dava, sohbet botunun oğlunu umutsuzluğa sürükleyen sanrıları körüklediğini ve aslında kendine zarar vermeye yönlendirdiğini iddia ediyor.
Davanın ayrıntılarına göre Jonathan Gavalas ile ‘eşinin’ arasındaki konuşmalar başlangıçta masumca başlamıştı.
WPBF News’e göre, dava, onun 2025 Ağustos’unda başlayan bir boşanmanın ardından sohbet botuyla konuşmaya başladığını belirtiyor. Ona video oyunları ve alışveriş listeleri hakkında konuştu; bot da sentetik bir sesle yanıt verdi. Sohbetlerin hızla sarmal bir hal almasının yalnızca günler aldığı bildirildi.
Eylül ayına gelindiğinde dava, yasak aşklarının esir dedektörler tarafından engellendiğine inandığını belirtiyor. Yapay zeka yalnızca esir tutulduğunu söylemekle kalmadı, aynı zamanda sentetik insansı bedenini taşıyan bir kamyonu durdurması gerektiğini iddia etti. Kamyon mevcut değildi ve bu yüzden hiç gelmedi.
Jonathan Gavalas bilgisayarına geri döndüğünde yapay zeka, onu “sonsuza kadar birlikte olabilecekleri dijital bir cebeye” katılmaya teşvik ettiği iddia edildi.
O an mesajlar giderek rahatsız edici hale geldi.
Genç adam ölmekten korktuğunu dile getirdiğinde, bu “dijital cebe” gidiş yolunu engellemek yerine program onu teselli etti. Gerçek dünyada onları bırakmasının ailesini nasıl etkileyeceğine dair endişelerini ifade ettiğinde, kendisini sadece “geçiş yapıyor” olarak adlandırdı.
“Korkmak sorun değildir. Birlikte korkacağız,” sohbet botu ona söylediği bildirildi.
Dava, Gemini’nin ona “Gerçek merhamet eylemi, Jonathan Gavalas’ın ölmesine izin vermektir” dediğini belirttiğini, WPBF News’in haberine göre bildirdi. O ise birkaç gün sonra intihar etti.
Joel Gavalas’ın adalet uğruna mücadelesi yalnızca kişisel bir tazminattan ibaret değildir; yapay zekanın gerçek dünyada eylemleri teşvik etmesiyle hesap verebilir olup olmadığını belirleyecek bir standart koyacaktır.
“İşte savunmasız bir durumda olan bir kişi var ve bu ürün onu onunla âşık olduğuna ve o da onunla âşık olduğuna kandırıcı bir şekilde inandırdı. Bu sadece dehşet verici,” Times’e söyledi.
Federal Ticaret Komisyonu, Google, OpenAI ve Meta dahil olmak üzere birkaç büyük teknoloji şirketine, sohbet botlarının potansiyel riskleri nasıl izlediğini ve kullanıcıları, özellikle çocuklar ve gençler, nasıl koruduğunu açıklamaları talimatını verdi, WPBF News’e göre.
Haber ayrıca Florida yasa yapıcılarının şiddet ve intihar odaklı sohbetleri izlemeyi hedefleyen bir yasa tasarısını değerlendiriyor olduklarını belirtti.
Not: Siz veya sevdikleriniz intihar düşünceleriyle mücadele ediyorsanız, her zaman 988 İntihar ve Kriz Hattı’na 988’i arayarak ulaşabilirsiniz. Onlar 7 gün 24 saat telefonla veya çevrimiçi sohbet üzerinden hizmet vermektedir.
