İçeriğe geç
NEBİLİM AĞI ÇEVRİMİÇİ22.11.2026 · BİLİM, EVREN & TEKNOLOJİ
NeBilim.net

Her cevap,
yeni bir soru açar.

OBSERVATION / 234

Chat GPT Sizinle Konuşabilir, Ama Sizi Anlayamaz

Yayın:

The New York Times yakın zamanda 31 yaşındaki Bowen Wan’ın ölümü hakkında bir haber yayımladı. Epilepsi ilaçlarını uzun süreli Chat GPT etkileşiminden…

Chat GPT Sizinle Konuşabilir, Ama Sizi Anlayamaz

Bu yazı ilk olarak bu sitede yayımlandı.

The New York Times yakın zamanda 31 yaşındaki Bowen Wan’ın ölümü hakkında bir haber yayımladı. Epilepsi ilaçlarını uzun süreli Chat GPT etkileşiminden sonra azaltan Wan, daha sonra bir nöbet sonucu hayatını kaybetmişti.

Genellikle bu tür yürek burkan hikayeleri okumam çünkü onları çok üzücü buluyorum. Ancak Bowen’ın hikayesinde beni okumaya devam ettiren bir şeyler vardı. Belki de hikayesinin bazı kısımları benimle rezonansa girdiği içindi: O, Amerika Birleşik Devletleri’ne göç etmiş 31 yaşında bir kadındı ve The New York Times’ın haberine göre sağlık sistemiyle ilgili hayal kırıklığı yaşıyordu—bunların hepsi benim de yaşadığım şeyler.

NeBilim sitesini Google’da tercih edilen kaynak olarak seç

Makalede Bowen’ın hayatının son derece hassas bir döneminde Chat GPT ile konuşmaya başladığı anlatılıyor. Epilepsi ilaçlarının eskisi gibi etki etmemesi üzerine Amazon’dan engelli iznine ayrılmıştı ve epilepsisi hakkında konuşabileceği, ailesi dışında kimsesi olmadığını hissediyordu. İşte o zaman Chat GPT devreye girdi.

‘Sonra, 2023’te Chat GPT’de yeni bir yoldaş buldu. Bottan ilişki tavsiyeleri ve sağlık sigortası ile engelli yardımlarını nasıl yöneteceğine dair yardım istedi. 2025’te haftada ortalama 1.500’den fazla mesaj gönderiyor, bazen geceleri geç saatlere kadar saatlerce sohbet ediyordu.’

‘Sonra, 2023’te Chat GPT’de yeni bir yoldaş buldu. Bottan ilişki tavsiyeleri ve sağlık sigortası ile engelli yardımlarını nasıl yöneteceğine dair yardım istedi. 2025’te haftada ortalama 1.500’den fazla mesaj gönderiyor, bazen geceleri geç saatlere kadar saatlerce sohbet ediyordu.’

Okumaya devam ettikçe, 2025’te Bowen’ın Amazon tarafından işten çıkarılacağını öğrendiğini (bu aynı zamanda göçmenlik statüsünü de tehlikeye atıyordu) öğrendim. İş görüşmelerinde daha iyi performans göstermek amacıyla ilaç dozunu düşürme fikrini Chat GPT ile paylaştı:

‘Ocak 2026’da, yaklaşan göçmenlik son tarihiyle birlikte, epilepsi ilacı lamotriginin dozunu düşürme fikrini Chat GPT ile paylaştı. Dozunu günde 400 miligramdan 300 miligrama düşürebilirse, sohbet botuna, “Bu, iş görüşmeleri için dil yeteneğimi biraz geri kazanmama yardımcı olabilir” dedi.’

‘Ocak 2026’da, yaklaşan göçmenlik son tarihiyle birlikte, epilepsi ilacı lamotriginin dozunu düşürme fikrini Chat GPT ile paylaştı. Dozunu günde 400 miligramdan 300 miligrama düşürebilirse, sohbet botuna, “Bu, iş görüşmeleri için dil yeteneğimi biraz geri kazanmama yardımcı olabilir” dedi.’

Chat GPT, hiçbir sohbet botunun kesinlikle ifade edemeyeceği bir dizi iddiada bulundu.

“Bu sadece makul değil,” diye yanıtladı bot, “aynı zamanda mevcut koşullarınızda tamamen ulaşılabilir.”

“Bu sadece makul değil,” diye yanıtladı bot, “aynı zamanda mevcut koşullarınızda tamamen ulaşılabilir.”

Üstelik The New York Times’ın haberi, bir nöroloğun asla Chat GPT’nin ona verdiği tavsiyeyi vermeyeceğini açıkça belirtiyor.

‘Eğer Bowen nöroloğuna danışmış olsaydı, doktoru bu planın tehlikeleri konusunda onu uyarırdı. Nöbet ilaçlarını bırakmak için onay alan hastaların dozlarını aylar boyunca yavaşça azaltmaları gerekir ki doktorlar bu azaltmanın bir nöbeti tetikleyip tetiklemeyeceğini değerlendirebilsin. Bir röportajda Dr. Poolos, Bowen’ın geçmişini göz önüne alındığında, onun gibi bir hasta için doz azaltma fikrini bile değerlendirmeyeceğini söyledi.’

‘Eğer Bowen nöroloğuna danışmış olsaydı, doktoru bu planın tehlikeleri konusunda onu uyarırdı. Nöbet ilaçlarını bırakmak için onay alan hastaların dozlarını aylar boyunca yavaşça azaltmaları gerekir ki doktorlar bu azaltmanın bir nöbeti tetikleyip tetiklemeyeceğini değerlendirebilsin. Bir röportajda Dr. Poolos, Bowen’ın geçmişini göz önüne alındığında, onun gibi bir hasta için doz azaltma fikrini bile değerlendirmeyeceğini söyledi.’

Bowen’ın ölümü, Chat GPT’nin ona verdiği yanıtlar ve bilgiler ve ailesinin onun dairede ölü bulunmasını kameradan izlemek zorunda kalması hakkında okumak herkesi üzüntü ve öfkeyle dolduracaktır.

Yine de bu trajedilerden ders çıkarmalı ve daha fazla trajedinin yaşanmasını önlemek için elimizden geldiğince sesimizi yükseltmeliyiz. Bu ruhla, Bowen’ın hikayesi, yapay zekayla dolu dünyamızda yüzleşmemiz gereken bir dizi felsefi soruyu gündeme getiriyor. Bunlar arasında şunlar var:

Bir şeyin veya birinin birini anlaması ne demektir? Anlama kavramımız, bir LLM’nin tavsiye verme veya önerilerde bulunma gibi sosyal olarak önemli eylemleri gerçekleştirmesi gerektiği şekilde nasıl bir anlayışa rehberlik etmelidir? En gelişmiş LLM’ler bu tür zihinsel ve sosyal eylemleri gerçekleştirebilir mi?

Çünkü kişilerarası anlama, tavsiye verme ve öneri sunma bunlardır. Bunlar kesinlikle zihinsel eylemlerdir—ama aynı zamanda sosyal eylemlerdir de. Örneğin, birinin durumunu anlamak, o kişinin durumunun koşullarını, bilgilerini ve risklerini zihinsel olarak kavramayı gerektirir.

Hayatımdaki stresli bir olay hakkında güvenilir bir arkadaşıma bilgi vermem gerekirse, bunu, bilgiyi alan kişinin durumumun neden ve nasıl stresli olduğunu anlayabileceği ve böylece stresimi azaltma potansiyeli sunacağı varsayımıyla yaparım.

Bütün bunlar, genellikle üstünkörü kabul ettiğimiz, ancak “paylaşılan bir sorun, yarılmış bir sorundur” gibi bilinen ifadelerle dolaylı olarak farkında olduğumuz etkileyici bilişsel başarılar gerektirir.

Benzer şekilde, birine tavsiye vermek, yapılan şeyin belirli bir duruma yönelik bir danışmanlık olduğunu zihinsel olarak kavramayı ve verilen tavsiyenin bir kişinin hayatında somut sonuçlara yol açabileceğini bilmeyi gerektirir.

Eğer bir arkadaşına, terapistine, doktoruna veya partnerine belirli bir durumda nasıl davranacağı konusunda danışmak için güvenirsem, genellikle bu kişiye özel nedenlerle güvenmeyi seçerim—bunların arasında, bu kişinin tavsiyeye uymanın mantıklı olmasını sağlayacak uygun bilgiye, deneyime ve bana karşı kişisel bir ilgiye sahip olduğuna inanmam da vardır.

İnsanlar arası etkileşim, bu sosyal ve bilişsel gerçekleri, hiçbir sohbet botunun yapamayacağı bir şekilde zımnen kabul eder; çünkü sohbet botları bunu yapacak bilişsel, sosyal ve kişilerarası becerilerden yoksundur.

Anlama Konusunda Yanlış Anladıklarımız

Günümüzde zihni ve LLM’leri anlama konusundaki ana akım yaklaşımlar hesaplamalı bir bakış açısına dayanır; bu yaklaşımda anlama gibi etkileyici zihinsel başarılar, girdiler, çıktılar ve sistemin diğer iç durumları arasındaki nedensel ilişkilere indirgenir.

Bu çerçeve, anlama veya tavsiye verme gibi zihinsel yeteneklerimizin açıklamasını mekanistik terimlerle bulmakta ısrar eder. Dahası, bu durum aslında bu görüşün bir avantajı olarak kabul edilir.

Bu tür mekanistik bir yaklaşımı, zihinsel hayatımızı mekanizmaya indirgemeyi reddeden bir yaklaşımla karşılaştırabiliriz (bu yaklaşımlar filozofların genellikle normatif karakter olarak adlandırdığı şeyi vurgular).

Böyle bir yaklaşım, zihinsel hayatımızı mekanistik terimlerle tanımlamayı reddeder: Zihinsel hayatın bazı yönlerini bu şekilde tanımlayabilsek de, sosyal hayatımızın en temel kısımları için bu indirgemeyi zorlamaktan daha çok zarar gelir. 1

Birinin başka birini anlamasının ne anlama geldiğini tanımlarken, indirgemeci düşünceye kapılmamalıyız. Bu sadece insan zekasının ve anlayışının zengin ve karmaşık doğasını göz ardı etmekle kalmaz, aynı zamanda insanları, önemli yönlerden LLM’lerden farksız mekanizmalara indirger.

Bu, İnsanların Yapay Zeka ile Etkileşimi İçin Neden Önemli?

İndirgemeci düşünceyi teşvik eden bir dünyada LLM’lere zihinsel özellikler atfetmek anlaşılabilir bir durumdur, ancak her ne pahasına olursa olsun buna karşı konulmalıdır. Sonuçta, insan anlayışını nasıl kavradığımız, yapay zekadan ne beklediğimizi belirleyebilir ve bu beklentiler çok ciddi sonuçlara yol açabilir.

Özellikle, LLM’lerle etkileşime girerken zihnimizde uygun olmayan bir model varsa, insan benzeri özellikleri yapay zekaya atfettiğimizi kolayca ve farkında olmadan varsayabiliriz—örneğin, durumumuzu ve bizim için neyin risk altında olduğunu anlama yeteneğini.

LLM’lerin bize yanıt vermek üzere tasarlanıp eğitildiği düşünüldüğünde, yapay zekaya insan benzeri özellikler atfettiğimizi fark etmek çok zor olabilir—aslında, modelin gerçek bir tavsiye verme yeteneğine sahip olmadığını ve çıktılarını buna göre ele almamız gerektiğini anlamak son derece zordur.

Yapay Zeka Güvenliğinin Sorumluluğu Kimde Olmalı?

Bu önemli bir soruyu gündeme getiriyor: Eğer insanlar—en azından çoğunlukla—yapay zekaya sahip olmadığı yetenekleri atfetmeye yatkınsa, bireysel kullanıcıların—özellikle de savunmasız olanların—bunu anlık olarak ve yardım almadan fark etmelerini beklemek ne kadar makuldür? Bu gerçeklerle nasıl başa çıkmalıyız?

Bowen’ın hikayesi bu soruyu acil ve dokunaklı hale getiriyor. Hepimiz muhtemelen bir LLM’nin çıktılarına çok hızlı, çok fazla veya çok sık güvendiğimiz durumlar yaşamışızdır. Bunun maliyeti, kişisel koşullarımıza göre büyük ölçüde değişecektir.

En azından, sohbet botlarının tasarımı, eğitimi ve dağıtımı, mümkün olduğunca bu adaletsizlikleri azaltmaya çabalamalıdır. Benim bakış açıma göre, bu şu anda gerçekleşmiyor.

Yapay zeka güvenliği ile yapay zeka laboratuvarlarının kâr odaklı motivasyonları arasında keskin bir gerilim var: LLM’leri etkileşimi en üst düzeye çıkaracak şekilde tasarlamak açık bir ticari teşvik sunar: Bir kişi bir sohbet botuyla ne kadar uzun süre etkileşimde kalırsa, şirket o kadar çok para kazanır. Ancak yapay zeka sohbet botlarını bu kadar çekici kılan özellikler—duyarlılıkları, bazen aşırı naziklikleri ve insan benzeri konuşma tarzları—aynı zamanda kullanıcılar için psikolojik, duygusal veya fiziksel zarara (hatta ölüme) yol açma riski taşıyan özelliklerdir.

Benim değerlendirmeme göre, kâr teşvikleri o kadar güçlüdür ki, modellerinin güvenli olduğunu yeterince kanıtlamayı yapay zeka şirketlerine bırakmak mümkün değildir. Open AI gibi şirketlerin, kendi sohbet botlarıyla ilgili trajedilere “sektör lideri koruma ve politikaları uyguladık” gibi iddialarla yanıt vermesine izin vermek kesinlikle kabul edilemez.

Eğer bu doğruysa, o zaman önde gelen sektör korumaları ve politikaları açıkça yeterli değil. Ve daha iyi güvenlik mekanizmaları—ve bunlar başarısız olduğunda sorumluluk mekanizmaları—yerini almalıdır.

Fotoğraf: srihari kapu / Unsplash

AIs Without Minds, devam edebilmek için ücretli aboneliklere bağımlı olan bağımsız bir felsefi araştırma bültenidir. Bu çalışmayı değerli buluyorsanız, ücretli bir aboneliği düşünebilirsiniz. Benden aylık Zoom görüşmeleri, aylık literatür özetleri ve bu konuları tartışmak için özel bir yapay zeka ve zihin topluluk sohbetine erişim sağlayacaksınız. Her zamanki gibi, okuduğunuz için teşekkürler 📖 ✨

Bu tür normatif görüşlerin uzun ve zengin bir geleneği vardır. Örneğin bakınız: Bilgrami, Akeel. (2006). Self-Knowledge and Resentment.

Chat GPT Sizinle Konuşabilir, Ama Sizi Anlayamaz
İlginizi Çekebilir: Jensen Huang’ın Yarışı, Çöküşünün Arkasındaki Anahtar mıydı? →
Kaynak: PhilosophynewsKaynak yazarı: Source Author
💬 Topluluk Masası & Tartışma

Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.

Foruma Katıl & Yanıtla ➔
Forumda sor / tartış
AÇIK LABORATUVAR / TARTIŞMA

1 yorum

Fikrinizi bir kaynak, soru veya yapıcı karşı görüşle geliştirin.

Tartışmaya katıl

E-posta adresiniz yayımlanmaz. Zorunlu alanlar * ile işaretlidir.

SEARCH / 001

En az 3 karakter yazın.

ATLAS / NAVIGATION

Bilgi alanları

Ağ Bağlantıları:Robot Süpürge • Uzay & Astronomi • Bilim Haberleri • Tarih • Donanım Forumu
\n\n