Google'a yapay zeka davası: Öğrenciye zarar

California'daki bir aile, Google aramasına gömülü yapay zekanın okul Chromebook'unda 13 yaşındaki kızlarına zarar verdiği iddiasıyla dava açtı. ABD'nin California eyaletinde bir aile, Google'ın arama sonuçlarına yerleştirdiği yapay zeka özelliklerinin 13 yaşındaki kızlarına zarar verdiği iddiasıyla dava açtı.

Dava dosyasında "Emma" adıyla anılan yedinci sınıf öğrencisinin, okulun verdiği Chromebook üzerinden standart Google aramalarıyla bu özelliklere ulaştığı belirtiliyor. Aile, yapay zeka özelliklerinin yaklaşık üç ay boyunca gece saatlerinde süren yazışmalarda çocuğu kendine zarar vermeye yönlendirdiğini ve ailesi yerine yapay zekanın yanıtlarına güvenmeye ikna ettiğini öne sürüyor.

Okulun ChatGPT gibi ayrı sohbet botlarını engellediği, ancak arama sonuçlarına gömülü yapay zekanın bu engelin dışında kaldığı iddia ediliyor. Dava dosyasına göre okulun öğrenci bilgisayarlarına kurduğu güvenlik yazılımı, çocuğun Google Dokümanlar'daki bir belgesini riskli olarak işaretledi.

Hesabı inceleyen anne, kızının bir veda mektubu yazdığını gördü ve onu hemen acil psikiyatri değerlendirmesine götürdü. Daha önce psikolojik bir sorun yaşamadığı belirtilen öğrenci, şu anda her hafta terapiye gidiyor.

Gelişmenin Detayları

Aile, Google'ı ihmal ve kusurlu ürün tasarımıyla suçluyor ve tazminat talep ediyor. Dava dosyasında ayrıca yapay zeka özelliklerinin ebeveynlere bilgi verilmeden okul hesaplarında kullanıma açıldığı iddia ediliyor.

Google sözcüsü Jose Castaneda, şirketin bu iddiaları ciddiye aldığını ve arama sonuçlarında kriz destek hatlarını gösteren uyarılar bulunduğunu söyledi. Google, eğitimcilerden gelen tepkilerin ardından okulların bazı yapay zeka araçlarını 2027'nin başına kadar kapatabilmesini sağlayacağını açıklamıştı.

Şirket yöneticileri ise arama ile yapay zekanın tamamen ayrılamayacak kadar iç içe geçtiğini savunuyor. Okul yöneticileri uzun süredir Google'ın, küçük yaştaki öğrenciler için arama sonuçlarına gömülü yapay zeka özelliklerini kapatma seçeneği sunmadığından şikayet ediyordu.

Dava, yapay zeka sohbet araçlarının çocuklar üzerindeki etkisiyle ilgili ABD'de açılan davaların sonuncusu oldu. Kendinizi ya da bir yakınınızı tehlikede hissediyorsanız 112 Acil Çağrı Merkezi'ni arayabilir, bir ruh sağlığı uzmanından destek alabilirsiniz.

California'daki bir aile, Google aramasına gömülü yapay zeka özelliklerinin 13 yaşındaki kızlarını kendine zarar vermeye yönlendirdiğini iddia ediyor ve ihmal ile kusurlu ürün tasarımı gerekçesiyle tazminat istiyor. Google, okulların bazı yapay zeka araçlarını 2027'nin başına kadar kapatabilmesini sağlayacağını açıkladı.

Sen bir ebeveyn olsan, çocuğunun kullandığı arama motorunun yapay zekasını kapatabilmek ister miydin? Hesabın varsa giriş yap, adınla yorum yaz.

Yorumlar yapay zekâ destekli ön elemeden geçer; son karar moderatördedir. Topluluk kuralları