Claude yapay zekası metinlere gizli filigran ekleyecek

Anthropic, Claude modelinin metin oluşturma yöntemini güncelleyeceğini duyurdu. Yapılan değişiklik, AB'nin aralık ayından itibaren yapay zeka tarafından üretilen tüm metinlerde filigran bulunmasını zorunlu kılan yasasına uyum sağlamayı amaçlıyor.

Anthropic, bu düzenlemenin ortalama bir okuyucu tarafından fark edilemeyecek düzeyde ve rastgele bir yapıda olacağını bildirdi. Ancak teknoloji yazarı John Gruber bu duruma tepki gösterdi.

Gruber, filigran uygulamasının metin kalitesini sınırlayacağını ve modeli daha az kesin kelime tercihleri yapmaya zorlayacağını savundu.

Yapay zeka modellerinin bir cümleyi kurgularken yaptığı küçük tercihlerde istatistiksel bir rastgelelik bulunuyor. Örneğin bir gün için "gri" mi yoksa "kapalı" mı diyeceği tamamen bu olasılıklara bağlı.

Anthropic'in yeni filigran teknolojisi, bu rastgele seçimleri değiştirerek sadece tespit anahtarına sahip sistemlerce okunabilecek bir kalıp bırakacak. University College London bilgisayar bilimleri profesörü Steven Murdoch ise bu değişimin gözle görülür bir etki yaratmayacağını ifade etti.

Gruber'ın eleştirisi filigranın modelin bir sonraki kelimeyi seçme özgürlüğünü kısıtlayacağı yönünde olsa da uzmanlar modellerin zaten her zaman en ideal seçimi yapmadığını vurguluyor.

Murdoch, yapay zeka modellerinde rastgeleliğin temel bir çalışma prensibi olduğunu, bu olasılıklar olmasaydı sistemlerin döngüye girip aynı şeyleri tekrarlayacağını söyledi. AB genelinde faaliyet gösteren tüm yapay zeka şirketlerini kapsayan bu düzenleme, öğrencilerin veya akademisyenlerin yapay zeka çıktılarını kendi metinleri gibi sunmasını zorlaştıracak.

Öte yandan uzmanlar filigran uygulamasının başka bir önemli amacı olduğuna dikkat çekiyor. İnternetteki yapay zeka içeriği miktarının aşırı artması, modellerin kendi ürettiği verilerle eğitilerek çöküşe geçmesine neden olabiliyor.

Filigran teknolojisi, sadece yanlış bilgiyle mücadele etmekle kalmayıp sohbet robotlarının kendi ürettikleri verilerle nitelik kaybına uğramasını da engellemeyi hedefliyor.