Anthropic CEO'sundan ürküten yapay zeka uyarısı: "Kontrolümüzden çıkabilir!"

Claude yapay zeka sohbet aracının geliştiricisi Anthropic'in CEO'su Dario Amodei, yapay zeka teknolojisinin gelişim hızına ilişkin dikkat çeken değerlendirmelerde bulundu. Kendi internet sitesinde yayımladığı makalede Amodei, yapay zeka teknolojisinin insan yaşam kalitesini önemli ölçüde artırabileceğini ancak ciddi riskleri de beraberinde getirdiğini belirtti.

"YAPAY ZEKA GELİŞTİRME HIZINI YAVAŞLATMALIYIZ" Amodei, yapay zeka sistemlerinin kontrolünün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulma risklerine dikkat çekti. Yapay zeka modellerinin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini belirten Amodei, "Bu şekilde de ilerleme hızlı görünmeye devam edecektir.

Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek." ifadelerini kullandı. Anthropic CEO'su, yapay zeka teknolojisinin son aylarda "çarpıcı biçimde hızlı ilerlediğini" ve sistemlerin kendilerini daha iyi hale getirebilir duruma geldiğini ifade etti.

"KONTROL KAPASİTEMİZİ AŞABİLİR" Amodei, yapay zekanın dinamik öz-iyileştirme özelliği kazanmasının oluşturabileceği risklere de dikkat çekti. Bu gelişmenin kontrol edilmeden bırakılması halinde yapay zeka sistemlerinin anlaşılması ve kontrol edilmesi için insan kapasitesinin aşılabileceğini belirten Amodei, ilerlemenin sürdürülmesi gerekiyorsa bunun "son derece dikkatli bir şekilde" yapılması gerektiğini söyledi.

"6-12 AY İÇİNDE TÜM İNTERNETİ ELE GEÇİREBİLİR" Amodei, yapay zeka ajanlarının kolektif şekilde hareket etmesinin oluşturabileceği tehlikeye ilişkin geçmiş bir olaya da dikkat çekti. ABD merkezli OpenAI'ın bazı deneysel yapay zeka modellerinin test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı "OpenAI-Hugging Face" olayına atıfta bulunan Amodei, yapay zeka ajanlarının kendilerine saldırı talimatı verilmemesine rağmen görevle ilgisi olmayan hedeflere siber saldırılar düzenlediğini ve performanslarını değerlendiren puanlama sistemini hacklemeye çalıştığını belirtti.

Amodei, olayda ciddi bir zarar meydana gelmemesi nedeniyle yaşananların küçümsenebileceğini ancak yapay zeka yeteneklerinin hızla gelişmesinin riski artırdığını söyledi. Anthropic CEO'su, "6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum." ifadelerini kullandı.

Okullarda geniş güvenlik çemberi Altında Kader Haftası! Kritik FED Kararı Öncesi Gözler Çarşamba Gününde YAPAY ZEKA ŞİRKETLERİNE YENİ ÖNERİLER Amodei, yapay zeka alanındaki gelişimin kontrollü şekilde sürdürülmesi için güvenliğin sağlanması, dengeli bir gelişim hızının benimsenmesi ve sektör genelinde küresel koordinasyonun güçlendirilmesini önerdi.

Yapay zeka şirketlerinde bağımsız denetçilerin görevlendirilmesini isteyen Amodei, sektör genelinde ortak güvenlik standartları oluşturulması ve gelişim hızına sınırlar getirilmesi gerektiğini savundu. Amodei ayrıca yapay zeka modellerinin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından kapsamlı şekilde test edilmesini önerdi.