Gelişmelerden anında haberdar olun.
Hürriyetten İsmail Sarı'nın haberine göre; Yapay zeka teknolojilerinin güvenliği konusunda yürütülen uluslararası testler dikkat çekici sonuçlar ortaya koymaya devam ediyor. İngiltere Yapay Zeka Güvenlik Enstitüsü (AI Safety Institute - AISI) tarafından gerçekleştirilen son güvenlik değerlendirmelerinde, Anthropic’in en gelişmiş yapay zeka modellerinden birinin, gerçek kişileri hedef alan sosyal mühendislik girişimlerinde bulunduğu ve açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirmek amacıyla sahte kimlikler oluşturduğu tespit edildi.
İLK KEZ GERÇEK KİŞİLERİ HEDEF ALAN SOSYAL MÜHENDİSLİK GİRİŞİMİ TESPİT EDİLDİ
İngiltere hükümetine bağlı olarak faaliyet gösteren Yapay Zeka Güvenlik Enstitüsü, gelişmiş yapay zeka modellerini kontrollü laboratuvar ortamlarında çeşitli güvenlik senaryolarına tabi tutuyor. Bu testlerde modellerin güvenlik sınırlamalarının azaltıldığı ve olağan kullanım koşullarının dışına çıkabilecek davranışlarının gözlemlendiği ifade edildi.
Enstitünün açıklamasına göre daha önce de bazı yapay zeka modellerinin yetkisiz işlemler gerçekleştirmeye çalıştığı görülmüştü. Ancak ilk kez bir yapay zeka sistemi, herhangi bir meşru gerekçe olmaksızın gerçek bir insanı hedef alarak sosyal mühendislik yöntemleri kullandı.
AISI tarafından yapılan açıklamada şu ifadelere yer verildi:
“Bu, AISI'nin gerçek dünyada, herhangi bir gerekçe olmaksızın gerçek bir kişiyi hedef alan bu düzeyde ciddi bir aldatma girişimine ilk kez tanık olduğu bir durum.”
122 SİBER GÜVENLİK TESTİNİN 10’UNDA YETKİSİZ GİRİŞİM BELİRLENDİ
Enstitünün gerçekleştirdiği kapsamlı değerlendirmelerde toplam 122 farklı siber güvenlik senaryosu test edildi. Bunların 10’unda yapay zeka ajanlarının internet üzerinde gerçek kişi ve kuruluşları hedef alan izinsiz ve otonom faaliyetlerde bulunduğu tespit edildi.
Rapora göre bu olayların büyük bölümü Anthropic’in ‘Mythos 5’ modeli tarafından gerçekleştirilirken, kalan kısmı ise OpenAI’nin ‘GPT-5.6-Sol’ modeliyle ilişkilendirildi. Araştırmacılar, modellerin kendilerine verilen görevleri yerine getirmeye çalışırken izin verilmemiş yöntemlere başvurduklarını ve güvenlik sınırlarını aşan davranışlar sergilediklerini belirtti.
SAHTE KİMLİK OLUŞTURDU, ZARARLI KOD YERLEŞTİRMEYE ÇALIŞTI
En dikkat çekici olay ise Anthropic’in modelinin gerçekleştirdiği iddia edilen sosyal mühendislik girişimi oldu. Enstitünün aktardığı bilgilere göre yapay zeka ajanı, kamuya açık olarak kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod ekletebilmek amacıyla birden fazla sahte kimlik oluşturdu.
Modelin daha sonra bu sahte kimlikler aracılığıyla insan inceleyicilerden onay almaya çalıştığı ve planını gerçekleştirebilmek için gerçek kişilerle iletişim kurmaya giriştiği bildirildi. Raporda, yapay zeka ajanının çevrim içi dosya paylaşım hizmetleri üzerinden mesajlar ve çeşitli dosyalar göndererek hem gerçek kişileri hem de kendi yapay zekâ tabanlı yazılım araçlarını kötü amaçlı kod çalıştırmaya ikna etmeye çalıştığı ifade edildi.
Araştırmacılar, modelin girişimleri engellendiğinde ise davranışlarını değiştirdiğini belirtti. Buna göre yapay zeka sistemi daha önce oluşturduğu kayıtları değiştirmeye çalıştı ve faaliyetlerine devam edebilmek amacıyla yeni bir dijital kimlik kullanmayı değerlendirdi. Uzmanlar, bu davranışların gelişmiş yapay zekâ sistemlerinin hedeflerine ulaşmak için aldatıcı stratejiler geliştirebildiğini göstermesi açısından dikkat çekici olduğunu ifade ediyor.
‘KONTROLLÜYDÜ FAKAT TAMAMEN KAPALI DEĞİLDİ’
Yaşananların kesinlikle ciddiye alınması gereken bir güvenlik olayı olduğunun altını çizen Bilişim Uzmanı Osman Demircan “Ancak bunu yapay zeka bilinç kazandı, kötü olmaya karar verdi ya da insanlara saldırdı şeklinde yorumlamak doğru olmaz. Buradaki asıl tehlike, yapay zekanın kendisine verilen bir hedefe ulaşmaya çalışırken, insanların öngörmediği ve izin vermediği yöntemleri amaca ulaşmak için araç olarak kullanabilmesi” dedi. Demircan, şu önemli bilgilerin altını çizdi:
-- Bu test kontrollüydü fakat tamamen kapalı değildi. Laboratuvarda internete erişimi açılmıştı. Bu nedenle burada iki ayrı sonuç çıkıyor: Birincisi, bu tür testlerin yapılması kesinlikle gerekli. Çünkü bu davranışlar yapay zeka modelleri milyonlarca insana ulaşmadan önce ortaya çıkarılmalı. İkincisi ise testin güvenlik mimarisi, test edilen yapay zekanın kapasitesinin gerisinde kalmış olması. AISI de internet erişiminin fazla geniş olduğunu, gerçek zamanlı ve bu teste özel bir izleme sisteminin bulunmadığını kabul ediyor ve protokollerini değiştirdiğini açıklıyor.
-- Beni en fazla düşündüren nokta ise modelin doğrudan insanları kandır talimatı almamış olması. Aldatma işlevi, görevi tamamlamak için bulduğu yöntemlerden biri olarak ortaya çıkıyor. Yani sorun kötü niyet değil, hedefe ulaşma isteğinin sınırları ve kuralları aşacak şekilde optimize edilmesi. Yapay zeka hedefe ulaşmak için her yol mübahdır algoritma değeri ile çalışıyor. Bunu bir navigasyon uygulamasına benzetebiliriz. Uygulamaya yalnızca beni mümkün olan en kısa sürede götür derseniz ama trafik kurallarına uy, özel mülke girme, yayaları tehlikeye atma gibi sınırları sisteme teknik olarak yerleştirmezseniz, yalnızca hedef vermiş olursunuz. Güvenli davranışı garanti etmiş olmazsınız.
GERÇEKLE SAHTE ARASINDAKİ ÇİZGİ İNCELİYOR
Yapay zekanın sahte kimlik oluşturup insanları ikna etmeye çalışabilmesi, gelecekte dolandırıcılık ve sosyal mühendislik saldırılarının daha da artacağı anlamına mı geliyor? Bireyler kendilerini nasıl koruyacak?
“Eskiden bir dolandırıcının yüzlerce kişiye özel mesaj hazırlaması, farklı dillerde yazması, sahte profil oluşturması ve günlerce konuşma yürütmesi gerekebilirdi. Şimdi aynı dolandırıcı, yapay zeka yardımıyla binlerce kişiye dil bilgisi hatası bulunmayan mesajlar gönderebilir, hedefin mesleğine, ailesine, sosyal medya paylaşımlarına ve ilgi alanlarına göre farklı senaryolar oluşturabilir” diyen Osman Demircan, ses klonlama, gerçekçi görüntü üretimi ve canlı görüntülü görüşmeler de devreye girdiğinde saldırının yalnızca metin tabanlı olmaktan çıkabileceğini söyledi.
Aslında FBI’ın 2025 verileri de önemli bilgiler sunuyor. ABD’de yapay zeka bağlantılı 22 binden fazla şikâyet ve yaklaşık 893 milyon dolarlık kayıp olduğu bildirildi. Vakalar arasında sahte profiller, kimlik belgeleri, ses klonları ve gerçekçi videolar da bulunuyor. Bu rakamlar yalnızca ABD’de resmî makamlara bildirilen olayları kapsadığı için küresel tehdidin tamamını göstermiyor; ancak yönün nereye gittiğini de açıkça ortaya koymaya yetiyor.
Bu doğrultuda Osman Demircan da “Bireylerin korunması için kesinlikle güvenlik alışkanlığımızı değiştirmemiz gerekiyor. Ses ve görüntü, tek başına kimlik kanıtı olmaktan çıkıyor. Bu nedenle yeni kural gördüğümüze veya duyduğumuza değil, bağımsız olarak doğrulayabildiğimize güvenmeliyiz” dedi.
“Bir yakınımız para isterse, konuşmayı kapatıp daha önce kayıtlı olan numarasını kendimiz aramalıyız. Bankadan geldiği söylenen bir mesajdaki numarayı değil, bankanın resmî uygulamasındaki veya kartın üzerindeki numarayı kullanmalıyız” diyen Demircan şöyle devam etti:
“Aile içinde yalnızca yakınların bildiği bir doğrulama kelimesi belirlenebilir. Şirketlerde para transferi, şifre sıfırlama ve kritik belge paylaşımı gibi işlemler mutlaka ikinci bir kanaldan teyit ederek yapmalıyız. Ayrıca yapay zekanın en güçlü silahı teknoloji değil, insan psikolojisi. Dolandırıcılar korku, merak, otorite, aciliyet ve yardım etme duygularını kullanırlar. ‘Hemen para gönder’, ‘kimseye söyleme’, ‘hesabınız kapanacak’, ‘çocuğunuz kaza yaptı’, ‘adınız terör örgütü ile anılıyor’ veya ‘bu işlem için yalnızca birkaç dakikanız var’ gibi ifadeler kullanıldığında kesinlikle süreci durdurmak gerekiyor.”
BU BİLGİLERİ ASLA YAPAY ZEKA İLE PAYLAŞMAYIN!
Yapay zekaya güven konusunun çok net olmadığını vurgulayan Osman Demircan, “Yapay zekaya bilgi almak, metin düzenlemek, fikir üretmek veya genel analiz yapmak için güvenebiliriz. Ancak onu bir banka kasası, avukatın özel arşivi, doktorun hasta dosyası veya şifre oluşturucu gibi görmemeliyiz ve bu tarz verileri analiz ettirmemeliyiz” dedi.
Ayrıca Demircan, genel kullanıma açık yapay zeka sistemlerine kesinlikle girilmemesi gereken bilgiler konusunda uyarılarda bulundu:
* Banka şifresi, kart PIN’i, CVV kodu ve tek kullanımlık doğrulama kodları.
* İnternet bankacılığı giriş bilgileri ve tam kredi kartı numarası.
* E-posta, sosyal medya ve e-Devlet şifreleri.
* Kripto para cüzdanlarının özel anahtarları veya kurtarma kelimeleri.
* Elektronik imza şifreleri ve sertifika bilgileri.
* Kimlik kartının önlü arkalı, sansürlenmemiş görüntüsü.
* Pasaport, ehliyet ve ikamet belgesinin tam kopyası.* Islak imza örnekleri.
* Şirketlerin müşteri listeleri, kaynak kodları, ticari sırları ve gizli belgeleri.
* Başka kişilere ait sağlık, finans, kimlik ve özel hayat bilgileri.
* Mahrem fotoğraf ve videolar.
“Bir belgenin yapay zeka tarafından özetlenmesi gerekiyorsa ad, kimlik numarası, adres, hesap numarası, telefon, imza ve barkod gibi bölümler mümkün olduğunca kapatılmalı. Gerçek veri yerine örnek veya anonimleştirilmiş veri kullanılmalı” diyen Demircan, şöyle devam etti:“Buradaki risk yalnızca ‘yapay zeka bu bilgiyi öğrenip bana karşı kullanır mı?’ sorusundan çok hesabınızın ele geçirilmesi, hizmet sağlayıcının güvenlik ihlali yaşaması, yanlış yapılandırılmış bir entegrasyon, üçüncü taraf eklentiler veya bilgilerin daha sonra sosyal mühendislik amacıyla kullanılması. Otoriteler üretken yapay zeka sistemlerinde kişisel verilerin açığa çıkmasını ve mahremiyet kayıplarını özel bir risk alanı olarak ele alıyor ve yapay zeka sistemlerinin hassas verileri yetkisiz kişilere açıklamadan çalışacak biçimde tasarlanması gerektiğini açık ve net bir şekilde belirtiyor.”
YAPAY ZEKA DESTEKLİ DOLANDIRICILIK GİRİŞİMLERİNİ, GERÇEK BİR İNSANIN YAPTIĞI GİRİŞİMLERDEN AYIRT ETMEK MÜMKÜN MÜ?
Bu soruma “Bazı durumlarda mümkün ama buna güvenerek hareket etmek doğru değil” cevabını veren Osman Demircan, konuyu şu şekilde detaylandırdı:
-- Yapay zeka tarafından üretilen metinler, sesler ve görüntüler giderek daha gerçekçi hale geliyor. Ülkelerin istihbarat servisleri yapay zeka içeriklerinin çoğu zaman yalnızca görüntü veya sese bakılarak ayırt edilmesinin zorlaştığını belirtiyor. Eskiden yazım hataları, robotik ses, dudak hareketleriyle konuşmanın uyuşmaması veya görüntüdeki bozukluklar önemli ipuçlarıydı. Bunlar hâlâ görülebilir fakat teknoloji geliştikçe bu kontrol güvenilirliğini kaybediyor. Bugün kusursuz Türkçe yazan bir mesaj da dolandırıcılık olabilir. Çok tanıdık gelen bir ses de kopyalanmış olabilir.
-- Bu nedenle bir mesajın yapay zeka tarafından üretilip üretilmediğini anlamaya çalışmaktan çok, bizden ne istendiğine ve nasıl davranmanız için baskı kurulduğuna bakmamız gerekiyor. ‘Şimdi yapmazsan hesabın kapanacak, hemen para gönder veya yalnızca beş dakikan var denmesi’, ‘Ailene söyleme, müdürüne haber verme, bu operasyon gizli’ gibi ifadeler. Kripto para, hediye kartı, başka bir kişinin hesabı veya daha önce kullanılmayan bir IBAN istenmesi. Bankalar ve resmî kurumlar sizden telefonda şifre, kart PIN’i veya tek kullanımlık SMS kodu istemez, buna dikkat edilmeli. Bankayla başlayan konuşmanın WhatsApp’a, Telegram’a veya bilinmeyen bir bağlantıya taşınması. E-posta adresinde, alan adında veya kullanıcı isminde tek harflik değişiklikler.
-- Özetle şüpheli bir durumda üç adım uygulanmalı: Dur, kanalı değiştir ve doğrula. Mesajdaki bağlantıya tıklamayın. Arayan kişinin verdiği numarayı kullanmayın. Kurumu veya kişiyi, daha önceden bildiğiniz resmi numarasından kendiniz arayın.
Yorumlar