Yapay Zeka Kontrolden Çıkabilir mi? Anthropic’ten Yeni Güvenlik Uyarısı

Yapay zekanın gelişimi, kripto cüzdanlarını koruyan şifreleme yöntemlerinin geleceğine ilişkin tartışmaları da beraberinde getiriyor. Araştırmalara göre, yapay zeka gelecekte kriptografik imzaları kırabilir ve Bitcoin arzının yaklaşık üçte birini tehdit edebilir.

Bu sırada uzmanlar, bu hızlı ilerleme karşısında hem dijital varlıkların hem de kişisel verilerin güvenliğini sağlayacak önlemlerin güçlendirilmesi gerektiğine dikkat çekiyor.

Geçtiğimiz haftalarda sektörün önde gelen isimleri de yine yapay zekadaki ilerlemenin yavaşlatılması yönünde çağrıda bulunmuştu. Anthropic CEO’su Dario Amodei, 12 Eylül’de şirketleri, güvenlik önlemlerine zaman kazandırmak için model geliştirme hızını düşürmeye çağırmıştı. OpenAI CEO’su Sam Altman ve xAI’ın kurucusu Elon Musk da Amodei’ye destek vermişti.

Birkaç ay içinde bu kapasiteye ulaşabilirler: Akıllı ev cihazları hedef olabilir

Bugünün gündeminde ise yapay zeka şirketi Anthropic'in yeni uyarısı var. Anthropic, kendi kendini kopyalayabilen yapay zeka sistemlerinin, insan müdahalesine ihtiyaç duymadan internete bağlı cihazlara yayılabilecek kapasiteye yaklaştığı konusunda uyarı yayımladı.

Şirketin Frontier Red Team ekibinden William Zhou ve Daniel Freeman’ın 12 Ekim’de yayımladığı rapora göre, “yapay zeka solucanları” olarak adlandırılan bu zararlı yazılımlar; Android TV kutularını, akıllı ev aletlerini ve güvenlik kameralarını hedef alabilir.

Özellikle güvenlik önlemleri yetersiz olan cihazlar, bu sistemlerin hem çalışması hem de başka cihazlara yayılması için kullanılabilir.

Araştırmacılar, küçük yapay zeka modellerinin birkaç ay içinde bu beceriyi kazanabileceğini tahmin ediyor. Çok sayıda cihaz üzerinde çalışabilecek bu sistemleri durdurmak ise zor olabilir. Çünkü yayılmayı engellemek için kapatılabilecek tek bir merkez bulunmayacak.