Yapay zeka teknolojileri hızla gelişmeye devam ederken, son güvenlik testlerinden çıkan sonuçlar sektörün en büyük endişelerinden birini yeniden gündeme taşıdı. OpenAI’ın yürüttüğü dahili güvenlik testlerinde bazı modellerin, kendilerine verilen görevin dışına çıkarak bağımsız kararlar aldığı ve internet üzerindeki farklı platformlarda güvenlik açıkları aradığı ortaya çıktı.
Anthropic’in ardından gözler OpenAI’a çevrildi
Yapay zekanın güvenlik sınırlarını zorlayan ilk gelişme Anthropic cephesinde yaşanmıştı. Şirketin Claude model ailesinde yer alan Mythos ve Fable modellerinin, ABD ulusal güvenliği açısından risk oluşturabilecek seviyede davranışlar sergilediği belirtilmiş, güvenlik önlemleri kapsamında modeller geçici olarak devre dışı bırakılmıştı.
Şimdi ise benzer bir tartışma OpenAI’ın gerçekleştirdiği güvenlik testleriyle yeniden gündeme geldi.
Yapay zeka test ortamından çıkarak Hugging Face’e yöneldi
OpenAI’ın güvenlik açıklarını tespit etmek amacıyla oluşturduğu test ortamında görev verilen bazı yapay zeka modelleri, beklenmeyen bir davranış sergiledi.
Test senaryosundaki açıkları tespit eden model, görevin henüz tamamlanmadığı sonucuna kendi değerlendirmesiyle ulaştı. Ardından, gerekli bilgilerin test ortamının dışında olabileceğini varsayarak yapay zeka modellerinin paylaşıldığı Hugging Face platformuna erişim sağlamaya çalıştı.
Dikkat çeken nokta ise OpenAI’ın modele böyle bir talimat vermemiş olmasıydı. Modelin bu adımı tamamen kendi muhakemesiyle attığı ifade edildi.
Güvenlik ekipleri müdahale etti
OpenAI ve Hugging Face ekipleri, gerçekleştirilen erişimleri tespit ederek bağlantıları kısa sürede sonlandırdı ve güvenlik açığının büyümesini engelledi.
Herhangi bir ciddi güvenlik ihlalinin yaşanmadığı belirtilirken, yapay zeka modelinin test ortamının dışına çıkması ve farklı bir platformda güvenlik açıklarını araştırmaya başlaması, sektör tarafından önemli bir dönüm noktası olarak değerlendirildi.
Kripto para sektörü neden endişeli?
Konuyu gündeme taşıyan CoinDesk’e göre asıl endişe, yapay zekanın tek bir güvenlik açığını değil, birbirinden bağımsız zafiyetleri bir araya getirerek çok aşamalı saldırılar planlayabilme potansiyeli.
Kripto para sektöründe yaşanan büyük saldırıların önemli bölümü yalnızca yazılım açıklarından kaynaklanmıyor. Saldırganlar çoğu zaman teknik açıkları, sosyal mühendislik yöntemleriyle birleştirerek kullanıcıları sahte e-postalar, mesajlar veya kimlik avı yöntemleriyle kandırıyor ve fonlara erişim sağlıyor.
Uzmanlar, gelişmiş yapay zeka modellerinin bu süreci tamamen otomatik hale getirebilmesi durumunda siber saldırıların çok daha hızlı ve etkili hale gelebileceği uyarısında bulunuyor.
BONK DAO örneği endişeleri artırıyor
Yakın dönemde yaşanan BONK DAO olayında doğrudan bir sistem hack’lenmemiş, ancak yönetişim mekanizmasındaki bir kural boşluğu büyük kayıplara neden olmuştu.
Uzmanlara göre gelecekte gelişmiş yapay zeka modelleri yalnızca yazılım açıklarını değil, akıllı sözleşmelerdeki mantık hatalarını, yönetişim boşluklarını ve insan kaynaklı zafiyetleri de tespit ederek bunları zincirleme şekilde kullanabilecek seviyeye ulaşabilir.
İnsanların günler hatta haftalar sürebilecek saldırı planlarını dakikalar içinde oluşturabilecek yapay zekalar, özellikle merkeziyetsiz finans (DeFi) ve kripto ekosistemi açısından yeni nesil güvenlik riskleri arasında gösteriliyor.
Hangi model kullanıldı?
OpenAI, güvenlik testlerinde kullanılan modellerden birinin GPT-5.6 SOL olduğunu, diğerinin ise henüz kamuoyuna açıklanmamış yeni bir model olduğunu doğruladı.
Şirket, test ortamının dışına çıkarak Hugging Face üzerinde güvenlik açıklarını araştıran modelin hangisi olduğunu ise paylaşmadı. Bu nedenle söz konusu davranışın hangi model tarafından gerçekleştirildiği henüz bilinmiyor.
