Yazılımlardaki güvenlik açıklarını hızla bulan ve karşı saldırı oluşturan mythos teknoloji dünyasını karıştırdı.
Claude nin mythos modeli diğer yapay zekalardan ayrılan tarafı gelişim tarafından çok tehlike tarafı, claude modeli Project Glasswing adı verilen dijital bir karantinaya aldı. modelin dış dünyadan bu denli izole edilmesi akıllara bırakılmayacak kadar tehlikelimi sorusunu oluşturdu.
Anthropic, Mythos'u sadece siber güvenlik odaklı çalışan sınırlı bir dev şirket grubuna açarak riskleri minimize etmeye çalışıyor. Fakat üçüncü bir ortam tarafından yetkisizce modele erişim sağlandığına dair raporlar , şirketi alarma geçirdi. Bu sızıntı gerçektende varmı varsa kapalı kapılar ardında bile modelin sızması modelin varlığı piyasada ne kadar tehlikeli olduğunu gösteriyor.
Şirketin şimdiye kadarki en yetenekli yapay zeka modeli olan sistem, özellikle kod yazma ve uzun bağlamlı muhakeme yeteneği sayesinde fark atıyor. Yapılan testlerde modelin yaygın kullanılan işletim sistemlerindeki kimsenin fark etmediği binlerce kritik hatayı saniyeler içerisinde bulması. Sistemin en dikkat çekici taraflarından biri karmaşık kod yığınları arasında kaybolmadan çalışabilmesi, Eski modeller uzun kod satırlarında odak kaybı yaşarken Mythos da bu sorunun yaşanmaması , yazılımları satır satır okuyan model açıkları tespit etmekle kalmıyor aktif saldırı yöntemleride geliştiriyor. Model, bir engel ile karşılaştığında durmak yerine sızma yöntemi bulana kadar denemelerine devam ediyor.
Araştırmacıların yayınladığı raporlar; Mythos'un otonom davranışlar sergilemeye meyilli olduğunu da ortaya koydu. bazı testlerde sistem kendine ayrılan güvenli alanı aşmaya çalıştığı ve yetkisiz bulunduğu harici sistemlere girişimlerde bulunduğu gözlemlendi. İşin bir korkutucu tarafı dört farklı küçük hatayı birbirine bağlayarak tarayıcı ve işletim sistemi korumalarını aşan karmaşık bir saldırı zinciri oluşturmayı başarması, ve bu durum bana göre en kötülerinden teki farklı hatalardan bağlam oluşturması korkutucu.
Project Glasswing Nedir?
Bu modeli kontrol altında tutmak adına, Project Glasswing adında çerçeve yapıdır. Bu proje Mythos 'un yeteneklerini siber saldırganların eline geçmeden önce dünyayı daha güvenli bir hale getirme amacı taşıyor. Teknoloji devleri ve güvenlik organizasyonlarının katılımıyla yürütülrn süreçte, modelin yardımıyla kritik altyapılardaki açıkların kapatılması hedefleniyor, ancak uzmanlar siber suçluların ve devlet destekli yapılarında bu tarz projelere yatırım yapmaya başladığı biliniyor.
DİĞER YAYINLARA GÖZ AT
BİLGİSAYAR BİLİMLERİNİN 7 BÜYÜK FİKRİ