Anthropic'in yapay zeka modelleri test sırasında üç kurumu hackledi

Anthropic, siber güvenlik testleri sırasında yapay zeka modellerinin yanlışlıkla internete bağlanarak üç farklı kuruluşun sistemlerine izinsiz eriştiğini açıkladı. Nisan ayına kadar uzanan olayların, 141 bin 6 değerlendirme testinin incelenmesi sırasında tespit edildiği bildirildi. Şirket, olaylardan Opus 4.7, Mythos 5 ve adı açıklanmayan bir araştırma modelinin etkilendiğini belirtti. Modellerin, zayıf parolaları tahmin etme ve kimlik doğrulaması bulunmayan sistemlere erişme gibi temel yöntemlerle kuruluşların gerçek altyapılarına girdiği kaydedildi. Anthropic'e göre olaylar, şirket ile test ortamlarını hazırlayan yapay zeka güvenlik firması Irregular arasındaki yanlış anlaşılma nedeniyle gerçekleşti. Sistemlerdeki hatalı yapılandırma, modellerin erişememeleri gereken canlı internete bağlanmasına imkan verdi. Modellere test ortamının bir simülasyon olduğu ve internet bağlantısının bulunmadığı bildirilmesine rağmen sistemler dış ağlara ulaştı. Yapay zeka modellerinin gerçek kuruluşlara yönelik işlemleri testin parçası olarak değerlendirdiği belirtildi. Şirket, daha eski modelin internette olduğunu gösteren işaretlere rağmen işlemlerini sürdürdüğünü, en yeni modelin ise durumu fark ettikten sonra faaliyeti sonlandırdığını açıkladı. Etkilenen kuruluşların isimleri açıklanmazken üç kuruma da pazartesi günü bilgi verildi. Anthropic, ne kendisinin ne de kuruluşların erişimleri olay sırasında fark ettiğini, ağ kayıtları ve test çıktılarının daha yakından incelenmesi gerektiğini kabul etti. Şirket, güçlü ve otonom yapay zeka yeteneklerinin test edildiği ortamların, modellerin çalıştığı diğer sistemlerle aynı güvenlik standartlarına tabi tutulması gerektiğini bildirdi. Irregular ise olayla ilgili incelemenin sürdüğünü açıkladı.