Anthropic'in yapay zeka modeli ABD'nin gizli sistemlerinde açıklar tespit etti

Anthropic'in yapay zeka modellerinden biri, yapılan test sırasında ABD hükümetine ait yüksek düzeyde hassas ve güvenli bilgisayar sistemlerinde güvenlik açıkları tespit etti. Konu hakkında bilgi veren bir ABD'li yetkili, Anthropic'in ABD istihbarat kurumlarıyla birlikte şirketin Mythos modeli üzerinde testler yürüttüğünü söyledi. Modelin bazı güvenlik açıklarını saatler içinde belirlediği, ancak bunun söz konusu açıkları aynı süre içinde kullanabildiği anlamına gelmediği belirtildi. Testler, Anthropic'in Project Glasswing adlı girişimi kapsamında gerçekleştirildi. Proje, Mythos modelinin kamu güvenliği, ulusal güvenlik ve ekonomi açısından yol açabileceği ciddi risklere karşı kritik yazılımları korumak amacıyla teknoloji şirketleri ile diğer kuruluşları bir araya getirdi. Virginia Demokrat Senatörü Mark Warner, 11 Haziran'da Senato Bankacılık, Konut ve Kentsel İşler Komitesi önündeki oturumda testlerden kısaca söz etmişti. Warner, aracın gizli sistemlerin neredeyse tamamına haftalar yerine saatler içinde girdiğini söylemiş ve bu bilgiyi Ulusal Güvenlik Ajansı ile ABD Siber Komutanlığının başındaki General Joshua Rudd'a dayandırmıştı. ABD'li yetkili ise modelin açıkları tespit etmesinin, bu sistemleri gerçekten istismar ettiği anlamına gelmediğini vurguladı. Anthropic ile ABD kurumları arasındaki güvenlik testlerine dayalı iş birliğine rağmen, Kaliforniya merkezli şirket ile Trump yönetimi arasındaki gerilim artıyor. Anthropic, ABD ordusunun yapay zekâ teknolojisini nasıl kullanacağına ilişkin kaygılarını dile getirirken, yönetim şirketin bazı modellerinin kullanımını sınırlandırdı.