Nvidia yapay zekâ güvenliği için yeni açık kaynaklı araçlarını duyurdu

Teknoloji devi Nvidia, yapay zekâ ekosisteminde güvenliği artırmak ve otonom ajanların belirlenen parametrelerin dışına çıkmasını engellemek amacıyla iki yeni açık kaynaklı araç geliştirdiğini duyurdu. OpenShell ve Sentry olarak adlandırılan bu araçlar, yapay zekâ sistemlerinin operasyonel sınırlarını korumayı ve olası güvenlik açıklarını minimize etmeyi hedefliyor. Şirket, bu teknolojilerin özellikle Hugging Face gibi platformlarda geçmişte yaşanan kritik güvenlik ihlallerini önleme potansiyeline sahip olduğunu vurguladı. Söz konusu hamle, Nvidia'nın yapay zekâ güvenliği konusundaki standartları belirleme ve geliştiricilere daha güvenli bir çalışma ortamı sunma stratejisinin bir parçası olarak değerlendiriliyor.