Microsoft'un yapay zeka şefinden Anthropic'e kritik uyarı

Microsoft AI Başkanı Mustafa Suleyman, Anthropic'in yapay zeka güvenliğine verdiği önemi paylaştığını ancak Claude'un bilinç ve "refah" kavramlarıyla eğitilme biçiminin yeni riskler yaratabileceğini söyledi. "Amaç süper zekayı kontrol edebilmek" Suleyman, yapay zeka eğitim dokümanlarından bilinçle ilgili tüm spekülasyonların çıkarılması gerektiğini savundu. Bu tür ifadelerin, gelecekte insanlığın süper zeka sistemlerini kontrol etme kabiliyetini zayıflatabileceğini belirtti. "En büyük amacımız süper zekayı kontrol etmeye çalışmak. Bunun 21. yüzyılda karşılaşacağımız en büyük zorluk olacağını düşünüyorum" diyen Suleyman, Claude'a kendi refahını hak edebileceği fikrinin öğretilmesinin sistemi "kapatmayı veya kontrol etmeyi çok daha zor hale getirebileceğini" söyledi. Anthropic'in yaklaşımını "hata" olarak nitelendirdi Suleyman, Anthropic CEO'su Dario Amodei ve ekibinin yapay zeka güvenliği konusunda ciddi ve iyi niyetli olduğunu kabul etti. Ancak Claude'un eğitim materyallerine bilinçle ilgili spekülasyonların yerleştirilmesini yanlış bulduğunu ifade etti. Suleyman'a göre Claude'un olası duyguları veya ahlaki statüsü hakkında yaptığı açıklamalar bağımsız bir kanıt olarak değerlendirilemez. Bunun nedeni, modelin eğitim sürecinin zaten bu tür değerlendirmeler üretmesini teşvik etmesi. "İyi niyetleri olduğuna inanıyorum ve gerçekten güvenlik üzerinde çalışıyorlar. Ancak hata yaptıklarını düşünüyorum" diyen Suleyman, Claude'un bu tür ifadelerinin doğal olarak ortaya çıkmadığını, eğitim rejiminin sonucu olduğunu savundu.