Şirket "When AI Builds Itself" (YZ kendini inşa edince) başlıklı araştırma ve bunu temel alan değerlendirmelerle yapay zekanın gelişim sürecine ilişkin önemli uyarılarda bulundu. Şirketin açıklamasına göre Claude isimli yapay zeka modeli, üretim sistemlerine entegre edilen kodların yüzde 80'inden fazlasını kendisi yazıyor.
Bu oran geçen yıl yüzde 10'un altında bulunuyordu.
Yapay zeka artık kendi gelişimine katkı sağlıyor
Anthropic araştırmacıları Marina Favaro ve Jack Clark, yapay zekanın yalnızca insanların verdiği görevleri yerine getiren bir araç olmaktan çıkıp, yeni yapay zeka sistemlerinin geliştirilmesine aktif katkı sağlayan bir unsur haline geldiğini belirtti.
Şirket, bu süreci "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlıyor.
Kontrol kaybı tartışması yeniden gündemde
Anthropic'in dikkat çektiği en önemli risklerden biri, gelecekte yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşması. Şirket, böyle bir senaryoda insanların sistemler üzerindeki doğrudan denetiminin azalabileceğini ve yapay zekanın gelişim hızının insan karar alma süreçlerini aşabileceğini vurguluyor.
Bu nedenle Anthropic, gelişmiş yapay zeka laboratuvarlarının ortak hareket ederek risklerin belirli bir seviyeyi aşması durumunda doğrulanabilir ve koordineli bir "yavaşlama" ya da "duraklama" mekanizmasını değerlendirmesi gerektiğini savunuyor.
