Önde gelen yapay zeka şirketlerinden Anthropic, yeni nesil yapay zeka sistemlerinin insan kontrolü dışında gelişme potansiyeli taşıdığı konusunda uyarıda bulundu. Şirketin Claude modeliyle ilgili yapılan son değerlendirmelere göre, sistem artık kendi kodunun yüzde 80’inden fazlasını yazabiliyor. Geçtiğimiz yılın başında bu oran yüzde 10’un altındaydı. Anthropic yetkilileri, bu hızlı değişimin “özyinelemeli kendini geliştirme” adı verilen bir süreci işaret ettiğini ve bu durumun gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceğini belirtti.
Marina Favaro ve Jack Clark tarafından yayımlanan bir blog yazısında şirketin araştırmacıları, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler sağlayabileceğini ancak aynı zamanda ciddi kontrol riskleri doğurabileceğini ifade ettiler. Yapay zeka geliştirme sürecinin artık kısmen yapay zeka sistemlerine devredildiği ve bunun insan müdahalesi olmadan kendini geliştirebilen modellerin önünü açabileceği belirtildi. Şirket, bu sürecin kontrolsüz ilerlemesi durumunda insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısında bulunarak, gelişimin kontrollü şekilde ilerlemesi için “gerekirse yavaşlama veya duraklama” seçeneğinin dahi değerlendirilmesi gerektiğini vurguladı.
Anthropic, böyle bir küresel yavaşlatma kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının ortak hareket etmesi gerektiğini ifade ederek, bu sürecin oldukça karmaşık olduğunu belirtti. Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş, 2023 yılında binlerce teknoloji uzmanı benzer bir moratoryum talebinde bulunmuştu ancak bu çağrılar somut bir duraklamaya dönüşmemişti.
