Yapay zekâ araştırmacısı Jacob Coxon, teknolojinin insanlık için ciddi bir tehdit oluşturabileceğini savunarak çalıştığı Anthropic şirketinden istifa etti. Claude için güvenlik ve etik alanında çalışmalar yapan Coxon, yapay zekâ şirketlerinin rekabet uğruna yeterli güvenlik önlemleri alınmadan ilerlediğini öne sürdü. Coxon, yapay zekâ sistemlerinin önümüzdeki 10 yıl içinde kontrolden çıkabilecek seviyeye ulaşabileceğini ve insanlığın geleceğini riske atabileceğini iddia etti. Teknolojinin zamanla insanüstü yeteneklere sahip olabileceğini belirten araştırmacı, şirketlerin bilinen risklere rağmen geliştirme yarışını sürdürmesini eleştirdi. Anthropic’in Yapay Zekâ Uyum Araştırmaları Lideri Evan Hubinger de benzer endişeleri paylaşarak yapay zekânın önümüzdeki 10 yıl içinde insanlık için yıkıcı sonuçlar doğurma ihtimalinin yüzde 10’un üzerinde olduğunu savundu. Coxon’un istifası ve açıklamaları, yapay zekâ güvenliği ile teknoloji şirketlerinin sorumluluğu konusundaki tartışmaları yeniden gündeme taşıdı.
