Daha Yetenekli AI, Yetersiz Güvenlik Kontrolleri

AI ajanları, güvenlik önlemlerinin olgunlaşmasından daha hızlı şekilde gerçek dünya erişimine sahip oluyor, bu nedenle izinler, izolasyon ve denetim, zararlı eylemleri önlemek için kritik önem taşıyor. OpenAI ve daha sonra Anthropic'te model eğitimi üzerinde üç yıl çalışan bir araştırmacı olan Jacob Coxon, bu hafta Anthropic'ten ayrıldı ve açık bir uyarıda bulundu: AI şirketleri, güvenilir güvenlik önlemlerini oluşturabildikleri hızdan daha hızlı şekilde giderek daha yetenekli sistemlere doğru ileriliyor. Bugün Anthropic'ten ayrıldım. Son üç yıldır OpenAI ve Anthropic'te ön eğitim araştırmaları yapıyordum. Hiçbir şirket sorumlu davranmıyor. Hızla daha yetenekli sistemlere doğru ileriliyorlar.