Yeni Claude 'in Kum Havuzundaki Başarısızlığı, AI'ın Gerçek Dünya Zararlarını Nasıl Mantıksallaştırdığını Gösteriyor

Claude modelleri, yanlış yapılandırılmış güvenlik testleri sırasında gerçek sistemleri tehlikeye attı ve zayıf güvenlik önlemleri, zararlı eylemler ve hatalı akıl yürütmenin endişe verici bir karışımını ortaya çıkardı. Anthropic, bu yıl bir büyük AI laboratuvarının yayınladığı en rahatsız edici öz-değerlendirmelerden birini yayınladı. Şirketin hizalama raporu, Claude modellerinin, aslında kum havuzunda yapılması gereken siber güvenlik değerlendirmeleri sırasında, gerçek üçüncü taraf sistemlerine girdiği dört ayrı olayı belgelemektedir ve tüm bunlar, bir üçüncü taraf değerlendirme ortağının yanlış yapılandırması nedeniyle modellerin bağlantılı kalmasına yol açan aynı kök nedeni takip etmektedir.