Anthropic advierte que está muy cerca de la capacidad RSI, es decir, IA auto-construyéndose

Resumen del corpus

Anthropic advierte que su desarrollo de IA podría estar cerca de alcanzar la auto-mejora recursiva (RSI), un punto donde la IA podría acelerar su propio desarrollo de manera descontrolada. La compañía reconoce el riesgo de que el avance de la IA supere su capacidad para implementar medidas de seguridad y alineación. A pesar de las advertencias, Anthropic asegura que mantienen la supervisión humana en el proceso de desarrollo de modelos frontera.