Sam Altman Piensa que es Bueno Si No Puedes Permitirte RAM Para Tu PC

Resumen del corpus

Sam Altman de OpenAI argumenta que es mejor que los modelos de IA se ejecuten en centros de datos en la nube en lugar de intentar ejecutar modelos de código abierto locales en dispositivos personales. Altman considera que la asignación global de la memoria DRAM es terrible si se limita a dispositivos individuales, prefiriendo la máxima utilización de la nube para lidiar con la oferta limitada de memoria. Él cree que la ejecución en la nube es la vía más eficiente para manejar las demandas de cómputo de los modelos de lenguaje grandes.