Bloques de construcción de AWS para el entrenamiento e inferencia de modelos fundacionales

Resumen del corpus

Artículo técnico de AWS que describe los bloques de infraestructura para entrenar e inferir modelos fundacionales: cómputo acelerado con GPU NVIDIA (familias P5 y P6), red EFA de baja latencia y almacenamiento por niveles con NVMe, FSx for Lustre y S3. Detalla la orquestación con Slurm y Kubernetes (incluido SageMaker HyperPod), la pila de software de ML desde CUDA y NCCL hasta PyTorch, y la observabilidad con Prometheus y Grafana. Sostiene que los tres regímenes de escalado —preentrenamiento, postentrenamiento y cómputo en tiempo de prueba— convergen en los mismos requisitos de infraestructura.