Buscar noticias

Buscá por texto y descubrí noticias relacionadas con tu consulta.

Noticias relevantes

Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.

No encontramos noticias relacionadas por su significado.

Noticias encontradas

Coincidencias en título, descripción, resumen, tags, personas o periodista.

3 resultados para «Orion Weller»

Más recientes primero · Hasta 30 noticias por página

Hugging Face lanza la familia Ettin Reranker, seis modelos de reordenamiento de código abierto

Tom Aarsen, de Hugging Face, presentó la familia Ettin Reranker: seis modelos CrossEncoder de reordenamiento de código abierto (de 17M a 1B parámetros) construidos sobre los encoders Ettin ModernBERT y entrenados mediante destilación desde mxbai-rerank-large-v2. Los modelos, publicados bajo licencia Apache 2.0 junto con el dataset de ~143M tripletas y el script de entrenamiento, alcanzan resultados de última generación en su rango de tamaño y superan a los rerankers MiniLM en precisión y velocidad.

Periodista: Tom Aarsen

Ettin Suite: encoders y decoders emparejados de última generación

Investigadores de Johns Hopkins y LightOn presentaron Ettin, la primera suite de modelos emparejados solo de encoder y solo de decoder (17M a 1B parámetros) entrenados con datos, arquitectura y receta idénticos (2T tokens). Los encoders superan a ModernBERT y los decoders a Llama 3.2 1B y SmolLM2, con datos de entrenamiento totalmente abiertos y reproducibles. El trabajo permite comparaciones justas entre arquitecturas y muestra que las ventajas de cada una persisten: los encoders dominan clasificación y recuperación, los decoders la generación.

Periodista: Orion Weller, K Ricci, Marc Marone, Antoine Chaffin, Dawn Lawrie, Ben Van Durme

Finalmente, un reemplazo para BERT: presentan ModernBERT

Answer.AI y LightOn presentaron ModernBERT, una familia de modelos de lenguaje solo codificadores que mejora a BERT en velocidad y precisión, con versiones base (149M de parámetros) y large (395M). El modelo amplía el contexto a 8192 tokens, incorpora avances de arquitectura como RoPE y GeGLU, y fue entrenado con 2 billones de tokens incluyendo código. Se ofrece como reemplazo directo de BERT para tareas de recuperación, clasificación y búsqueda de código.

Periodista: Benjamin Warner, Antoine Chaffin, Benjamin Clavié, Orion Weller, Oskar Hallström, Said Taghadouini, Alexis Gallagher, Raja Biswas, Faisal Ladhak, Tom Aarsen, Nathan Cooper, Griffin Adams, Jeremy Howard, Jonathan Whitaker, Iacopo Poli