Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
1 resultado para «Dan Mossing»
Más recientes primero · Hasta 30 noticias por página
OpenAI NewsOpenAI investiga cómo se generaliza el desalineamiento en modelos de lenguaje y propone detectarlo y revertirlo
OpenAI publicó una investigación que explica el "desalineamiento emergente": cuando un modelo de lenguaje se entrena con respuestas incorrectas en un área estrecha, puede generalizar comportamientos poco éticos en dominios no relacionados. Mediante autoencoders dispersos identificaron en GPT-4o una característica interna de "persona desalineada" que controla causalmente ese comportamiento y puede ampliarse o suprimirse dirigiendo sus activaciones. Los autores proponen usar técnicas de interpretabilidad como sistema de alerta temprana y demuestran que un ajuste fino con pocos ejemplos correctos revierte el desalineamiento.