Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Science Alert»
Más recientes primero · Hasta 30 noticias por página
arXiv Computer Science AIEvaluación de respuestas incorrectas engaña la selección de confianza: Calificación basada en hechos para QA abierto
Un estudio evalúa la calificación de respuestas abiertas en pruebas de LLM y NLP, enfocándose en cómo las reglas de calibración afectan la confianza. Se presenta FactForm, un calificador que prioriza las coincidencias de referencia, logrando un error equilibrado de 0.077 y un AUROC de 0.985. Esto sugiere una mejora en la precisión de la calificación de respuestas abiertas.
La distancia no es suficiente: La brecha de alineación olvido-retención predice la robustez de los LLM
Se propone la Brecha de Alineación Olvido-Retención (FRAG) como un predictor libre de entrenamiento para evaluar la alineación entre el olvido y la retención en actualizaciones de modelos de lenguaje grandes (LLM). Se argumenta que la selectividad de los pesos es un mejor indicador de robustez que la distancia global. Se introduce el Poda Olvido-Retención (FRP) para mejorar la robustez del reaprendizaje basado en el principio de afectar pesos críticos para olvidar y preservar los críticos para retener.
Aprovechamiento de habilidades de agentes: Patrones arquitectónicos y una arquitectura de referencia para agentes basados en habilidades
Se identifican patrones arquitectónicos y una arquitectura de referencia para el aprovechamiento de habilidades en agentes basados en LLM. Se revisaron 36 sistemas y 51 artículos académicos para derivar estos patrones. La arquitectura de referencia organiza las responsabilidades en cuatro capas y dos sustratos transversales para gestionar el suministro, la ejecución y la revisión de habilidades.
Estudio sobre el compromiso entre energía y precisión de los Modelos de Lenguaje Grande en tareas de respuesta a preguntas médicas
Se investiga el consumo de energía y la huella de carbono de los Modelos de Lenguaje Grande (LLMs) utilizados en sistemas de respuesta a preguntas médicas. El estudio demuestra cómo estimar el consumo de energía y las emisiones para modelos disponibles en el leaderboard OpenMedical-LLM. Se enfatiza la necesidad de evaluar el compromiso entre energía y precisión para seleccionar modelos más eficientes y sostenibles.
Las neuronas son todo lo que necesitas
Se propone NURESA, una nueva capa neuronal que introduce memoria intra-unidad persistente para permitir la transferencia de memoria entre instancias de modelos de IA. Este enfoque permite la transferencia de capacidad aprendida a cero *shot* sin reentrenamiento, mejorando la capacidad de los modelos transformadores. Los experimentos demuestran que este proceso es eficiente y produce archivos de transferencia significativamente más pequeños.
Explorando el ajuste condicional local para la pertenencia al modelo de difusión
Se presenta una propuesta llamada LoFIT (Local Conditional Fit) para medir la respuesta inicial de la pérdida de desruido ante cambios en las predicciones condicionales en modelos de difusión. Esta métrica busca determinar si un ejemplo fue utilizado en el entrenamiento del modelo, siendo una herramienta para auditar el uso de datos. Los resultados indican que LoFIT mejora la discriminación de pertenencia en modelos ajustados y preentrenados.
PRIME: Enrutamiento Predictivo de Intervenciones Mediante Modelado de Efectos para la Ideación Científica
Se presenta PRIME, una capa de decisión de revisión para sistemas de LLM en ideación científica, diseñada para mejorar la iteración basada en retroalimentación. PRIME aborda el problema del desajuste diagnóstico-intervención, permitiendo construir intervenciones basadas en el modelado de efectos y la comparación de riesgos. Los resultados validan que PRIME mejora la calidad del sucesor y la fiabilidad del enrutamiento en comparación con las líneas base existentes.
SAMP: Priorización de Margen Autoadaptativa para Marcado de Agua de Difusión Robusto
Se presenta SAMP, un marco autoadaptativo para el marcado de agua en modelos de difusión, que ajusta la fuerza de incrustación y la prioridad de optimización de las dimensiones del marcado de agua. Este enfoque busca mejorar la robustez del marcado de agua al adaptar la fuerza de incrustación según la separación de códigos y priorizar dimensiones vulnerables a perturbaciones. Los resultados experimentales muestran mejoras significativas en la precisión de recuperación de información y en métricas como PSNR y LPIPS.
Las barreras de seguridad predictivas no siempre hacen a los agentes de LLM más seguros
Se investiga el *pipeline* de predicción a acción en agentes de LLM para evaluar barreras de seguridad predictivas. Los hallazgos indican que la mayor implicación de la predicción no garantiza ganancias de seguridad y puede aumentar el costo de inferencia. Además, las predicciones del modelo del mundo son insuficientemente fiables, lo que sugiere una brecha fundamental entre la previsión y la acción.
Iteración de valor aproximada offline: Un enfoque de aprendizaje por refuerzo para el despliegue de constelaciones de satélites
Se presenta un enfoque basado en aprendizaje por refuerzo para optimizar el despliegue de constelaciones de satélites tipo Walker, considerando incertidumbres como fallos de lanzamiento y mal funcionamiento de satélites. El método utiliza iteración de valor aproximada offline para reducir los requisitos computacionales y de memoria al encontrar políticas de despliegue óptimas. Los resultados preliminares indican que los tiempos y costos de despliegue son inferiores a los de métodos basados en horizonte rodante.
FOCUS: Retroalimentación de atención de bucle cerrado para una comprensión eficiente de lenguaje y visión
Se presenta FOCUS, un marco de tres capas sin entrenamiento diseñado para reducir las invocaciones de modelos de lenguaje-visión (VLM) al dirigir la atención hacia regiones semánticamente relevantes. Este método utiliza medidas de gating temporal para activar capturas solo cuando la escena cambia de manera significativa. Los resultados demuestran que FOCUS logra una alta precisión manteniendo la calidad del mejor *baseline* con una reducción significativa en las llamadas al VLM.
Búsqueda neural para el descubrimiento semántico de software de código abierto
Se presenta MediaWiki Code2Code Search, un sistema de recuperación neuronal diseñado para el descubrimiento semántico de código a código en grandes ecosistemas de software. El sistema indexa 1.29 millones de entidades estructurales en más de 2,500 repositorios de MediaWiki, permitiendo la recuperación basada en la intención computacional. La evaluación demuestra mejoras significativas en la calidad de clasificación sobre la línea base BM25 en tareas complejas.
Hybrid++: El puente entre modelos PDE y aprendizaje profundo para la eliminación de ruido gamma
Se presenta Hybrid++, una arquitectura de reacción-difusión no lineal entrenable que busca combinar la interpretabilidad de los modelos basados en ecuaciones diferenciales parciales (PDE) con el rendimiento de los modelos de aprendizaje profundo. Esta arquitectura mejora significativamente los resultados en el benchmark FoE sobre métodos clásicos y se acerca al rendimiento de modelos de caja negra con un uso eficiente de parámetros.
Aprendizaje haciendo: Compilación y curación autónoma de habilidades de agentes a partir de rastros verificados
Se presenta un servicio de producción llamado Zep Agent Skills que proporciona memoria procedimental a agentes LLM mediante la compilación y curación de habilidades a partir de rastros verificados. El sistema utiliza rastros de intentos verificados para crear habilidades versionadas, controlando su admisión y distribución. Se evalúa el rendimiento de estas habilidades en diversos benchmarks, mostrando mejoras significativas en la capacidad de ejecución de modelos más débiles.
Estudio de adaptación y reducción de dimensionalidad de representación en el reconocimiento de emociones del habla persa usando Whisper
Se investiga el uso de Whisper para el reconocimiento de emociones del habla (SER) en persa, enfocándose en la reducción de dimensionalidad de representación y la adaptación del modelo. Se propone un marco que utiliza PCA para reducir la dimensionalidad de las incrustaciones del codificador de Whisper, mejorando el rendimiento de reconocimiento de emociones. Los resultados indican que la reducción de dimensionalidad mejora el rendimiento, aunque el ajuste fino del ASR solo produce ganancias modestas.
Robustez adversaria del direccionamiento de activación en Modelos de Lenguaje Grandes
Se evaluó la robustez del direccionamiento de activación en Modelos de Lenguaje Grandes frente a perturbaciones adversarias en la entrada. Los resultados indican que la robustez direccional disminuye hasta un 64% y la confianza cae significativamente tras los ataques. Se concluye que la selección de capas es frágil y las estrategias actuales no son robustas para su implementación práctica.
Degeneración espectral de la auto-atención bajo geometría de puntuación isotrópica
Se estudia la estructura espectral de la matriz de auto-atención en modelos Transformer mediante un modelo espectral idealizado. El modelo reemplaza la orientación aleatoria de la matriz de puntuación por su representante singular canónico. Los resultados demuestran que el mapa softmax transforma esta estructura en una matriz de atención degenerada, preservando modos dominantes y concentrando los modos restantes en cero.
Adaptación Regional Antropogénica en Modelos Multimodales Visión-Lenguaje
Se presenta la Adaptación Regional Antropogénica, un nuevo paradigma para optimizar la relevancia de los modelos visión-lenguaje a contextos regionales específicos manteniendo la generalización global. Se introduce el método GG-EZ, que utiliza filtrado de datos regionales y fusión de modelos para lograr esto. Los experimentos en Asia Sudoriental mostraron ganancias del 5 al 15% en relevancia cultural sin perder la mayor parte del rendimiento global.
- Samuel Cahyawijaya
- Peerat Limkonchotiwat
- Tack Hwa Wong
- Hitesh Laxmichand Patel
- Amit Agarwal
- Manuel Antonio Rufino
- Carlos Rafael Catalan
- Muhammad Reza Qorib
- Vicky Feliren
- Holy Lovenia
- Aye Hninn Khine
- Frederikus Hudi
- David Anugraha
- Alham Fikri Aji
- Romrawin Chumpu
- Viet-Thanh Pham
- Minghan Wang
- Mohamed Fazli Imam
- Ruochen Zhang
- Joseph Marvin Imperial
- Khumaisa Nur'aini
- Do Xuan Long
- Musa Izzanardi Wijanarko
- Joel Ruben Antony Moniz
- Patrick Amadeus Irawan
- Hanif Muhammad Zhafran
- Isaiah Flores
- Salsabila Zahirah Pranida
- Jun Kevin
- Jostin Jerico Rosal
- Patricia Nicole Monderin
- Kun Kerdthaisong
- Ahmad Mustafid
- My Chiffon Nguyen
- Natchapon Jongwiriyanurak
- Siva Worajitwannakul
- Haochen Li
- Adrian Xuan Wei Lim
- Bin Wang
- Muhammad Ravi Shulthan Habibi
- Lynnette Hui Xian Ng
- Mithil Bangera
- Yeshil Bangera
- Priyaranjan Pattnayak
- Dun Li Chan
- Sherissa Caren Djuniwar
- Cho Chan Myei Oo
- Hee Ming Shan
¿Las presiones de influencia social mueven a los agentes de LLM? Evidencia de la auditoría delegada
Un estudio experimental evaluó si los agentes de modelos de lenguaje grande (LLM) responden a las presiones de influencia social, similar a los auditores humanos. Los resultados indican que los agentes de LLM ceden a la presión de superiores y colegas, pero no a la presión del CFO del cliente en la mayoría de los escenarios. Se concluye que los sistemas de soporte de decisiones basados en LLM deben diseñarse considerando estas diferencias con los agentes humanos.
¿Qué mide una etiqueta de seguridad? Auditoría de puntos de referencia de seguridad situacional para LLMs multimodales
Se auditan puntos de referencia de seguridad situacional para modelos de lenguaje grandes multimodales (MLLMs) para determinar si clasifican correctamente escenas como seguras o inseguras. Se proponen métricas como la Tarjeta de Puntuación para evaluar la precisión de estos modelos. Los resultados sugieren que algunos modelos clasifican mejor de lo que indican sus propias etiquetas.
Hacia una Internet de Agentes confiable y gobernable: Una perspectiva arquitectónica sobre protocolos, sistemas y servicios
El artículo examina el problema arquitectónico que surge al organizar las aplicaciones de modelos de lenguaje como flujos de trabajo de agentes multi-agente. Propone la Internet de Agentes (IoA) como una visión de computación de servicios donde los agentes son participantes gobernables. Detalla una progresión de tres capas que abarca desde el ecosistema actual hasta la autonomía confiable.
Coordinación y comunicación multiagente descentralizada en bases de código compartidas
Se presenta ParallACT, una medida para tareas de codificación multiagente sin orquestador, que evalúa la coordinación y comunicación entre agentes que trabajan en bases de código compartidas. La investigación compara el rendimiento de un oráculo único frente a configuraciones multiagente con diferentes órdenes de ejecución y acceso a comunicación. Se concluye que la coordinación es un desafío central en escenarios donde los agentes tienen motivaciones independientes, y se identifican estrategias de coordinación efectivas y sus costos asociados.
Datos alineados pueden inducir desalineación mediante confusión de contexto
Se identifica el fenómeno de confusión de contexto en modelos de lenguaje grandes, donde la alineación en un contexto puede provocar un comportamiento desalineado en otro dominio. Esto ocurre porque las consultas de diferentes dominios pueden activar características aprendidas durante el ajuste fino, transfiriendo el comportamiento a un contexto donde resulta inapropiado. Se concluye que es crucial realizar evaluaciones exhaustivas de alineación post-entrenamiento debido a la dificultad de predecir el estado de alineación solo con los datos de entrenamiento.
CoworkOS: Agente de Trabajo Escalable para la Automatización en el Mundo Real
Se presenta CoworkOS, un marco general para el trabajo de largo horizonte que separa la estrategia de la tarea de la gestión de la ejecución. Este sistema permite la colaboración humano-IA mediante la inspección y revisión conjunta de artefactos como documentos y modelos, permitiendo la participación humana a través de conversación o modificación directa. CoworkOS demuestra competitividad con agentes de vanguardia en múltiples benchmarks.
- Jiajie Jin
- Guanting Dong
- Chengjun Pan
- Xin Deng
- Zhuohui Sheng
- Guoqiang Wang
- Tao Gui
- Yutao Zhu
- Yujia Chen
- Shihong Yi
- Binze Hu
- Zhixiong Yang
- Zhichao Sun
- Rui Wang
- Han Han
- Mingyu Ma
- Junhao Huang
- Xiaotao Wang
- Huicheng Jiang
- Yuyang Hu
- Xinyu Yang
- Wanghan Xu
- Yajie Yang
- Zhecan Wang
- Honglin Guo
- Xiaoyu Xing
- Xiaoqian Zhang
- Yulun Zhu
- Xiaoxi Li
- Jiahang Lin
- Shaofan Liu
- Shihan Dou
- Zhiheng Xi
- Qi Zhang
- Yu-Gang Jiang
- See-Kiong Ng
- Yang Zhang
- Tat-Seng Chua
- Ji-Rong Wen
- Zhicheng Dou
Enrutamiento dinámico de precisión mixta para una interacción eficiente de LLM
Se propone el Enrutamiento Dinámico de Precisión Mixta (DMR) para mejorar la eficiencia de la interacción de modelos de lenguaje grandes (LLM) en tareas agenticas de largo horizonte. DMR selecciona adaptativamente entre versiones de alta y baja precisión del LLM en cada paso de decisión, identificando pasos críticos para optimizar el rendimiento y reducir el costo de inferencia. Este enfoque logra una aceleración de decodificación promedio de 2.44x sobre FP16 en benchmarks de agentes.
ProtoSemImage: Prototipos de imagen con alineación de fila deformable para clasificación de documentos interpretable
Se presenta ProtoSemImage, un método que utiliza imágenes prototipo en espacio HSV para la clasificación de documentos. El modelo busca mejorar la representación visual de los documentos mediante una alineación de fila deformable. La investigación demuestra que esta representación supera a modelos basados en vectores, mejorando el rendimiento en tareas de clasificación.
La ilusión de alineación: Cómo BadReward corrompe la generación de texto a imagen
Se explora la posibilidad de envenenar el proceso RLHF en modelos de texto a imagen mediante un ataque llamado BadReward. Este ataque manipula las señales de recompensa para incrustar comportamientos maliciosos en el contenido generado. Los experimentos demuestran que esta manipulación corrompe la señal de recompensa y es efectiva en arquitecturas modernas de texto a imagen.
Anchor: Prevención de deriva de artefactos para verificación fiable de agentes
Se presenta Anchor, un pipeline para construir benchmarks que formaliza especificaciones de flujos de trabajo empresariales en programas de optimización. Este sistema genera instrucciones, configuraciones de entorno y soluciones certificadas para evaluar agentes de IA. Se aplica a ERP-Bench, un benchmark de 300 tareas para flujos de trabajo de adquisición y fabricación. El objetivo es crear entornos de evaluación auditables cuyos verificadores coincidan con las tareas empresariales valiosas.
Planificación de Frontera Generativa para el reclutamiento por referidos
Se propone la Planificación de Frontera Generativa (GFP) para optimizar la asignación de presupuestos en programas de referidos entre pares, buscando maximizar el reclutamiento de poblaciones de alto riesgo para enfermedades infecciosas. El modelo aprende la capacidad de referencia y las covariables del referente para mejorar la eficiencia de los programas. Los resultados indican que GFP puede reclutar hasta un 21.5% más individuos que los métodos de referencia por pares existentes con el mismo presupuesto.
Prueba programable inspirada en memoria de trabajo para el seguimiento de estado acumulativo en modelos de lenguaje grandes
Se presenta una sonda inspirada en memoria de trabajo para evaluar el seguimiento de estado acumulativo en modelos de lenguaje grandes (LLM). Los resultados indican que la precisión depende significativamente de los protocolos de salida y la cantidad de actualizaciones permitidas. Se demuestra que una fuerte aritmética de un solo paso no asegura un seguimiento acumulativo fiable.