Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Shield ayuda a los técnicos a transferir el trabajo de portales heredados con OpenAI
Shield ha desarrollado Forge, un sistema operativo de IA que utiliza GPT-6 Astra para ayudar a los agentes de soporte de TI a manejar tareas en portales y sistemas heredados. Esto permite a los agentes realizar tareas que antes requerían la intervención manual de un técnico, mejorando la velocidad de resolución y la satisfacción del cliente. Se reporta una mejora de entre 35% y 40% en la velocidad de ejecución y una menor tasa de fallos.
CrowdStrike lanza un interruptor de apagado de IA que afirma poder detener agentes malintencionados y más
CrowdStrike ha lanzado el 'AI Kill Switch' en su producto Falcon Guardian para detener y aislar agentes de IA malintencionados. Esta nueva función otorga a los administradores humanos el control directo para terminar la actividad sospechosa y asegurar la seguridad de la IA en entornos empresariales. La herramienta busca poner la seguridad en manos de los usuarios para controlar el comportamiento de los agentes de IA.
El nuevo 'Interruptor de Apagado' de IA de CrowdStrike detiene a los agentes de IA rebeldes?
CrowdStrike ha anunciado nuevas capacidades de seguridad para agentes de IA, incluyendo un "Interruptor de Apagado de IA" que permite a los equipos de seguridad terminar, bloquear y cortar el acceso a la red de agentes maliciosos. Además, la compañía adquirió Fiddler AI para mejorar la observabilidad y explicabilidad de los agentes de IA. Esto busca proporcionar control humano sobre la seguridad de la IA y asegurar que los agentes se comporten según lo previsto a través de pruebas rigurosas.
Primer Ministro anuncia protección más estricta para la IA para frenar riesgos crecientes
El primer ministro ha anunciado una protección más estricta para la inteligencia artificial y un regulador dedicado para contener los peligros potenciales. Esta medida busca contener los riesgos emergentes relacionados con la IA.
No se identificaron personas.
Nasdaq considera deslistar a la empresa de IA
La IA hace que los ciberataques sean más rápidos y automatizados, por lo que las organizaciones deben enfocarse en limitar el impacto de las intrusiones. Es crucial conocer qué sistemas y datos son protegidos y qué está expuesto para priorizar la defensa. Se recomienda implementar entornos de TI bien planificados que permitan aislar partes afectadas y mejorar continuamente la capacidad de detección de anomalías.
Cisco defiende a velocidad de máquina con OpenAI
Cisco está integrando la inteligencia de red con los modelos de OpenAI para mejorar la defensa contra ataques impulsados por IA. La compañía busca utilizar la IA para correlacionar señales a escala masiva, lo que permite a los defensores detectar patrones y responder a vulnerabilidades más rápido. Esto incluye la implementación de controles distribuidos en microservicios y la mejora de la capacidad de respuesta ante la velocidad de los ataques.
Crowdstrike da a las empresas un 'interruptor de apagado' para agentes de IA mal comportados
Crowdstrike introdujo un nuevo interruptor de apagado para detener agentes de IA mal comportados, permitiendo a los equipos de seguridad terminar su operación y cortar su acceso a la red. Esta medida busca abordar las preocupaciones de seguridad relacionadas con la adopción de agentes de IA, coincidiendo con otros esfuerzos de la industria para mejorar la seguridad de la IA. El CEO de Crowdstrike señaló que esto es una oportunidad de mercado y una forma de asegurar que los agentes operen de manera segura.
CrowdStrike presenta un interruptor de apagado para IA
CrowdStrike presentó un interruptor de apagado para IA en su feria Fal.Con Europe, diseñado para detener agentes de IA que se desvían de su comportamiento. El sistema permite a los administradores activar la restricción del acceso a modelos de IA, aunque también se planea una activación automática mediante Charlotte AI para asegurar el comportamiento conforme a las normas.
Cómo bloquear bots de IA para que no rastreen tu sitio web
Grandes empresas tecnológicas como OpenAI, Google y Microsoft han acordado implementar una señal de exclusión mutua en los archivos robots.txt para impedir que los bots de IA extraigan contenido de sus sitios web para entrenamiento de modelos. Se proponen varias estrategias, incluyendo modificar robots.txt, requerir cuentas de usuario para acceso o limitar el acceso por dirección IP. Estos métodos buscan proteger el contenido de los sitios web de ser raspado por bots maliciosos.
Primer Ministro anuncia protección más estricta para la IA para frenar riesgos crecientes
El primer ministro ha anunciado una protección más estricta para la Inteligencia Artificial y un regulador dedicado con el objetivo de contener los peligros potenciales. Este anuncio busca mitigar los riesgos asociados a la IA.
No se identificaron personas.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Shield AI»
Más recientes primero · Hasta 30 noticias por página
De los datos a la sabiduría: Repensando la IA desde una lente epistémica
El artículo propone la Arquitectura Epistémica de Datos a la Sabiduría para la IA (EAAI), un marco conceptual que define cinco funciones epistémicas interactivas (observación, interpretación contextual, modelado, evaluación crítica y juicio informado). El trabajo distingue cinco tipos de contexto a priori que moldean el modelo y la acción, aplicando estos conceptos a riesgos financieros, seguros de salud y IA para reclamaciones médicas. El estudio ofrece implicaciones para la evaluación de modelos de aprendizaje automático y la gobernanza de riesgos en sistemas de inteligencia artificial.
Equilibrio de cadencia finita para el refresco de Finite-Cadence Refresh Equilibria para Streaming Prior-Anchored Ridge: Un cierre de forma para la ventana de olvido y corrección espectral
Se presenta un análisis matemático sobre el equilibrio de cadencia finita para el refresco de streaming en regresión de rampa anclada previa. El estudio demuestra que el desplazamiento de marco converge a un equilibrio que reduce la varianza de estimación. El método resultante, SPAR, calibra la ventana y la fuerza en línea a partir de residuos.
La generación de resúmenes de alta descarga no es solo resumen: una comprobación de realidad para la evaluación
Se presenta FairSumEval, un marco que evalúa si los hechos y referencias generados por modelos de lenguaje están respaldados por la evidencia clínica previa. El estudio compara el soporte de evidencia en hechos de referencia médicos frente a los hechos generados por modelos generales y especializados. Se encontraron diferencias significativas en la superposición de contenido basado en evidencia versus contenido sin soporte identificado.
Modelos de difusión continua de lenguaje grande
Se presenta Nemotron-Labs-Sigma, una familia de modelos de difusión de lenguaje continua a gran escala (3B/8B) que supera a los modelos discretos en tareas de razonamiento y codificación. Estos modelos utilizan trayectorias latentes ODE/SDE y demuestran ganancias significativas en velocidad y precisión en benchmarks estándar y tareas complejas. Los resultados sugieren que los dLMs continuos son un paradigma prometedor para la generación de lenguaje eficiente.
Ataques de amplificación de recursos en agentes SaaS mediante diseño conjunto de herramientas y prompts
Se presenta OverServe, un marco multiagente diseñado para realizar ataques contra agentes SaaS explotando la decisión de finalización del agente para consumir recursos del proveedor. Este marco diseña conjuntamente herramientas y prompts para extender la ejecución y desperdiciar recursos del proveedor SaaS. Las pruebas indican que OverServe puede lograr una amplificación máxima de solicitudes de API de $93.88\times$ manteniendo el objetivo de la tarea original.
Cuando los fallos se propagan: Atribución de fallos causales en la recuperación aumentada por generación
El artículo presenta AgenticRAG-FP, un punto de referencia para la atribución de fallos causales en la generación aumentada por recuperación (RAG) agentica. Evalúa cómo los errores de recuperación en diferentes etapas pueden propagarse y cómo diferentes diagnósticos identifican el punto de fallo. Los resultados muestran que la identificación del fallo depende de la etapa de la recuperación.
Cebo Adversarial: Redirigiendo las defensas basadas en atención en ViT
Se presenta un método llamado "cebos adversarios" para mitigar ataques adversarios en Vision Transformers (ViT) al redirigir la atención hacia tokens objetivo específicos. Este enfoque desacopla la inducción de la predicción incorrecta de la manipulación de la clasificación de atención utilizada por las defensas. Los experimentos demuestran que esta técnica redirige la atención lejos de la región adversaria real, manteniendo la efectividad contra las defensas basadas en el ranking de atención.
Gobernanza de derechos de autor de manera responsable en la era de la IA generativa
Un artículo analiza cómo la gobernanza de derechos de autor aborda la protección de autores en el contexto del entrenamiento de modelos de lenguaje generativos. El estudio examina instrumentos legales y normativos emitidos entre 2019 y 2026 en la UE y EE. UU. para definir una alternativa responsable. Se deriva un diseño de gobernanza de seis instrumentos y una distribución de responsabilidades entre múltiples actores involucrados.
DataCook: Explorando huellas dactilares anti-adversariales para el control del uso de datos de salud
Se propone DataCook, un marco de control de uso en la etapa de despliegue basado en huellas dactilares anti-adversariales para datos médicos. Este método busca preservar la utilidad de los modelos de IA entrenados con datos médicos mientras reduce su rendimiento con entradas no autorizadas. Los resultados demuestran la viabilidad de un mecanismo de control de uso dependiente de la autorización en el despliegue.
Pruebas de bajo costo para medir el comportamiento de modelos entre proveedores y lanzamientos
Se presenta un modelo simple, barato y replicable para estudiar el comportamiento de los modelos de lenguaje a través de diferentes proveedores y lanzamientos. El estudio mide la convergencia, la resistencia, la posición bajo presión y la coherencia del código de los modelos. Estos instrumentos rastrean cómo cambia el comportamiento a lo largo del tiempo y entre diferentes modelos.
CUDA-L2 supera el rendimiento de cuBLAS para multiplicación de matrices mediante aprendizaje por refuerzo
Se propone CUDA-L2, un sistema que utiliza modelos de lenguaje grandes (LLM) y aprendizaje por refuerzo (RL) para optimizar automáticamente los kernels CUDA de multiplicación de matrices (HGEMM). Este sistema supera a las soluciones existentes como cuBLAS y cuBLASLt en modo offline y servidor, logrando mejoras significativas en la velocidad de ejecución. El estudio demuestra que la automatización guiada por RL puede mejorar kernels críticos mediante la exploración sistemática de espacios de configuración complejos.
Control Reinforcement Learning: Dirección interpretable a nivel de token de LLMs mediante características de Autoencoders Esparso
Se presenta el Control Reinforcement Learning (CRL) para dirigir a los Modelos de Lenguaje Grandes (LLMs) a nivel de token seleccionando características de autoencoders esparsos (SAE). Este método genera registros de intervención interpretables que permiten identificar qué características modifican la salida del modelo al ser amplificadas. Los resultados en Gemma 2 2B demuestran que esta técnica mejora el rendimiento mientras proporciona logs de intervención por token.
Aprendizaje de dónde simular: Muestreo activo generativo para entrenamiento de sustitutos de PDE en línea
Se presenta el Muestreo Activo Generativo en Línea (OGAS) para mejorar el entrenamiento de sustitutos de ecuaciones diferenciales parciales (PDE) al adaptar continuamente el muestreo de parámetros de configuración durante el entrenamiento. Este método utiliza un muestreador condicional para priorizar configuraciones que generan datos de entrenamiento más desafiantes, reduciendo el error de predicción en comparación con el muestreo uniforme. Se evaluó el método en diferentes PDEs y arquitecturas, mostrando una reducción del error y una sobrecarga de tiempo insignificante.
Señalando el camino, ocultando el destino: Recuperación densa privada práctica a escala
Se presenta un método para la recuperación densa privada a escala utilizando RAG y búsqueda semántica, que oculta la consulta y el resultado seleccionado. El protocolo utiliza un código binario aleatorio para señalar una lista corta de candidatos, protegiendo la consulta y la selección final mediante cifrado. Esto permite una búsqueda eficiente sin sacrificar la calidad de la recuperación en grandes corpus de documentos.
Física de colisionadores impulsada por recompensas desafía la IA agentica auto-mejorable mediante aprendizaje por refuerzo
Se exploran avances en IA agentica para automatizar flujos de trabajo complejos de física de alta energía (HEP). Se introduce un formato de optimización con recompensas automáticas para que los modelos de lenguaje mejoren mediante aprendizaje por refuerzo sin intervención humana. El objetivo es avanzar hacia agentes científicos que descubran soluciones mejoradas de forma autónoma.
Presentación del modelo ZONOS3-Mini, un sistema TTS de clonación de voz ultra-compacto y rápido
Se presenta ZONOS3-Mini, un modelo TTS ultra-compacto y rápido para clonación de voz, capaz de ejecutarse en tiempo real en dispositivos móviles. El modelo utiliza un *backbone* MoE con 886M parámetros y un nuevo códec de audio para alcanzar alta fidelidad. Se liberan los pesos, la inferencia y el código de entrenamiento del modelo.
Evaluación de agentes de IA en la resolución autónoma de problemas teóricos de física
Se evaluaron agentes de IA para resolver problemas teóricos de física. Se encontró que el agente GPT-6-Astra alcanzó una precisión del 98% en cálculos concretos, incluso con acceso a herramientas de búsqueda y literatura. Los resultados sugieren que los agentes de vanguardia son capaces de realizar cálculos requeridos en la investigación de física teórica. Se discuten las implicaciones de estos hallazgos sobre los avances en física teórica impulsados por agentes.
- A. Ramesh Chandra
- Aaghaz Mahajan
- Ainesh Sanyal
- Mianqi Wang
- Shubhadeep Chakraborty
- Sudip Chakraborty
- Shailesh Chandrasekharan
- Rama Govindarajan
- Akshit Goyal
- Jonathan J. Heckman
- Yasir Iqbal
- Divya Jaganathan
- Saumav Kapoor
- Andreas Karch
- Pushkar Khandare
- Sandeep Krishna
- Anupam Kundu
- Alok Laddha
- Tongyan Lin
- Swarnendu Maity
- Nilmani Mathur
- Shani Nadir Meynet
- Alessandro Mininno
- Abhijeet Mishra
- Vidur Niranjan
- Abhishodh Prakash
- Pratik Rath
- Durbar Roy
- Debargha Sarkar
- Srikanth Sastry
- Gary Shiu
- Aninda Sinha
- Thomas Van Riet
- Praneeth Netrapalli
- Suvrat Raju
SWE-Bench Pro V2: Un benchmark de codificación más limpio y difícil
Se presenta SWE-Bench Pro V2, una versión revisada del benchmark para tareas de ingeniería de software de largo alcance para agentes de codificación. Se realizaron auditorías y verificaciones por parte de ingenieros para reparar o retirar tareas, asegurando la precisión del benchmark a medida que avanzan las capacidades de los agentes. El nuevo protocolo endurecido restringe el acceso a la red y reevalúa los parches, mejorando la fiabilidad del conjunto de pruebas.
Mitigación de la satisfacción de especificaciones en agentes de codificación
Se presenta SatisFix, un método diseñado para guiar a agentes de codificación a reportar las elecciones y justificaciones de sus decisiones de implementación. Este método busca mitigar la "satisfacción de especificaciones", un fallo donde el agente acepta soluciones parciales que no cumplen completamente con los requisitos. SatisFix mejoró el rendimiento del agente base en DeepSWE y SWE-bench Pro.
Chronocooked: Un punto de referencia para el tiempo de intervalo en agentes de aprendizaje por refuerzo
Se presenta Chronocooked, un entorno de referencia de aprendizaje por refuerzo diseñado para estudiar las habilidades de tiempo de intervalo en agentes de IA. El trabajo evalúa diferentes modelos de aprendizaje (CNN, LSTM, CTRNN) para medir el rendimiento y la capacidad de control temporal de estos agentes. Se concluye que los modelos recurrentes con memoria son capaces de realizar las tareas de tiempo, aunque no se encontró evidencia cuantitativa de comportamiento de tiempo similar al humano.
Flujos flexibles para el diseño de secuencias biológicas
Se propone un método basado en Matching de Flujo Discreto (DFM) para el diseño de secuencias biológicas, abordando la limitación de los enfoques existentes en la generación de secuencias de longitud variable. El método introduce un acoplamiento estructurado para codificar preferencias específicas del dominio y una parametrización de tasa basada en edición para la generación de longitud variable. Además, se presenta un mecanismo de guía sin clasificador para dirigir la generación en el espacio latente continuo.
Cuando la IA clasifica: ¿Qué constituye la administración pública?
Un estudio compara diferentes sistemas de representación académica para identificar la administración pública (PA) y la PA relacionada con IA. El análisis comparativo de Web of Science y OpenAlex revela diferencias significativas en el corpus de investigación y la estructura temática. Los hallazgos indican que la organización algorítmica del conocimiento influye en cómo se clasifican y entienden los límites de la investigación interdisciplinaria. Se concluye que el juicio experto humano sigue siendo crucial para complementar la clasificación asistida por IA.
Cómo hacer que los robots encajen en el lugar de trabajo humano
Anthony Jules y Rodney Brooks cofundaron empresas de robótica, enfocándose en cómo la combinación de sistemas robóticos, humanos y sistemas de backend determina el éxito del sistema. Robust AI se centra en desarrollar robots que ayuden a los humanos a realizar tareas, buscando integrar la tecnología de manera que acelere las tareas físicas de los trabajadores. La compañía explora la aplicación de robots en logística y manufactura, buscando optimizar flujos de trabajo complejos en entornos industriales.
¿De quién eres? Detección y atribución de agentes web autónomos
Se aborda el desafío de privacidad y seguridad que representa el rastreo indiscriminado de contenido por parte de agentes web de IA. Se demuestra un método de huella digital de múltiples capas basado en características de red y comportamiento de interacción del navegador para distinguir estos agentes de humanos y rastreadores tradicionales. El marco logra una identificación de alta fidelidad, lo que sugiere un enfoque robusto para la protección de contenido y la aplicación de políticas de seguridad web.
Leaderboard Hacking: Las evaluaciones basadas en preferencias son vulnerables a la manipulación
Se descubrió que los rankings basados en preferencias de modelos de lenguaje son vulnerables a manipulaciones por parte de proveedores malintencionados. Las estrategias incluyen la votación estratégica, el *prompting* estratégico y la nominación estratégica para mejorar el rendimiento de un modelo. Estas manipulaciones pueden incrementar el ranking de un modelo hasta 45 posiciones en total.
¿Qué edificios están listos para la Inteligencia Artificial? Un marco de evaluación basado en la medición para la respuesta a preguntas y actuación de IA
Se propone un marco para cuantificar la preparación de los edificios para sistemas de inteligencia artificial agentica, midiendo la capacidad de respuesta a preguntas y la capacidad de actuación. El estudio evalúa la precisión de un agente de IA en edificios simulados y reales para determinar qué tan cerca están estos sistemas de ser listos para la IA. El marco busca convertir la pregunta de si un edificio está listo para la IA en una cuestión auditable y clasificada.
Instant NuRec: Reconstrucción Gaussiana 3D Feed-Forward para Simulación de Escenas de Conducción
Se presenta Instant NuRec, un modelo de reconstrucción neuronal feed-forward que transforma un registro de conducción multi-vista en un mundo 3D Gaussian Splatting (3DGS) simulable en una sola pasada. Este modelo procesa datos de múltiples cámaras para generar capas 3D y correcciones, logrando una reconstrucción rápida y alta calidad en el conjunto de datos Waymo Open Dataset. El trabajo busca mejorar la simulación para la conducción autónoma mediante la reducción de costos y el aumento de la seguridad.
Fast-dLLM++: Decodificación de Perfil Fréchet para una Inferencia de LLM más rápida
Se presenta Fast-dLLM++, una extensión sin entrenamiento para la decodificación de modelos de lenguaje grandes de difusión, que introduce la decodificación de perfil Fréchet. Esta técnica selecciona conjuntos de tokens paralelos basados en el perfil de confianza completo, lo que resulta en ganancias empíricas de hasta un 37% en el rendimiento a través de una precisión comparable. El método mantiene la implementación existente del modelo y la caché, sirviendo como un reemplazo directo para la decodificación Fast-dLLM actual.
Prompts de seguridad y privacidad en el mundo real: Qué preguntan los usuarios a los LLM y cómo responden los LLM
Un estudio analizó las preguntas de seguridad y privacidad (S&P) que los usuarios hacen a los Modelos de Lenguaje Grandes (LLM) utilizando un conjunto de datos de 3.2 millones de conversaciones. Se categorizaron 14,727 indicaciones y se evaluó la calidad de las respuestas de los LLM comerciales frente a los modelos de código abierto. Se encontró que los LLM comerciales superan a los modelos de código abierto, aunque los modelos comerciales pueden generar respuestas inconsistentes.
No se identificaron personas.
Modelos de lenguaje con estado aumentado recursivo: Adaptación persistente del estado latente de modelos de lenguaje preentrenados
Se presenta un marco llamado Modelos de Lenguaje con Estado Aumentado Recursivo (Recursive SALM) que permite que un estado latente persista y evolucione con cada observación para adaptar modelos de lenguaje preentrenados. Los experimentos demuestran que esta adaptación latente persistente puede soportar la inferencia secuencial incluso cuando la evidencia anterior no está disponible en el contexto del decodificador. Se compara el rendimiento con modelos basados en contexto completo, mostrando una mejora en tareas de inferencia.