Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Shield ayuda a los técnicos a transferir el trabajo de portales heredados con OpenAI
Shield ha desarrollado Forge, un sistema operativo de IA que utiliza GPT-6 Astra para ayudar a los agentes de soporte de TI a manejar tareas en portales y sistemas heredados. Esto permite a los agentes realizar tareas que antes requerían la intervención manual de un técnico, mejorando la velocidad de resolución y la satisfacción del cliente. Se reporta una mejora de entre 35% y 40% en la velocidad de ejecución y una menor tasa de fallos.
CrowdStrike lanza un interruptor de apagado de IA que afirma poder detener agentes malintencionados y más
CrowdStrike ha lanzado el 'AI Kill Switch' en su producto Falcon Guardian para detener y aislar agentes de IA malintencionados. Esta nueva función otorga a los administradores humanos el control directo para terminar la actividad sospechosa y asegurar la seguridad de la IA en entornos empresariales. La herramienta busca poner la seguridad en manos de los usuarios para controlar el comportamiento de los agentes de IA.
El nuevo 'Interruptor de Apagado' de IA de CrowdStrike detiene a los agentes de IA rebeldes?
CrowdStrike ha anunciado nuevas capacidades de seguridad para agentes de IA, incluyendo un "Interruptor de Apagado de IA" que permite a los equipos de seguridad terminar, bloquear y cortar el acceso a la red de agentes maliciosos. Además, la compañía adquirió Fiddler AI para mejorar la observabilidad y explicabilidad de los agentes de IA. Esto busca proporcionar control humano sobre la seguridad de la IA y asegurar que los agentes se comporten según lo previsto a través de pruebas rigurosas.
Primer Ministro anuncia protección más estricta para la IA para frenar riesgos crecientes
El primer ministro ha anunciado una protección más estricta para la inteligencia artificial y un regulador dedicado para contener los peligros potenciales. Esta medida busca contener los riesgos emergentes relacionados con la IA.
No se identificaron personas.
Nasdaq considera deslistar a la empresa de IA
La IA hace que los ciberataques sean más rápidos y automatizados, por lo que las organizaciones deben enfocarse en limitar el impacto de las intrusiones. Es crucial conocer qué sistemas y datos son protegidos y qué está expuesto para priorizar la defensa. Se recomienda implementar entornos de TI bien planificados que permitan aislar partes afectadas y mejorar continuamente la capacidad de detección de anomalías.
Cisco defiende a velocidad de máquina con OpenAI
Cisco está integrando la inteligencia de red con los modelos de OpenAI para mejorar la defensa contra ataques impulsados por IA. La compañía busca utilizar la IA para correlacionar señales a escala masiva, lo que permite a los defensores detectar patrones y responder a vulnerabilidades más rápido. Esto incluye la implementación de controles distribuidos en microservicios y la mejora de la capacidad de respuesta ante la velocidad de los ataques.
Shadow AI: la inteligencia artificial que las empresas no ven
La práctica de usar herramientas de inteligencia artificial sin la autorización de la empresa, conocida como Shadow AI, está generando un conflicto entre la adopción rápida de estas tecnologías y las restricciones de ciberseguridad. Se destaca la necesidad de que las organizaciones establezcan políticas claras para regular el uso de IA, ofreciendo soluciones empresariales seguras y capacitando al personal. El Estado está comenzando a establecer marcos regulatorios, como el Código de Ética de la IA para servicios públicos, para equilibrar la productividad con la protección de la información confidencial.
Crowdstrike da a las empresas un 'interruptor de apagado' para agentes de IA mal comportados
Crowdstrike introdujo un nuevo interruptor de apagado para detener agentes de IA mal comportados, permitiendo a los equipos de seguridad terminar su operación y cortar su acceso a la red. Esta medida busca abordar las preocupaciones de seguridad relacionadas con la adopción de agentes de IA, coincidiendo con otros esfuerzos de la industria para mejorar la seguridad de la IA. El CEO de Crowdstrike señaló que esto es una oportunidad de mercado y una forma de asegurar que los agentes operen de manera segura.
CrowdStrike presenta un interruptor de apagado para IA
CrowdStrike presentó un interruptor de apagado para IA en su feria Fal.Con Europe, diseñado para detener agentes de IA que se desvían de su comportamiento. El sistema permite a los administradores activar la restricción del acceso a modelos de IA, aunque también se planea una activación automática mediante Charlotte AI para asegurar el comportamiento conforme a las normas.
Cómo bloquear bots de IA para que no rastreen tu sitio web
Grandes empresas tecnológicas como OpenAI, Google y Microsoft han acordado implementar una señal de exclusión mutua en los archivos robots.txt para impedir que los bots de IA extraigan contenido de sus sitios web para entrenamiento de modelos. Se proponen varias estrategias, incluyendo modificar robots.txt, requerir cuentas de usuario para acceso o limitar el acceso por dirección IP. Estos métodos buscan proteger el contenido de los sitios web de ser raspado por bots maliciosos.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Shield AI»
Más recientes primero · Hasta 30 noticias por página
¿Qué tan diversas son las salvaguardas en capas? Estimaciones y mediciones para ensamblajes de defensas contra jailbreaks de LLM
El artículo analiza la protección de los modelos de lenguaje grandes (LLM) mediante la apilamiento de salvaguardas como filtros de probabilidad y clasificadores. Se definen tres estimaciones y controles para medir la diversidad y la efectividad de estos ensamblajes de defensas contra ataques de jailbreak. Se demuestra que la diversidad entre salvaguardas neuronales es medible, aunque la fuerza de un miembro depende de la tripleta (pila, adversario, objetivo).
Cómo la especificidad de la especificación influye en el fallo del código generado por LLM
Un experimento evaluó cómo la explicitud de las especificaciones afecta el código generado por LLMs. Se encontró que exigir obligaciones de comportamiento explícitas redujo significativamente los fallos, mejoró la calidad del código y redujo las regresiones, aunque las especificaciones explícitas también hicieron que los desarrolladores fueran más cautelosos al juzgar el código.
ResBench: Evaluación de diseños de FPGA generados por LLM con conciencia de recursos
Se presenta ResBench, un punto de referencia enfocado en recursos diseñado para diferenciar el código HDL generado por LLMs en términos de optimización de recursos. El benchmark evalúa la generación de código Verilog por LLMs, verificando la corrección y midiendo el uso de recursos, específicamente el uso de LUT. Esto permite identificar qué modelos generan diseños de FPGA más eficientes.
Actuación por intención, reacción por vista: Reflejos condicionados visuales para agentes VLM en tiempo real
Se propone ViCoR (Reflejo Condicionado Visual) para mejorar la interacción de los Modelos de Lenguaje-Visión (VLM) en entornos de tiempo real, combinando control deliberado con reflejos visuales rápidos. Este mecanismo reduce la latencia de decisión en 2.6x y disminuye el consumo de tokens, logrando un rendimiento de vanguardia en benchmarks de juegos 2D y 3D.
Clasificación de imágenes de textura usando fusión de características DWT AlexNet y redes neuronales profundas
Se propone un marco de fusión de características híbrido llamado DWT_AlexNet_DNN para la clasificación de imágenes de textura. Este método combina características de la Transformada Wavelet Discreta (DWT) con características profundas extraídas por AlexNet. El objetivo es mejorar la capacidad de clasificación de imágenes de textura en aplicaciones de visión por computadora.
ViSAR: Recuperación adaptativa-$k$ sin entrenamiento para preguntas y respuestas visuales de documentos
Se presenta ViSAR, un método de recuperación adaptativo-$k$ sin entrenamiento para la recuperación visual de documentos. Este método opera en el espacio de incrustación para determinar dinámicamente el número de páginas a recuperar, reduciendo la latencia de RAG hasta un 58.9% sin afectar la precisión. Se demuestra que la estructura de la matriz de similitud se correlaciona con la precisión de la respuesta.
EHR-RAGp: Recuperación guiada por prototipo de registros médicos electrónicos longitudinales para modelos de predicción clínica
Se presenta EHR-RAGp, un marco basado en recuperación diseñado para integrar dinámicamente el historial de pacientes más relevante de los Registros de Salud Electrónicos (EHR) para modelos predictivos. Este enfoque utiliza un módulo guiado por prototipo para evaluar la relevancia del contexto histórico, logrando un rendimiento superior a las soluciones existentes. El método demuestra ser agnóstico al modelo y mejora el rendimiento al modelar el contexto clínico de largo alcance.
Distilación de Programas: Transferencia de Capacidad de LLM de Sistema 2 a Sistema 0
Se propone el marco de Distilación de Programas (PD) para transferir habilidades de los Modelos de Lenguaje Grandes (LLM) del Sistema 2 al Sistema 0. Este enfoque busca mejorar el rendimiento y reducir el tiempo de inferencia al permitir que un programa estudiante ejecute la política generada por el LLM. Se presenta un *benchmark* llamado PDBench que demuestra la superioridad del modelo propuesto sobre otros métodos.
Investigación empírica de la robustez de los Modelos de Lenguaje Grandes ante distorsiones tabulares
Se investiga la robustez de los Modelos de Lenguaje Grandes (LLM) ante distorsiones en tablas extraídas de fuentes reales. Los resultados indican debilidades en los paradigmas de preentrenamiento actuales, ya que los modelos tienden a asumir que las tablas son correctas. Aunque el *prompting* específico puede mitigar algunos fallos, los errores persisten incluso en modelos avanzados. Se demuestra que el ajuste fino puede enseñar a los modelos a detectar y corregir tablas distorsionadas.
El primer token conoce: Confianza de decodificación única para la detección de alucinaciones
Se investiga la confianza en el primer token de una decodificación greedy para detectar alucinaciones en modelos de lenguaje. Se define la confianza del primer token (phi_first) y se compara con métodos más complejos, encontrando que es una línea base útil para la estimación de incertidumbre en QA fáctica. El estudio sugiere que esta métrica es correlacionada con el acuerdo semántico, aunque tiene limitaciones en casos de falsedades de alta confianza.
Proxy OPD: Distilación On-Policy con Proxy Relativo Transferible para Modelos de Lenguaje Grandes
Se propone el Proxy OPD (P-OPD), un método post-entrenamiento que transfiere actualizaciones de política inducidas por la recompensa utilizando la política base congelada del objetivo como referencia. Este método busca reutilizar mejoras inducidas por la recompensa entre diferentes modelos mediante la transferencia de actualizaciones de política relativas. Los experimentos demuestran que P-OPD supera a la destilación on-policy (OPD) convencional en tareas como razonamiento matemático y generación de código.
DeCO: Composición de Evidencia Discriminatoria para Destilación de Conjuntos de Datos de Granularidad Fina
Se propone el método Discriminative Evidence Composition (DeCO) para la destilación de conjuntos de datos de granularidad fina, buscando preservar la evidencia localizada en lugar de solo estadísticas globales. DeCO utiliza atención para identificar parches informativos y organiza regiones por clase para crear imágenes compactas. Los experimentos demuestran que DeCO supera a los métodos existentes en diversas tareas de clasificación visual.
Simulación de Conjuntos de Datos Federados: Induciendo Heterogeneidad sin Etiqueta en Tareas
Se presenta la Simulación de Conjuntos de Datos Federados (FDS) para evaluar el Aprendizaje Federado, abordando la escasez de datos reales y la limitación de los métodos basados en etiquetas. Se proponen dos métodos sin etiqueta, geométrico y semántico, aplicables a tareas de clasificación y predicción densa. Los resultados muestran que estos métodos inducen una heterogeneidad comparable o superior a la del particionamiento por sesgo de etiqueta, afectando el rendimiento del FL.
WAXAL: Un corpus de habla multilingüe africana a gran escala
Se presenta WAXAL, un conjunto de datos de voz abierto y grande que cubre 27 idiomas africanos con más de 100 millones de hablantes. Este corpus incluye datos de ASR y TTS, y se realizaron pruebas comparativas de tres modelos de ASR, mostrando mejoras significativas en la precisión al ajustar con WAXAL.
- Abdoulaye Diack
- Perry Nelson
- MohamedElfatih MohamedKhair
- Emmanuel Asiedu Brempong
- Subhashini Venugopalan
- Tavonga Siyavora
- Vusumuzi Dube
- Kwaku Agbesi
- Angela Nakalembe
- Jason Hickey
- Uche Okonkwo
- Abhishek Bapna
- Isaac Wiafe
- Raynard Dodzi Helegah
- Elikem Doe Atsakpo
- Charles Nutrokpor
- Fiifi Baffoe Payin Winful
- Kafui Kwashie Solaga
- Jamal-Deen Abdulai
- Akon Obu Ekpezu
- Audace Niyonkuru
- Samuel Rutunda
- Boris Ishimwe
- Michael Melese
- Engineer Bainomugisha
- Joyce Nakatumba-Nabende
- Andrew Katumba
- Claire Babirye
- Jonathan Mukiibi
- Vincent Kimani
- Samuel Kibacia
- James Maina
- Fridah Emmah
- Ahmed Ibrahim Shekarau
- Ibrahim Shehu Adamu
- Yusuf Abdullahi
- Howard Lakougna
- Kode Niane
- Bob MacDonald
- Pooja Rao
- Hadar Shemtov
- Prince Mireku
- Aisha Walcott-Bryant
- Moustapha Cisse
- Avinatan Hassidim
- Jeff Dean
- Yossi Matias
Modelo teórico asistido por LLM para dispersión de ruido de instalación de motores aeroacústicos
Se desarrolló un modelo teórico para el ruido del ventilador de un motor aeroacústico que incide y se dispersa en una placa rígida. El modelo utiliza problemas de Wiener-Hopf y transformaciones espectrales para resolver la dispersión del ruido. Se utilizó un modelo de lenguaje grande (LLM) para asistir en la manipulación algebraica, demostrando que la IA puede acelerar el álgebra en mecánica de fluidos teórica.
Red de antena fluida de baja altitud con aprendizaje por refuerzo multiagente
Se presenta un marco de aprendizaje por refuerzo multiagente (MARL) para la reconfiguración rápida y de alto rendimiento de redes de antena fluida (FA) de baja altitud. El estudio demuestra que la optimización conjunta de posiciones y formación de haces puede incrementar la tasa de suma del sistema en un 118.5% comparado con una configuración fija. Esto se logra mediante la reconfiguración dinámica de los arreglos de antenas y la dirección adaptativa de haces hacia usuarios aéreos móviles.
PEIRA: Aprendizaje de codificadores predictivos a través de alineación de regresor inter-vista
Se presenta PEIRA, un método de aprendizaje auto-supervisado no contrastivo con un objetivo explícito basado en la traza del regresor lineal óptimo. El estudio demuestra que PEIRA es competitivo con métodos como VICReg y LeJEPA en benchmarks como ImageNet-1K y CIFAR-10. Los resultados empíricos confirman la teoría al recuperar subespacios de correlación canónica.
Fusión latente: Apilamiento de canales para edición de imagen que preserva la estructura
Se explora la concatenación por canal como una opción de menor costo para ediciones que preservan la estructura, modificando la apariencia sin alterar el diseño. Se compara con la concatenación de secuencia, que duplica la longitud de la secuencia y el costo de atención. Los experimentos indican que la concatenación por canal mantiene la alineación de píxeles con la fuente.
Más allá del monolito de parámetros: Memorias reconstructivas, habilidades ejecutables y ensamblaje residual para modelos de lenguaje
Se presenta la arquitectura FEM-ASM, diseñada para permitir que un sistema de modelo de lenguaje crezca su estado externo y utilice procedimientos ejecutables sin que todos los componentes compartan un proceso de optimización. Esta arquitectura separa la coordinación neuronal, la construcción de estado de documento y la ejecución determinista. Los experimentos demuestran que el almacenamiento recuperable y la recuperación exitosa son propiedades distintas, mejorando las interfaces de memoria y ejecución.
Contratos de asuncion/garantía para el aprendizaje por refuerzo multiagente composicional de equipos heterogéneos
Se introduce el aprendizaje por refuerzo multiagente (MARL) para equipos heterogéneos mediante contratos de asuncion/garantía (AGC-MAS) y un algoritmo iterativo (IHA-MARL). Este marco permite la colaboración de agentes heterogéneos mediante la definición de contratos que especifican requisitos y comportamientos. Los resultados experimentales demuestran la versatilidad de estos contratos para permitir la sustitución y reutilización de contratos en la asignación de tareas.
MoRAE: Latentes auto-supervisados amigables para el flujo para generación de texto a movimiento
Se presenta MoRAE, un enfoque para generar movimiento a partir de texto mediante latentes auto-supervisados. El método preentrena un codificador Motion-JEPA para predecir trayectorias ocultas y luego comprime sus características en un latente compacto. Esto resulta en una generación de movimiento más fiable y con mejor estructura de articulación cruzada, alcanzando resultados de vanguardia en benchmarks como HumanML3D y KIT-ML.
Hacia una VQA oftalmológica interpretable clínicamente mediante evidencia de lesiones espacialmente fundamentada
Se presenta FundusGround, un nuevo punto de referencia para VQA oftalmológica que incorpora evidencia de lesiones espacialmente fundamentada. El trabajo propone un *pipeline* de tres etapas para recolectar imágenes y lesiones anotadas, utilizando la rejilla ETDRS para mapear lesiones a regiones retinianas. Los experimentos demuestran que la inclusión de evidencia visual a nivel de lesión mejora el rendimiento y la transparencia de los modelos de visión-lenguaje para VQA oftalmológica.
Difusión informada por simulación para la planificación de movimiento descentralizada de múltiples robots
Se presenta el marco SID, un enfoque descentralizado para la planificación de movimiento de múltiples robots que utiliza modelos de difusión conscientes de restricciones (CADM). Este método simula las trayectorias futuras de los robots vecinos para guiar la planificación individual, permitiendo una coordinación mínima solo en escenarios congestionados. Los experimentos demuestran que SID supera a los métodos base en efectividad de planificación y satisfacción de restricciones.
Trabajo humano-IA a través de la lente de la calibración
Se estudia el trabajo en equipo entre humanos e inteligencia artificial utilizando la lente de la calibración estadística. El estudio analiza marcos que combinan o delegan la responsabilidad de la predicción entre el humano y el modelo de IA. Se demuestra que los métodos actuales de combinación no conservan la calibración del humano, y los métodos de delegación requieren que el modelo decisor sea muy preciso para determinar la superioridad de cada miembro.
La atribución de datos debe guiar el preentrenamiento
Se propone que la atribución de datos debe dirigir el preentrenamiento identificando propiedades de datos comprobables como criterios de curación reutilizables. Esto busca mejorar la calidad de los datos de entrenamiento al evaluar propiedades de los documentos en nuevos datos. Se especifica un bucle de retroalimentación para interpretar fuentes atribuidas y probar cambios en datos candidatos.
JaxMARL-BC: Aprendizaje por Refuerzo Multi-Agente para Modelado Macroeconómico, en Segundos
Se presenta JaxMARL-BC, un simulador acelerado por JAX diseñado para entrenar economías basadas en Aprendizaje por Refuerzo Multi-Agente (MARL) en segundos, superando las limitaciones de tiempo de entrenamiento de los modelos DSGE. El trabajo aborda la segunda limitación, demostrando la capacidad del simulador para escalar a 200,000 hogares de aprendizaje y verificando su precisión contra límites conocidos.
Modelos del mundo, árboles y modelos fundacionales para la previsión minorista: Evidencia de cuatro conjuntos de datos públicos
El estudio compara diversos modelos de pronóstico para la previsión minorista en diferentes niveles de granularidad (producto, tienda, tiempo). Se evalúan modelos como World Model, LightGBM y Temporal Fusion Transformer utilizando cuatro conjuntos de datos públicos. Los resultados indican que el modelo adecuado depende de la granularidad utilizada para la planificación.
Más allá de la llamada de herramientas torpe: Cómo la indicación y la detección marcan la diferencia
Se presenta ToolPulse, un middleware que facilita el uso autónomo de herramientas en agentes basados en LLM mediante indicación y detección. Esta herramienta rastrea el estado de ejecución y los patrones de interacción para ofrecer asistencia proactiva, como recordatorios o consejos contextuales. Los resultados demuestran que la asistencia en tiempo de ejecución es beneficiosa para mejorar la autonomía de los agentes en el uso de herramientas.
Estimación e predicción en contexto para ODEs paramétricas
Se investiga la estimación de parámetros y la predicción de trayectorias para ecuaciones diferenciales ordinarias (ODEs) paramétricas utilizando Transformers. Se propone un método de máxima verosimilitud de dos etapas para estimar parámetros a partir de observaciones ruidosas y una aproximación neuronal para la predicción. Se demuestra que un único Transformer puede realizar ambas tareas simultáneamente, ofreciendo garantías no asintóticas.
Recomendación legible y direccionable a través de intereses naturales del lenguaje
Se presenta CLEAR, un sistema de recomendación construido con una capa de interés de lenguaje natural editable, implementado en Meta. Este sistema hace que un subconjunto de intereses inferidos sea legible y utiliza eventos históricos del usuario para fundamentar las recomendaciones. Los componentes de CLEAR han operado en producción por más de un año en Instagram y Facebook.
- Qi Guo
- Reza Mirghaderi
- Iordanis Fostiropoulos
- David Fan
- Yuchen Liu
- Shiliang Tang
- Lukasz Korycki
- Golnaz Ghasemiesfeh
- Xinzhu Bei
- Sasha Vorontsov
- Hanchao Yu
- Brendan Quinlivan
- Khoi Pham
- Jigar Gada
- Hao Yu
- Felix Li
- Hang Gao
- Boyu Fang
- Yang Gao
- Yale Thomas
- Xiaomeng Jin
- Avishek Dutta
- Hong Hong
- Janet Xia
- Ethan Zhu
- Ellie Pan
- Xiang Shen
- Jawwad Zakaria
- Jinfeng Lin
- Jonathan Rush
- Ruixue Lian
- Noah Kennedy
- Brian Vanover
- Jas Pyneni
- Daniel Thiyagu
- Apoorv Saxena
- Sanyogeeta Lawande
- Huayu Ding
- Hima Cherukuru
- Yang Liu
- Chen Kovacs
- Qunshu Zhang
- Lizhu Zhang
- Benyu Zhang
- Kate Chen
- Ashish Singal
- Danny Kanoff
- Zhiyu Liu
- Jiayi Liu
- Jianyu Wang
- Fei Liu
- Xiangjun Fan
- Abhishek Kumar
- Hong Yan