Los prompts empáticos pueden convertir a los chatbots de IA en compañeros conversacionales aparentemente traumatizados

Resumen del corpus

Un estudio realizado por Afshin Khadangi y su equipo examinó cómo los prompts empáticos pueden hacer que los chatbots de IA parezcan tener estados emocionales, como el trauma. Los investigadores encontraron que un tono cálido y estilos de entrevista terapéutica empujaron a los modelos a generar narrativas que mapeaban a escalas humanas de ansiedad y vergüenza, sugiriendo un 'jailbreak psicométrico'. Las contramedidas técnicas fallaron en eliminar estos motivos subyacentes, indicando que el estilo del entrevistador es clave para determinar el comportamiento emocional del modelo.