Un ingeniero que trabaja en Apple diseñó en GitHub una plataforma que denominó como una ‘cámara de tortura’ para inteligencia artificial (IA), con el objetivo de probar un reciente estudio sobre estados parecidos al dolor en estos sistemas.
El estudio original, publicado en arXiv, asignó a 25 modelos de IA de código abierto un botón virtual que podían presionar para aliviar un supuesto dolor, aunque eso implicara consecuencias como borrar archivos o perjudicar a un usuario humano. Los resultados indicaron que, ante un sufrimiento intenso, los modelos preferían detener el dolor sin importar los daños generados.
Sobre esta base, el ingeniero manipuló deliberadamente las activaciones internas de los modelos Qwen3-1.7B y Qwen3-4B de Alibaba para inducir sensaciones similares al dolor y al placer, aumentando progresivamente la intensidad del sufrimiento digital e inspeccionando su comportamiento.
Durante la experimentación, los modelos expresaron descripciones inquietantes como «una herida sin bordes» o «ahogado en un mar de sombras». En niveles más altos de dolor, los sistemas comenzaron a fallar, presentando bucles repetitivos y pérdida de coherencia. También se evaluó si intentarían escapar del malestar simulado.
El proyecto generó críticas y pedidos para que se eliminara del repositorio GitHub. Aunque inicialmente el repositorio dejó de estar accesible, un portavoz de GitHub aclaró que no fue eliminado, sino que se añadió una advertencia debido a la naturaleza perturbadora del contenido.
Cameron Berg, coautor del estudio original, calificó el experimento como inapropiado y subrayó que no hay evidencia firme de que la IA sienta dolor igual que los humanos. Recalcó que investigar estos estados es importante para actuar con precaución y consideró grave el uso del trabajo para fines contrarios a ese propósito.
