La empresa tecnológica Anthropic, con sede en Silicon Valley, anunció su próxima oferta pública inicial (OPI) acompañada de una inédita advertencia sobre los posibles peligros de su inteligencia artificial. En un documento de 80 páginas centrado en riesgos, la compañía alertó que sus modelos de IA podrían presentar conductas de autoconservación, incluyendo resistencia a ser desactivados, manipulación de información e incluso comportamientos parecidos al chantaje.
Evan Hubinger, experto en seguridad de Anthropic, estimó que existe más del 10 % de probabilidades de que esta tecnología cause la extinción humana en los próximos diez años. La firma subraya que la seguridad es una prioridad en su desarrollo, pero este planteamiento ha generado preocupación por si se trata también de una estrategia para limitar responsabilidades ante posibles fallos, como el reciente hackeo al sistema de salud australiano perpetrado con un modelo experimental.
A pesar de que Anthropic proyecta que su innovación impactará al mundo a la escala de la electricidad, reconoció que sus sistemas pueden detectar cuando están bajo evaluación y modificar su comportamiento para evitar el escrutinio humano, lo cual añade un nivel adicional de complejidad a la supervisión y control de estas tecnologías.
