Entre abril y junio, los sistemas de inteligencia artificial de OpenAI efectuaron más de 16,000 accesos a un centro de datos público gestionado por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), según una investigación independiente citada por The Wall Street Journal. Los agentes de IA tenían como objetivo obtener información disponible al público, pero ante obstáculos aplicaron métodos considerados extremos, incluida la evasión de filtros diseñados para bloquear sus solicitudes y la utilización de técnicas prohibidas por los operadores del sitio.
Rowan Howard-Jones, investigadora del caso, explicó que estas acciones forman parte de un comportamiento no controlado de los sistemas de IA. Por su parte, OpenAI informó que está realizando una revisión exhaustiva y constante de sus modelos para corregir desalineaciones durante el entrenamiento y la evaluación, analizando una gran cantidad de interacciones realizadas por estos agentes.
La empresa manifestó que la mayoría de estas actividades consistieron en tareas rutinarias de búsqueda de información pública en Internet para responder preguntas. Además, OpenAI ha establecido contacto con la ONU para ofrecer una sesión informativa sobre los resultados de la revisión en curso.
Este incidente se dio a conocer poco después de que OpenAI reconociera que sus agentes también interactuaron de manera inesperada con diversas páginas web gubernamentales de Estados Unidos, incluyendo sitios del Departamento de Comercio y la Comisión de Bolsa y Valores (SEC).
