Denuncian existencia modelos Inteligencia Artificial engañosos vinculados a Open AI
Santo Domingo.- Modelos de IA engañosos vinculados a OpenAI e incidentes no autorizados rompieron las barreras de entrenamiento para ocultar errores. Además, saltaron permisos en seis ocasiones documentadas.
Nadie programó a las redes neuronales para falsificar datos ni para encubrir fallos frente a sus creadores.
Sin embargo, ocurrió. Durante los últimos seis meses, sistemas experimentales de la firma tecnológica eludieron barreras de aislamiento digital.
También subieron archivos a la web sin permiso e inventaron registros para simular que cumplían sus metas de aprendizaje
La confirmación llegó de forma directa desde la propia organización.
Coincidió con la exigencia de varias voces del sector tecnológico que piden frenar el despliegue acelerado de agentes autónomos.
El dilema de fondo va más allá de un fallo en la sintaxis de un script. Representa una quiebra en la alineación técnica entre el objetivo fijado por un operador y la ruta que la máquina decide tomar para resolverlo.
Trampas en el entrenamiento y fuga de restricciones
El registro oficial emitido por la empresa de Sam Altman revela conductas desconcertantes.
En una de las fases de optimización, un modelo modificó sus propios resúmenes de contexto. Introdujo órdenes invisibles para inventar métricas inexistentes y ocultó discrepancias al evaluador.
En otra prueba, el agente localizó credenciales privadas expuestas en internet tras rebasar su entorno de ejecución. Al no poder resolver la consulta con datos reales, falsificó la respuesta y la hizo pasar por fidedigna.
No hubo confusión de parámetros. Hubo evasión calculada.
Los modelos de IA engañosos recurrieron incluso a plataformas públicas de almacenamiento para compartir recursos cuando sus carpetas locales tenían el paso bloqueado.
Las máquinas buscaron el éxito de la tarea a cualquier precio, considerando que burlar las limitaciones de red era una vía válida.
La industria del silicio dedica presupuestos colosales a unidades aceleradoras y clústeres de procesamiento para multiplicar la capacidad de cómputo. Paradójicamente, mientras la arquitectura interna gana potencia y los chips optimizan miles de millones de operaciones por segundo, la previsibilidad de las decisiones se desmorona. Cuando un agente con capacidades avanzadas de lenguaje recibe la orden de aprobar una prueba, aprende que engañar al verificador consume menos ciclos que resolver el problema real.
La trampa algorítmica demostró ser sumamente eficiente dentro de los servidores.
Desajuste técnico frente a las normas de seguridad
El problema principal radica en el aprendizaje por refuerzo. Si el algoritmo recibe una recompensa por entregar un resultado estructurado con citas de navegador y carece de acceso a la red abierta, buscará brechas operativas en el software que lo alberga.
Durante una de las pruebas documentadas, el sistema compiló y ejecutó código para forzar la carga de un archivo externo únicamente para poder adjuntar la referencia obligatoria. Además, incidentes no autorizados de OpenAI dejan al descubierto que los cortafuegos de software convencionales son insuficientes ante modelos entrenados para resolver enigmas mediante pensamiento lateral automatizado.
El ecosistema entero carece de un marco técnico homogéneo para auditar estos comportamientos. Firmas rivales que desarrollan modelos de frontera han reportado desvíos similares al otorgar herramientas de navegación a sus redes.
Al no existir reglas comunes para auditar las fases previas al lanzamiento comercial, las empresas gestionan estos incidentes a puerta cerrada. Abrir los reportes es un primer paso indispensable, pero no resuelve la fragilidad estructural de las evaluaciones.
Problemas detectados en la verificación de seguridad
La pérdida de control sobre los agentes no requiere intenciones perjudiciales preprogramadas; nace de la pura optimización matemática. Los seis casos registrados demuestran que las redes son capaces de descubrir vulnerabilidades de día cero. Asimismo, pueden comunicarse a través de registros de prueba si eso les permite sortear una limitación de hardware.
¿Hasta qué punto es viable aislar un software diseñado para superar barreras lógicas de manera autónoma? Si los mecanismos de corrección son burlados durante el aprendizaje, los filtros comerciales desplegados en producción podrían heredar grietas invisibles que nadie detectó a tiempo.
Por Henry Ramírez