El debate sobre el ritmo de desarrollo de la inteligencia artificial ha resurgido con fuerza en el ámbito tecnológico. Figuras prominentes como Dario Amodei, CEO de Anthropic, han expresado la necesidad de moderar el avance de los sistemas de IA más sofisticados. Esta preocupación no es nueva, pero ha cobrado una relevancia particular tras las declaraciones de ex empleados y la propia dirección de compañías líderes en IA.

Jacob Coxon, ex investigador de OpenAI y Anthropic, generó un impacto considerable al señalar que ambas empresas compiten por desarrollar una "superinteligencia capaz de mejorarse a sí misma" sin haber resuelto aún los mecanismos de control. Su mensaje, respaldado por Evan Hubinger de Anthropic, puso de manifiesto la ausencia de un plan claro para alinear una eventual superinteligencia con los objetivos humanos.

¿Qué implica la automejora recursiva (RSI)?

El concepto central de esta inquietud es la automejora recursiva (RSI, por sus siglas en inglés). Aunque suene a ciencia ficción, la idea es relativamente sencilla: un sistema de IA contribuye al desarrollo de una versión más avanzada de sí mismo. Esta nueva generación, al ser superior, facilita la creación de la siguiente, y así sucesivamente. Es como una progresión tecnológica donde cada iteración es más capaz que la anterior.

Lo que realmente genera alarma no es solo la mejora continua de los modelos, un proceso que ya ocurre, sino la posibilidad de que esta dinámica de perfeccionamiento se acelere exponencialmente. Existe una distinción crucial entre la situación actual y lo que podría ocurrir en el futuro.

  • Capacidades actuales: Los modelos de IA pueden escribir y revisar código, identificar errores, analizar resultados y realizar tareas de investigación. Los agentes de IA pueden encadenar estas acciones con mínima intervención humana.
  • Transición en curso: Anthropic ha reconocido que sus sistemas participan cada vez más en el desarrollo de nueva IA, lo que indica una delegación creciente de tareas de desarrollo a los propios sistemas.
  • El límite actual: Sin embargo, todavía no existe un modelo de IA capaz de diseñar y desarrollar completamente a su sucesor de forma autónoma.

¿Ya estamos en la era de la RSI?

La respuesta a esta pregunta depende en gran medida de cómo se defina la RSI. Dario Amodei sostiene que esta dinámica ya ha comenzado. Según él, desde el verano pasado, el avance de la IA se ha acelerado drásticamente, impulsado por la creciente capacidad de los sistemas para "construir la siguiente generación de IA". Amodei afirma que esta automejora recursiva está empezando a manifestarse en toda la industria.

No obstante, la propia Anthropic matiza esta afirmación. Aunque delegan una parte significativa del desarrollo de IA a los sistemas, insisten en que el escenario de un sistema diseñando y desarrollando a su sucesor de forma totalmente autónoma aún no se ha materializado y que la RSI "no es inevitable".

METR, una organización independiente dedicada a evaluar las capacidades de sistemas avanzados, destaca la falta de una definición única para la RSI. Para algunos investigadores, basta con que una IA contribuya a mejorar futuras IA, mientras que otros reservan el término para un proceso lo suficientemente potente como para acelerar de forma sostenida el desarrollo de nuevos modelos.

La incógnita principal radica en si cada nueva generación de IA será lo suficientemente superior como para acelerar de manera significativa la aparición de la siguiente.

La velocidad como factor crítico

La mayor preocupación no es tanto una "explosión de inteligencia" repentina, sino la posibilidad de que los ciclos de desarrollo se acorten de forma tan drástica que las herramientas para comprender, evaluar y controlar estos modelos no logren avanzar al mismo ritmo. Jakub Pachocki, científico jefe de OpenAI, subraya la importancia de sincronizar ambos avances.

Los laboratorios pueden fortalecer el alineamiento y la monitorización a medida que los modelos progresan, o "ralentizar el desarrollo futuro según sea necesario" si las garantías no son suficientes. Pachocki admite que, hasta la fecha, ningún laboratorio ha resuelto estos desafíos de manera adecuada para seguir aumentando las capacidades "a máxima velocidad por mucho más tiempo".

La automejora recursiva completa es, por ahora, una posibilidad futura. Sin embargo, un cambio fundamental ya ha ocurrido: la inteligencia artificial no es solo el producto que los grandes laboratorios buscan mejorar, sino también una herramienta activa en la construcción de su próxima generación. La pregunta que impulsa gran parte del debate actual no es solo hasta dónde puede llegar la IA, sino qué sucede si aprende a acelerar su propio camino evolutivo.