AGI y ASI: Cómo diferenciar entre definición, evaluación e incertidumbre
Al finalizar este tema
- Podrá explicar las definiciones precisas de AGI (Inteligencia General Artificial) y ASI (Superinteligencia Artificial).
- Comprenderá la diferencia fundamental entre la IA especializada (Narrow AI) que utilizamos actualmente y la inteligencia general artificial (AGI).
- Podrá distinguir la perspectiva del mercado sobre las tecnologías AGI y ASI, su etapa realista y los malentendidos más comunes.
¿Qué pasaría si existiera un empleado versátil capaz de realizar cualquier tarea con destreza?
Ha llegado un nuevo empleado a la empresa.
Lo asignaron al equipo de ventas y, casi de inmediato, comenzó a trabajar como un experto en ventas; al día siguiente, lo trasladaron al equipo de contabilidad y procesó impecablemente complejos estados financieros. Incluso, cuando lo enviaron al equipo de desarrollo, escribió miles de líneas de código y lanzó el servicio en un instante.
No se limita a realizar bien una tarea específica asignada, sino que es una inteligencia artificial que aprende y se adapta por sí misma para realizar con igual o mayor destreza cualquier trabajo intelectual que los humanos puedan hacer. Esta es la AGI (Inteligencia General Artificial).
Diferenciación clara entre Narrow AI, AGI y ASI
Podemos clasificar la IA que utilizamos actualmente hasta la IA futura en tres etapas según su nivel de inteligencia.
| Clasificación | IA especializada (Narrow AI) | Inteligencia General Artificial (AGI) | Superinteligencia Artificial (ASI) |
|---|---|---|---|
| Nombre en inglés | Weak / Narrow AI | Artificial General Intelligence | Artificial Super Intelligence |
| Nivel de inteligencia | Inteligencia limitada a un área específica | Inteligencia multifacética equivalente o superior a la humana | Supera ampliamente la máxima capacidad intelectual humana en todas las áreas |
| Ámbito de aplicación | Ejecuta solo tareas designadas como Go (AlphaGo), traducción, generación de imágenes, etc. | Realiza cualquier trabajo intelectual que realizan los humanos, como ventas, contabilidad, derecho y creación | Resuelve por sí mismo problemas científicos, espaciales y médicos que la humanidad no ha podido resolver |
| Analogía | Un músico profesional que toca bien solo un instrumento específico | Un genio musical que aprende e interpreta cualquier instrumento al instante | Un dios de la música que domina incluso áreas incomprensibles para los humanos |
Analogía en una línea:
Si la IA actual es un 'experto en un área específica', la AGI es un 'ser humano versátil que lo hace bien todo lo que se le pida', y la ASI es un 'ser sobrehumano superior a la suma de toda la sabiduría humana'.
¿En qué etapa se encuentran actualmente la AGI y la ASI?
- Etapa actual (Transición de Narrow AI a AGI):
- Las tecnologías actuales de LLM y agentes imitan tareas en múltiples dominios, pero tienen limitaciones para adaptarse por completo a entornos nuevos o mantener un pensamiento autónomo de alto nivel de forma continua.
- AGI como objetivo:
- Varias organizaciones de investigación en IA mencionan la AGI como un objetivo a largo plazo o tema de estudio, aunque las definiciones y los criterios de logro varían según cada organización.
- ASI en la imaginación:
- Es una región teórica que se alcanzaría cuando la AGI mejora su propio código y provoca un aumento explosivo de la inteligencia (explosión de inteligencia).
Malentendidos frecuentes y puntos a tener en cuenta
❌ 1. "¿ChatGPT o Claude, ya lanzados, son ya AGI?"
No. Los LLM actuales se acercan más a una 'inteligencia lingüística especializada' que combina respuestas tras aprender de enormes cantidades de datos. Aunque realizan diversas tareas, tienen grandes limitaciones en autonomía a largo plazo, adaptación a entornos nuevos y fiabilidad; si se les puede llamar AGI depende de la definición adoptada.
❌ 2. "¿Cuando aparezca ASI, la humanidad desaparecerá inmediatamente como en las películas?"
No. Aunque el dramatismo del cine de ciencia ficción suele enfatizar el miedo, en la academia y la industria se están realizando obligatoriamente estudios paralelos sobre Harness (contención), guardarraíles de seguridad y Alignment (alineación con los valores humanos) para evitar estos riesgos.
Reconocemos primero que son términos no consensuados
No existe una definición estándar internacional única ni un examen de aprobación para la AGI. Los criterios varían según la organización: "realizar mejor que los humanos la mayoría de las tareas con valor económico", "alcanzar el nivel humano en diversas tareas cognitivas", "aprender y adaptarse por sí mismo en entornos nuevos", etc. Por lo tanto, al discutir si un sistema es AGI, primero debe aclararse la definición utilizada y el alcance de la evaluación.
ASI se refiere a un sistema hipotético que supera ampliamente y con gran margen el nivel humano más alto, pero hay menos consenso sobre su alcance, velocidad y autonomía. Tampoco es una ley verificada que, al surgir la AGI, esta se convierta automáticamente en ASI.
Separamos capacidad y autonomía
La capacidad para resolver bien los problemas de examen, la fiabilidad para completar tareas largas, la autonomía para establecer objetivos por sí mismo y el permiso para actuar en el mundo real son ejes diferentes.
| Eje | Pregunta de evaluación |
|---|---|
| Universalidad | ¿Se transfiere a múltiples dominios? |
| Adaptabilidad | ¿Aprende nuevas reglas con pocos ejemplos? |
| Fiabilidad | ¿Recupera errores en tareas largas? |
| Autonomía | ¿Planifica y ejecuta sin intervención humana? |
| Recursos | ¿Cuánto tiempo, coste y datos son necesarios? |
| Seguridad | ¿Se mantiene el control aunque aumente la capacidad? |
No se puede afirmar que se satisfacen todos estos ejes solo con obtener altas puntuaciones en algunos benchmarks.
Forma de discusión realista
- En lugar de afirmar que un modelo específico es una AGI, registre las capacidades observadas y los fallos.
- Observe qué criterios de evaluación se cumplieron en lugar de enfocarse únicamente en el año previsto.
- No reduzca la discusión sobre seguridad a una dicotomía entre escenarios catastróficos y optimismo.
- Aborde simultáneamente los sesgos actuales, el uso indebido, los cambios laborales y los problemas de control a largo plazo.
- Establezca mecanismos de autorización, aprobación, auditoría y parada incluso para modelos de alto rendimiento.
Preguntas clave
AGI y ASI no son términos que solo preguntan "¿cuándo llegarán?". Son un marco que pregunta simultáneamente qué se medirá como inteligencia, quién definirá los objetivos, quién asumirá el costo del fracaso y cómo se distribuirán el control y los beneficios.
Resumen clave
- Este término debe entenderse vinculado a datos, software y procedimientos operativos, no solo a un modelo de IA.
- Verifique específicamente la entrada, salida, permisos y criterios de evaluación en lugar de depender de descripciones del producto.
- Confirme nuevamente los resultados y acciones importantes con fundamentos, verificadores y aprobación humana.
Conceptos siguientes
→ Profundice: AI Native — Alucinaciones y alineación