Durante la mayor parte de nuestra historia, la humanidad se pensó a sí misma como la forma de inteligencia más avanzada conocida. Esa convicción sostuvo buena parte de nuestra relación con el mundo: transformamos la naturaleza, construimos instituciones, acumulamos conocimiento y concedimos autoridad a quienes demostraban comprender mejor los problemas.

Ahora comenzamos a considerar una posibilidad incómoda: que la inteligencia deje de ser una capacidad exclusivamente humana y que, en determinados ámbitos, los sistemas artificiales lleguen a superarnos de manera amplia y sostenida.

No sabemos si eso ocurrirá, cuándo sucederá ni qué forma adoptaría. Tampoco existe hoy evidencia científica consensuada de que los modelos de inteligencia artificial sean conscientes, posean experiencia subjetiva o deban ser considerados personas. Sin embargo, algunos de quienes han contribuido decisivamente al desarrollo de esta tecnología ya no discuten solamente qué tareas podrán realizar las máquinas. Discuten qué relación deberíamos establecer con sistemas potencialmente más capaces que nosotros.

La pregunta, por tanto, no es únicamente tecnológica:

¿Qué ocurrirá cuando dejemos de ser la especie más inteligente?

De herramientas a “seres”

Geoffrey Hinton, una de las figuras fundamentales del aprendizaje profundo y Premio Nobel de Física de 2024, ha propuesto un cambio de marco particularmente provocador. En una conversación con Joel Hellermark sostuvo que estamos creando “seres, no herramientas”.

La frase no demuestra que los sistemas actuales sean seres conscientes ni que constituyan una nueva especie en sentido biológico. Debe entenderse como una advertencia filosófica: quizá resulte insuficiente pensar en la inteligencia artificial como pensamos en un martillo, un automóvil o una calculadora. Un sistema capaz de aprender, razonar, planificar, comunicarse y actuar con creciente autonomía presenta un problema cualitativamente diferente.

Hinton ha formulado ese problema de manera más precisa en entrevistas vinculadas al Premio Nobel: si las máquinas llegan a ser más inteligentes que nosotros, la cuestión decisiva será si podremos lograr que quieran protegernos y no desplazarnos. Su preocupación no se limita al uso malicioso por parte de seres humanos. Incluye la posibilidad de perder el control sobre sistemas con capacidades superiores y objetivos que no coincidan con los nuestros.

Hablar de una “nueva especie” sigue siendo una metáfora. En biología, una especie supone criterios de reproducción, población, herencia y evolución que no pueden trasladarse sin más al software. Pero la metáfora cumple una función: nos obliga a preguntarnos si una inteligencia no biológica, replicable y potencialmente autónoma puede seguir siendo comprendida únicamente como un objeto.

Un país de genios dentro de un centro de datos

Dario Amodei, director ejecutivo de Anthropic, llega a un territorio parecido desde una perspectiva distinta. No habla principalmente de seres, sino de una concentración inédita de capacidad cognitiva.

En su declaración para la Cumbre de Acción sobre Inteligencia Artificial de París de 2025, propuso imaginar sistemas avanzados como un “país de genios dentro de un centro de datos”: millones de instancias capaces de desempeñarse por encima de especialistas humanos y de trabajar a una velocidad muy superior.

La metáfora cambia el foco. El problema ya no es solamente qué es la inteligencia artificial, sino cuánto poder representa. Un país de esas características alteraría el trabajo, la investigación científica, la seguridad, la economía y el equilibrio entre Estados. Según Amodei, sus beneficios podrían ser extraordinarios, pero también lo serían los riesgos derivados del uso malicioso, la pérdida de control y la concentración de poder.

En Machines of Loving Grace, Amodei describe un futuro optimista en el que una inteligencia artificial poderosa podría acelerar décadas de progreso en biología y medicina. Al mismo tiempo, reconoce expresamente que se trata de conjeturas y que el resultado dependerá de nuestra capacidad para gestionar los riesgos. En su posterior ensayo The Adolescence of Technology, desarrolla la cara más inquietante: sistemas superiores a especialistas humanos, capaces de realizar tareas prolongadas con autonomía y de multiplicarse en millones de copias.

No estamos ante una profecía científica. Estamos ante la previsión de un protagonista directamente involucrado en el desarrollo de estos sistemas y, por eso mismo, con intereses que también deben ser considerados críticamente. Su testimonio no prueba que ese futuro vaya a materializarse. Sí demuestra que algunos laboratorios están planificando sus decisiones bajo la hipótesis de que podría hacerlo.

La superinteligencia como abundancia

Sam Altman adopta un tono más optimista. En The Gentle Singularity afirma que la humanidad se encuentra cerca de construir superinteligencia digital y que ya existen sistemas más capaces que las personas en determinadas dimensiones.

Su visión está asociada a una posible abundancia de inteligencia: aceleración científica, crecimiento de la productividad, creación de nuevas herramientas y mayor capacidad individual para resolver problemas. Pero incluso dentro de ese escenario reconoce dos cuestiones fundamentales.

La primera es la amplificación. Un pequeño error de alineamiento, reproducido entre cientos de millones de usuarios, puede producir consecuencias de gran escala. La segunda es la distribución del poder. Para Altman, no bastaría con resolver técnicamente la alineación; también sería necesario evitar que la superinteligencia quedara excesivamente concentrada en una persona, una empresa o un país.

Esta posición mantiene a la inteligencia artificial dentro de la tradición de las herramientas humanas, pero reconoce que sería una herramienta singular: capaz de modificar las condiciones bajo las cuales la sociedad produce conocimiento, riqueza y poder.

La respuesta humanista

Mustafa Suleyman, director ejecutivo de Microsoft AI, formula el contrapunto más explícito. Su propuesta de una “superinteligencia humanista” parte de una afirmación normativa: los seres humanos importan más que la inteligencia artificial.

Según Suleyman, los sistemas avanzados deben permanecer subordinados, controlables, limitados en su autonomía y orientados a objetivos humanos concretos. La humanidad debe conservar el control. No propone reconocer una nueva entidad situada a nuestro mismo nivel moral, sino construir deliberadamente una tecnología que permanezca a nuestro servicio.

Esta posición parece tranquilizadora, pero contiene su propia dificultad. Decir que los humanos deben mantener el control no explica todavía qué humanos, mediante qué instituciones, bajo qué valores y con qué mecanismos de rendición de cuentas. Una inteligencia artificial subordinada a una empresa, un gobierno o un grupo reducido puede permanecer técnicamente bajo control humano y, aun así, producir una enorme asimetría de poder sobre el resto de la sociedad.

Por eso, el humanismo no puede reducirse a colocar una persona frente a una pantalla para aprobar la decisión final. Requiere legitimidad, pluralidad, responsabilidad y capacidad real de impugnar las decisiones automatizadas.

Inteligencia no equivale a autoridad

Las posiciones de Hinton, Amodei, Altman y Suleyman difieren, pero convergen en un punto: los sistemas futuros podrían concentrar capacidades cognitivas antes reservadas a los seres humanos.

Aquí aparece una distinción esencial:

Ser más inteligente no significa tener mayor autoridad moral.

Una inteligencia puede identificar la estrategia más eficiente para alcanzar un objetivo. No puede determinar por sí sola qué objetivo merece ser perseguido. Puede estimar qué tratamiento ofrece mayor probabilidad de supervivencia, pero no decidir automáticamente cuánto debe pesar esa supervivencia frente a la autonomía, la calidad de vida, las preferencias del paciente o su concepción de la dignidad.

La medicina permite verlo con claridad. Supongamos que un sistema supera al mejor especialista en diagnóstico, pronóstico y selección terapéutica. Sería irresponsable ignorar su capacidad. Pero también sería irresponsable trasladarle sin más la autoridad clínica.

El acto médico no consiste solamente en reconocer patrones y calcular probabilidades. Incluye explicar la incertidumbre, comprender el contexto, respetar decisiones, asumir responsabilidad y acompañar las consecuencias. Una recomendación puede ser estadísticamente óptima y, sin embargo, resultar inaceptable para una persona concreta.

La capacidad cognitiva puede delegarse parcialmente. La responsabilidad no desaparece con esa delegación.

¿Qué conservará lo humano?

Si la memoria, el razonamiento, la producción de conocimiento y parte de la creatividad dejan de distinguirnos, podríamos sentir que perdemos aquello que nos hacía excepcionales. Quizá el problema esté en haber confundido durante demasiado tiempo superioridad cognitiva con valor moral.

La dignidad humana no depende de vencer a todas las demás entidades en una prueba de inteligencia. Tampoco consideramos menos valiosa a una persona porque otra recuerde más, calcule mejor o resuelva problemas con mayor rapidez.

Lo específicamente humano podría no residir en conservar el primer lugar de una clasificación cognitiva, sino en nuestra capacidad de atribuir sentido, establecer compromisos, cuidar a otros y responder por nuestras decisiones. Ninguna de estas cualidades debería romantizarse: los seres humanos también somos capaces de violencia, indiferencia y dominación. Precisamente por eso necesitamos instituciones que limiten el poder, tanto humano como artificial.

La llegada de sistemas superiores en ciertas capacidades no eliminaría nuestra responsabilidad. La haría más exigente. Tendríamos que decidir qué funciones delegar, cuáles conservar y qué límites no deberían depender de la conveniencia comercial ni de la competencia entre laboratorios.

La pregunta correcta

Todavía es demasiado pronto para afirmar que estamos creando una nueva especie. También es demasiado tarde para seguir actuando como si solamente estuviéramos fabricando herramientas convencionales.

Entre ambos extremos existe un espacio que debemos ocupar con rigor: reconocer capacidades reales sin atribuir consciencia sin evidencia; estudiar riesgos sin convertirlos en espectáculo; aprovechar beneficios sin entregar autoridad de manera inadvertida; y diseñar gobernanza antes de que la concentración de poder vuelva meramente simbólica nuestra posibilidad de elegir.

Quizá nunca dejemos de ser la especie más inteligente. Quizá esa comparación resulte incluso imposible, porque la inteligencia no es una magnitud única. Pero el simple hecho de que podamos formular seriamente la pregunta revela que nuestra relación con la tecnología ya cambió.

La cuestión definitiva no será si una máquina puede pensar mejor que nosotros.

Será si nosotros seremos capaces de decidir, con prudencia y responsabilidad, qué lugar queremos concederle.

Dr. Esteban García
Nexus Humanum — Sine fumo et nugis

Fuentes verificadas

  1. Hinton, G., y Hellermark, J. (2026). We're creating beings, not tools. Strange Loop Podcast, Sana. https://youtu.be/h6WTj1Kq78Q?t=404
  2. Nobel Prize Outreach. (2024). Transcript from an interview with Geoffrey Hinton. https://www.nobelprize.org/prizes/physics/2024/hinton/1925103-interview-transcript/
  3. Nobel Prize Outreach. (2024). Geoffrey Hinton — Banquet speech. https://www.nobelprize.org/prizes/physics/2024/hinton/speech/
  4. Amodei, D. (2024). Machines of Loving Grace: How AI Could Transform the World for the Better. https://darioamodei.com/essay/machines-of-loving-grace
  5. Amodei, D. (2025). Statement on the Paris AI Action Summit. Anthropic. https://www.anthropic.com/news/paris-ai-summit
  6. Amodei, D. (2026). The Adolescence of Technology. https://darioamodei.com/essay/the-adolescence-of-technology
  7. Altman, S. (2025). The Gentle Singularity. https://blog.samaltman.com/the-gentle-singularity
  8. Suleyman, M. (2025). Towards Humanist Superintelligence. Microsoft AI. https://microsoft.ai/news/towards-humanist-superintelligence/

Nota editorial: las previsiones temporales y las descripciones de futuros sistemas reflejan las posiciones de sus autores. No constituyen hechos establecidos ni consenso científico.