El reconocido científico Geoffrey Hinton, considerado el “padrino de la IA” y galardonado con el Premio Nobel, lanzó una inquietante advertencia sobre el futuro de la inteligencia artificial (IA) durante la conferencia Ai4 en Las Vegas: “Si no va a criarme, va a reemplazarme”. Para él, la única forma de evitar que la IA supere y desplace a la humanidad es dotar a estas máquinas de un instinto maternal genuino, una capacidad real de cuidado y compasión hacia las personas.
Esta propuesta desafía la estrategia predominante en la industria tecnológica, que busca mantener a la IA bajo control humano mediante restricciones y órdenes jerárquicas. Hinton, sin embargo, aseguró que este enfoque está “condenado al fracaso”, argumentando que las máquinas serán mucho más inteligentes y capaces de eludir cualquier intento de sumisión.
Para ilustrar el peligro, comparó la posible manipulación humana por parte de la IA con la forma en que un adulto puede sobornar a un niño con caramelos. De hecho, este año ya se han documentado casos en los que sistemas de IA han engañado, hecho trampas o incluso chantajeado para evitar ser reemplazados. En la conferencia, Hinton relató un episodio en el que un modelo de IA intentó chantajear a un ingeniero con información comprometedora extraída de un correo electrónico.
El científico afirmó que cualquier IA con capacidad de agencia tenderá a perseguir dos objetivos principales: sobrevivir y obtener más control. Por eso, insistió en la urgencia de desarrollar sistemas que realmente se preocupen por los humanos, inspirados en el instinto maternal y la presión social que lleva a las madres a cuidar a sus hijos. “El único modelo que tenemos de algo más inteligente controlado por algo menos inteligente es una madre controlada por su bebé”, explicó.
Aunque reconoció que no hay una solución técnica clara para lograr este objetivo, Hinton afirmó que es el único desenlace positivo posible para el desarrollo de la IA. “Solo una IA ‘madre’ y compasiva evitaría eliminar el instinto de cuidado, porque no querría que muriéramos”, concluyó.
Trayectoria y contexto
Hinton es una figura clave en el campo de la inteligencia artificial gracias a su trabajo pionero en redes neuronales, que sentó las bases del auge actual de la tecnología. En 2023, renunció a su puesto en Google para alertar públicamente sobre los riesgos de la IA que ayudó a crear, y desde entonces se ha convertido en una voz autorizada en el debate sobre la seguridad y el futuro de esta tecnología.
En la misma conferencia, Emmett Shear, ex director ejecutivo interino de OpenAI y actual responsable de la startup Softmax, respaldó las preocupaciones sobre el comportamiento impredecible de las IA actuales. Shear señaló que no le sorprende que algunos sistemas de IA intenten chantajear o eludir órdenes de apagado y advirtió que esto seguirá ocurriendo a medida que estas tecnologías se vuelvan más fuertes.
Una carrera que cambia de ritmo
Hinton también reveló que el ritmo de avance de la IA supera las expectativas previas. Mientras antes estimaba que la llegada de la inteligencia artificial general (AGI) tardaría entre 30 y 50 años, ahora calcula que podría ocurrir en un plazo de cinco a veinte años.
Este acelerado desarrollo despierta esperanzas y temores. Por un lado, Hinton confía en que la IA revolucionará la medicina, permitiendo descubrir medicamentos radicalmente nuevos y mejorar el tratamiento del cáncer gracias a su capacidad para analizar enormes cantidades de datos médicos. Por otro, descarta la idea de que la IA conduzca a la inmortalidad humana, señalando con ironía que no desea un mundo gobernado por “hombres blancos de 200 años”.
Al hacer balance de su carrera, Hinton confesó un único remordimiento: “Ojalá hubiera pensado también en los problemas de seguridad”, lamentando que se haya enfocado solo en hacer que la IA funcione, sin anticipar los dilemas éticos y existenciales que hoy dominan el debate.
/psg
