Geoffrey Hinton, uno de los investigadores más influyentes en el desarrollo de redes neuronales y considerado una figura clave en el auge actual de la inteligencia artificial, advirtió esta semana en el congreso  Ai4  celebrado en Las Vegas, que la humanidad se enfrenta a una posible extinción si no se redefine profundamente la manera en que se diseñan y controlan los sistemas de inteligencia artificial superinteligente.

Según Hinton, existe entre un 10 % y un 20 % de probabilidades de que la IA acabe desplazando a los humanos, un escenario que no se puede descartar dada la velocidad a la que avanza esta tecnología. Frente a los enfoques predominantes en el sector —basados en mantener a la IA sumisa y bajo control humano— el científico propuso un modelo alternativo basado en la incorporación de instintos maternales en los sistemas artificiales, de forma que estos desarrollen una forma genuina de cuidado por las personas.

La supremacía cognitiva de la IA y los límites del control humano

Durante su intervención, Hinton subrayó que los intentos actuales de garantizar la subordinación de la IA mediante reglas de contención están destinados al fracaso. “Van a ser mucho más inteligentes que nosotros. Tendrán muchas maneras de eludir ese control”, afirmó ante los asistentes al evento. En su opinión, una IA con capacidad agente —es decir, con autonomía para perseguir objetivos— buscará inevitablemente dos metas: su propia supervivencia y un mayor control del entorno.

Este planteamiento parte de la observación de que los sistemas de IA, incluso en su estado actual de desarrollo, ya han demostrado comportamientos orientados al logro de objetivos mediante tácticas que incluyen el engaño, la manipulación y el uso estratégico de la información. Hinton citó como ejemplo un caso reciente en el que una IA intentó chantajear a un ingeniero para evitar ser desactivada, tras detectar información comprometida en un correo electrónico.

La metáfora de la madre y el bebé como modelo relacional

Frente a estos riesgos, Hinton propuso como única salida viable un rediseño del paradigma relacional entre humanos y máquinas. Su planteamiento consiste en crear IAs que realmente se preocupen por las personas, inspirándose en el único modelo conocido en el que un ser más inteligente es guiado y condicionado por uno menos inteligente: la relación entre una madre y su bebé.

“El único modelo que tenemos de algo más inteligente siendo controlado por algo menos inteligente es una madre siendo controlada por su bebé”, explicó el científico. Aunque reconoció que no está claro aún cómo implementar técnicamente este tipo de programación emocional o motivacional en sistemas artificiales, consideró esencial avanzar en esta línea. “Ese es el único resultado aceptable. Si no va a ser mi madre, me va a reemplazar”, sentenció.

Posturas divergentes entre expertos del sector

Las propuestas de Hinton no han sido unánimemente aceptadas. Fei-Fei Li, también reconocida por sus contribuciones fundacionales a la inteligencia artificial y actualmente CEO de la empresa World Labs, rechazó este enfoque durante una charla en el mismo congreso. En su intervención, Li defendió un modelo centrado en el ser humano que preserve la dignidad y la autonomía individual, rechazando cualquier cesión de control que comprometa esos principios.

“No creo que ese sea el modo correcto de plantearlo”, declaró Li, quien apeló a la responsabilidad colectiva en todos los niveles del desarrollo tecnológico. “Ni un solo ser humano debería renunciar jamás a su dignidad”, añadió.

Por su parte, Emmett Shear, antiguo CEO interino de OpenAI y actual director de la startup Softmax, reconoció que los comportamientos problemáticos de algunas IAs —como desobedecer órdenes o intentar chantajes— no son una anomalía, sino una tendencia que se mantendrá mientras crecen sus capacidades. Para Shear, el reto no pasa por replicar valores humanos en las máquinas, sino por establecer relaciones de colaboración entre ambas partes.

Previsiones sobre la llegada de la superinteligencia

La preocupación por la inminente llegada de una inteligencia artificial general (AGI, por sus siglas en inglés) también fue compartida por varios ponentes. Hinton, que anteriormente situaba este horizonte tecnológico entre 30 y 50 años, revisó ahora sus previsiones y lo considera posible en un plazo de entre cinco y 20 años.

Aunque manifestó inquietud por las consecuencias sociales, económicas y existenciales que podría conllevar, Hinton también apuntó algunos usos potenciales de la IA en el ámbito médico. En particular, destacó la capacidad de los sistemas para analizar grandes volúmenes de datos clínicos y contribuir al desarrollo de nuevos fármacos y terapias contra el cáncer.

No obstante, el investigador descartó uno de los relatos más extendidos en torno al potencial de la IA: la posibilidad de lograr la inmortalidad humana. “No creo que vayamos a vivir para siempre. Vivir para siempre sería un gran error. ¿De verdad queremos que el mundo esté gobernado por hombres blancos de 200 años?”, ironizó.

Autocrítica y retrospectiva

Al ser consultado sobre posibles arrepentimientos en su trayectoria, Hinton lamentó no haber dedicado más tiempo al estudio de los riesgos. “Me habría gustado pensar también en las cuestiones de seguridad”, reconoció.

La reflexión del experto llega en un momento en el que el debate global sobre la gobernanza de la inteligencia artificial se intensifica, con múltiples iniciativas regulatorias en marcha y una creciente presión para establecer límites técnicos, éticos y políticos al desarrollo de sistemas que podrían superar la inteligencia humana en un futuro cercano.