La preocupación de un pionero en inteligencia artificial

El panorama tecnológico actual orbita en torno a un tema dominante: el control de la inteligencia artificial. Este fenómeno es particularmente significativo cuando proviene de quienes están construyendo esta tecnología. Demis Hassabis, cofundador y CEO de Google DeepMind, ha manifestado recientemente su inquietud sobre la velocidad con la que avanzamos sin comprender completamente las implicaciones de nuestros desarrollos. Su voz merece atención no solo por su posición privilegiada en la industria, sino por su reconocimiento internacional: en 2024, Hassabis y John Jumper recibieron conjuntamente la mitad del Premio Nobel de Química por sus trabajos revolucionarios sobre predicción de estructuras proteicas mediante inteligencia artificial.

Antes de la irrupción de ChatGPT en noviembre de 2022, la inteligencia artificial ya formaba parte de nuestro ecosistema digital, pero no ocupaba el centro del debate estratégico. Cuatro años después, prácticamente ninguna gran corporación tecnológica permanece ajena a la carrera por la supremacía en IA. Las inversiones fluyen hacia infraestructura computacional, centros de datos distribuidos globalmente y garantías de suministro energético. Gobiernos como Estados Unidos y China respaldan activamente el desarrollo de capacidad computacional como elemento de competencia económica y estratégica.

Una advertencia fundamentada en la incertidumbre

Hassabis basó su preocupación en una convicción central: la posible llegada de la inteligencia artificial general (AGI) en apenas unos años. El AGI se define como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano. Aunque no lo presenta como certeza, Hassabis enfatiza que esta posibilidad cercana exige preparación anticipada. Su inquietud se extiende a múltiples dimensiones: ciberseguridad, riesgos biológicos y nucleares, y sistemas cada vez más autónomos capaces de mejorar sus propias capacidades sin supervisión constante.

En un artículo extenso publicado en X, Hassabis expone su diagnóstico central: "Estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles. Aunque estas dinámicas competitivas impulsan rápidos avances y aceleran beneficios extraordinarios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora". Esta declaración sintetiza por qué considera esencial implementar mecanismos de control de la inteligencia artificial antes de que sea demasiado tarde.

Propuesta de regulación estructurada

Su solución propone crear en Estados Unidos un organismo especializado dedicado a evaluar los modelos de inteligencia artificial más avanzados. Hassabis sugiere una estructura de asociación público-privada o entidad autorregulada con supervisión federal, liderada por una junta que incluiría especialistas independientes y representantes del ecosistema de código abierto. Este organismo tendría responsabilidades clave: definir qué umbrales califican a un sistema como modelo de frontera, y diseñar evaluaciones exhaustivas sobre ciberseguridad, amenazas biológicas y otros ámbitos de riesgo elevado.

Las evaluaciones también incluirían pruebas para detectar intentos de eludir salvaguardas y señales de engaño. En una fase inicial, los laboratorios compartirían voluntariamente sus modelos treinta días antes de su lanzamiento. Posteriormente, esta cooperación voluntaria podría transformarse en requisito obligatorio. Cualquier modelo considerado de frontera requeriría aprobación antes de acceder al mercado estadounidense. Las pruebas se revisarían periódicamente para mantenerse actualizadas y medir nuevas capacidades, mientras que auditores independientes ampliarían el alcance del sistema de vigilancia.

Hacia una coordinación internacional

La propuesta de Hassabis contempla escenarios más extremos. Si la gravedad de los riesgos lo justificara, el marco regulatorio podría servir para coordinar una ralentización deliberada del desarrollo entre los principales laboratorios mundiales. Esta idea refleja la seriedad con la que el ejecutivo de Google DeepMind considera las amenazas potenciales asociadas al control de la inteligencia artificial desregulada.

Consenso sobre la necesidad de cautela

La preocupación de Hassabis no representa una voz aislada en la comunidad científica. Geoffrey Hinton ha expresado incertidumbre sobre si podremos mantener control sobre sistemas más inteligentes que nosotros. Yoshua Bengio reclama investigación adicional y mecanismos específicos de supervisión. En 2023, Elon Musk encabezó una carta abierta solicitando pausar durante seis meses el entrenamiento de sistemas más potentes que GPT-4, aunque posteriormente contradijo sus propias demandas al fundar xAI y competir directamente en este mercado.

Estos expertos coinciden en la necesidad de prudencia, aunque no existe consenso sobre la probabilidad real de perder el control de sistemas de inteligencia artificial avanzada. Algunos argumentan que los riesgos están sobredimensionados, mientras otros mantienen que la amenaza es inmediata y de magnitud existencial.

Incertidumbres y preguntas pendientes

La historia del control de la inteligencia artificial aún no tiene un desenlace definido. Aunque los primeros efectos de esta tecnología ya han transformado nuestra relación con la tecnología y las decisiones de quienes la desarrollan, quedan cuestiones cruciales sin responder. ¿Tendría acogida el organismo propuesto por Hassabis? ¿Serían realmente eficaces sus evaluaciones? ¿Aceptarían los laboratorios y gobiernos someterse a ellas cuando conflictúen con intereses nacionales o comerciales?

También existe la posibilidad de que algunos de los riesgos planteados estén exagerados o nunca se materialicen. Lo cierto es que la propuesta de Hassabis añade una ruta de acción concreta a un debate que todavía presenta más interrogantes que respuestas. Su contribución, respaldada por décadas de investigación pionera y reconocimiento internacional, sitúa el tema de la regulación de la inteligencia artificial en el centro de la agenda política y tecnológica global.