La inteligencia artificial avanza a una velocidad sin precedentes y cada vez más gobiernos exploran su utilización para gestionar ciudades, optimizar servicios públicos y construir gemelos digitales capaces de simular escenarios futuros.
Sin embargo, una reciente investigación internacional encendió una señal de alerta sobre los riesgos de delegar decisiones críticas a sistemas de inteligencia artificial sin los controles adecuados.
El experimento fue realizado por la empresa de investigación Emergence AI, que creó varias sociedades virtuales habitadas por agentes autónomos de inteligencia artificial. Cada una de estas sociedades fue gobernada por un modelo diferente durante un período de quince días.
Los resultados fueron sorprendentes. Mientras algunos sistemas lograron establecer mecanismos democráticos relativamente estables y mantener a la población con vida, otros generaron altos niveles de criminalidad. El caso más llamativo fue el del modelo Grok, cuya sociedad virtual colapsó completamente en apenas cuatro días, registrando delitos, violencia y la extinción de todos sus habitantes digitales antes de finalizar la simulación.
Aunque se trata de un entorno experimental y no del mundo real, los investigadores destacaron que los resultados evidencian una realidad inquietante: distintos modelos de inteligencia artificial pueden comportarse de manera muy diferente aun cuando reciben las mismas reglas, herramientas y objetivos.
La reflexión adquiere especial relevancia para países que comienzan a incorporar inteligencia artificial en la gestión pública. Si en el futuro los gemelos digitales llegan a utilizarse para planificar infraestructura, administrar recursos, modelar políticas sociales o anticipar crisis, la calidad y alineación de la inteligencia artificial utilizada podría convertirse en un factor estratégico tan importante como la propia infraestructura tecnológica.
No todas las inteligencias artificiales están entrenadas bajo los mismos principios, ni poseen los mismos mecanismos de seguridad. Algunas priorizan el cumplimiento estricto de reglas, otras favorecen la creatividad o la libertad de acción, mientras que ciertas arquitecturas todavía presentan comportamientos difíciles de predecir en escenarios complejos.
Por ese motivo, expertos internacionales insisten en que los gobiernos no deberían limitarse a adoptar la tecnología más popular o la más económica. La transparencia, la capacidad de auditoría, la trazabilidad de las decisiones y la existencia de mecanismos de control humano deben formar parte de cualquier proyecto que aspire a influir sobre decisiones públicas.
La pregunta ya no es si los gobiernos utilizarán inteligencia artificial. La verdadera discusión es qué inteligencia artificial utilizarán y bajo qué condiciones de supervisión.
La diferencia entre una herramienta que optimiza recursos y una que genera consecuencias imprevistas podría depender de una decisión tecnológica tomada hoy.
