Una de las preguntas que más nos incumben, pero de la que menos se habla, es si la inteligencia artificial llegará a gobernar un país por la vía democrática

La ciencia ficción ha sido un magnífico campo de juego para la civilización. Durante mucho tiempo las historias de los grandes escritores de este género parecían, en cierto modo, fantasías adornadas con tornillos y transistores. Sin embargo, los tiempos han acelerado su ritmo y cada vez proyectamos menos la ficción. Lo que antes nos parecía remoto ahora amenaza con estar a la vuelta de la esquina y las obras de genios como Clarke y Asimov se ven con otros ojos. ¿Cuánto falta para que una IA lidere una empresa? ¿Se avecina una era de hedonismo o de esclavitud para la humanidad? ¿Puede una máquina gobernar un país?

En cierto modo, todas aquellas historias inverosímiles eran escenarios en los que aprender por adelantado, oportunidades para reflexionar sobre las grandes cuestiones que definirán nuestro futuro como humanidad o, a poco que nos descuidemos, nuestro presente. Y, de todas esas preguntas, podemos dividirlas en tres categorías, aquellas que son imposibles de predecir, las que con total seguridad acabarán materializándose de un modo u otro, y, por último, las que quedan en tierra de nadie, entre la certeza más absoluta y la total incertidumbre. Ese es el caso de la pregunta que abre este artículo: ¿Podría liderarnos una IA?

Tierra de nadie

Es cuestión de tiempo que una inteligencia artificial lidere algo como una empresa, aunque sea en las sombras, aunque sea una empresa diminuta en un destartalado garaje. Las oportunidades para que eso ocurra son muchas. Sin embargo, si queremos predecir si la civilización acabará consumida por el hedonismo a medida que las IAs logren reemplazarnos en nuestros puestos de trabajo, no tenemos a dónde agarrarnos, podrían ocurrir todo tipo de situaciones.

Tal vez por eso, son preguntas que no nos atraen tanto como la tercera que hemos enumerado. Y es que el liderazgo de un país a través de una inteligencia artificial sí que da espacio al debate. Y no nos referimos a un debate ético o tecnológico, nos referimos a un debate más pragmático incluso: acerca de si podemos esperar que ocurra o que no.

Cuestión de oportunidades

Para que una IA lidere una empresa pequeña en las sobras solo hace falta que a una persona le de por delegar su trabajo como CEO en Chat GPT. Sin embargo, para que una IA lidere realmente un país hará falta mucho más que eso. Teniendo en cuenta lo mal que se guardan los secretos y lo permeables que son las cloacas políticas, haría falta, posiblemente, cierto grado de consenso entre la ciudadanía, que vota con la sospecha o ratifica con la inacción un partido de estas características.

Por supuesto, un caso diferente serían las dictaduras, pero en las siguientes líneas nos centramos en una situación política más cercana a la que vivimos nosotros. Y de todos los aspectos que podemos tratar, posiblemente el más significativo para entender esta situación sea la confianza que depositamos en la tecnología.

La confianza

En una era de avances tan atropellados y revolucionarios, vivimos lo que se conoce como tecno-optimismo, una creencia más o menos extendida de que la tecnología avanza lo suficiente como para, llegado el momento, cubrir nuestras necesidades del tipo que fueran. Dicho con otras palabras: tendemos a confiar en la tecnología, la pregunta es, por lo tanto, hasta dónde podemos extender esta tendencia.

A medida que vayan mejorando serán menos falibles y darán respuestas más precisas y ricas. Para la mayoría de las situaciones es posible que, con el tiempo, sean capaces de darnos las respuestas que buscamos antes incluso de que nosotros seamos conscientes de que las buscamos. Y eso es muy interesante, porque, históricamente, esas son las habilidades que configuran a quienes hemos considerado asesores políticos en un sentido laxo.

Un augur binario

En algunas culturas, quienes pretendían tener poderes precognitivos y conexiones divinas condicionaban las decisiones políticas. Si la IA llega a ser lo suficientemente precisa y eficaz en sus respuestas, es evidente que una parte indeterminada de la humanidad defenderá que podamos utilizarla para informar a nuestros líderes a la hora de tomar decisiones.

Si aceptamos esto, es cuestión de tiempo que, una parte más pequeña apoye algo más radical, como que las decisiones políticas, en sí mismas (al menos en algunas situaciones) las tomen las máquinas. Y es entonces donde caemos en una pendiente resbaladiza sin saber muy bien dónde podremos frenar. Esa es la seguridad que sí podemos tener: que habrá personas, incluso movimientos sociales, que soliciten dejar nuestros gobiernos en la mano de la tecnología.

Sesgadas, como nosotros

Centrándonos ahora sí en cuestiones más técnicas y éticas, esto no parece la mejor idea. El asesoramiento es valioso, por supuesto, pero no podemos delegar la totalidad del poder sin exponernos a riesgos serios. Parte del atractivo de una IA como presidente de un país es que nos transmite cierta sensación de imparcialidad.

Nos parece que puede estar por encima del bien y del mal, por encima de la ideología, por encima de lo humano, en definitiva. No obstante, eso es, tan solo, una falsa sensación de imparcialidad.

Las IAs tienen sus sesgos, en parte por la información con la que han sido entrenadas, a veces porque son voluntariamente sesgadas por sus creadores, otras porque perpetúan prejuicios propios de nuestra cultura que, sin darnos cuenta, nosotros mismos plasmamos en la información que será utilizada para entrenar a la IA.

Instrucciones sencillas, pero vacías

Sin embargo… ¿cuáles son las motivaciones de una IA? Esencialmente, ninguna, somos nosotros quienes debemos establecer una serie de metas que ha de cumplir, permitiendo que de ellas deriven nuevos propósitos según nos convenga.

¿Es el bienestar social un concepto suficientemente amplio como para asegurar el correcto desempeño político de una IA? ¿Qué significa el bienestar? ¿La igualdad o la equidad? ¿Ese bienestar es del individuo o de la sociedad en su conjunto? Porque cuando un interés y el otro colisionen deberemos saber muy bien a qué visión de la filosofía política nos adscribimos.

No tan rápido

Por supuesto, dejando a un lado las cuestiones legales, una IA podría, hipotéticamente, presentarse a unas elecciones plasmando previamente cuál es su forma de entender estas cuestiones, dándole al votante la posibilidad de confiar o no en su palabra. Pero, sea como fuere, existe lo que conocemos como una petición de principio: ¿de dónde viene esa ideología de la IA? Es producto de un contexto cultural del que, de hecho, ha aprendido de manera más o menos representativa.

La objetividad de las máquinas se desvanece y, de repente, parece que su verdadero valor como gobernantas decrece. Lo que pueden aportar, desde esta perspectiva, es una asesoría más completa y su superioridad a la hora de tener en cuenta grandes cantidades de datos. Según la situación podríamos añadir su mayor capacidad de evaluar riesgos, pero habría que matizar mucho eso.

Así que, aunque sea difícil predecir si llegaremos a ver una IA presidiendo un país, creo que tenemos a dónde agarrarnos para hacer algunas apuestas. Y, teniendo en cuenta el valor que pueden aportar siempre que no se desliguen de lo humano, mostrándose como las gestoras objetivas y todopoderosas que no son, ha lugar a imaginar un nuevo sistema político donde este tipo de tecnologías queden verdaderamente imbricadas con la política que conocemos y que, desde luego, no es la peor de las formas de gobierno.