EL NUEVO ORDEN DIGITAL: ¿QUIÉN GOBERNARÁ CUANDO EL PODER ESTÉ EN MANOS DE LA INTELIGENCIA ARTIFICIAL?

La inteligencia artificial comienza a ocupar espacios cada vez más relevantes en la sociedad. Mientras gobiernos e instituciones incorporan estas tecnologías, surge una pregunta que trasciende lo tecnológico: ¿qué ocurre cuando una infraestructura capaz de influir en decisiones públicas depende de sistemas desarrollados y administrados por actores privados?

Editorial | Por Exequiel Aleu Monasterio

Hay momentos en la historia en que una transformación tecnológica deja de ser solamente tecnológica y comienza a modificar la estructura misma de la sociedad.

Quizás estemos entrando en uno de ellos.

La inteligencia artificial suele presentarse como una herramienta destinada a facilitar nuestras vidas: responder preguntas, procesar información, automatizar tareas, descubrir patrones y asistir a las personas en la toma de decisiones.

Pero detrás de esa imagen aparentemente inocente existe una transformación mucho más profunda.

Por primera vez, la humanidad está construyendo sistemas capaces de intervenir simultáneamente sobre enormes cantidades de información, interpretar comportamientos, proyectar escenarios y participar en decisiones que hasta ahora pertenecían exclusivamente al ámbito humano.

Y entonces aparece una pregunta que resulta mucho más incómoda que aquella de si las máquinas llegarán algún día a gobernarnos:

¿QUIÉN GOBERNARÁ A TRAVÉS DE LAS MÁQUINAS?

Porque la inteligencia artificial no pertenece a una entidad abstracta llamada “humanidad”. Las tecnologías más avanzadas son desarrolladas, controladas y administradas por organizaciones concretas, con intereses concretos, estructuras económicas concretas y capacidades extraordinarias de acumulación de información y poder.

Ahí comienza el verdadero problema político.

Durante siglos, las sociedades construyeron instituciones destinadas a limitar la concentración del poder. Constituciones, parlamentos, tribunales, elecciones y sistemas de representación surgieron, entre otras razones, para impedir que una sola voluntad pudiera disponer del destino colectivo.

Pero ¿qué sucede cuando una parte creciente de la capacidad de analizar la realidad, administrar información y orientar decisiones comienza a concentrarse en sistemas tecnológicos que pertenecen a actores privados?

La pregunta deja de ser tecnológica.

Se convierte en una pregunta sobre soberanía.

Pero existe aquí una dimensión que merece una consideración especial.

Parte importante de esta infraestructura tecnológica podría no pertenecer a los Estados ni estar administrada directamente por instituciones públicas, sino por empresas privadas.

Esto, por sí mismo, no significa que exista algo ilegal ni que la participación de empresas privadas sea necesariamente negativa. Las sociedades modernas dependen desde hace décadas de compañías privadas para desarrollar tecnologías, prestar servicios y administrar infraestructuras fundamentales para la vida cotidiana.

El problema podría ser de otra naturaleza.

¿Qué ocurre cuando una infraestructura privada adquiere una importancia tan grande que termina siendo indispensable para el funcionamiento de instituciones públicas y para la vida de millones de ciudadanos?

Una empresa puede estar actuando perfectamente dentro de la ley y, al mismo tiempo, encontrarse en una posición que genere una discusión legítima sobre la concentración de poder.

Porque la propiedad privada no elimina necesariamente la necesidad de control público cuando aquello que se administra adquiere una importancia que trasciende los intereses de sus propietarios.

La cuestión, entonces, no consiste en afirmar que las empresas privadas no deberían participar en el desarrollo de la inteligencia artificial. Probablemente sería imposible comprender el actual desarrollo tecnológico sin su participación.

La pregunta es otra: ¿qué mecanismos deberían existir para garantizar que una infraestructura tecnológica de importancia pública permanezca sometida a la ley, a la transparencia, a la supervisión independiente y, en último término, a los derechos de los ciudadanos?

Porque quizás el escenario más relevante del futuro no sea un gobierno formado por máquinas, sino algo mucho más complejo: instituciones democráticas que dependan cada vez más de tecnologías cuyo desarrollo, propiedad y operación se encuentren fuera de ellas.

Y eso tampoco significa necesariamente que exista una amenaza. Significa que estamos frente a una transformación que obliga a revisar conceptos que durante mucho tiempo parecían separados: propiedad privada, infraestructura pública, soberanía, información y poder.

Tal vez la pregunta que debamos hacernos no sea quién será dueño de la inteligencia artificial, sino qué límites democráticos deberán existir cuando aquello que es privado adquiere una influencia que afecta inevitablemente a lo público.

Imaginemos un futuro en el que gobiernos utilicen sistemas de inteligencia artificial para administrar ciudades, asignar recursos, detectar riesgos, evaluar políticas públicas, anticipar movimientos económicos, identificar conductas consideradas anómalas o determinar qué información merece mayor visibilidad.

Todo ello podría justificarse bajo una palabra aparentemente incontestable: eficiencia.

Pero la eficiencia no es democracia.

Un sistema puede ser extraordinariamente eficiente y, al mismo tiempo, resultar incompatible con la libertad, la privacidad o la autonomía de una sociedad.

Y aquí aparece uno de los grandes dilemas de nuestro tiempo.

¿Qué ocurrirá cuando la capacidad tecnológica para organizar una sociedad avance más rápido que nuestra capacidad política para establecer límites?

La historia demuestra que el poder rara vez desaparece. El poder cambia de manos, cambia de instrumentos y cambia de lenguaje.

Ayer podía estar representado por la fuerza militar. Después por el control de los recursos industriales, de las comunicaciones o de las finanzas.

Mañana podría estar representado por el control de los sistemas capaces de interpretar la realidad digital de millones de personas.

No estamos hablando necesariamente de una conspiración ni de imaginar una película de ciencia ficción.

Estamos hablando de una posibilidad política que merece ser discutida antes de que determinadas estructuras tecnológicas se conviertan en una realidad irreversible.

Porque un eventual gobierno digital no necesitaría necesariamente abolir las instituciones democráticas para ejercer una enorme influencia sobre ellas.

Podría bastar con controlar los sistemas que procesan la información sobre la cual esas instituciones toman sus decisiones.

Y allí aparece una paradoja inquietante:

podríamos conservar las elecciones, los parlamentos y los gobiernos, mientras una parte cada vez mayor de las condiciones que determinan sus decisiones estuviera definida por sistemas que la ciudadanía no comprende, no controla y eventualmente ni siquiera puede auditar.

¿Seguiríamos hablando entonces de soberanía popular?

La cuestión moral es todavía más profunda.

Si una inteligencia artificial puede recomendar quién debería recibir determinado beneficio, qué zona necesita mayor vigilancia, qué información debe ser priorizada, qué riesgos económicos deben anticiparse o qué políticas parecen más convenientes, ¿quién responde cuando esa decisión perjudica a una persona?

¿El funcionario que utilizó el sistema?

¿La empresa que desarrolló el algoritmo?

¿El Estado que lo adquirió?

¿Los programadores?

¿O nadie?

Una sociedad democrática no puede delegar indefinidamente la responsabilidad en una máquina.

Porque una máquina puede calcular.

Pero no puede asumir responsabilidad política en nombre de los ciudadanos.

Por eso, quizás el gran acontecimiento histórico que estamos comenzando a vivir no sea el nacimiento de una inteligencia artificial capaz de pensar como un ser humano.

Podría ser algo mucho más silencioso:

el nacimiento de una nueva infraestructura de poder.

Una infraestructura capaz de atravesar simultáneamente la economía, la administración pública, las comunicaciones, la educación, la seguridad, la información y, finalmente, la política.

Y si esa infraestructura queda concentrada en pocas manos, el problema ya no será determinar si la inteligencia artificial es buena o mala.

El problema será determinar quién tiene el derecho de decidir qué debe hacer con ella.

Tal vez el futuro no nos enfrente a una guerra entre humanos y máquinas.

Tal vez el conflicto verdaderamente decisivo sea entre ciudadanos y concentración de poder.

Entre democracia y opacidad.

Entre soberanía pública y control privado.

Entre una tecnología sometida a la sociedad y una sociedad que termina adaptándose a las reglas de su tecnología.

Pero sería igualmente apresurado concluir que toda incorporación de inteligencia artificial al ámbito público representa una amenaza para la democracia.

La misma tecnología que puede aumentar la capacidad de vigilancia también podría utilizarse para detectar irregularidades, mejorar la transparencia, facilitar el acceso de los ciudadanos a la información pública, optimizar servicios esenciales y poner capacidades de análisis que antes estaban reservadas a grandes instituciones al alcance de millones de personas.

La discusión, por lo tanto, no debería reducirse a decidir si la inteligencia artificial es buena o mala. Tampoco debería consistir en rechazar el progreso tecnológico por temor a sus consecuencias.

La verdadera discusión podría ser otra: qué reglas estableceremos para que una tecnología cada vez más poderosa permanezca subordinada a los derechos de las personas y no al revés.

La misma pregunta alcanza a quienes desarrollan y administran estas tecnologías. No se trata de afirmar que la propiedad privada sea incompatible con el interés público. Se trata de preguntarnos qué ocurre cuando una herramienta privada adquiere una importancia pública de tal magnitud que su funcionamiento puede terminar condicionando decisiones que afectan a toda la sociedad.

Por eso este momento histórico merece ser observado con mucha mayor atención.

Mientras millones de personas utilizan diariamente herramientas de inteligencia artificial para escribir, crear, estudiar o trabajar, se está desarrollando silenciosamente una discusión mucho más trascendente: qué lugar ocuparán estas tecnologías dentro del orden político que conocerán las próximas generaciones.

Quizás todavía estemos a tiempo de formular las preguntas fundamentales.

¿Debe existir una inteligencia artificial bajo control democrático?

¿Puede una empresa privada administrar una infraestructura tecnológica indispensable para la sociedad sin quedar sometida a límites extraordinarios?

¿Quién debe establecer las reglas de un eventual gobierno digital?

¿Puede existir soberanía política cuando la infraestructura tecnológica fundamental depende de actores privados?

¿Y qué ocurriría si algún día la ciudadanía descubre que conserva el derecho a elegir gobernantes, pero ya no posee el verdadero control sobre los sistemas que permiten gobernar?

Son preguntas que todavía pueden parecer exageradas.

Pero muchas transformaciones históricas fueron difíciles de dimensionar mientras estaban ocurriendo. Por eso resulta razonable preguntarnos hoy qué estamos construyendo antes de que sus consecuencias sean difíciles de modificar.

Quizás por eso este no sea solamente el momento de aprender a utilizar la inteligencia artificial.

Es también el momento de decidir bajo qué reglas permitiremos que sea utilizada sobre nosotros.

Quizás la pregunta más importante no sea si debemos aceptar o rechazar la inteligencia artificial.

Quizás debamos preguntarnos qué límites estamos dispuestos a establecer antes de que la tecnología sea demasiado poderosa para que esos límites puedan ser decididos democráticamente.

La respuesta no pertenece a las máquinas.

Tampoco debería pertenecer exclusivamente a quienes las construyen.

Por ahora, la pregunta sigue abierta.

Y quizás corresponda a cada ciudadano decidir qué respuesta está dispuesto a aceptar.