La relación entre el poder y la tecnología se ha entrelazado de forma cada vez más estrecha. Hoy en día, las tecnologías avanzadas como la inteligencia artificial, la vigilancia masiva y el análisis de big data han abierto nuevas posibilidades para gobiernos y corporaciones, tanto para fines positivos como para la manipulación y el control.
Esto ha suscitado temores sobre el surgimiento de lo que es conocido como “dictaduras tecnocráticas”, regímenes que podrían emplear la tecnología para ejercer un control absoluto sobre sus poblaciones. Y, respondiendo al título de la columna, no solo estamos cerca de gobiernos que emplean tecnología; esos gobiernos ya están aquí.
El caso de China es lo primero que viene a la mente cuando se habla de la integración de la tecnología en las políticas estatales. Con un sistema de crédito social que evalúa la confiabilidad de los ciudadanos en función de su comportamiento, y una red masiva de cámaras de vigilancia equipada con tecnología de reconocimiento facial, el gobierno chino puede rastrear a sus ciudadanos practicamente en tiempo real. El proyecto de crédito social, lanzado desde el 2014, monitorea cada actividad, desde pagos atrasados hasta comportamientos sociales, otorgando recompensas o restricciones basadas en la puntuación de cada ciudadano. En 2023, el país ya tenía más de 700 millones de cámaras de vigilancia instaladas, un promedio de una cámara por cada dos habitantes.
El control de la información también ha sido un factor crucial en el surgimiento de estos regímenes tecnocráticos. En Rusia, el gobierno ha restringido significativamente el acceso a medios independientes y redes sociales occidentales, prefiriendo plataformas propias que son fácilmente controladas y monitoreadas por el gobierno.
La llamada “Internet soberana” en la que trabaja el gobierno ruso, permite desconectar el país de la red mundial si así se desea, creando una burbuja digital aislada. Además, con la “Ley de Bloggers”, cualquier persona con más de 3,000 seguidores está obligada a registrar su información personal en el gobierno, lo que facilita identificar y perseguir a esas voces que estén en contra del oficialismo.
En occidente, la manipulación de información ha tomado otras formas. El escándalo de Cambridge Analytica en 2018, que implicó la recolección no autorizada de datos personales de decenas de millones de usuarios de Facebook para influir en las elecciones, reveló lo vulnerable que es realmente la democracia frente a técnicas avanzadas de análisis de datos y psicometría. El informe del Comité de Inteligencia del Senado de EE. UU. concluyó que Rusia usó desinformación en redes sociales para influir en las elecciones presidenciales de 2016, aprovechando la segmentación de anuncios para amplificar mensajes divisivos.
En tiempos de pandemia, los Emiratos Árabes Unidos creó la aplicación de COVID-19, que originalmente se utilizó para “cuidar” a sus ciudadanos y que después se convirtió en un instrumento para monitorearlos, con permisos digitales que permitían o negaban la movilidad de una persona en función de su riesgo de contagio. Además, el gobierno utiliza la Inteligencia Artificial y el reconocimiento facial han permitido mantener un estricto control sobre el comportamiento de la población, argumentando que estas medidas son necesarias para la seguridad pública.
Según un informe de Freedom House, 62 países han adoptado tecnologías de IA para la vigilancia masiva desde 2017, con China como principal proveedor de equipos. La exportación de sistemas de vigilancia a países como Venezuela y Zimbabue, combinada con software de hacking avanzado, ha permitido a gobiernos autoritarios rastrear y perseguir opositores con gran eficacia.
A pesar de estos riesgos, la tecnología también tiene un gran potencial para mejorar la gobernanza. En Estonia, por ejemplo, un país que he mencionado en esta columna en repetidas ocasiones, ha utilizado la digitalización de los servicios públicos para reducir la corrupción, agilizado trámites y empoderado a los ciudadanos. El concepto de “e-Residency” permite a cualquiera establecer una empresa en Estonia y acceder a todos los servicios gubernamentales en línea, creando un modelo de transparencia y eficiencia.
La inteligencia artificial puede ser una herramienta importante para los gobiernos con la finalidad de ofrecer soluciones a problemas complejos de políticas públicas. Un escenario, que podría no ser tan lejano, contempla un gobierno dirigido parcialmente por la inteligencia artificial, que podría tomar decisiones basadas en datos empíricos, eliminando sesgos humanos y reduciendo la corrupción. Por ejemplo, un sistema de IA podría gestionar políticas fiscales o laborales utilizando modelos predictivos para asegurar el bienestar económico de la población. El análisis de datos permitiría identificar áreas con deficiencias en servicios como educación o salud, y la automatización puede mejorar la asignación de recursos.
Un sistema de IA con acceso a datos económicos, sanitarios y de comportamiento podría identificar patrones que los humanos no notarían fácilmente, prever problemas antes de que se conviertan en crisis y simular el impacto de diferentes políticas públicas antes de implementarlas. Así, la tecnología ayudaría a evitar sesgos y minimizar el impacto de decisiones impulsadas por intereses personales, generando soluciones más efectivas para la sociedad.
El uso de la IA en el gobierno podría acabar con la corrupción, una urgencia en muchos países. Pero la tecnología debe ser manejada con precaución, ya que siempre debe estar al servicio de la libertad individual. Aunque no podemos garantizar que su uso sea siempre para el bien común, la tecnología proporcionaría más transparencia que los sistemas actuales, evitando que los burócratas se beneficien a costa de los ciudadanos.
El potencial para mejorar la gobernanza es enorme, pero debemos tener cuidado con las dictaduras tecnocráticas, donde la tecnología se podría convertir en una herramienta de control. La IA y otras tecnologías emergentes deben desarrollarse con marcos éticos claros, donde el mercado y la libertad jueguen un papel central. La innovación tecnológica debe ir de la mano de la responsabilidad y el respeto por los derechos individuales, equilibrando el avance con límites que garanticen la privacidad, los derechos humanos y la democracia
