EL GOBIERNO DE LOS ALGORITMOS Y LA INTELIGENCIA ARTIFICIAL: ¿CAMINAMOS HACIA UN AMAZON GUBERNAMENTAL?

An article by Pablo Sánchez Chillón, Lawyer, International Speaker, Strategy and Public Affairs Advisor and Urban Advocate. Pablo is the Director of Foro Global Territorio & GlobalGOV, the first Reputational Think Tank in Spain and coordinates #CMAP, Master on Political Communication and Public Affairs. Check out the work of Pablo as Chief Editor of Urban 360º. This article is published with the support of GlobalGOV & Foro Global Territorio.

If you want to contact Pablo, use the link.


Robot-president--1160x773
Marco y contexto para esta reflexión sobre el Gobierno y los Algoritmos.-

En febrero de 2018 he tenido la ocasión de participar, brindando sendos keynotes, en dos eventos de relevancia en el entorno de las Ciudades Inteligentes y la Innovación Urbana, celebrados en Murcia y Madrid (España), que me han permitido seguir dando a conocer nuestra visión y nuestra experiencia con los entornos de innovación urbana en Sánchez Chillón / Eolex Citylab y en el Foro Global Territorioy su Aula GlobalGOV, de Gobierno, Relaciones Institucionales y Empresa.

En el Congreso Urban Intelligence, evento de carácter innovador en el que, de la mano de los proyectos desarrollados por distintas ciudades europeas, pudimos debatir acerca de los últimos avances, soluciones tecnológicas y proyectos relacionados con las ciudades inteligentes y la nueva sociedad conectada. El encuentro analizó, con un eminente enfoque práctico y aplicado, determinadas cuestiones que inciden en la realidad de las ciudades, tales como la digitalización, la movilidad inteligente, el blockchain, internet de las cosas, cloud computing o el bitcoin.

Al calor de este debate, y con la intención de enmarcar la realidad de las Ciudades Inteligentes en un contexto geopolítico y social global que las conforma y modela, más allá de los enfoques cortoplacistas y exclusivamente comerciales que la suelen caracterizar, tuve ocasión de resaltar ante la audiencia internacional congregada en Urban Intelligence Murcia, el rol del Nuevo Poder Urbano (NPU) como catalizador de procesos disruptivos de innovación de alto impacto que se producen en un contexto de lo que he denominado nueva sociabilidad urbana, caracterizada por la creciente digitalización ubicua, el egocentrismo y la superficialidad, los compromisos y adhesiones ciudadanos de intensidad variable y naturaleza discontínua (sociales y políticos) y el progresivo deterioro de la idea de escena y espacios públicos, cada vez menos relevantes y aptos para la pura interacción humana, y más uniformes y predecibles.

IMG_20180207_110743Además, recuperando la línea de investigación permanente sobre Poder y Agenda Global que impulsamos desde el Foro Global Territorio (primer Think Tank español sobre activos intangibles del Territorio, que dirijo) puede insistir, en cómo el NPU se ha convertido en un actor influyente del agenda setting actual y en verdadero promotor de un nuevo estilo de diplomacia blanda global, basado en una revisión del paradigma cultural del gobierno de las ciudades, en la sindicación de intereses y alianzas entre Alcaldes y territorios y en la utilización de herramientas y enfoques en los que el soft-power urbano está haciendo de las Ciudades las nuevas Repúblicas de Datos del S. XXI, y escenario de los grandes retos y desafíos de la humanidad.

Días después, en Móstoles/Madrid, e invitado por la Federación de Municipios de Madrid, he tenido la ocasión de participar en Exilum 2018, el evento de referencia nacional en España sobre Iluminación Pública. Organizado por smartLIGHTING junto con la Federación de Municipios de Madrid, EXILUM ha contado con el apoyo de las asociaciones sectoriales CEI, Anfalum y ANESE y con el patrocinio de las principales empresas del sector.

En Exilum 2018 pude conocer, de la mano de los protagonistas de la industria y los servicios y de la de los Ayuntamientos de la Comunidad Autónoma de Madrid, la realidad de un sector determinante en la percepción de la escena pública de la ciudad, y que enfrenta estimulantes retos para el futuro, de la mano de la conectividad 5G, el IoT, el LaaS (Lighting as a Service) etc, además de desafíos de naturaleza contractual, regulatoria y operativa en los próximos años. La iluminación pública es un elemento determinante a la hora de crear y dinamizar la ciudad, y un factor esencial para favorecer (o limitar) la interacción social y la convivencia en nuestras urbes.

Finalmente, en ambos encuentros, pude compartir con la audiencia algunas reflexiones intencionadamente polémicas en relación con la proyección que hacen algunos expertos y conneisseurs sobre la inquietante toma de conciencia colectiva de la existencia de una serie de procesos que afectan a nuestras vidas y que no controlamos en absoluto, quedando buena parte de ellos al albur de complejas operaciones matemáticas que analizan y gestionan información y datos y la convierten en respuestas y acciones concretas, dotadas de un cierto automatismo que responde a la lógica de estos algoritmos diseñados para resolver problemas o anticiparse a ellos.

 

El Gobierno (predictivo) de la Res Publica.-

De manera creciente, además, y tras años de inercias y desconocimiento generalizado, se empieza a cuestionar el enfoque ético de esos algoritmos condicionantes de nuestro (digital) existir,  denunciando la existencia de sesgos (byas) en su programación que los alejan del ideal de la justicia distributiva y la eventual imparcialidad que se les atribuye a la hora de tomar decisiones relevantes para la vida de la comunidad. De igual manera, los Gobiernos anuncian iniciativas legales para “domar” a los algoritmos, iniciativas que se anuncian desde las tribunas gubernamentales quién sabe si como mero recurso comunicativo (gobernar a golpe de tuit lo llamáis), como ejercicio de wishful thinking contemporáneo o como verdadera toma de postura ejecutiva frente a un universo matemático consustancialmente ajeno a la emotividad, la ética y otros subproductos románticos de la condición humana.

El ámbito del Gobierno de la Cosa Pública no ha sido ajeno en las últimas épocas a la fiebre del relato sobre las virtudes y defectos de los algoritmos, cada vez más en boca de visionarios, empresas proveedoras de servicios de perfilado personal, segmentación de audiencias o microtargeting político, que describen un futuro inmediato de profunda transformación de la política, sus procesos y sus protagonistas.

En la era del despertar cívico digital, la movilización en redes y la (¿bisoña?) autoconciencia ciudadana de control de la política y de la capacidad de la ciudadanía de marcar e incidir en la agenda de gobierno (con el ensanchamiento semántico y práctico del concepto de esfera pública, que algunos equiparan ya, a una burbuja), la irrupción definitiva de las tecnologías digitales (Inteligencia Artificial, machine learning, big data, algoritmos, bots etc) en el mundo de la gestión pública y la toma de decisiones políticas, anticipa un horizonte ¿posible? de máquinas e inteligencia no humana asumiendo roles, tareas y procesos decisorios que hoy, tras siglos de teoría y práctica del gobierno representativo, recaen en manos de los gobernantes electos, como fundamento de nuestras democracias occidentales.

De igual manera, y si la predictibilidad y la anticipación a las necesidades del consumidor/ciudadano se va perfeccionando, tal vez el futuro sea el de una especie de Amazon Gubernamental, que ante nuestros procesos de compra de productos (o utilización de servicios ciudadanos) nos propone otros complementarios y ‘perfilados’ específicamente para nosotros, sobre la base de una compleja interacción social basada en mecanismos algorítmicos.

En este escenario de pragmático utilitarismo en el que vivimos, y ante la irrupción del activismo de sofá (slacktivism en su acepción inglesa), tal vez sea más fácil sugerir adhesión mediante un click a una determinada decisión política ‘afín’ a nuestro perfil publicado y creencias redundantes que obligarnos a pensar de manera crítica y prospectiva sobre la conveniencia, alcance y efectos de su aplicación.

En unas sociedades urbanas sobreinformadas, superficiales, hedonistas y perezosas como las que algunos pronostican para los próximos años ¿Tendremos Robots Alcaldes dirigiendo los destinos de nuestras ciudades?

 

La Ciudad del Control Total y el Gobierno de los Algoritmos.

No es Black Mirror, pero se le parece mucho. Y asusta.

1518007737_209089_1518008017_noticia_normal_recorte1Face ++, el proyecto en desarrollo en China para el control total de la población es ya una realidad. Concedo que China no es un campeón de la democracia, y aun, que el poso de siglos de cultura política clásica que hunde sus raíces en la polis griega puede que nos sirva de antídoto en Europa frente a escenarios distópicos como el que impulsa el Gobierno de China de la mano de sus proveedores tecnológicos, pero esta realidad – la suma de un inefable control biométrico, de reconocimiento de voz y de consiguiente puntuación de la calidad y condición de ciudadano en función de los parámetros diseñados por este Big Brother Chino debería servirnos de inquietante aviso para navegantes. 

En todo caso, el Año del Perro en China, que empieza hoy 16 de febrero de 2018, asiste ya, al despliegue total de esta Policía Preventiva y Tecnológica en el país asiático, como nos han recordado determinados medios en los últimos días. Es una Smart City impactante, sí, pero bajo ópticas de control y seguridad total que colisionarían con derechos fundamentales de los individuos en cualquier democracia occidental.

En cualquier caso, la advertencia es real, y todo ello en un contexto como el actual en el que a la pujanza tecnológica se une, por un lado, la desafección política generalizada y el deterioro general de la reputación y la valoración de las instituciones de nuestras democracias, así como  la crisis total de la idea de poder (el poder ya no es lo que era) que puede crear, a medio plazo condiciones de entorno favorables para el planteamiento de escenarios tan radicales como el que describía, hace unas semanas la edición del semanario Papel de El Mundo.

Transcribo literalmente parte de su contenido (este es el enlace al reportaje): “El reconocimiento facial ya es una herramienta habitual en China, donde se puede entrar en restaurantes KFC y adquirir el menú exhibiendo el rostro frente a una máquina que reconoce las facciones -que incluso sugiere el tipo de comida al cliente en base a su edad-, ver cómo instituciones financieras como el Banco Mercantil, el de Construcción o el Banco Agrícola de China permite a sus clientes retirar dinero de cajeros sin necesidad de tarjetas, al confirmar los rasgos de su fisonomía, o advertir cómo los lavabos del conocido Templo del Cielo de Pekín sólo dispensan papel higiénico tras un escaneado del rostro, para evitar el habitual robo de este producto.

Pero también es recurrente encontrarse en ciudades como Shanghai o Hangzhou con paneles donde se exhiben los rostros de los peatones que han cruzado la calle en rojo o ciclistas y motoristas que marchan en dirección contraria, cuya cara ha sido “capturada” por una de esas cámaras. La única manera que tienen para que su nombre no siga siendo motivo de escarnio público y ejemplo de mal ciudadano es pagar en la comisaría del barrio 20 yuanes (2,60 euros) para los infractores de a pie y 50 yuanes para los ciclistas (6,5 euros).

Esta simbiosis entre el sector privado y el público se fundamenta en un beneficio mutuo. Las firmas privadas obtienen subvenciones estatales y contratos con el sector público, y las fuerzas de seguridad tienen acceso a los adelantos tecnológicos obtenidos por los investigadores de estas compañías. Por ejemplo, Face ++ recabó 460 millones de dólares en inversiones lideradas por un fondo estatal chino en noviembre pasado.”

Siendo, la Ciudad Inteligente, al menos desde el enfoque posibilista,  una ventana de oportunidad para el progreso y el desarrollo de nuestros territorios, no podemos ignorar que se vislumbra en este horizonte de progreso tecnológico lineal que algunos anticipan, una serie de conflictos y colisiones (latentes y visibles) que se producirán, si nadie lo remedia, en nuestras ciudades, con el enfrentamiento entre dos cosmovisiones antagónicas sobre el gobierno y la cosa pública.

Por un lado, aquella que, de la mano de la tecnología ubicua, la inteligencia artificial o cualquier otra herramienta que la complemente o sustituya en el futuro, proyecta un pragmático criterio de utilidad, personalización y anticipación a la producción de un evento cualquiera en la ciudad, exigiendo, una respuesta eficaz en clave de gobierno (una especie de Amazon Gubernamental que piensa/decide y sugiere soluciones gubernamentales en tiempo real).  

Por otro lado, la visión que invoca criterios de escala humana y no tan radicalmente transitivos para el gobierno de nuestras ciudades, basados en el liderazgo personal, la equidad, la espontaenidad y el libre arbitrio natural a la condición humana, sin renuncia a ciertos grado de anticipación.

 

AI-Mayor-Japan

Tama (Tokio), abril de 2018: Una Inteligencia Artificial se postula a la Alcaldía del municipio.-

Sin ir más lejos, hace unos días (abril 2018) saltaba a los medios de comunicación la noticia de la primera candidatura de una Inteligencia Artificial a la Alcaldía de un municipio japonés, para sorpresa y estupor de la mayoría, y deleite visionario de los menos impresionables. En efecto, y aunque la lectura del sucedido revelaba que el candidato real a la Alcaldía era un ser humano de carne y hueso con un nombre cercano al universo Pokèmon- Michihito Matsuda, se llama el aspirante- éste iba a basar su eventual mandato al frente del distrito de Tama (en Tokio) en la maximización del uso de la IA para la gestión de los asuntos municipales, hacíendose llamar el “Alcalde IA”.

Entre sus propuestas más impactantes (si acaso toda la campaña no lo sea ya, per se) encontramos su intención de sustituir a los funcionarios públicos por la inteligencia artificial y apuesta por la recopilación masiva de datos sobre el municipio como presupuesto para el diseño y ejecución de una acción pública de base algorítmica que de como resultado decisiones inatacables desde el punto de vista de los criterios distributivos para los vecinos, sustituyendo el juicio de valor y la sana crítica sobre el sentido de una determinada política pública por la incontestable infalibilidad teórica de la decisión algorítmica, insensible a las debilidades, la emotividad o la vocación de equidad (dar a cada uno lo que necesita según sus medios y condiciones) que está presente en el alma de los seres humanos (y también de los Alcaldes, aunque a algunos cueste reconocerles esta sensibilidad de raíz antropológica).

Aunque no sabemos qué tal le irá al bueno de Michihito Matsuda, en Tama, su mensaje es claro: en el universo perfecto de la predicibilidad factual y la política municipal inteligente, el Algoritmo no es susceptible de fallar.

 

 

¿Política? Un algoritmo para gobernarlos a todos.-

Hace tiempo que defiendo aquí y en mis charlas, una visión crítica frente a los discursos mesiánicos y de control total de la Smart City (la promesa de la ciudad dirigida desde una plataforma o un dashboard) en relación con la Ciudad Inteligente, en especial con aquéllos que, en ausencia de planteamientos críticos, pronostican formas de convivencia urbana exponencialmente mediadas por la tecnología.

Estos discursos (predominantes, con alguna excepción notable, en el ecosistema corporativo de la Ciudad Inteligente) son los mismos que sirven de soporte a propuestas y soluciones de gobernanza municipal definidas por criterios de pura gestión, por el imperio de los datos y de los algoritmos (sesgados) y por una combinación de predictibilidad y enfoque anticipatorio de la complejidad urbana, reduciendo la idea de ciudad a un escenario previsible y controlable bajo métricas y parámetros definidos por la tecnología y el big data en los que la toma de decisiones se automatiza).

Estas cosmovisiones híper-tecnológicas de lo urbano, esconden, a mi juicio, y llevadas a su extremo, un inquietante discurso antidemocrático y una negación de la legítima y esencial potestad del poder político, (electo y representativo), de tomar decisiones libres y responsables más allá del dato obtenido de la Ciudad Inteligente, –y aun, contra la propia lógica aplastante de los dato, añado- , como manifestación pura del principio democrático de la elección (gobernar es elegir, decidir, y acertar o equivocarse) y de aquéllo que los especialistas en Derecho Administrativo definen como ‘actos de gobierno’, esencialmente discrecionales, responsables y libres.

Si en un escenario supertecnológico todo fuese tan medible, tan previsible y anticipable en nuestras ciudades, y si la suerte de los ciudadanos se redujese a convertirse en meros píxeles que se mueven de manera esperable por una pantalla de control en manos de un gobierno municipal (o de una corporación a quien se delegue tal control al efecto) tal vez, en esta República Total del Ciudadano Píxel, tendríamos que sustituir a los Alcaldes y Alcaldesas por Teletubbies, inanes, asexuados y amorosos.

screenshot_2018-02-16-14-03-56.pngDe igual manera, en esta Utopía tecnológica, si la idea de Gobierno termina reducida a la de mera provisión, en tiempo real, de un menú de servicios eficientes articulados en función de las lógicas de los algoritmos perfectos y en el contexto de aquello que Eli Parisier ha denominado acertadamente el Filtro Burbuja y bajo dinámicas de transparencia a ultranza (la que lleva a tantos Gobiernos que quieren ser ‘transparentes’ a convertirse en ‘invisibles’ por la incapacidad de tomar decisiones discrecionales de las que deban sentirse responsables ante los ciudadanos) tal vez, y lo digo con toda la ironía, no haría falta convocar elecciones para designar a nuestros gobernantes.

En este contexto, todo estaría pre-establecido, pre-organizado y decidido desde la infalible herramienta tecnológica, y además, pensaríamos -al igual que tantos otros como nosotros respirando el mismo aire dulce, sesgado y conformista de la burbuja – que así debe ser, pues el disenso en esta arcadia tecnológica que algunos proponen sin atisbo de espíritu crítico nos expone al F.O.M.O (fear of missing out) y al unfollow, y la diversidad ideológica, “un horrible error en el algoritmo de Facebook provoca la exposición a nuevas ideas” al riesgo de pensar y razonar, un capricho muy caro en la era de la permanente distracción tecnológica.

(Tal vez sea un buen momento para releer mi “Manual Para Fieles de la Innovación Urbana: 20 tips para quienes perdieron la fe (y el Norte) en las Smart Cities”).

Como testimonio de estos encuentros, y del mensaje que he tratado de resumir en este post, comparto el enlace a la presentación que acompañó a mi presentación en Madrid, y que titulé “La Ciudad Encendida: Inteligencia, Buen Gobierno y Relato Innovador como Vectores de Progreso Urbano”, (122 slides de alto impacto real, a juzgar por la acogida del público presente en la sala ;).

Espero que la disfrutéis tanto como yo cuando la preparaba.


By Pablo Sánchez Chillón. Lawyer. Urban Affairs Specialist and Director of  GlobalGOV.  Editor of Urban 360º

This article is published with the support of GlobalGOV & Foro Global Territorio.

If you want to contact Pablo, use the link.

More resources about Cities, Government and Urban Politics to be found here: Urban 360º