Guerra e Inteligencia Artificial
19 de diciembre de 2023
Claro, siempre hay una mano que mece el algoritmo. La Inteligencia Artificial (IA) está condicionada para pensar como un ser humano, o como para pensar como algunos suponen que piensa un ser humano.
A partir del 2001 y la intervención norteamericana en la «guerra contra el terror», varios medios informaron el bombardeo de ceremonias de casamiento en Afganistán. La revista The Nation, fundada en Estados Unidos en 1865 por militantes anti-esclavistas y desde entonces referencia del pensamiento crítico, reveló una veintena de esos ataques para diciembre de 2013, incluso en Irak y en Yemen, con varios centenares de muertos. Una de las explicaciones achacaba esas masacres al ataque de drones, quizás programados para atacar agrupamientos de barbudos. No es muy complicado: los terroristas usan barba, hay muchas barbas juntas, liquidemos los barbudos y no hay más terroristas.
Eric Sadin (1973) es un filósofo francés (sí, todavía quedan) que publicó en 2018 La inteligencia artificial o el desafío del siglo. Allí sostiene que la dimensión emotiva de la IA es decisiva, ya que promete superar el pensamiento de un cerebro humano limitado, esta vez con más información, con más rapidez y con más pertinencia. La IA suple las carencias humanas y despliega frente a nosotros posibilidades infinitas: es un algo que puede identificar mejor lo real que nosotros mismos e incluso develar dimensiones más allá de nuestra conciencia. Ya no es ciencia ni técnica, la IA cambia el estatus digital del análisis cuantitativo para alcanzar la verdad: es el Aleph o el Santo Grial. Sadin sostiene que es una altheia en el sentido filosófico griego, ya que puede identificar lo real mejor que nosotros mismos, puesto que la IA devela la realidad de los fenómenos más allá de la apariencia. Ya no es técnica, es logos. Es decir: palabra, discurso, razón. En contados segundos usted puede pedir una pizza, encontrar una pareja o bombardear el lugar donde está el escondite de los malos.
Claro, siempre hay una mano que mece el algoritmo. La IA está condicionada para pensar como un ser humano, o como para pensar como algunos suponen que piensa un ser humano. Así, Sadin denuncia la ilusión de un cerebro dotado de infinitas posibilidades matemáticas. El pacto con el Diablo no es gratis. Al aumentar los extremos más radicalizados, que son más fáciles de emular, supone el aumento de la capacidad cognitiva, mejorada en rapidez, eficiencia y finalidad alimenta los extremos, conforma los fanatismos en certezas. Hola, Occidente.
Por supuesto, el principal campo de despliegue de la IA es la guerra. ¡Significa que los sistemas de mando y control puedan alimentar sin cesar a los centros humanos de decisión con la información pertinente en tiempo cero! ¡E incluso puede hacer que las armas piensen, tomen decisiones y maten sin tanto discernimiento! Pero todo no es una alfombra de bombas, incluso «inteligentes» (es que pensamos que si las bombas pudiesen ser inteligentes preferirían ser tostadoras).
En octubre de este año dos trabajadores de la Cruz Roja, el oficial Stewart y la abogada Hinds, señalaron que la IA utilizada en conflicto favorece los datos sesgados, no es fiable y a veces erra en todo. También hablan de la vulnerabilidad de esos sistemas, puesto que basta que «el enemigo» pueda interferir la IA y designe como blanco a los buses escolares, para que las propias armas produzcan estragos. La IA, dicen estos expertos, no toma decisiones, pero influye sobre los humanos que las toman. En situaciones críticas, los decisores preferirán hacerle caso a la IA, por más que provea información errónea, ya que esos militares han sido formados para creerle a la IA. Afirman además que la IA de guerra no distingue entre civiles y militares, lo que según la Cruz Roja es un crimen de guerra.
Para terminar, digamos que en European Journal of International Security de 2021, los señores Page y Williams sostienen que no es posible evaluar la efectividad de los drones. No sólo por la diferencia de registro y resultado según los diferentes terrenos, sino porque el uso de los drones carece de sentido sin tener en consideración cuáles son los objetivos de guerra, así como las condiciones locales en los ámbitos cultural, económico y social del territorio en disputa. Un poco más y descubren la política.
Sin restar trascendencia a la IA, en especial en campo de batalla, hay algo que recuerda al legado papal Arnaud Amaulry en la cruzada contra los albigenses durante 1209 en el sur de Francia. Para no tener que discernir qué habitante de la ciudad de Béziers era «hereje» y quién buen «católico» ordenó «mátenlos a todos, Dios reconocerá los suyos».
POR ERIC CALCAGNO @EricCalcagno