Esta semana supe que el Departamento de Defensa está utilizando el reconocimiento facial a escala, y el Secretario de Defensa Mark Esper dijo que cree que China está vendiendo drones autónomos letales. En medio de todo eso, es posible que haya perdido al director del Centro Conjunto de AI (JAIC), el teniente general Jack Shanahan, a quien el Pentágono le encarga la modernización y la guía de las directivas de inteligencia artificial, hablando sobre un futuro de guerra algorítmica.
La guerra algorítmica, que podría cambiar drásticamente la guerra tal como la conocemos, se basa en el supuesto de que las acciones de combate sucederán más rápido que la capacidad de los humanos para tomar decisiones. Shanahan dice que la guerra algorítmica requeriría cierta dependencia de los sistemas de inteligencia artificial, aunque enfatiza la necesidad de implementar pruebas y evaluaciones rigurosas antes de usar la inteligencia artificial en el campo para asegurarse de que no “tome vida propia, por así decirlo”.
“Nos sorprenderá la velocidad, el caos, la sangre y la fricción de una pelea futura en la que esto se desarrollará, tal vez en microsegundos a veces. ¿Cómo imaginamos que esa pelea suceda? Tiene que ser algoritmo contra algoritmo “, dijo Shanahan durante una conversación con el ex CEO de Google Eric Schmidt y el vicepresidente de asuntos globales de Google, Kent Walker. “Si estamos tratando de hacer esto humanos contra las máquinas, y el otro lado tiene las máquinas y los algoritmos y nosotros no, tenemos un riesgo inaceptablemente alto de perder ese conflicto”.
El informe también reconoce que el mundo puede experimentar una erosión de libertades civiles y aceleración de los ataques cibernéticos en la era de la IA. Y hace referencia a China más de 50 veces, destacando la naturaleza entrelazada de los ecosistemas de IA chinos y estadounidenses en la actualidad, y el objetivo de China de convertirse en un líder mundial en IA para 2030.
Vale la pena señalar que el informe NSCAI elige centrarse en la inteligencia artificial estrecha, en lugar de la inteligencia general artificial (AGI), que aún no existe.
Armas autónomas
Heather Roff es analista senior de investigación en la Universidad Johns Hopkins y ex investigadora científica en DeepMind de Google.Ella cree que la cobertura mediática del DIB informa un uso sensacionalista de armamento autónomo, pero en general no consideró las aplicaciones de IA en todo el ejército en su conjunto, en áreas como logística, planificación y ciberseguridad. También citó el valor de AI para facilitar las auditorías para el ejército de los EE. UU., Que tiene el mayor presupuesto de todos los militares del mundo y es uno de los empleadores más grandes del país.
La versión borrador del informe NSCAI dice que el armamento autónomo puede ser útil, pero agrega que la comisión tiene la intención de abordar las preocupaciones éticas en el próximo año, dijo Roff.
