¿Por qué existen los riesgos del armamento que funciona con IA?

Es muy probable que en algún momento las zancadas de los drones sentados sean un rasgo característico de los campos de batalla de todos. Esto es lo que ha provocado un debate sobre si se debe hacer un uso regular (y cómo) y ha generado preocupaciones sobre la posibilidad de que, en última instancia, las decisiones de vida o muerte se transfieran a los programas de inteligencia artificial (IA).

A continuación, ofrecemos una descripción general de la evolución de la tecnología, los tipos de armas que se desarrollan y que han hecho avanzar el debate.

En ese momento, es muy probable que la IA permita a los sistemas de armas tomar sus propias decisiones sobre la selección de ciertos tipos de objetivos y atacarlos. Los recientes avances en la tecnología de IA han intensificado el debate en torno a estos sistemas, conocidos como armas letales autónomas.

Pero en cualquier caso, las armas autónomas no son nuevas.

Las minas terrestres, que están diseñadas para activarse automáticamente cuando una persona u objeto pasa sobre ellas, se utilizaron en el siglo XIX durante la Guerra Civil estadounidense. Al parecer fuimos inventados por un general confederado llamado Gabriel Lluviasquien las llamó “proyecto subterráneo”.

Si se utiliza bien desde el principio, mucho antes de que alguien pueda diseñar IA, tiene relevancia para el debate actual porque una vez instalada, funciona sin intervención humana y sin discriminación entre los objetos previstos y las víctimas no deseadas.

A partir de finales de los años 1970, Estados Unidos comenzó a desarrollar este concepto, con un arma conocida como mina antisubmarina CAPTOR. Allá mina Es posible llegar desde un avión o un barco y acercarse al fondo del océano, de forma permanente hasta que se produce el disparo automático cuando los sensores del dispositivo detectan un objeto enemigo.

Desde la década de 1980Desde hace décadas, los barcos de la Armada han comenzado a depender del sistema de armas AEGIS, que utiliza un sistema de radar de alta potencia para detectar y rastrear cualquier misil enemigo atacante. Es posible configurarlo automáticamente para dispersar misiles defensivos antes de intervenir sobre una persona.

El siguiente paso en la progresión son armas autónomas más sofisticadas, colocadas en forma de municiones autoguiadas que “desaparecen y eliminan”, como el avanzado misil aire-aire de media altura. OBJETIVO-120hay un buscador de radar que afina la trayectoria de un misil cuando pretende destruir aviones enemigos.

Las municiones autoguiadas generalmente no pueden recuperarse después de ser dispersadas y actúan como «un acto de ataque lanzado por la policía para perseguir a un individuo», escribió Paul Scharre, ex alto funcionario del Pentágono y autor del libro. Ejército de nadie. Existe un cierto grado de autonomía para perfeccionar su canalización, pero Scharre lo definió como “autonomía limitada”. El hueso Misiles antibuque arpón Funciona de forma similar, con autonomía limitada.

La guerra en Ucrania puede facilitar el uso de una forma de armamento automatizado diseñado como munición militar. Estos dispositivos datan de menos de 1989, cuando un oficial militar israelí afirmó que conocía el Harpy, un dron que podía permanecer en el aire durante dos horas, utilizando sistemas de radar enemigos a kilómetros de distancia para capturarlos.

Más recientemente, agentes militares estadounidenses como AeroVironment, con sede en California, han vendido municiones similares que constituyen un objeto explosivo. Allá Navaja 600como se dice que es una unidad, así hasta que se encuentra con un depósito en otro objeto y, luego, desaparece de un ojo anti-ciego.

Hoy buscas la aprobación humana antes de que el arma ataque el objeto. Pero responderá relativamente a los humanos de Ecuador, lo que significa que el dispositivo se volverá completamente autónomo.

«Hoy existe una tecnología que permite decirle al dispositivo: ‘Voy a tomar un tanque ruso T-72, no portátil, lo voy a lanzar y lo tomaré'», dijo Wahid. Nawabi, presidente de ‘AeroVironment. «Y si tiene más del 80 por ciento de confianza en lo que figura en la lista, elimínelo». Toda la misión basada en principios puede terminar siendo completamente autónoma, excepto por el acto de desaparición”.

No hay duda de hacia dónde quién dirige todo esto.

El Pentágono está aquí actualmente trabajando para construir drone a horcajadas, según un aviso publicado durante ciertos meses.

Se espera que el resultado final sea una red centenaria que incluya millas de drones autónomos mejorados con inteligencia artificial que lleven equipos de vigilancia o armas. Es más probable que los drones se coloquen cerca de China para que puedan ser destruidos rápidamente si surge un conflicto y se utilicen para destruir o destruir al menos la extensión roja de los sistemas antiaéreos y de misiles antiaéreos que China ha construido. en todas sus costas. Islas artificiales en el Mar de China Meridional.

Es solo una de las muchas cosas que están actualmente a bordo en el Pentágono con el objetivo de eliminar millas de drones económicos, autónomos y con oportunidades comerciales en el próximo año o dos que puedan continuar operando, incluso con señales de GPS y comunicaciones bloqueadas. .

Algunos contratistas militares, incluidos ejecutivos de Palantir Technologies, un importante contratista de IA militar, tuvieron el honor de ser hoy Podría pasar años Antes de poder producir ataques mortales controlados por un organismo completamente autónomo, los algoritmos más avanzados no son lo suficientemente fiables. Por lo tanto, no se puede decir que tomemos decisiones de forma autónoma sobre la vida y la muerte, y podemos tener el mar para rato.

Palantir sostiene que, a su vez, la IA permite a los oficiales militares tomar decisiones más rápidas y precisas sobre los objetivos, al analizar rápidamente la información recopilada sobre los entrantes, dijo la ejecutiva de Palantir, Courtney Bowman. a los legisladores británicos durante una audiencia este año.

Pero existe una preocupación generalizada dentro de las Naciones Unidas sobre los riesgos de los nuevos sistemas. Y si ciertas armas se mantuvieron durante un tiempo de autonomía muy específico, la nueva generación es fundamentalmente diferente.

“Cuando comenzó esta conversación, hace aproximadamente una década, en realidad era un poco de ciencia ficción”, dijo Scharre. “Sí, ahora no estás aquí, es absoluto. La tecnología es muy real”.


Eric Lipton Es un reportero de investigación en profundidad que cubre una amplia gama de temas, desde el gasto del Pentágono en productos químicos tóxicos. Más de Eric Lipton

You may also like...