Las armas autónomas ya están aquí. ¿Cómo controlamos su uso?
ESCRIBE LA BÚSQUEDA Y PRESIONA ENTER

Las armas autónomas ya están aquí. ¿Cómo controlamos su uso?

COMPARTIR

···
Mundo

Las armas autónomas ya están aquí. ¿Cómo controlamos su uso?

El avance tecnológico en términos de armamento va a un ritmo más acelerado que su regulación, por ello, el WEF desglosa un informe sobre la autonomía en los sistemas de armas.

Redacción
16/12/2017
Al registrarte estás aceptando el aviso de privacidad y protección de datos. Puedes desuscribirte en cualquier momento.

'Mapeo del Desarrollo de la Autonomía en los Sistemas de Armas' es un informe que presenta los principales hallazgos y recomendaciones de un estudio de un año sobre el desarrollo de la autonomía en los sistemas de armas.

El informe, publicado por el Foro Económico Mundial (WEF, por sus siglas en inglés) busca ayudar a diplomáticos y miembros de la sociedad civil interesados en el tema de las armas letales autónomas (LAWS) a mejorar su comprensión de los fundamentos tecnológicos de la autonomía y obtener una idea de la velocidad y trayectoria del progreso de la autonomía en los sistemas de armas. Proporciona ejemplos concretos que podrían usarse para comenzar a delinear los puntos en los que el avance de la autonomía en las armas puede plantear inquietudes técnicas, legales, operacionales y éticas.

El informe también pretende actuar como un trampolín para una mayor investigación sobre los posibles parámetros para el control humano significativo mediante el establecimiento de algunas de las lecciones aprendidas de cómo se utilizan las armas existentes con capacidades autónomas.

,,


¿Cuáles son los tres fundamentos tecnológicos de la autonomía?

1.- Autonomía tiene muchas definiciones e interpretaciones, pero generalmente se entiende que es la capacidad de una máquina para realizar una tarea prevista sin intervención humana mediante la interacción de sus sensores y la programación de la computadora con el entorno.

2.-  Esta autonomía se basa en una amplia gama de tecnología, pero principalmente en software; su viabilidad depende de la capacidad de los desarrolladores de software para formular una tarea prevista en términos de un problema matemático y una solución; además de la posibilidad de mapear o modelar el entorno operativo por adelantado.

3.- La autonomía puede crearse o mejorarse mediante el aprendizaje automático. El uso del aprendizaje automático en los sistemas de armas sigue siendo experimental, ya que sigue planteando problemas fundamentales con respecto a la previsibilidad.

,
1
   

  

Una nave autónoma con armamento realiza prueba de vuelo. (Reuters)
,


¿Cuál es el estado de autonomía en los sistemas de armas?

El informe explora el estado de autonomía en los sistemas de armas desplegadas y los sistemas de armas en desarrollo. Los principales resultados son:

1. La automatización ya se usa para respaldar diversas capacidades en sistemas de armas, incluida la movilidad, la focalización, la inteligencia, la interoperabilidad y la gestión de la salud.

2. Los sistemas de reconocimiento automático de objetivos (ATR), la tecnología que permite a los sistemas de armas adquirir objetivos de forma autónoma, existen desde la década de 1970. Los sistemas ATR aún tienen una inteligencia perceptiva y de toma de decisiones limitada. Su rendimiento se deteriora rápidamente a medida que los entornos operativos se vuelven más desordenados y las condiciones climáticas se deterioran.

3. Los sistemas de armas existentes que pueden adquirir y utilizar objetivos de forma autónoma son en su mayoría sistemas de defensa. Estos están operados bajo supervisión humana y están destinados a disparar de manera autónoma solo en situaciones donde el tiempo de participación se considera demasiado corto para que los humanos puedan responder.

4. Las armas que están en alerta sin que nadie las opere son el único tipo de sistema de armamento ‘ofensivo’ que se sabe que es capaz de adquirir e involucrar a los objetivos de forma autónoma.

,
,


​Los principales controladores identificados por el informe son:

1. Estratégico. Los Estados Unidos recientemente citaron la autonomía como piedra angular de sus cálculos de capacidad estratégica y planes de modernización militar. Esto parece haber desencadenado reacciones de otras potencias militares importantes, especialmente Rusia y China.

2. Operacional. Los planificadores militares creen que la autonomía permite a los sistemas de armas lograr una mayor velocidad, precisión, persistencia, alcance y coordinación en el campo de batalla.

3. Económico. Se cree que la autonomía brinda oportunidades para reducir los costos operativos de los sistemas de armas, específicamente a través de un uso más eficiente de la mano de obra.

Los principales obstáculos son:

1. Tecnológico. Los sistemas autónomos necesitan ser más adaptables para operar de manera segura y confiable en entornos complejos, dinámicos y antagónicos; se deben desarrollar nuevos procedimientos de validación y verificación para sistemas adaptativos o capaces de aprender.

2. Resistencia institucional.
El personal militar a menudo no confía en la seguridad y confiabilidad de los sistemas autónomos; algunos profesionales militares ven el desarrollo de ciertas capacidades autónomas como una amenaza directa a su ethos profesional o incompatible con los paradigmas operacionales a los que están acostumbrados.

3. Legal. El derecho internacional incluye una serie de obligaciones que restringen el uso de capacidades de focalización autónoma. También requiere un comando militar para mantener, en la mayoría de las circunstancias, algún tipo de control humano o supervisión sobre el comportamiento del sistema de armamento.

4. Normativo. Hay cada vez más presiones normativas de la sociedad civil en contra del uso de la autonomía para las decisiones de focalización, lo que hace que el desarrollo de sistemas autónomos de armas sea un tema potencialmente políticamente delicado para los militares y los gobiernos.

5. Económico. Hay límites a lo que pueden ofrecer las fuerzas armadas nacionales, y los sistemas de adquisición de defensa en la mayoría de los países productores de armas siguen siendo inadecuados para el desarrollo de la autonomía.

,
1
    

    

En Inglaterra, un tanque de conducción autónoma es presentando por Samsung. (Reuters)
,


¿Dónde están teniendo lugar las innovaciones relevantes?

El informe explora los ecosistemas de innovación que impulsan el avance de la autonomía y destaca cuatro aspectos:

1. En el nivel básico de ciencia y tecnología, los avances en la autonomía de las máquinas se derivan principalmente de los esfuerzos de investigación en tres disciplinas: inteligencia artificial (AI), robótica y teoría del control.

2. Estados Unidos es el país que ha demostrado los esfuerzos militares más visibles, articulados y tal vez exitosos de investigación y desarrollo en materia de autonomía. China y la mayoría de los otros nueve países productores de armas más importantes han identificado a la IA y la robótica como áreas importantes.

3. La industria civil lidera la innovación en tecnologías autónomas. Los jugadores más influyentes son las principales empresas de tecnología de la información, como Alphabet (Google), Amazon y Baidu, y los grandes fabricantes de automóviles (por ejemplo, Toyota) que se han trasladado al negocio de los automóviles autónomos.

4. Los productores tradicionales de armas ciertamente participan en el desarrollo de tecnologías autónomas, pero la cantidad de recursos que estas empresas pueden destinar a investigación y desarrollo es mucho menor que la movilizada por grandes entidades comerciales en el sector civil. Sin embargo, el papel de las empresas de defensa sigue siendo crucial, porque las tecnologías autónomas comerciales rara vez pueden ser adoptadas por los militares sin modificaciones y las empresas en el sector civil a menudo tienen poco interés en conseguir contratos militares.

,
,


El informe concluye con ocho recomendaciones cuyo objetivo es ayudar al recientemente formado Grupo de Expertos Gubernamentales sobre leyes en las Naciones Unidas a encontrar una base constructiva para las discusiones y potencialmente lograr un progreso tangible en algunos de los aspectos clave bajo debate.

1. Discutir el desarrollo de la ‘autonomía en sistemas de armas’ en lugar de armas autónomas como categoría general.

2. Cambiar el enfoque de la autonomía ‘completa’ y explorar cómo la autonomía transforma el control humano.

3. Abrir el alcance de la investigación más allá del tema de la focalización para tomar en consideración el uso de la autonomía para operaciones colaborativas y procesamiento de inteligencia.

4. Desmitificar los avances actuales y las posibles implicaciones del aprendizaje automático sobre el control de la autonomía.

5. Usar estudios de casos para volver a conectar la discusión sobre legalidad, ética y control humano significativo con la realidad del desarrollo de sistemas de armas y el uso de armas.

6. Facilitar un intercambio de experiencias con el sector civil, especialmente las industrias aeronáutica, automotriz y de robótica, sobre las definiciones de autonomía, control humano, así como la validación y verificación de sistemas autónomos.

7. Investigar opciones para asegurar que los esfuerzos futuros para monitorear y potencialmente controlar el desarrollo de aplicaciones letales de autonomía no inhiban la innovación civil.

8. Indagar las opciones para prevenir el riesgo de armas de tecnologías civiles por parte de actores no estatales.