Pregunta 07 · ¿Qué riesgos surgen?
¿Existen armas autónomas gracias a la IA?
Versión corta
Sí. Ya están en uso sistemas con funciones autónomas, por ejemplo drones que en el último tramo de vuelo dirigen su propio objetivo. Hasta ahora no existe una prohibición internacional. Los Estados llevan años negociando este tema en la ONU.
Versión larga
La autonomía en las armas no es una cuestión de sí o no, sino de grados. En un extremo, una persona confirma cada objetivo. En el otro, un sistema reconoce, elige y ataca objetivos por sí mismo. Los ejércitos impulsan este desarrollo porque las conexiones de radio pueden interferirse y las máquinas reaccionan más rápido que las personas.
La pregunta central es: ¿quién asume la responsabilidad cuando un sistema comete un error? A una máquina no se le puede llevar a juicio. La Asamblea General de la ONU aprobó en 2023, por primera vez, una resolución sobre sistemas de armas autónomas letales. Muchos Estados y el Comité Internacional de la Cruz Roja exigen reglas vinculantes, mientras algunas grandes potencias militares frenan el proceso.
La tecnología avanza más rápido que la diplomacia. Eso hace que la pregunta sea urgente, no desesperada.
La máquina puede asumir la decisión, la responsabilidad sigue siendo de las personas.
Fuentes de esta pregunta
- United Nations General Assembly. (2023). Lethal autonomous weapons systems (A/RES/78/241). https://docs.un.org/en/A/RES/78/241
Más preguntas sobre este tema
¿Falta tu pregunta?
Escríbela a frag [at] rogerbasler [.] ch. Las preguntas seleccionadas se responderán y se añadirán aquí.