tratados
tratados
JUAN RAMÓN MARTÍNEZ VARGAS
ROBÓTICA, ARMAS Y DERECHO INTERNACIONAL
(Director)
La robótica en los conflictos armados es una realidad y el derecho internacional, siempre a la saga de las consecuencias de las guerras, parece en esta ocasión estar listo para regular la situación. Como al final de la Segunda Guerra Mundial, la Declaración de Londres ordenó la normativa internacional para regular los conflictos armados, que luego serían la base de los Tribunales de Núremberg, el equipo del Profesor Juan Ramón Martínez, demuestra la existencia de un Derecho Internacional Público contemporáneo, establecido en sus diferentes áreas especializadas (Responsabilidad Estatal, Penal Internacional, de los Conflictos Armados o Derechos Humanos) dispuesto a reaccionar, prevenir y castigar las violaciones que los usos de sistemas robóticos o de inteligencia artificial podrían generar en nuestro planeta. Juan Carlos Sainz-Borgo Decano, Universidad para la Paz, Organización de las Naciones Unidas
ROBÓTICA, ARMAS Y DERECHO INTERNACIONAL
tratados
JUAN RAMÓN MARTÍNEZ VARGAS (Director) ANDRÉS FELIPE LÓPEZ LATORRE STEFFANY SEREBRENIK BELTRÁN NATALIA FERNÁNDEZ ALBA
tratados
ROBÓTICA, ARMAS Y DERECHO INTERNACIONAL
COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH María José Añón Roig
Javier de Lucas Martín
Ana Cañizares Laso
Víctor Moreno Catena
Catedrática de Filosofía del Derecho de la Universidad de Valencia Catedrática de Derecho Civil de la Universidad de Málaga
Jorge A. Cerdio Herrán
Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México
José Ramón Cossío Díaz
Ministro en retiro de la Suprema Corte de Justicia de la Nación y miembro de El Colegio Nacional
Eduardo Ferrer Mac-Gregor Poisot Presidente de la Corte Interamericana de Derechos Humanos. Investigador del Instituto de Investigaciones Jurídicas de la UNAM
Owen Fiss
Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)
José Antonio García-Cruces González Catedrático de Derecho Mercantil de la UNED
Luis López Guerra
Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid
Ángel M. López y López
Catedrático de Derecho Civil de la Universidad de Sevilla
Marta Lorente Sariñena
Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid
Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid
Francisco Muñoz Conde
Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla
Angelika Nussberger
Jueza del Tribunal Europeo de Derechos Humanos. Catedrática de Derecho Internacional de la Universidad de Colonia (Alemania)
Héctor Olasolo Alonso
Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)
Luciano Parejo Alfonso
Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid
Tomás Sala Franco
Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia
Ignacio Sancho Gargallo
Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España
Tomás S. Vives Antón
Catedrático de Derecho Penal de la Universidad de Valencia
Ruth Zimmerling
Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)
Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales
ROBÓTICA, ARMAS Y DERECHO INTERNACIONAL JUAN RAMÓN MARTÍNEZ VARGAS ANDRÉS FELIPE LÓPEZ LATORRE STEFFANY SEREBRENIK BELTRÁN NATALIA FERNÁNDEZ ALBA INVESTIGADORAS
María Paula López Velásquez María Isabel Niño Rada María Camila Ospina Navarro
tirant lo blanch Valencia, 2019
Copyright ® 2019 Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor. En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.
© Juan Ramón Martínez Vargas, Andrés Felipe López Latorre, Steffany Serebrenik Beltrán, Natalia Fernández Alba
© Universidad del Rosario Editorial Universidad del Rosario Carrera 7 # 12B-41, of. 501 • Tel.: 2970200, ext. 3114 Bogotá, Colombia https://editorial.urosario.edu.co/ © Universidad de La Sabana Campus del Puente del Común Km 7 Autopista Norte de Bogotá Chía, Cundinamarca, Colombia . Tel.: 8615555, ext. 45001 https://publicaciones.unisabana.edu.co © TIRANT LO BLANCH EDITA: TIRANT LO BLANCH C/ Artes Gráficas, 14 - 46010 - Valencia TELFS.: 96/361 00 48 - 50 FAX: 96/369 41 51 Email:tlb@tirant.com www.tirant.com Librería virtual: www.tirant.es ISBN: 978-84-1313-565-6 MAQUETA: Tink Factoría de Color Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-deempresa nuestro procedimiento de quejas. Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf
JUAN RAMÓN MARTÍNEZ VARGAS Doctor en Derecho de la Universidad Alfonso X el Sabio (España), Profesor de la Universidad del Rosario, Magistrado de la Jurisdicción Especial para la Paz, Conjuez de la Corte Constitucional (Colombia), miembro del grupo de expertos del Proceso de Reporte y Evaluación Global del estado del Ambiente Marino de la Oficina de Asuntos Oceánicos y de Derecho del Mar de la Organización de las Naciones Unidas y miembro del Consejo Asesor de la Revista Intergentes de McGill University (Canadá)
ANDRÉS FELIPE LÓPEZ LATORRE Doctor en Derecho de la Universidad de Notre Dame (Estados Unidos), magíster en Derecho Internacional (LL. M.) de la Universidad de Georgetown (Estados Unidos), Abogado y Especialista en Derecho Administrativo de la Universidad del Rosario. Director del Programa de Derecho y profesor e investigador de la Universidad de La Sabana (Colombia)
STEFFANY SEREBRENIK BELTRÁN Abogada con profundización en Derecho Internacional de la Universidad del Rosario, Especialista en Derecho Financiero de la misma Universidad. Abogada de la firma Godoy y Hoyos (Colombia)
NATALIA FERNÁNDEZ ALBA Abogada con profundización en Derecho Internacional de la Universidad del Rosario. Especialista en derecho Administrativo de la misma universidad. Abogada de la firma Godoy y Hoyos (Colombia)
Índice Presentación........................................................................................................ 15 Prólogo................................................................................................................ 19 Introducción general.......................................................................................... 23
Capítulo I Redefinición del campo de batalla: evolución de la tecnología militar y los nuevos retos éticos, jurídicos y sociales 1. Introducción......................................................................................................... 27 2. Robótica y evolución de la tecnología militar.................................................... 34 2.1. Primeros antecedentes................................................................................. 34 2.2. Inicio del siglo XX y las guerras mundiales................................................ 35 2.3. Guerra Fría, carrera espacial y Vietnam (1950-1980)................................ 40 2.4. Bombas inteligentes y drones (1980-1990)................................................ 42 2.5. El siglo XXI.................................................................................................. 44 3. La revolución tecnológica en la guerra: robots, armas autónomas y ciberataques............................................................................................................... 45 3.1. Robots en el campo militar......................................................................... 47 3.2. Misiles inteligentes....................................................................................... 48 3.3. Sistemas no tripulados................................................................................. 49 3.4. Sistemas de armas autónomos (SAA)......................................................... 52 3.5. Ciberataques................................................................................................. 62 4. Controversias y retos de la nueva tecnología en la guerra................................ 70 4.1. Ataques sin consentimiento: intervención o asistencia............................. 71 4.2. Jus ad bellum y drones: legítima defensa...................................................... 73 4.3. Derecho internacional humanitario o derechos humanos....................... 74 4.4. Menos pérdidas humanas o más guerra..................................................... 76 4.5. Viviendo bajo drones................................................................................... 77 4.6. Efectividad militar de los drones: ¿una ilusión?......................................... 79 4.7. Los soldados y la nueva forma de guerra.................................................... 81 4.8. El público y la guerra................................................................................... 82 5. Conclusiones........................................................................................................ 83
Capítulo II Marco normativo del uso de armas dentro del derecho internacional 1. Introducción......................................................................................................... 87 1.1. Alcances y aspiraciones del régimen jurídico en materia armamentística....... 87 2. Las Naciones Unidas y la política internacional de desarme............................ 96
10
Índice
2.1. La política del desarme regional desde el trabajo desarrollado por la Unoda........................................................................................................... 103 2.2. Las armas químicas: ejemplo de la necesidad de controlar la expansión armamentística............................................................................................. 107 2.3. La Resolución 1540 y la política de lucha contra el terrorismo................ 114 2.4. Medidas para el fomento de la confianza entre Estados para alcanzar el desarme......................................................................................................... 120 2.5. Otros campos de especial interés para la ONU en materia de desarme.... 121 2.5.1. El desarme en el espacio ultraterrestre........................................... 121 2.5.2. Mujeres, conflicto y desarme en las Naciones Unidas................... 123 2.5.3. El campo medioambiental a efectos del desarme.......................... 125 2.5.4. El rol de la ciencia y la tecnología: una perspectiva desde el desarme......................................................................................... 126 2.5.5. Las estrategias para el fomento del multilateralismo a efectos del desarme............................................................................................. 128 3. Regulación de las armas a la luz del derecho internacional............................. 129 3.1. El desarrollo armamentístico bajo la perspectiva del derecho de la guerra....................................................................................................... 129 3.2. Derecho internacional humanitario convencional y principios propios del sistema.................................................................................................... 130 3.3. Principios aplicables a la legalidad o ilegalidad de las armas................... 133 4. Tratamiento convencional frente a las armas en derecho internacional público............................................................................................................. 146 4.1. Tratados en materia de armas..................................................................... 147 4.1.1. Tratados sobre armas convencionales............................................. 147 4.1.2. Tratados sobre armas químicas y biológicas.................................... 158 4.1.3. Tratados sobre armas nucleares....................................................... 162 4.1.4. Tratados sobre otras armas............................................................... 174 4.1.5. Tratados sobre espacios territoriales............................................... 177 4.2. Análisis de las normas convencionales y la cristalización de normas consuetudinarias en temas de armamentos..................................................... 181 5. Los sistemas de armas autónomas (SAA): una perspectiva desde el derecho internacional humanitario y los derechos humanos......................................... 191 5.1. Inherente ilegalidad e inmoralidad de los SAA y prohibición absoluta... 194 5.1.1. Derecho internacional humanitario............................................... 194 5.1.2. Derecho internacional de los derechos humanos.......................... 196 5.1.3. Prohibición absoluta y control humano significativo..................... 200 5.2. Ilegalidad de ciertos usos y regulación parcial........................................... 205 5.2.1. Derecho internacional humanitario............................................... 206 5.2.2. Derechos internacional de los derechos humanos y el derecho a la vida................................................................................................. 211 5.2.3. Atribución de responsabilidad......................................................... 213 5.2.4. Regulación parcial............................................................................ 214 5.3. Promotores de los SAA................................................................................ 216 6. Los ciberataques y la guerra informática: problemas jurídicos y éticos........... 223 6.1. Discusiones generales.................................................................................. 223 6.2. Controversias éticas y jurídicas de las armas cibernéticas......................... 225
Índice
11
6.3. Régimen jurídico internacional aplicable a los ciberataques................... 231 6.3.1. Manual de Tallinn............................................................................. 237 6.3.2. Pronunciamientos relevantes de la ONU....................................... 244 7. Conclusiones........................................................................................................ 247
Capítulo III La responsabilidad del Estado por hechos internacionalmente ilícitos como consecuencia del uso de armas robóticas y otros medios cibernéticos 1. Introducción......................................................................................................... 249 2. Desarrollo histórico de la prohibición del uso de la fuerza.............................. 250 3. Conceptualización de la responsabilidad internacional de los Estados por el hecho internacionalmente ilícito........................................................................ 255 4. Elementos del hecho internacionalmente ilícito aplicados a los sistemas de armas autónomas................................................................................................. 257 4.1. Atribución de los actos al Estado................................................................ 258 4.2. Violación de la obligación de amenaza o uso de la fuerza por parte del Estado........................................................................................................... 262 4.2.1. Prohibición de la amenaza o el uso de la fuerza, desarrollo jurisprudencial relevante de la CIJ y pronunciamientos de la Asamblea General de las Naciones Unidas y el Consejo de Seguridad.......... 263 4.2.2. El vacío legal (non-liquet) frente al uso de armas prohibidas cuando se pone en riesgo la existencia misma de un Estado...................... 275 4.3. Violación concreta de la prohibición de la amenaza o uso de la fuerza.. 278 4.3.1. Armas autónomas y autómatas........................................................ 278 4.3.2. Análisis de los SAA dentro del supuesto de non-liquet.................... 280 4.3.3. Responsabilidad internacional del Estado por el uso de SAA....... 281 5. Elementos del hecho internacionalmente ilícito aplicados a los ciberataques...... 284 5.1. Dificultad de atribución de un ciberataque............................................... 284 5.2. Obligaciones internacionales que pueden ser vulneradas por la comisión de ciberataques............................................................................................ 288 5.2.1. Reglas del Manual de Tallinn acerca del uso de la fuerza............... 288 5.2.2. Estudio de casos: Irak y Ucrania...................................................... 289 5.2.3. El principio de no-intervención aplicado a los ciberataques......... 293 5.2.4. La regla de no daño en el ámbito de los ciberataques.................... 294 5.3. Práctica estatal de seguridad en materia cibernética................................. 311 5.3.1. Estados Unidos................................................................................. 311 5.3.2. Alemania........................................................................................... 312 5.3.3. China................................................................................................. 314 6. Circunstancias eximentes de la responsabilidad internacional de los Estados...... 319 6.1. Legítima defensa.......................................................................................... 319 6.2. Otras casuales eximentes de responsabilidad a la luz del derecho internacional........................................................................................................ 324 6.2.1. Consentimiento................................................................................ 324 6.2.2. Contramedidas.................................................................................. 326 6.2.3. Fuerza mayor..................................................................................... 327 6.2.4. Urgencia manifiesta.......................................................................... 328
12
Índice
6.2.5. Estado de necesidad......................................................................... 330 6.2.6. Cumplimiento de normas imperativas............................................ 331 7. Conclusiones........................................................................................................ 333
Capítulo IV Robótica, armas autónomas y cibernética a la luz del derecho penal internacional 1. Introducción......................................................................................................... 335 2. Consideraciones generales sobre el derecho penal internacional................... 336 3. Fuentes del derecho penal internacional........................................................... 346 4. Corte Penal Internacional................................................................................... 353 4.1. Caso hipotético............................................................................................. 357 4.2. Problemas jurídicos en discusión................................................................ 359 5. Sujetos responsables y modalidad de responsabilidad a imputar ante una comisión de crímenes internacionales por la utilización de armas autónomas o realización de ciberataques.............................................................................. 362 5.1. La configuración de un dolo eventual por la utilización de armas autónomas............................................................................................................ 372 5.2. La utilización de armas autónomas: ¿agravante o atenuante frente a la responsabilidad individual?......................................................................... 376 5.3. Las disposiciones en el derecho internacional y el derecho interno sobre la incidencia de la matrícula de naves espaciales y aeronaves con respecto a la responsabilidad individual.................................................................... 378 6. La discusión de la legalidad o ilegalidad del arma: indicio de la comisión de crímenes internacionales y factor determinante en la evaluación de admisibilidad de los casos potenciales ante la Corte Penal Internacional.................. 382 6.1. La legalidad del arma y los elementos contextuales de los crímenes internacionales............................................................................................. 385 6.1.1. Genocidio.......................................................................................... 385 6.1.2. Crímenes de lesa humanidad.......................................................... 387 6.1.3. Crímenes de guerra.......................................................................... 391 6.1.4. Agresión............................................................................................ 394 6.2. La ilegalidad del arma y el análisis de gravedad para decretar admisibilidad....................................................................................................... 399 6.3. La posible comisión de crímenes transnacionales y la operatividad de la jurisdicción universal................................................................................... 400 6.4. Impacto en comunidades indígenas por utilización de armas autónomas...... 403 6.5. El concepto de daño psicológico de cara a conductas violatorias del derecho penal internacional....................................................................... 405 6.5.1. Comunidades indígenas y daño psicológico frente a violaciones al derecho penal internacional........................................................ 407 6.5.2. El respeto a los derechos de las víctimas contemplados por el Estatuto de Roma.............................................................................. 409 6.5.3. Los ciberataques a la luz del derecho penal internacional............ 415 6.6. Casos prácticos relevantes dentro del marco del DPI................................ 424 6.6.1. Alemania........................................................................................... 424 6.6.2. Estados Unidos................................................................................. 425
Índice
13
6.6.3. Rusia.................................................................................................. 426 6.6.4. España............................................................................................... 428 7. Conclusiones........................................................................................................ 428
Conclusiones generales...................................................................................... 431 Anexos................................................................................................................. 435 Bibliografía.......................................................................................................... 475
Presentación GABE IBÁÑEZ
Madrid, agosto de 2018
El único tema de la ciencia ficción es el ser humano. Nuestra naturaleza puesta a prueba por los cambios a los que la evolución científica y tecnológica nos arrastra. La incertidumbre ante los peligros a los que nos enfrenta la propia acción del hombre y ese universo brutal, por indiferente, del que hablaba Carl Sagan. ¿Conseguirá el ser humano abandonar nuestro sistema solar y colonizar otros planetas habitables? ¿Contactaremos con formas de vida extraterrestre? ¿En qué momento colisionará con la Tierra el siguiente gran meteoroide? ¿Es posible viajar en el tiempo? Esas preguntas constituyen la materia prima con la que desde la literatura o el cine se ha abordado ese ambiguo conjunto de historias situadas bajo la expresión “ciencia ficción”. Preguntas que suponen la base para la narrativa del género y que más allá de su potencial para el entretenimiento, atesoran un punto de partida excepcional para la reflexión y la especulación filosófica incluso en medios de masas como el cine y la televisión. Los robots, ese reflejo imperfecto de los humanos y su igualmente imperfecta alma, la inteligencia artificial, han sido uno de los pilares de esta narrativa. Desde que el dramaturgo checo Karel Čapek utilizó en 1920 por primera vez el término robot en su obra R. U. R. (Rossumovi univerzální roboti) o incluso desde un siglo antes, cuando Mary Shelley publicó Frankenstein; or, The Modern Prometheus los temas principales de la narrativa robótica están ya planteados: la moral científica, el derecho del hombre a crear nuevas formas de vida, la rebelión de esas formas de vida ante sus creadores y los peligros a los que la pérdida del control nos enfrenta. En el imaginario de nuestra civilización, dibujamos una y otra vez ese momento en el que la máquina, fuera de control, tomará el tipo de decisiones que para la naturaleza humana derivan de manera lógica de la posesión del poder. Así, vemos en 2001: A Space Odyssey (1968) como Hall 9000 decide eliminar a la tripulación del Discovery por un bien superior: cumplir la misión asignada. O como en Terminator 2: Judgment Day (1990) la computadora Skynet, después de tomar conciencia de sí misma el 29 de agosto de 1997, decide defenderse, eliminando, como un niño que pisotea
16
Gabe Ibáñez
hormigas, a toda la humanidad. Producciones de diferentes épocas como Metropolis (1927), Futureworld (1976), Battlestar Galactica (1978), Blade Runner (1982) o A. I. Artificial Intelligence (2001), son ejemplos de relatos en los que la toma de conciencia por parte de las máquinas pone, de una manera u otra, en peligro a su creador, el ser humano, evidenciando su incapacidad para mantener bajo control a sus criaturas. Con la sabiduría de un humanista que además era científico, y como contrapunto a la perspectiva belicosa que la ciencia ficción suele adjudicar a la robótica, Isaac Asimov planteó en 1942 una serie de relatos en los que estableció una alternativa a la relación traumática entre humanos y robots: las tres leyes de la robótica. Asimov crea con su serie de relatos el primer universo de robots morales, estableciendo la preservación de la vida humana como piedra angular del cerebro positrónico, y marcándonos así el camino a seguir para una relación armoniosa entre hombre y robot. Desgraciadamente, los planteamientos de Asimov no han sido proféticos. Y como suele suceder en la historia de la tecnología, es la guerra y su búsqueda de nuevas maneras de acabar con el enemigo (máquina o humano) la que impulsa el desarrollo tanto de la ingeniería robótica, como de la inteligencia artificial. Así, y como si se tratara del desarrollo de un guion apocalíptico, se ha establecido la premisa narrativa para un final indeseado en la historia de la robótica: el desarrollo de la tecnología más poderosa de la historia de la humanidad está en manos de la industria militar y de los intereses económicos de un grupo de empresas tecnológicas. Lo que hace de la inteligencia artificial y su aplicación a las máquinas una tecnología diferente a las distintas armas hasta ahora creadas por el hombre es nuestra absoluta incapacidad para prever las consecuencias futuras de su desarrollo. Divulgadores científicos, políticos e incluso cineastas podemos imaginar diferentes escenarios futuros y ayudar a dar forma en la opinión pública mundial a los potenciales peligros de esta tecnológica. Pero lo paradójico de esta creación, lo que la hace diferente a todas las anteriores del ser humano, es que llegará el momento en que la inteligencia artificial superará a la inteligencia humana y, entonces, lo más probable, es que tarde o temprano quede fuera de nuestro control. El peligro más grande por tanto no es aquel derivado de lo que el hombre pueda pretender hacer con esos robots inteligentes convertidos en armas. El problema mayor, el problema final podríamos decir, es lo que esos robots inteligentes pueden llegar a decidir hacer por sí mismos. La palabra autónomo introduce en el relato una cadena de posibles acontecimientos de inquietante trayectoria.
Presentación
17
En cualquier instante de los próximos cuarenta años, en el laboratorio de una compañía tecnológica, se producirá la singularidad, ese momento determinante para nuestra civilización en el que la inteligencia artificial alcanzará el potencial simbólico y creativo de la inteligencia humana. Y en poco tiempo, el “cerebro” de la máquina, sin limitaciones biológicas ni evolutivas, será superior al cerebro de su creador, siendo capaz de analizar conceptos, realizar razonamientos y llegar a conclusiones que nosotros los humanos, no solo no podremos prever, si no que ni siquiera podremos entender. Es un concepto nuevo, difícil de asimilar y de complicado encaje en disciplinas como la filosofía, el derecho o la ética. Pero nos enfrentamos por primera vez en la historia de la humanidad a un tipo de tecnología con una capacidad potencial de creación y comprensión muy superior a la nuestra. En el universo narrativo de Asimov, esas máquinas sabias, obsesionadas por conseguir el bienestar y la felicidad de la humanidad, llevarán a nuestra civilización un nuevo estadio de satisfacción y dicha. Pero en la narrativa de un cine de ciencia ficción más realista y por tanto más oscuro, esa máquina no aplicará su inteligencia para fines tan elevados si no que previsiblemente se manejará en la lógica sobre la que se asentaron sus cimientos “intelectuales”: la comprensión del comportamiento humano y el desarrollo de la tecnología militar. De igual manera que un chimpancé no es capaz de entender el mecanismo por el cual funciona la trampa que le ha tendido un humano, un humano no será capaz de entender la manera en la que una inteligencia superior será capaz de manipularnos y determinar nuestro destino. Los hombres crearon la tecnología atómica, pero ante el evidente desenlace de una confrontación nuclear, fueron capaces de dominar y limitar a través de la legislación internacional una tecnología que no debía abandonar nunca las manos de los Estados. El consenso generalizado sobre la posibilidad del exterminio mutuo funcionó como elemento disuasorio y, hasta el momento, ha servido para controlar la mayor amenaza que se ha cernido sobre la humanidad. Esa sensación de peligro, esa capacidad de control, no es ni mucho menos la que está tutelando el desarrollo de la inteligencia artificial, y la falta de un consenso normativo mundial que delimite su desarrollo, establece las bases de un futuro peligroso. ¿Llegará el día en que una inteligencia artificial responda por sus actos ante un tribunal? ¿En qué momento podemos considerar que un robot se convierte en un ente responsable? ¿Podrá una inteligencia artificial con o sin base antropomórfica ser sujeto de derecho individual? El autor polaco Stanisław Lem en su novela El invencible (1964) enfrentó a sus protagonistas
18
Gabe Ibáñez
al tipo de dilema en el que los robots convertidos en armas nos pueden avocar. Un enemigo que no encaja en lo que se espera de un oponente, sin motivaciones comprensibles, sin individualidad, un enemigo al que por su naturaleza, más próxima a la de un fenómeno meteorológico que al de un contrincante, no tiene sentido someterle a juicio o intentar aplicarle un castigo. En 1550, Bartolomé de las Casas y Juan Ginés de Sepúlveda plantearon durante la discusión ante la Junta de Valladolid sus argumentos sobre la conquista de América, intentando determinar la base de derecho que debía afectar a los habitantes de las Indias a partir de aquel momento. Tal vez de manera similar, los robots y la inteligencia artificial necesitan un consenso, una discusión si no teológica, sí moral y legislativa, que regule los avances en este incierto territorio tecnológico. Una fase de reflexión que establezca cuanto antes los límites a los que la inteligencia artificial y la robótica deben someterse para salvaguardar nuestra seguridad. En la fase actual de desarrollo de la tecnología militar robótica, las fábulas apocalípticas de escritores y cineastas suenan aún poco verosímiles. Y aunque el camino a la singularidad es largo, la trayectoria en la que avanza este tipo de tecnología es sin duda una trayectoria de choque. Choque frontal con el derecho internacional humanitario y choque frontal con nuestro instinto de supervivencia. El sentido común y cierto instinto de fraternidad humana deberían empujarnos a situar a la inteligencia artificial dentro de algo parecido a los límites morales planteados por Isaac Asimov en sus relatos. Un giro a la trama apocalíptica que he abocetado en este texto, que podría ayudarnos a dibujar un nuevo final para esta historia, nuestra historia común de humanidad.
Prólogo PROF. DR. JUAN CARLOS SAINZ-BORGO Decano, Universidad para la Paz Organización de las Naciones Unidas
La fascinación de los seres humanos con los robots es mítica. Algunas de las explicaciones de esta fascinación podrían tener que ver con la relación antropomórfica que tenemos con máquinas que en muchos elementos se asemejan a nosotros mismos, hacen muchas de nuestras tareas y en la mayoría de los casos de forma más eficiente. Esta relación tan particular con máquinas que se asemejan a nosotros nos convierte en una especie de pequeños dioses, con capacidad para crear seres con vida que pueden hacer muchas de nuestras faenas. En el uso de la fuerza, desde la protección de la seguridad en las calles hasta la guerra, local, internacional, interplanetaria o estelar, es quizás donde los seres humanos con mayor frecuencia hemos deseado ser sustituidos por nuestras creaciones. El testimonio de este deseo lo ha registrado el cine o la televisión de forma casi constante, desde la película Metropolis de Fritz Lang, en 1927; la saga Star Wars, desde 1977, con los personajes de R2-D2 y C-3PO de George Lucas; Terminator, de James Cameron, con la inolvidable actuación de Arnold Schwarzenegger en 1984; Robocop, de Paul Verhoeven en 1987, o en la televisión desde los años sesenta, en series como Lost in the Space, con el famoso robot B9, que alertaba del peligro inminente a la famosa Robotina de los Supersónicos en los años setenta. Pensar que esas construcciones o recreaciones artísticas pudieran llegar a tener un impacto en la realidad es un tema más reciente. O al menos eso hemos considerado los humanos a partir del siglo XXI. Pensar que los robots tendrían un papel en la guerra parecía un escenario aún lejano, pero los conflictos que hemos vivido en este nuevo siglo dejan claro que esa realidad ya llegó. El objetivo principal de este trabajo es evidenciar que la robótica dejó de ser un tema de ciencia ficción o de producción en masa para las industrias o las computadoras y presentarlo como el hecho clave de la nueva realidad de los conflictos contemporáneos y de su regulación internacional. El profesor Juan Ramón Martínez, como director del Grupo de Investigación sobre Derecho Internacional de la Universidad del Rosario, en
20
Juan Carlos Sainz-Borgo
unión con los abogados Andrés Felipe López Latorre, Steffany Serebrenik Beltrán y Natalia Fernández Alba, y con el apoyo del grupo de investigación conformado por María Paula López Velásquez, María Camila Ospina Navarro y María Isabel Niño Rada nos presentan un libro relevante, importante y urgente para los abogados, expertos y estudiosos del tema del derecho de los conflictos y las relaciones internacionales. El libro se presenta en cinco grandes capítulos que abordan los elementos fundamentales del tema. En el primer capítulo introductorio titulado “Redefinición del campo de batalla: evolución de la tecnología militar y los nuevos retos éticos, jurídicos y sociales”, se da un amplio panorama a la evolución de las armas y la inclusión de los elementos robóticos en ellas desde los primeros antecedentes en la Ilíada de Homero, pasando por las invenciones del gran Leonardo da Vinci hasta los desarrollos que se dieron en el siglo XX, incluyendo la dimensión cibernética y las modalidades de esta nueva realidad tecnológica, abordando incluso el nacimiento de la denominación robot. A partir de esta necesaria introducción histórica y técnica, los autores comienzan a construir la estructura conceptual para guiarnos en la regulación que la comunidad internacional ha otorgado al tema, incluyendo: las normas convencionales, consuetudinarias, normas de softlaw y los lineamientos del sistema de las Naciones Unidas vigentes. Una vez establecida la base legal, el equipo dirigido por el profesor Juan Ramón Martínez encara el tema de la responsabilidad internacional desde la perspectiva clásica, proveniente de la regulación, desde los altamente complejos temas derivados de la prohibición del uso de la amenaza de la fuerza hasta la violación misma de las obligaciones del derecho internacional establecido. A partir del capítulo IV, la obra desarrolla escenarios contemporáneos, al describir las eventuales violaciones que el uso de la robótica podría conllevar en el marco del Derecho Internacional Penal con la consecuente responsabilidad penal internacional individual que este marco normativo implica. El grupo de trabajo dibuja en este interesante capítulo, escenarios en el marco de los crímenes previstos en el Estatuto de Roma, incluyendo ejercicios hipotéticos que permiten al alumno y al profesor la opción de ejercicios que facilitan la comprensión del tema, para de allí, ilustrar supuestos que enriquecen la discusión dentro y fuera del ejercicio académico. En los últimos tiempos, la Organización Internacional del Trabajo (OIT), la Organización para el Desarrollo y Cooperación Económica