A CIÊNCIA REFÉM DAS ESTRATÉGIAS DE PODER
Aplicações bélicas dos frutos do trabalho científico Frederico Carvalho UNICEPE, Porto, 12 de Julho de 2016 A evolução tecnológica a que assistimos no mundo de hoje processa-se a um ritmo acelerado. Cada uma e cada um de nós tem consciência dessa evolução, das potencialidades que lhe estão associadas e também de eventuais consequências no curto e médio prazo. Os graus de consciência da situação que se vive, são diferentes, consoante a informação de que se dispõe e a medida em que é possível assimilála criticamente no contexto particular da sociedade ou grupo social em que nos inserimos, vivemos e trabalhamos. A evolução tecnológica é inevitável, como é inevitável a procura de conhecimento novo sobre o mundo natural, através da investigação científica que faz avançar a Ciência. A vida das sociedades é moldada por forças cuja natureza e correlação, também elas em constante evolução, determinam a utilização que é dada ao conhecimento científico e tecnológico e a própria orientação dos objectivos do trabalho científico. A guerra, como fenómeno social, tem acompanhado a Humanidade desde sempre. As formas que assume e os meios que utiliza, têm variado notavelmente ao longo do tempo. Como têm variado as consequências sociais e o impacte da guerra sobre o meio natural. O conhecimento científico, e os desenvolvimentos tecnológicos que permite, têm desde sempre estado associados à evolução dos meios militares, armas e sistemas de armamento.
Este mosaico de imagens ilustra conflitos, acções guerreiras e meios de combate em épocas muito diferentes. Em cima, à direita, pintura rupestre representando combate entre dois grupos humanos armados com lanças (mesolítico-10 20 mil anos a.C.) Em cima, à esquerda, carro de guerra de 2 rodas puxado por dois cavalos (biga). Os Hiksos que dominaram o Egipto entre aprox. 1600 e 1500 a.C. introduziram o carro de combate e o cavalo na arte guerreira.
Em cima, ao meio, mula robótica usada pelo exército dos EUA (400 kg de carga em terreno difícil) Em baixo, à esquerda, drone de 4 hélices de fabrico norte-americano, de comando à distância Em baixo, ao centro, desenho da metralhadora projectada para Cesaro Borgia por Leonardo da Vinci (1482) Em baixo, à direita, baixo-relevo do palácio de Asurbanipal (Mesopotamia, hoje Iraque) Mostra a apresentação ao rei dos Elamitas vencidos na batalha de Til Tuba (séc. VII a.C.) Em meados do segundo quartel do século passado ― já lá vão quase oitenta anos ― o aparecimento da arma nuclear ― o domínio do “fogo atómico”, como por vezes se diz.― criou uma situação nova: a de pôr nas mãos do homem a possibilidade de exterminar a vida sobre a terra. Essa terrível ameaça mantem-se hoje e tende a agravar-se, mau grado os corajosos e persistentes esforços em defesa da Paz que por toda a parte se vêm desenvolvendo de forma organizada no seio da sociedade, por mulheres e homens conscientes dos perigos que o mundo enfrenta. 1 de Março de 1954: neste dia os EUA levaram a cabo o ensaio nuclear com o nome de código Castle Bravo, no atol de Bikini, Ilhas Marshall. Foi detonada uma bomba termonuclear de 14 milhões de toneladas (equivalente TNT). A contaminação por poeiras radioactivas foi detectada a milhares de km de distância chegando a atingir território europeu.
Em fins de Julho do ano passado, teve lugar em Buenos Aires a 24ª Conferência Conjunta Internacional sobre Inteligência Artificial (Internacional Joint Conference on Artificial Inteligence). Na ocasião foi tornado público um documento com o título “Armas Autónomas: Carta Aberta de Investigadores em Inteligência Artificial e Robótica” (“Autonomous Weapons: an Open Letter from AI &Robotics Researchers”) 1. A iniciativa da Carta foi do “Instituto para o Futuro da Vida”, com sede em Cambridge, Estados Unidos 2. A carta foi já subscrita por mais de 20 mil investigadores, professores e outros trabalhadores científicos de diversas áreas. Destes, cerca de três mil são investigadores na área da Inteligência Artificial e da Robótica.
O conhecido linguista e humanista Noam Chomsky e o físico e cosmólogo Stephen Hawking, contamse entre numerosos outros signatários, ligados, designadamente, às Ciências Sociais e Humanas, às Ciências Físicas e a outras áreas. Um dos signatários do primeiro grupo é o Professor Luís Moniz Pereira, membro dos Órgãos Sociais da Organização dos Trabalhadores Científicos e um especialista internacionalmente reconhecido no domínio da Inteligência Artificial Importa sublinhar a seguinte passagem da referida Carta Aberta: “As armas autónomas identificam e atacam alvos sem intervenção humana. Aí se incluem, por exemplo, quadricópteros 3 armados, capazes de procurar e abater pessoas que preencham determinados requisitos pré-definidos, mas não se incluem mísseis de cruzeiro ou drones, pilotados a distância, casos estes em que a última decisão de ataque a alvos é tomada por um agente humano. As tecnologias de Inteligência Artificial atingiram um ponto em que o emprego de tais dispositivos autónomos é possível na prática ― mesmo sem suporte legal ― não dentro de décadas mas dentro de poucos anos, e a parada é alta: as armas autónomas têm sido referidas como a terceira revolução na arte da guerra, a seguir à pólvora e às armas nucleares.” (fim de citação) Mas o que são afinal as armas robóticas com autonomia de decisão? Robot (ou robô) palavra derivada do checo “robota”, que significa “ trabalho penoso” ou “labuta” 4, é uma máquina capaz de executar operações complexas de forma automática, em regra sob comando de um computador ou dispositivo informático nela integrado, que comunica com um centro emissor-receptor, próximo ou distante, para o qual envia informação recolhida localmente, através de sensores de diferentes tipos, também integrados no robot, e do qual pode receber instruções dadas por um operador. O robot autónomo distingue-se do robot automático por reagir à informação que recebe localmente dos sensores de que dispõe, sem qualquer intervenção humana. Quer dizer sem que as acções que executa dependam da análise ou escrutínio da informação recebida, feito por um operador humano. Existe obviamente uma programação “de fábrica” que determina o tipo de acções executáveis, mas o comportamento e as reacções do robot em cada situação não estão sujeitos ao controlo de um operador. Daí o sentido da frase citada acima a respeito das armas robóticas com capacidade de decisão, de que são “capazes de procurar e abater pessoas que preencham determinados requisitos pré-definidos”. O robot pode por exemplo abater “uma pessoa de aspecto suspeito” seja lá o que for que possa entender-se por “aspecto suspeito”. Uma arma robótica autónoma é capaz de identificar, seleccionar e atacar um alvo, sem supervisão humana. As armas robóticas autónomas podem ser concebidas com diferentes graus de autonomia. Podem ser instruídas “à nascença” sem possibilidade de alteração “comportamental” por aprendizagem e reprogramação autónoma independente. Quando esta última possibilidade existe fala-se em sistemas baseados num “algoritmo genético”, conceito familiar no âmbito da Inteligência Artificial. Estas armas levantam as mais sérias questões éticas e legais, nomeadamente mas não exclusivamente, no que respeita à atribuição de responsabilidades pelos chamados “danos colaterais”. No plano ético e legal não só estes sistemas, particularmente sofisticados, mas quaisquer outros sistemas de armamento autónomo colocam questões que, em nosso entender, não têm outra solução aceitável que não seja a sua proibição formal. Por outro lado, trata-se de armas de guerra ― facto que importa sublinhar ― que não são susceptíveis de ser distinguidas, como objectos físicos, de outras com outras características e com finalidades pacíficas e úteis. Por exemplo, a distribuição de correio ou entrega de encomendas a domicílio ou a captação de imagens de um ajuntamento de pessoas ou ainda veículos de prestação de serviços de saúde urgentes (ver imagens abaixo). ◊◊◊◊◊◊ A referência ao aparecimento dos sistemas de armas robóticas autónomas como “ (…) terceira revolução na arte da guerra, a seguir à pólvora e às armas nucleares (…) ” traduz a consciência dos
perigos que comportam para a Paz, a convivência pacífica entre nações e a própria sobrevivência da espécie. Essa consciência levou a que, de diversos lados e em diversos fora, se aprofundasse a problemática da existência e utilização desses sistemas de armamento de efeitos letais e das questões de ordem ética e legal a eles associadas.
Assim, em Abril deste ano, teve lugar em Genebra no quadro das Nações Unidas, o 3º Encontro de Peritos em Sistemas de Armas Autónomas Letais (LAWS) enquadrado na “Convenção sobre Armas Desumanas”, que está em vigor desde Dezembro de 1983 5. Nessa ocasião foi elaborado um conjunto de recomendações sobre a natureza e as implicações da utilização de Armas Autónomas Letais em
acções ofensivas limitadas ou em teatro de guerra. As recomendações são dirigidas à 5ª Conferência de Revisão da Convenção CCW, de 1983, programada para Dezembro deste ano em Genebra. Está disponível na rede abundante documentação sobre as posições com origem em organizações dos vários Estados participantes no 3º Encontro de Peritos referido acima. Destacaremos dois casos: a intervenção do Comité Internacional da Cruz Vermelha e a posição expressa pela Santa Sé. Em ambos destacamos passagens em que é dado particular relevo aos motivos de preocupação levantados pela utilização de sistemas de armas autónomas (SAA). Assim, o Comité Internacional da Cruz Vermelha (CICV) considera que se está perante certos desenvolvimentos técnicos “que podem levar a que os SAA se possam comportar de forma cada vez menos previsível”, em consequência, designadamente, de uma crescente mobilidade, levando a que as armas autónomas possam encontrar-se durante longos períodos de tempo em meios ou espaços com as mais variadas características; de uma crescente adaptabilidade, envolvendo a possibilidade de por si definirem objectivos próprios ou alteração de comportamento conforme a situação envolvente (por exemplo, defender-se de um ataque) ou mesmo pela incorporação de algoritmos de aprendizagem; e, ainda, pela capacidade para funcionar em enxame de muitos aparelhos com capacidade de se auto organizarem. Sistemas de armas autónomas― nota o parecer do CICV ― que possam definir os seus próprios alvos ou, inclusivamente, “aprender” e adaptar as suas características operacionais, serão por natureza imprevisíveis. No entender do CCICV, as implicações nos planos legal e ético que levantará um crescente grau de autonomia de sistemas de armas são muito sérias. O documento de trabalho que dá corpo à intervenção da Santa Sé no Encontro de Peritos, de Abril, em Genebra, tem o título: “ Elementos em que se sustenta a proibição das armas autónomas letais”. É uma posição muito clara a que se expõe no documento de quatro páginas a que nos referimos, Dele extraímos uma breve passagem que vai muito para além das questões de natureza tecnológica ligadas ao desenvolvimento e à utilização destas armas. “ (…) a ausência do combatente humano induzirá o desaparecimento daquilo que a relação de uma pessoa com outra pessoa e a descoberta da face do outro poderia suscitar, Uma máquina é incapaz de empatia real (isso requere a experiência de sentir no seu próprio corpo o que o outro sentirá no seu; a máquina não tem uma corporalidade real). A máquina não se abre a um inesperado perdão e a uma real possibilidade de reconciliação ou de pacificação”. Este caminho por onde nos querem levar ― dizemos nós ― é um caminho perigoso que abre a porta a mais sofrimento, a mais destruições, a mais conflitos. É um caminho que apenas convém àqueles forças que guiadas pela avidez do lucro, procuram dominar o mundo. Cerca de dois meses antes do Encontro de Peritos em Sistemas de Armas Autónomas Letais acima referido, a problemática associada ao emprego destas armas foi objecto de atenção por parte do Conselho dos Direitos Humanos da ONU. Num relatório tornado público em Fevereiro de 2016 6 pode
ler-se a seguinte recomendação: “Devem ser proibidos os sistemas de armas autónomas que não requerem controlo humano significativo (meaningful) e não deve ser usada sem a maior das precauções a violência por acção de força de controlo remoto” Num documento de Outubro de 2014, Christof Heyns, Relator Especial das Nações Unidas para as Execuções Extrajudiciais, Sumárias ou Arbitrárias 7, sublinha as preocupações que justifica a crescente utilização de tecnologias que “despersonalizam” o uso da força, incluindo os drones armados, não apenas em acções de guerra mas também na manutenção da ordem interna ou no plano doméstico. O equipamento correspondente encontra-se à venda em todo o mundo, e é utilizado “pelas polícias e empresas privadas de segurança para controlar manifestações, proteger imóveis de importância estratégica e na perseguição a fugitivos”. “ Um drone armado ― faz notar ― controlado a distância por um ser humano, dificilmente fará o que um agente policial é suposto fazer ― o uso mínimo de força exigido pelas circunstâncias, assistência a quem precise de auxílio, etc”. Acrescenta que “ a situação se torna ainda mais problemática quando a polícia utiliza armas com crescente grau de autonomia ― isto é, armas com computadores integrados que decidem sobre o uso da força”. A ciência da robótica e as tecnologias que lhe estão ligadas têm progredido a um ritmo acelerado e, naturalmente, têm permitido e permitem desenvolver numerosas aplicações e dispositivos que facilitam a vida e são úteis no nosso dia-a-dia. Quando se fala em autonomia de dispositivos robóticos importa sublinhar que por detrás da autonomia está aquele que é um domínio científico próprio, já nomeado atrás, que se designa por Inteligência Artificial. Muito recentemente, a prestigiada revista internacional Nature dedicava um Editorial à problemática da Inteligência Artificial abordando-a numa perspectiva em nosso entender muito correcta. 8. O Editorial, fugindo à polarização do debate entre cépticos irredutíveis e outros que esperam dos avanços da IA o mais risonho dos futuros, chama a atenção para que se torna consensual a convicção de que a investigação em Inteligência Artificial terá profundos impactos nas nossas vidas mais cedo do
que tarde. Grandes corporações como a Microsoft ou a Toyota mas também o Google e o Facebook estão a investir milhares de milhões de dólares na investigação em IA e em robótica. Vêem no acelerado desenvolvimento destas poderosas tecnologias o próximo eldorado de lucros. Todavia, no entender dos autores do Editorial, importa precavermo-nos contra perigos e armadilhas potenciais que comportam e podem fazer-se sentir a muito curto prazo, na medida em que a convergência dos avanços nos domínios da IA e da robótica se vão fatalmente traduzir em mudanças tecnológicas muito significativas. Entre outros perigos sublinha-se “a ameaça mais do que clara” de permitir a máquinas como drones e outros sistemas de armas autónomas ofensivas, tomar sozinhas decisões que implicam vida ou morte. Olhando esta problemática na perspectiva mais alargada do impacte social de uma expansão generalizada das aplicações da IA no sector produtivo, o Editorial aponta o perigo de uma extinção em massa de postos de trabalho e afirma (cito): “Uma sociedade dependente da IA pode gerar benefícios acrescidos se a riqueza resultante de ganhos de produtividade for repartida. Mas na situação actual tais benefícios concentram-se em empresas e no capital dos seus accionistas ― incluindo os famigerados 1%”.
No contexto do desenvolvimento de novas armas tecnologicamente avançadas há outros aspectos que importa focar. Aspectos ligados também a avanços nos domínios da IA e da robótica, conjugados com resultados de pesquisas e inovação em outros domínios do conhecimento. É o caso da “guerra electrónica” que compreende a utilização das “armas de energia dirigida”, nomeadamente, emissores laser de grande potência; da chamada “guerra cibernética” mas também a miniaturização de armas nucleares, associada a vectores de lançamento indetectáveis em voo. Encontram-se abundantes referências a importantes investimentos que estão a ser feitos nestes domínios por diversas agências norte-americanas ligadas ao governo federal e envolvendo prestigiados centros universitários, mas há também notícia de trabalhos e realizações em curso na Federação Russa, na República Popular da China e em outros estados que dispõem de tecnologias avançadas. Faremos na parte final deste trabalho breves referências a estas questões.9 Em Abril de 2015 foi tornado público um importante relatório elaborado num denominado “Center for a New American Security” que é um “think tank” próximo dos círculos dirigentes dos EUA intitulado “Armas de Energia Dirigida: Promessas e Perspectivas” 10. O autor Jason Ellis é um cientista sénior do Lawrence Livermore National Laboratory que é um dos maiores laboratórios federais de investigação norte-americanos, especialmente vocacionado para as questões militares e de segurança11. No relatório, apela-se ao aumento drástico da despesa e ao incremento da coordenação da investigação por parte do eufemisticamente designado “DOD ― Department of Defense”. E em aparente justificação da necessidade do apelo, faz-se notar que por volta de 2022, a China poderá ultrapassar os EUA no montante total dos gastos em investigação e desenvolvimento. A operação das armas laser de energia dirigida (que usam a mesma sigla das armas robóticas autónomas ― LaWS ou Laser Advanced Weapons Systems) assenta na emissão de um feixe de luz laser dirigido para o alvo a abater ou a desactivar. O feixe pode atingir um objecto a grande distância ― 1 km ou mesmo mais distantes ― sem que ao longo do percurso na atmosfera o feixe se disperse ou se atenue a energia que transporta a ponto de ao incidir no alvo visado produzir os efeitos que se pretendem, em geral, um grande aumento de temperatura na região do impacto. Esse aumento de temperatura é suficiente para fundir metal, provocar um incêndio ou uma explosão no caso de o objecto atingido
(U.S. Navy photo by John F. Williams)
transportar explosivos. Já foram ensaiadas pela marinha americana e consideradas operacionais armas laser que atingiram e destruíram alvos de vários tipos: granadas de propulsão (rocket grenades); pequenos barcos; drones e pequenos mísseis. Em finais de 2014, foi montado no navio de transporte anfíbio da marinha estado-unidense USS Ponce, um sistema laser de energia dirigida. Foi ensaiado e está operacional, podendo ser usado contra drones, pequenos aviões e lanchas rápidas. A potência exacta da arma não é conhecida mas julga-se que se situa entre 15 e 50 kW. Em princípios de 2015 o USS Ponce encontrava-se estacionado no Golfo Pérsico. No que toca a novas armas nucleares sabe-se que a Administração Obama aprovou um plano dito de revitalização atómica, já referido atrás, com um custo estimado de um milhão de milhões de dólares a gastar ao longo de três décadas. Trata-se de uma flagrante infracção do estipulado no Artigo VI do Tratado de Não Proliferação Nuclear, pondo a nu a vontade de manter indefinidamente a arma atómica em condições operacionais, ao invés de a eliminar, não descartando a perspectiva da sua utilização em teatro de guerra ou como retaliação contra supostos inimigos. Quanto à ciberguerra à superfície do planeta ou no espaço circundante onde se movimentam milhares
de satélites operacionais de cujo bom funcionamento dependem infra-estruturas que hoje consideramos indispensáveis à vida em sociedade são muito grandes os riscos de disrupção provocados por acções ofensivas ou mesmo por acidente ou erro de cálculo. Comunicações, orientação no solo (GPS), meteorologia, por exemplo, dependem desses objectos tecnológicos que o saber e engenho humanos colocou em órbita à volta da Terra. É fácil a um satélite militar destruir ou desactivar selectivamente outros satélites. Pode fazê-lo nomeadamente por meio de feixes de energia dirigida emitidos de um daqueles engenhos em órbita. Acresce que uma regulação internacional extensiva e inclusiva das actividades espaciais está por fazer o que tem também contribuído para uma perigosa acumulação de detritos espaciais que circulam a altas velocidades em volta da Terra. A ciberguerra no solo, que inclui a difusão selectiva de vírus informáticos mas também a acção dos chamados hackers (nem sempre negativa, diga-se) encontra terreno fértil para a desarticulação de infraestruturas de enorme importância, desde as redes de distribuição de energia, aos transportes, serviços de saúde, abastecimento de água, comunicações, unidades fabris e outras. Por este caminho, um inimigo potencial pode ser paralisado, sem que sequer se conheça com precisão a origem da ameaça. Assim, as
nações tecnologicamente mais evoluídas investem hoje recursos humanos, materiais e financeiros, muito consideráveis para a prevenção de ataques cibernéticos mas também, convém dizê-lo, na capacidade de os levar a cabo. 12
1
http://futureoflife.org/open-letter-autonomous-weapons/ http://futureoflife.org/ 3 Helicópteros de quatro rotores 4 O termo surge pela primeira vez na peça teatral de ficção científica do escritor checoslovaco K. Čapek's R.U.R.‘Robots Universais Rossum’ (1920). R:U:R. era uma fábrica de robots. 5 Na presente data é de 122 o número de Estados signatários da Convenção (abreviadamente designada por CCWConvention on Certain Conventional Weapons), também conhecida por “Convenção sobre Armas Desumanas”, tem por objectivo proibir ou restringir a utilização de tipos específicos de armas que se considera serem causadoras de sofrimento desnecessário ou injustificado aos combatentes ou afectarem populações civis indiscriminadamente. Minas, dispositivos explosivos armadilhados; armas incendiárias e feixes laser que provocam cegueira, são alguns dos tipos de armas considerados na Convenção (http://www.unog.ch/80256EE600585943/(httpPages)/4F0DEF093B4860B4C1257180004B1B30?OpenDocument). 6 UN Human Rights Council, Doc. A/HRC/31/66, “Joint report of the Special Rapporteur on the rights to freedom of peaceful assembly and of association and the Special Rapporteur on extrajudicial, summary or arbitrary executions on the proper management of assemblies”, 4 February 2016 (Report to the 31st regular session of the Human Rights Council (29 February to 24 March 2016), UNOG-United Nations Office in Geneva) 7 Special Rapporteur’s report (A/69/265) http://www.ohchr.org/EN/newyork/Pages/HRreportstothe69thsessionGA.aspx 8 “Anticipating artificial intelligence”, Editorial, Nature vol.532, p.413, April 28, 2016 9 Em Julho de 2015, na audição de confirmação como chefe militar supremo das Forças Armadas norte-americanas, no Senado dos EUA, o General Joseph F. Dunford, referiu-se à Rússia como a maior “ameaça existencial” para os EUA. O Secretário Adjunto da Defesa Bob Work, em Dezembro, sublinhou a mesma preocupação classificando a Federação Russa como “uma grande potência que renasce” e a China como “potência em ascensão com impressionante capacidade tecnológica latente (que) provavelmente corporiza um desafio estratégico de maior alcance”. Em Fevereiro deste ano, o Secretário da Defesa Ashton Carter, falou da “agressão” russa na Europa acrescentando que entendia, com desgosto, que “não tendo tido que nos preocupar com isso nos últimos 25 anos, agora temos que o fazer”. cf. David Ignatius, Opinion writer, “The exotic new weapons the Pentagon wants to deter Russia and China”, The Washington Post, February 23, 1016 10 Jason D. Ellis, “Directed-Energy Weapons: Promise and Prospects”, Center for a New American Security, Abril 2015 (60 pp) 11 No sítio internet do Laboratório pode ler-se, a abrir, a seguinte frase do seu director: “Our mission is to make the world a safer place.” 2
12
O orçamento do Pentágono para 2017, inclui, de acordo com informações credíveis, os seguintes montantes (em dólares): 3 mil milhões para sistemas de armamentos avançados destinados a contrariar, designadamente, ataques da China a longa distância a forças navais; 3 mil milhões para aperfeiçoar sistemas para operação submarina; 3 mil milhões para actuação em equipa homem-máquina e condução de operações por drones “em enxame”; mil e setecentos milhões para aplicações de IA em sistemas cibernéticos e electrónicos; e 500 milhões para o teste de novos conceitos incluindo através de jogos de simulação de guerra (cf. Nota 9)