O Conselho Ecum\u00eanico de Igrejas est\u00e1 entre os 226 signat\u00e1rios de um documento que pede \u00e0s empresas do setor e aos Estados que “parem de fornecer” sistemas de intelig\u00eancia artificial para uso na “cadeia de assassinato militar” e que “tomem todas as medidas necess\u00e1rias” para evitar viola\u00e7\u00f5es do direito internacional humanit\u00e1rio e dos direitos humanos.<\/p>\n
A guerra “acelerada” pela intelig\u00eancia artificial (IA) est\u00e1 se tornando “um meio de autorizar mortes r\u00e1pidas e em larga escala”, enquanto atualmente n\u00e3o existem “solu\u00e7\u00f5es t\u00e9cnicas ou processuais para evitar as consequ\u00eancias letais e devastadoras” resultantes dos desafios que essas mudan\u00e7as representam para o direito internacional. \u00c9 \u00e0 luz desse contexto preocupante que o Conselho Ecum\u00eanico de Igrejas (CEI), juntamente com outras 225 ONGs, associa\u00e7\u00f5es, especialistas e indiv\u00edduos que trabalham em empresas do setor, assinou uma declara\u00e7\u00e3o conjunta contra o uso de IA na guerra.<\/p>\n
O documento apela explicitamente \u00e0s empresas envolvidas no desenvolvimento de IA e aos Estados para que “parem de fornecer” sistemas de intelig\u00eancia artificial para uso na “cadeia de assassinato militar” e “tomem todas as medidas necess\u00e1rias para garantir que outros sistemas de IA que forne\u00e7am n\u00e3o causem ou contribuam para viola\u00e7\u00f5es do direito internacional humanit\u00e1rio e do direito internacional dos direitos humanos”. A ocasi\u00e3o para a assinatura desta declara\u00e7\u00e3o conjunta \u00e9 a reuni\u00e3o que decorre em Genebra, de 15 a 17 de junho, organizada pelo Escrit\u00f3rio das Na\u00e7\u00f5es Unidas para os Assuntos de Desarmamento, sobre o tema da IA \u200b\u200bno dom\u00ednio militar e as suas implica\u00e7\u00f5es para a paz e seguran\u00e7a internacionais. Este \u00e9 um importante evento internacional, que ocorre apenas algumas semanas ap\u00f3s o apelo do Papa Le\u00e3o XIV para “desarmar a IA” feito na enc\u00edclica\u00a0Magnifica humanitas<\/i>.<\/p>\nO risco de “diluir” a responsabilidade humana<\/h2>\n
Todas as empresas, l\u00ea-se na declara\u00e7\u00e3o conjunta, incluindo as que t\u00eam contratos com ag\u00eancias militares governamentais, “devem tomar todas as medidas poss\u00edveis\u200b\u200bpara garantir que os seus produtos e servi\u00e7os n\u00e3o causem, contribuam para, ou estejam diretamente ligados a viola\u00e7\u00f5es dos direitos humanos e crimes internacionais”. E “nos casos em que as empresas n\u00e3o consigam prevenir ou mitigar significativamente esses riscos, n\u00e3o devem celebrar ou executar tais contratos”. De acordo com diversas reportagens e declara\u00e7\u00f5es oficiais do Pent\u00e1gono, a declara\u00e7\u00e3o afirma: “a r\u00e1pida gera\u00e7\u00e3o de alvos usando ferramentas de IA aumentou a velocidade, o alcance, a intensidade e a for\u00e7a destrutiva dos ataques dos EUA contra o Ir\u00e3”. Avalia\u00e7\u00f5es semelhantes tamb\u00e9m podem ser feitas em rela\u00e7\u00e3o aos sistemas usados \u200b\u200bpelas for\u00e7as armadas israelenses. Todos esses sistemas diluem a “responsabilidade humana em decis\u00f5es de vida ou morte” e “podem ajudar a ocultar crimes internacionais sob uma apar\u00eancia de objetividade algor\u00edtmica, enquanto evitam a responsabiliza\u00e7\u00e3o”.<\/p>\n
“Aplica\u00e7\u00f5es no mundo real indicam que a IA est\u00e1, na verdade, facilitando m\u00e9todos de guerra mais violentos, desumanizantes e destrutivos”, denunciam os 226 signat\u00e1rios da declara\u00e7\u00e3o, que incluem ONGs como a Anistia Internacional, bem como organiza\u00e7\u00f5es locais que trabalham contra o rearmamento. “Em particular, estamos profundamente preocupados com o fato de que o uso de modelos de combate de longo alcance (LLMs) para gera\u00e7\u00e3o e prioriza\u00e7\u00e3o de alvos esteja impulsionando os atores militares para uma forma de guerra na qual os princ\u00edpios fundamentais do direito internacional humanit\u00e1rio \u2014 incluindo os princ\u00edpios da distin\u00e7\u00e3o, proporcionalidade e precau\u00e7\u00e3o \u2014 n\u00e3o s\u00e3o, e provavelmente n\u00e3o podem ser, suficientemente respeitados. Dada a velocidade e o alcance de tais tecnologias, bem como a falta de confiabilidade, a parcialidade e a origem frequentemente ilegal dos dados de entrada, argumentamos ainda que essas din\u00e2micas correm o risco de facilitar viola\u00e7\u00f5es de direitos humanos, crimes contra a humanidade e crimes de guerra. Al\u00e9m disso, a opacidade que caracteriza o uso dessas ferramentas compromete seriamente a capacidade de atribuir responsabilidade moral ou legal em caso de erros.”<\/p>\n
Segundo os signat\u00e1rios da declara\u00e7\u00e3o, \u201cmesmo quando os sistemas de IA usados \u200b\u200bpara direcionar alvos n\u00e3o tomam a decis\u00e3o final de matar, eles correm o risco de se tornarem mecanismos autom\u00e1ticos de aprova\u00e7\u00e3o para assassinatos em larga escala, pois apelam para falsas no\u00e7\u00f5es de objetividade e podem suplantar a responsabilidade e a devida dilig\u00eancia, o que pode, em \u00faltima an\u00e1lise, contribuir para acelerar e facilitar assassinatos em massa\u201d. Al\u00e9m disso, esses sistemas automatizam a desumaniza\u00e7\u00e3o, \u201creduzindo quest\u00f5es de vida ou morte a uma simples pergunta em um chat. A decis\u00e3o de matar outro ser humano\u201d, enfatizam, \u201ccarrega um grave peso moral e legal e nunca deve ser delegada \u00e0 mera aceita\u00e7\u00e3o ou rejei\u00e7\u00e3o das recomenda\u00e7\u00f5es dos sistemas de IA. Quando as for\u00e7as armadas dependem da IA \u200b\u200bpara acelerar a identifica\u00e7\u00e3o de alvos com tamanha velocidade e padroniza\u00e7\u00e3o que qualquer revis\u00e3o humana corre o risco de se tornar uma mera formalidade desprovida de supervis\u00e3o humana efetiva, massacres em massa podem ocorrer, e frequentemente ocorrem, em viola\u00e7\u00e3o direta do princ\u00edpio da precau\u00e7\u00e3o consagrado no direito internacional humanit\u00e1rio\u201d.<\/p>\n