Mais de 560 funcionários do Google assinaram uma carta aberta ao CEO Sundar Pichai, solicitando que este impeça o uso militar de IA pelo governo dos Estados Unidos. A carta, enviada na segunda-feira, destaca a preocupação dos trabalhadores em ver a inteligência artificial utilizada para beneficiar a humanidade, em vez de ser aplicada em operações desumanas ou prejudiciais.
Os signatários afirmam que o uso militar de IA deve ser rejeitado, especialmente em contextos que envolvem armas autónomas letais e vigilância em massa. A carta enfatiza que, para evitar associações com danos, o Google deve recusar qualquer carga de trabalho sigilosa. Caso contrário, os funcionários temem que a tecnologia possa ser utilizada sem o seu conhecimento ou capacidade de impedir tais aplicações.
A pressão sobre as grandes empresas de tecnologia para se posicionarem sobre o uso militar de IA tem aumentado, especialmente após a recente tensão entre o Pentágono e a startup de IA Anthropic. O CEO da Anthropic, Dario Amodei, negou o acesso irrestrito do governo aos seus modelos, defendendo a implementação de salvaguardas para evitar o uso da tecnologia em armas letais e vigilância doméstica.
Em resposta, o governo classificou a Anthropic como um risco à cadeia de suprimentos, levando o então presidente Donald Trump a ordenar que todos os departamentos governamentais interrompessem o uso do chatbot Claude da empresa. A Anthropic contestou essa classificação judicialmente.
Os funcionários da Alphabet estão preocupados com relatos de que o Google está prestes a fechar um acordo com o Departamento de Defesa, que permitiria o uso do modelo Gemini em operações sigilosas, sem as salvaguardas que a Anthropic exigiu. Uma fonte envolvida na campanha alertou que a questão não se limita aos militares, mas também abrange a ameaça da vigilância com IA à liberdade civil dos cidadãos americanos, citando o uso da tecnologia para apoiar regimes autoritários, como o da China.
A carta foi coordenada por funcionários da DeepMind, o laboratório de IA do Google, e inclui a assinatura de mais de 18 executivos seniores, entre os quais diretores e vice-presidentes. Aproximadamente dois terços dos signatários optaram por se identificar, enquanto o restante preferiu permanecer anônimo.
Jeff Dean, cientista-chefe da DeepMind, tem sido uma das vozes mais proeminentes sobre este tema, tendo afirmado anteriormente que a vigilância em massa viola a Quarta Emenda da Constituição dos EUA e inibe a liberdade de expressão. Dean reiterou o seu apoio a um compromisso de 2018 que proibia o desenvolvimento de armas autónomas letais.
O Google já enfrentou protestos semelhantes no passado. Em 2018, vários funcionários pediram demissão e milhares assinaram uma petição contra o Projeto Maven, que utilizava IA para melhorar ataques com drones. Na altura, a empresa decidiu não renovar o contrato e comprometeu-se a não trabalhar com IA para fins militares ou de vigilância.
No entanto, no ano passado, o Google alterou discretamente a sua posição ao rever os seus “Princípios de IA”, excluindo a promessa de não desenvolver tecnologias cujo objetivo principal fosse causar danos a pessoas. O cofundador Demis Hassabis justificou a mudança, afirmando que as circunstâncias mudaram desde a aquisição da DeepMind em 2014, e que as empresas de tecnologia dos EUA têm a responsabilidade de ajudar o país a se defender.
Uma das signatárias da carta afirmou que o grupo se inspirou na resistência ao Projeto Maven e que há um consenso crescente contra o uso militar de IA na DeepMind. A OpenAI também enfrentou críticas internas por ter fechado um acordo com o governo logo após a proibição da Anthropic, levando o CEO Sam Altman a pedir desculpas, descrevendo as suas ações como “oportunistas e descuidadas”.
A carta conclui que “tomar a decisão errada agora causaria danos irreparáveis à reputação, aos negócios e ao papel do Google no mundo”. Os funcionários acreditam que a empresa pode fazer as escolhas certas, especialmente quando há tanto em jogo.
Leia também: O impacto da IA na economia global.
uso militar de IA Nota: análise relacionada com uso militar de IA.
Leia também: Segurança e saúde no trabalho na era da IA: desafios e oportunidades
Fonte: Sapo
