O procurador-geral da Califórnia, Rob Bonta, anunciou a abertura de uma investigação à xAI, a empresa de Elon Musk, devido à criação e disseminação online de imagens sexualizadas de mulheres e crianças. Estas imagens são geradas pelo Grok, um assistente de inteligência artificial que tem suscitado preocupações em várias partes do mundo.
Bonta destacou que a xAI parece facilitar a produção em larga escala de deepfakes não consensuais, que são utilizados para assediar mulheres e raparigas na internet, incluindo na rede social X, também de propriedade de Musk. O procurador exortou a empresa a tomar medidas imediatas para impedir que a criação dessas imagens ocorra novamente. “Temos uma política de tolerância zero para a criação e distribuição de imagens íntimas não consensuais ou de pornografia infantil”, afirmou.
Nos últimos tempos, a indignação em torno do Grok tem crescido, especialmente pela sua capacidade de modificar imagens. Alguns utilizadores têm explorado esta ferramenta para publicar fotos de mulheres, acompanhadas de pedidos como “veste-a em biquíni”, resultando em edições hiper-realistas. Desde 9 de janeiro, a funcionalidade de criação de imagens foi desativada para utilizadores gratuitos da X, que afirma estar a trabalhar para remover conteúdo ilegal e suspender contas envolvidas.
O procurador da Califórnia também acusou a xAI de promover a capacidade de despir pessoas como uma estratégia de marketing, o que, segundo ele, levou à proliferação de conteúdos sexualizados sem o consentimento dos indivíduos. Uma análise realizada pela ONG AI Forensics a mais de 20.000 imagens geradas pelo Grok revelou que mais de metade apresentava indivíduos com pouca roupa, sendo 81% mulheres e 2% aparentando ser menores de idade.
Além da Califórnia, outros países, como a Malásia, França, Reino Unido e Indonésia, estão a rever o funcionamento da ferramenta de IA. A Ofcom, a reguladora de comunicações britânica, abriu uma investigação formal à X para averiguar se a empresa cumpriu as obrigações legais no país, após a circulação de imagens sexualizadas. A França também apresentou uma queixa contra o Grok por criar e divulgar conteúdos de natureza sexista e sexual. Por sua vez, a Indonésia anunciou restrições ao acesso ao chatbot devido à criação de “imagens indecentes e não consensuais, envolvendo mulheres e menores”.
Leia também: O impacto da inteligência artificial na sociedade moderna.
inteligência artificial inteligência artificial inteligência artificial Nota: análise relacionada com inteligência artificial.
Leia também: Trump não planeia demitir Powell, mas futuro é incerto
Fonte: Sapo
