Sam Altman, CEO da OpenAI, apresentou recentemente um artigo no Financial Times onde delineia a sua visão para a governança da inteligência artificial (IA). Com o título “É assim que podemos tornar a IA segura para todos”, Altman propõe um modelo que visa garantir a segurança e a democratização dos benefícios da tecnologia. A proposta surge num momento em que a discussão sobre o controlo da IA se intensifica, especialmente com as restrições impostas pelos Estados Unidos no acesso a modelos avançados.
Um exemplo recente é a Anthropic, que limitou a disponibilização dos seus modelos Mythos 5 e Fable 5 fora dos EUA, mas que, após um acordo com o governo americano, já reativou o Fable 5. Altman defende que a criação de um fórum internacional, liderado pelos Estados Unidos, é essencial para estabelecer normas de segurança reconhecidas globalmente. Este fórum teria como objetivo fornecer análises imparciais sobre as capacidades e riscos da IA, além de garantir que os países que cumpram as regras tenham acesso a essa tecnologia.
Para Altman, a governança da IA deve ser uma prioridade, pois sem um conjunto de normas comuns, os benefícios da inteligência artificial não poderão ser amplamente distribuídos. Ele sugere que o fórum reúna representantes governamentais, especialistas técnicos e outros intervenientes relevantes, funcionando como um regulador e supervisor dos laboratórios que desenvolvem IA. Esta abordagem visa proteger contra pressões comerciais que podem resultar numa corrida perigosa pelo desenvolvimento da tecnologia.
Uma das ideias centrais do artigo é que a definição de padrões internacionais de segurança deve preceder a disseminação dos sistemas mais avançados. Altman acredita que todos os países, empresas e cidadãos devem beneficiar da IA, mas apenas num contexto onde existam regras comuns e mecanismos de certificação que assegurem uma utilização segura. Ele sugere que, ao aderirem às normas do fórum internacional, os países teriam acesso estável aos modelos mais avançados.
A proposta de Altman também procura abordar preocupações sobre a concentração de poder tecnológico e os riscos associados a sistemas cada vez mais sofisticados. Ele argumenta que uma cooperação internacional é uma forma sensata de evitar que o poder se concentre excessivamente e de garantir que os benefícios da inteligência artificial sejam democratizados.
Além disso, Altman destaca a importância de que as decisões sobre a utilização da tecnologia sejam tomadas através de processos democráticos, e não por um pequeno número de empresas. Ele expressa otimismo quanto ao futuro da IA, prevendo que em um ou dois anos, poderão surgir sistemas com capacidades muito superiores, capazes de acelerar a descoberta científica e transformar a sociedade.
Contudo, Altman alerta que esse futuro depende da criação de um quadro internacional de confiança. Sem isso, os países poderão optar por restrições nacionais, resultando num ecossistema fragmentado. O artigo termina com um apelo à cooperação internacional, enfatizando a necessidade de encontrar formas de criar confiança global na tecnologia para que todos possam beneficiar dela.
Leia também: O impacto da inteligência artificial na economia global.
governança da IA governança da IA governança da IA governança da IA Nota: análise relacionada com governança da IA.
Leia também: Palco Z: Jovens da geração Z debatem futuro em Portugal
Fonte: ECO
