Casa Branca tem encontro com gigantes da tecnologia para acordo sobre I.A.

Nesta sexta-feira, 21 de julho, o presidente dos Estados Unidos, Joe Biden, recebeu na Casa Branca representantes de sete empresas líderes no desenvolvimento de inteligência artificial (IA): Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI.

Anúncio

O encontro teve como objetivo firmar um acordo voluntário pelo desenvolvimento seguro, protegido e confiável de tecnologias de IA, que possam beneficiar a sociedade e a economia sem comprometer os direitos e a segurança dos americanos.

Mas o que esse acordo significa na prática? Quais são os compromissos assumidos pelas empresas e os benefícios e desafios desse acordo? E quais são as implicações para o futuro da IA? Neste artigo, vamos tentar responder a essas e outras questões e lhe ajudar a entender melhor esse assunto.

Os compromissos das empresas de IA

Segundo a nota divulgada pela Casa Branca, o acordo voluntário de IA inclui três pilares principais: segurança, proteção e confiança.

Isso significa que as empresas se comprometem a:

Realizar testes internos e externos de segurança e capacidade dos sistemas de IA antes de lançá-los ao público e tornar públicos os resultados desses testes. Esses testes, que serão realizados em parte por especialistas independentes, protegem contra algumas das fontes mais significativas de riscos de IA, como a biossegurança e a segurança cibernética, bem como seus efeitos sociais mais amplos.
Proteger os modelos de IA contra ameaças cibernéticas e internas e compartilhar as melhores práticas e padrões para evitar o uso indevido e reduzir os riscos para a sociedade e a segurança nacional. Além disso, facilitar a descoberta e a comunicação a terceiros de vulnerabilidades nos sistemas desenvolvidos pelas empresas. Alguns problemas podem persistir mesmo após o lançamento de um sistema de IA, e um mecanismo robusto de relatório permite que eles sejam encontrados e corrigidos rapidamente.
Tornar mais fácil para os usuários saber se o conteúdo de áudio e visual está em sua forma original ou se foi alterado ou gerado por IA. Garantir que a tecnologia não promova preconceitos e discriminação, fortalecendo as proteções à privacidade e protegendo as crianças de danos. Usar a IA para ajudar a enfrentar os maiores desafios da sociedade, do câncer às mudanças climáticas, e gerenciar os riscos da IA para que seus benefícios possam ser plenamente realizados.

Esses compromissos refletem os princípios éticos da IA defendidos pelo governo Biden-Harris, que incluem respeito aos direitos humanos, equidade, transparência, responsabilidade, robustez e governança.

Os benefícios e os desafios do acordo

O acordo voluntário de IA pode trazer vários benefícios para o desenvolvimento da tecnologia nos Estados Unidos e no mundo. Entre eles, podemos destacar:

Aumentar a confiança do público na IA, ao demonstrar que as empresas estão preocupadas em garantir a segurança, a proteção e a confiança dos seus produtos e serviços.
Estimular a inovação responsável na IA, ao incentivar as empresas a seguir os mais altos padrões éticos e técnicos para o desenvolvimento da tecnologia.
Fortalecer a liderança dos Estados Unidos na IA, ao posicionar o país como um exemplo de boas práticas e cooperação entre o setor público e privado para o avanço da tecnologia.
Promover o bem-estar social e econômico com a IA, ao usar a tecnologia para solucionar problemas globais como saúde, educação, meio ambiente, segurança e justiça.

No entanto, o acordo também enfrenta alguns desafios para ser efetivo e duradouro. Entre eles, podemos mencionar:

A falta de obrigatoriedade e fiscalização do acordo, que pode levar a casos de descumprimento ou violação dos compromissos assumidos pelas empresas, sem consequências legais ou sanções.
A ausência de algumas empresas importantes no acordo, como a xAI, de Elon Musk, que não participou do encontro e não assinou o documento. Isso pode gerar uma competição desleal ou uma fragmentação do mercado de IA, com diferentes padrões e regulamentos.
A resistência de alguns setores da sociedade ao acordo, que podem ver nele uma forma de controle ou censura do governo sobre a tecnologia ou uma ameaça à soberania e à autonomia de outros países.

As reações e as críticas ao acordo

O acordo voluntário de IA gerou diversas reações e críticas de diferentes setores da sociedade, tanto nos Estados Unidos quanto no exterior. Vejamos algumas delas:

Os representantes das empresas de IA elogiaram o acordo e afirmaram que ele representa um passo importante para o desenvolvimento ético e sustentável da tecnologia. Eles também se comprometeram a trabalhar em conjunto com o governo e outros atores para garantir o cumprimento dos compromissos e a melhoria contínua dos sistemas de IA.
Os especialistas em ética e direitos humanos na IA aplaudiram o acordo e destacaram que ele é um exemplo de como o setor público e privado podem colaborar para garantir que a tecnologia seja usada para o bem comum e não para o mal. Eles também ressaltaram que o acordo é um avanço em relação à falta de regulação e transparência que marcou os primeiros anos da IA.
Os críticos ao acordo questionaram a eficácia e a legitimidade do documento, que não tem força legal nem mecanismos de monitoramento ou prestação de contas. Eles também apontaram que o acordo é insuficiente para lidar com os riscos existenciais da IA, como a superinteligência artificial ou a singularidade tecnológica, que podem ameaçar a humanidade.
Os representantes de outros países reagiram com cautela ao acordo e afirmaram que ele pode ser uma forma de imposição dos interesses e valores dos Estados Unidos sobre o resto do mundo. Eles também defenderam que a governança global da IA deve ser feita por meio de organismos multilaterais, como a ONU ou a UNESCO, e não por acordos bilaterais ou regionais.

As perspectivas de regulamentação do governo

Além do acordo voluntário de IA, o governo Biden-Harris também anunciou que pretende enviar uma ordem executiva e um projeto de lei bipartidário para regulamentar o mercado de inteligência artificial no país. Segundo a Casa Branca, essas medidas visam:

Estabelecer um marco legal claro e consistente para a IA, que defina os direitos e deveres dos desenvolvedores, fornecedores e usuários da tecnologia, bem como as penalidades para casos de infração ou abuso.
Criar uma agência federal especializada em IA, que seja responsável por supervisionar, fiscalizar e avaliar os sistemas de IA desenvolvidos ou usados no país, tanto pelo setor público quanto pelo privado.
Fomentar a pesquisa e a educação em IA, por meio de investimentos públicos em infraestrutura, recursos humanos e projetos inovadores na área, bem como incentivos fiscais e subsídios para as empresas e instituições envolvidas na tecnologia.
Promover a cooperação internacional em IA, por meio de acordos bilaterais ou multilaterais com outros países ou organizações regionais ou globais, que busquem harmonizar os padrões e as normas da tecnologia, bem como compartilhar os benefícios e os desafios da IA.

Essas medidas ainda estão em fase de elaboração e devem ser submetidas ao Congresso americano para aprovação. No entanto, elas já indicam a intenção do governo Biden-Harris de assumir um papel mais ativo e proativo na regulação da IA.

As implicações para o futuro da IA

O acordo voluntário de IA entre a Casa Branca e as gigantes de tecnologia pode ter implicações significativas para o futuro da tecnologia nos Estados Unidos e no mundo. Entre elas, podemos antecipar:

Uma maior conscientização e responsabilização das empresas de IA sobre os impactos sociais, econômicos e ambientais da tecnologia, bem como uma maior transparência.
Uma maior conscientização e responsabilização das empresas de IA sobre os impactos sociais, econômicos e ambientais da tecnologia, bem como uma maior transparência e prestação de contas aos seus usuários e à sociedade em geral.
Uma maior confiança e satisfação dos consumidores e cidadãos com os produtos e serviços de IA, que devem oferecer mais qualidade, segurança, proteção e confiança, além de respeitar os direitos humanos, a equidade, a privacidade e a democracia.
Uma maior inovação e competitividade no mercado de IA, que deve se tornar mais dinâmico, diverso e sustentável, com mais oportunidades de crescimento, emprego e renda para as empresas e os trabalhadores envolvidos na tecnologia.
Uma maior liderança e influência dos Estados Unidos na IA, que deve se posicionar como um modelo de boas práticas e cooperação para o desenvolvimento ético e responsável da tecnologia, bem como um parceiro estratégico para outros países ou organizações interessados na IA.
Uma maior contribuição da IA para o bem-estar social e econômico da humanidade, que deve se beneficiar das soluções inovadoras e eficientes que a tecnologia pode oferecer para os problemas globais como saúde, educação, meio ambiente, segurança e justiça.

Conclusão

O acordo voluntário de IA entre a Casa Branca e as gigantes de tecnologia é um evento histórico e relevante para o desenvolvimento da tecnologia nos Estados Unidos e no mundo. Ele representa um passo importante para o estabelecimento de um marco ético e técnico para a IA, que possa garantir a segurança, a proteção e a confiança dos sistemas desenvolvidos pelas empresas.

Ele também reflete a intenção do governo Biden-Harris de assumir um papel mais ativo e proativo na regulação da IA, por meio de medidas legais e institucionais que devem ser enviadas ao Congresso em breve.

No entanto, o acordo também enfrenta alguns desafios para ser efetivo e duradouro, como a falta de obrigatoriedade e fiscalização do documento, a ausência de algumas empresas importantes no acordo, a resistência de alguns setores da sociedade ao acordo e a cautela de alguns representantes de outros países ao acordo.

Por isso, é preciso acompanhar com atenção os desdobramentos desse acordo e as suas implicações para o futuro da IA.

E você, o que pensa sobre esse assunto? Deixe sua opinião nos comentários.