A legislação não alcançou primeiro o "autocontrole": os gigantes da IA prometerão segurança do produto, OpenAI apóia o licenciamento e a aprovação do desenvolvimento do sistema de IA

Autor: Li Dan

Fonte da imagem: Gerada pela ferramenta Unbounded AI

Embora os Estados Unidos ainda não tenham introduzido uma legislação específica, sob pressão do governo Biden, alguns gigantes e estrelas em ascensão no campo da inteligência artificial (IA) OpenAI tomaram a iniciativa de propor o "autocontrole".

Na quinta-feira, 20 de julho, horário do leste, a mídia citou pessoas de dentro dizendo que, a pedido da Casa Branca, algumas empresas, incluindo a Microsoft, a Alphabet, empresa controladora do Google, e a OpenAI, assumirão compromissos públicos nesta sexta-feira para garantir o uso seguro da tecnologia de IA e desenvolver e implantar IA de forma responsável.

O rascunho do documento da Casa Branca mostra que as promessas das empresas permanecerão em vigor até que o Congresso dos EUA aprove uma legislação para tratar de questões relacionadas à IA. Essas promessas se concentram na IA generativa e nos modelos de IA existentes mais poderosos, e até mesmo em possíveis modelos futuros. No rascunho, a Casa Branca propôs oito pontos de compromisso:

• Permita que especialistas independentes atuem como inimigos imaginários, tente fazer com que os modelos de IA produzam mau comportamento, realize o chamado red-teaming contra azul e azul e melhore as capacidades de defesa.
• Compartilhe informações de confiança e segurança com governos e outras empresas.
• Use marcas d'água em conteúdo de áudio e vídeo para ajudar a identificar o conteúdo gerado por IA.
• Invista em medidas de cibersegurança.
• Incentivar terceiros a descobrir brechas de segurança.
• Relatar riscos sociais, como uso indevido e parcialidade.
• Priorizar a pesquisa sobre os riscos sociais da IA.
• Use o sistema de IA mais avançado, o chamado modelo de ponta, para resolver os problemas sociais mais graves.

A mídia informou que até esta sexta-feira, o conteúdo específico do compromisso ainda pode sofrer alterações. Mas espera-se que as promessas estejam alinhadas com as feitas em uma reunião de algumas das principais empresas de IA em maio.

Também na quinta-feira, outro relatório disse que um memorando interno mostrou que o OpenAI suporta a implementação de um sistema de licenças, ou seja, para desenvolver sistemas avançados de IA, os desenvolvedores precisam primeiro obter uma licença emitida pelo governo. A OpenAI também sugeriu uma disposição de ser mais aberta sobre os dados usados para treinar geradores de imagens de IA, como o DALL-E, dizendo que está comprometida em incorporar uma abordagem baseada na origem até o final deste ano.

No entanto, Makanju, vice-presidente de assuntos globais da OpenAI, disse recentemente que o regime de licenciamento suportado pela OpenAI é limitado a modelos de IA mais poderosos que o GPT-4, porque a OpenAI quer garantir que pequenas startups não sofram muita pressão regulatória.

O comentário afirmou que o próprio compromisso voluntário mostrou que o governo Biden tem limitações em orientar modelos de IA para evitar abusos. O Congresso dos EUA não poderá aprovar projetos de lei e legislação no curto prazo, e a regulamentação no campo da IA não pode ser adiada.

Wall Street mencionou que, em maio, a Casa Branca convocou uma reunião com os CEOs da Alphabet, Microsoft e OpenAI para discutir questões de segurança da IA. Biden reiterou na carta-convite da época que esperava que essas empresas garantissem a segurança do produto antes de lançá-lo. Ele também disse que havia preocupações de que a tecnologia de IA em rápido avanço pudesse invadir a privacidade e ser tendenciosa, espalhando rumores e desinformação.

No mês passado, Biden reiterou mais uma vez a necessidade de garantir a segurança antes do lançamento de produtos de IA, dizendo que a segurança nacional e os riscos econômicos trazidos pela IA precisam ser abordados. O chefe de gabinete da Casa Branca, Jeff Zients, disse naquele mês que algumas empresas líderes no campo da IA estão se esforçando para cooperar com o governo Biden e em breve anunciarão uma série de compromissos de privacidade e segurança. Ele também disse que o processo regulatório pode ser relativamente lento, mas não podemos nos dar ao luxo de esperar um ou dois anos.