OMB emite as primeiras regras governamentais de mitigação de riscos de IA

Um memorando do Gabinete de Gestão e Orçamento exige que as agências designem diretores de IA e estabeleçam conselhos de governação de IA para coordenar e governar a utilização da tecnologia emergente em toda a organização. As agências também devem adicionar mais detalhes aos relatórios anuais sobre quais ferramentas de IA utilizam e divulgar códigos de IA de propriedade do governo.

“As agências devem melhorar a sua capacidade de usar a IA de forma a beneficiar o público e aumentar a eficácia da missão, reconhecendo ao mesmo tempo as limitações e os riscos da IA”, diz o memorando. “As agências são incentivadas a priorizar o desenvolvimento e a adoção da IA ​​para o bem público e onde a tecnologia pode ser útil na compreensão e no enfrentamento de grandes desafios sociais”.

O memorando de 34 páginas foi divulgado quando o governo anunciou que as agências federais concluíram com sucesso todas as ações de 150 dias incluídas na ordem executiva de outubro do presidente Joe Biden sobre IA. Se uma agência não for capaz de cumprir as orientações mais recentes, é obrigada a deixar de utilizar o sistema de IA – a menos que a liderança da agência possa demonstrar que isso criaria uma perturbação inaceitável de operações críticas.

O memorando exige que as agências desenvolvam e divulguem publicamente uma estratégia para identificar e remover barreiras ao uso responsável da IA, incluindo medidas para alcançar melhorias em toda a empresa na maturidade da IA. O OMB disse que emitirá um pedido de informações para ajudar a desenvolver regulamentações em torno da aquisição federal de ferramentas e tecnologias de IA.

Várias agências – incluindo os departamentos de Estado, Defesa, Assuntos de Veteranos e Habitação e Desenvolvimento Urbano – já estabeleceram conselhos de governação da IA. As restantes 24 maiores agências federais têm até 27 de maio para formar os seus próprios órgãos de governação.

O memorando orienta as agências a garantirem que os seus projetos de IA tenham acesso a infraestruturas de tecnologia da informação adequadas, “incluindo infraestruturas de computação de alto desempenho especializadas em IA, formação e interferência”. A Casa Branca também incentiva as agências a garantir que os desenvolvedores de IA tenham acesso a bibliotecas de código aberto, ferramentas de software e recursos de monitoramento para supervisionar aplicações federais de IA.

O memorando pede um nível significativo de transparência nas ferramentas federais de IA, exigindo que as agências “compartilhem proativamente seu código desenvolvido sob medida” para aplicações de IA em uso ativo por meio de software de código aberto em um repositório público, a menos que o compartilhamento do código seja restrito por lei ou regulamentos ou criaria questões contratuais e riscos à segurança nacional.

“As agências devem priorizar o compartilhamento de códigos desenvolvidos sob medida, como pacotes ou funções comumente usados, que tenham maior potencial de reutilização por outras agências ou pelo público”, diz o memorando.

A administração anunciou compromissos para fortalecer a força de trabalho cibernética federal, incluindo a contratação de 100 profissionais de IA até o verão de 2024. O plano de gastos federais da Casa Branca para o próximo ano fiscal federal contém uma proposta de US$ 5 milhões para expandir o programa governamental de treinamento em IA da Administração de Serviços Gerais. Mais de 4.800 indivíduos em 78 agências federais participaram da iniciativa no ano passado, de acordo com o OMB.

Funcionários do OMB disseram aos repórteres na quarta-feira que a agência agora começará a trabalhar em novas ações exigidas pela ordem executiva de IA em torno de compras federais de tecnologias emergentes, previstas 180 dias após a divulgação do memorando.