Diretrizes de IA na era Biden-Harris: Um novo horizonte para a América

Nesta segunda-feira (30/10/23), o Presidente Joe Biden assinou uma ampla ordem executiva sobre inteligência artificial (IA), pavimentando o caminho para a implementação de regulamentações da indústria e a alocação de financiamento para que o governo dos EUA intensifique seus investimentos na tecnologia. A amplitude da ordem é notável, abordando desde direitos civis e regulamentações da indústria até uma expansiva contratação governamental no setor de IA.

Em uma coletiva de imprensa, um alto funcionário da Casa Branca destacou a complexidade multifacetada da IA, mencionando que a política de IA é similar a um decatlo: não se pode simplesmente escolher focar apenas na segurança, equidade ou privacidade; todas essas áreas precisam ser abordadas conjuntamente. Esta ênfase ressalta a necessidade de uma abordagem holística e integrada.

Embora a ordem se baseie parcialmente em um acordo anterior firmado por sete das principais empresas de tecnologia dos EUA, ela vai além ao utilizar a Defense Production Act, exigindo legalmente que as empresas compartilhem os resultados de testes de segurança com o governo federal. Outras medidas notáveis incluem a orientação do Departamento de Comércio sobre a "marca d'água" em conteúdo de IA, para distinguir claramente vídeos manipulados e textos gerados por IA de criações humanas.

A Casa Branca também lançou um site dedicado, AI.gov, para conectar candidatos a emprego com vagas governamentais relacionadas à IA. O compromisso de Biden em incluir preocupações sociais e éticas na ordem foi elogiado por muitos no setor. A ordem executiva delineou oito objetivos principais, que vão desde a criação de novos padrões de segurança para IA até a garantia de uso responsável da tecnologia pelo governo. Esses objetivos são implementados por várias agências governamentais que têm tarefas específicas, como criar padrões contra o uso de IA para engenharia de materiais biológicos e estabelecer práticas recomendadas em torno da autenticação de conteúdo.

Um ponto chave é a urgência em proteger a privacidade do usuário. A Casa Branca pediu ao Congresso que promulgue regulamentações de privacidade de dados e também buscou apoio federal para o desenvolvimento de técnicas e tecnologias que preservem a privacidade.

A administração Biden também lançou um "Bill of Rights" de IA, que foi posteriormente transformado em uma série de acordos entre a Casa Branca e vários players de IA. No entanto, é crucial lembrar que uma ordem executiva não é uma lei permanente e geralmente tem validade apenas durante a administração em exercício. Ainda está em discussão no legislativo sobre como regulamentar a IA de forma definitiva. Contudo, observadores da indústria veem essa ordem como um avanço significativo, sinalizando a seriedade dos EUA em estabelecer padrões para a IA generativa.

Em conclusão, a ação de Biden demonstra que a IA é uma prioridade máxima para o governo dos EUA. Embora as políticas possam ainda estar em evolução, esta ordem executiva é um passo significativo na direção certa, enfatizando a importância de abordar a IA de maneira abrangente, justa e segura.

Segue abaixo o comunicado oficial emitido pela Casa Branca, nesta segunda-feira (30/10/2023).

-

Comunicado oficial da Casa Branca

Hoje, o Presidente Biden emitiu uma Ordem Executiva histórica para garantir que a América lidere o caminho na captação das promessas e na gestão dos riscos da inteligência artificial (IA). A Ordem Executiva estabelece novos padrões de segurança e proteção para a IA, protege a privacidade dos americanos, promove a equidade e os direitos civis, defende os consumidores e trabalhadores, incentiva a inovação e competição, avança a liderança americana no mundo, entre outros.

Como parte da estratégia abrangente da Administração Biden-Harris para uma inovação responsável, a Ordem Executiva baseia-se em ações anteriores tomadas pelo Presidente, incluindo o trabalho que levou a compromissos voluntários de 15 empresas líderes para promover um desenvolvimento de IA seguro, confiável e digno de confiança.

A Ordem Executiva direciona as seguintes ações:

Novos padrões de segurança para IA

À medida que as capacidades da IA crescem, também crescem suas implicações para a segurança dos americanos. Com esta Ordem Executiva, o Presidente direciona as ações mais abrangentes já tomadas para proteger os americanos dos potenciais riscos dos sistemas de IA:

Exigir que os desenvolvedores dos sistemas de IA mais potentes compartilhem seus resultados de testes de segurança e outras informações críticas com o governo dos EUA. De acordo com a Defense Production Act, a Ordem exigirá que as empresas que desenvolvem qualquer modelo básico que represente um risco sério para a segurança nacional, segurança econômica nacional ou saúde e segurança pública nacional notifiquem o governo federal ao treinar o modelo e compartilhem os resultados de todos os testes de segurança do tipo "red team". Essas medidas garantirão que os sistemas de IA sejam seguros, confiáveis e dignos de confiança antes de serem tornados públicos pelas empresas.

Desenvolver padrões, ferramentas e testes para ajudar a garantir que os sistemas de IA sejam seguros, confiáveis e dignos de confiança. O National Institute of Standards and Technology estabelecerá padrões rigorosos para testes extensivos do tipo "red team" para garantir a segurança antes do lançamento público. O Department of Homeland Security aplicará esses padrões aos setores de infraestrutura crítica e estabelecerá o AI Safety and Security Board. Os Departamentos de Energia e Segurança Interna também abordarão ameaças dos sistemas de IA à infraestrutura crítica, bem como riscos químicos, biológicos, radiológicos, nucleares e cibernéticos. Juntas, essas são as ações mais significativas já tomadas por qualquer governo para avançar no campo da segurança em IA.

Proteger contra os riscos do uso de IA para engenheirar materiais biológicos perigosos, desenvolvendo novos padrões fortes para triagem de síntese biológica. Agências que financiam projetos de ciências da vida estabelecerão esses padrões como condição para financiamento federal, criando incentivos poderosos para garantir a triagem adequada e gerenciar riscos potencialmente agravados pela IA.

Proteger os americanos de fraudes e enganos habilitados por IA, estabelecendo padrões e melhores práticas para detectar conteúdo gerado por IA e autenticar conteúdo oficial. O Department of Commerce desenvolverá orientações para autenticação de conteúdo e marca d'água para rotular claramente o conteúdo gerado por IA. As agências federais usarão essas ferramentas para facilitar aos americanos saber que as comunicações que recebem de seu governo são autênticas e definirão um exemplo para o setor privado e governos de todo o mundo.

Estabelecer um programa avançado de cibersegurança para desenvolver ferramentas de IA para encontrar e corrigir vulnerabilidades em software crítico, baseando-se no AI Cyber Challenge em andamento da Administração Biden-Harris. Juntos, esses esforços utilizarão as potenciais capacidades cibernéticas transformadoras da IA para tornar o software e as redes mais seguros.

Ordenar o desenvolvimento de um Memorando de Segurança Nacional que direcione ações futuras sobre IA e segurança, a ser desenvolvido pelo National Security Council e pelo Chefe de Gabinete da Casa Branca. Este documento garantirá que o exército e a comunidade de inteligência dos Estados Unidos usem a IA de forma segura, ética e eficaz em suas missões e direcionará ações para combater o uso militar de IA por adversários.

Protegendo a privacidade dos americanos

Sem salvaguardas, a IA pode colocar a privacidade dos americanos ainda mais em risco. A IA não apenas facilita a extração, identificação e exploração de dados pessoais, como também aumenta os incentivos para fazê-lo, pois as empresas usam dados para treinar sistemas de IA. Para melhor proteger a privacidade dos americanos, incluindo os riscos apresentados pela IA, o Presidente pede ao Congresso que aprove uma legislação bipartidária sobre privacidade de dados para proteger todos os americanos, especialmente as crianças, e direciona as seguintes ações:

Proteger a privacidade dos americanos, priorizando o apoio federal para acelerar o desenvolvimento e uso de técnicas que preservam a privacidade, incluindo aquelas que usam IA de ponta e que permitem que os sistemas de IA sejam treinados preservando a privacidade dos dados de treinamento.

Fortalecer pesquisas e tecnologias que preservam a privacidade, como ferramentas criptográficas que mantêm a privacidade dos indivíduos, financiando uma Rede de Coordenação de Pesquisa para promover avanços rápidos e desenvolvimento. A National Science Foundation também trabalhará com essa rede para promover a adoção de tecnologias de preservação de privacidade de ponta por agências federais.

Avaliar como as agências coletam e usam informações comercialmente disponíveis - incluindo informações que adquirem de corretores de dados - e fortaleça as orientações de privacidade para agências federais para considerar os riscos da IA. Este trabalho se concentrará, em particular, em informações comercialmente disponíveis contendo dados pessoalmente identificáveis.

Desenvolver diretrizes para agências federais avaliarem a eficácia das técnicas que preservam a privacidade, incluindo aquelas usadas em sistemas de IA. Estas diretrizes promoverão os esforços das agências para proteger os dados dos americanos.

Promovendo a Equidade e os Direitos Civis

Usos irresponsáveis da IA podem levar e aprofundar discriminação, viés e outros abusos na justiça, saúde e habitação. A Administração Biden-Harris já tomou medidas, publicando o Blueprint for an AI Bill of Rights e emitindo uma Ordem Executiva orientando agências a combater a discriminação algorítmica, ao mesmo tempo em que aplica autoridades existentes para proteger os direitos e a segurança das pessoas. Para garantir que a IA promova equidade e direitos civis, o Presidente direciona as seguintes ações adicionais:

Fornecer orientações claras a proprietários, programas federais de benefícios e contratados federais para evitar que algoritmos de IA sejam usados para exacerbar a discriminação.

Combater a discriminação algorítmica através de treinamento, assistência técnica e coordenação entre o Departamento de Justiça e os escritórios de direitos civis federais sobre melhores práticas para investigar e processar violações de direitos civis relacionadas à IA.

Garantir justiça em todo o sistema de justiça criminal, desenvolvendo melhores práticas sobre o uso de IA em sentenças, liberdade condicional e supervisão, liberação e detenção pré-julgamento, avaliações de risco, vigilância, previsão de crimes e policiamento preditivo, e análise forense.

Defendendo Consumidores, Pacientes e Estudantes

A IA pode trazer benefícios reais aos consumidores - por exemplo, tornando produtos melhores, mais baratos e mais amplamente disponíveis. Mas a IA também aumenta o risco de ferir, enganar ou de outra forma prejudicar os americanos. Para proteger os consumidores, garantindo que a IA possa beneficiar os americanos, o Presidente direciona as seguintes ações:

Promover o uso responsável da IA na saúde e o desenvolvimento de medicamentos acessíveis e que salvam vidas.

O Departamento de Saúde e Serviços Humanos também estabelecerá um programa de segurança para receber relatórios sobre - e agir para remediar - danos ou práticas de saúde inseguras envolvendo IA.

Moldar o potencial da IA para transformar a educação, criando recursos para apoiar educadores que implementam ferramentas educacionais habilitadas para IA, como tutoria personalizada nas escolas.

Apoiando Trabalhadores

A IA está mudando os empregos e locais de trabalho da América, oferecendo a promessa de melhorar a produtividade, mas também os perigos de aumentar a vigilância no local de trabalho, viés e deslocamento de empregos. Para mitigar esses riscos, apoiar a capacidade dos trabalhadores de negociar coletivamente e investir em treinamento e desenvolvimento da força de trabalho acessíveis a todos, o Presidente direciona as seguintes ações:

Desenvolver princípios e melhores práticas para mitigar os danos e maximizar os benefícios da IA para os trabalhadores, abordando deslocamento de empregos; padrões trabalhistas; equidade no local de trabalho, saúde e segurança; e coleta de dados. Esses princípios e melhores práticas beneficiarão os trabalhadores, fornecendo orientações para evitar que os empregadores subcompensem os trabalhadores, avaliem inscrições de emprego injustamente ou infrinjam a capacidade dos trabalhadores de se organizarem.

Produzir um relatório sobre os potenciais impactos da IA no mercado de trabalho e estudar e identificar opções para fortalecer o apoio federal aos trabalhadores que enfrentam interrupções no trabalho, incluindo devido à IA.

Promovendo Inovação e Competição

A América já lidera em inovação em IA - mais startups de IA levantaram capital inicial nos Estados Unidos no ano passado do que nos próximos sete países combinados. A Ordem Executiva garante que continuemos a liderar o caminho em inovação e competição através das seguintes ações:

Catalisar pesquisa em IA em todo os Estados Unidos através de um piloto do Recurso Nacional de Pesquisa em IA - uma ferramenta que fornecerá aos pesquisadores e estudantes de IA acesso a recursos e dados chave em IA - e subvenções expandidas para pesquisa em IA em áreas vitais como saúde e mudanças climáticas.

Promover um ecossistema de IA justo, aberto e competitivo, fornecendo a pequenos desenvolvedores e empreendedores acesso a assistência técnica e recursos, ajudando pequenas empresas a comercializar avanços em IA e incentivando a Comissão Federal de Comércio a exercer suas autoridades.

Usar autoridades existentes para expandir a capacidade de imigrantes altamente qualificados e não imigrantes com expertise em áreas críticas estudar, permanecer e trabalhar nos Estados Unidos, modernizando e agilizando critérios de visto, entrevistas e revisões.

Avançando a Liderança Americana no Exterior

Os desafios e oportunidades da IA são globais. A Administração Biden-Harris continuará trabalhando com outras nações para apoiar a implementação e uso seguros, confiáveis e confiáveis da IA em todo o mundo. Nesse sentido, o Presidente direciona as seguintes ações:

Expandir engajamentos bilaterais, multilaterais e multistakeholder para colaborar em IA. O Departamento de Estado, em colaboração com o Departamento de Comércio, liderará um esforço para estabelecer estruturas internacionais robustas para aproveitar os benefícios da IA e gerenciar seus riscos e garantir a segurança. Além disso, nesta semana, a Vice-Presidente Harris falará no UK Summit on AI Safety, hospedado pelo Primeiro Ministro Rishi Sunak.

Acelerar o desenvolvimento e implementação de padrões vitais de IA com parceiros internacionais e em organizações de padrões, garantindo que a tecnologia seja segura, confiável, confiável e interoperável.

Promover o desenvolvimento e implementação seguros, responsáveis e afirmativos de direitos da IA no exterior para resolver desafios globais, como avançar o desenvolvimento sustentável e mitigar perigos para a infraestrutura crítica.

Garantindo o Uso Responsável e Eficaz do Governo da IA

A IA pode ajudar o governo a oferecer melhores resultados para o povo americano. Pode expandir a capacidade das agências de regular, governar e distribuir benefícios, e pode reduzir custos e melhorar a segurança dos sistemas governamentais. No entanto, o uso da IA pode apresentar riscos, como discriminação e decisões inseguras. Para garantir a implantação governamental responsável da IA e modernizar a infraestrutura federal da IA, o Presidente direciona as seguintes ações:

Emitir orientações para o uso de IA pelas agências, incluindo padrões claros para proteger direitos e segurança, melhorar a aquisição de IA e fortalecer a implantação de IA.

Ajudar as agências a adquirir produtos e serviços de IA especificados de forma mais rápida, barata e eficaz por meio de contratação mais rápida e eficiente.

Acelerar a contratação rápida de profissionais de IA como parte de um surto de talentos em IA em todo o governo liderado pelo Escritório de Administração de Pessoal, U.S. Digital Service, U.S. Digital Corps e Presidential Innovation Fellowship. As agências fornecerão treinamento em IA para funcionários de todos os níveis em campos relevantes.

Ao avançarmos com essa agenda em casa, a Administração trabalhará com aliados e parceiros no exterior em um forte arcabouço internacional para governar o desenvolvimento e uso da IA. A Administração já consultou amplamente sobre arcabouços de governança de IA nos últimos meses - envolvendo-se com Austrália, Brasil, Canadá, Chile, União Europeia, França, Alemanha, Índia, Israel, Itália, Japão, Quênia, México, Países Baixos, Nova Zelândia, Nigéria, Filipinas, Cingapura, Coreia do Sul, EAU e Reino Unido. As ações tomadas hoje apoiam e complementam a liderança do Japão no Processo Hiroshima do G-7, o UK Summit on AI Safety, a liderança da Índia como presidente da Parceria Global sobre IA e discussões em andamento nas Nações Unidas.

As ações que o Presidente Biden direcionou hoje são passos vitais no avanço da abordagem dos EUA para uma IA segura, confiável e confiável. Mais ação será necessária, e a Administração continuará a trabalhar com o Congresso para buscar legislação bipartidária para ajudar a América a liderar o caminho na inovação responsável.

Para mais informações sobre o trabalho da Administração Biden-Harris para avançar a IA, e para oportunidades de se juntar à força de trabalho federal em IA, visite AI.gov.