O governo dos EUA na última terça-feira (4) uma “Declaração de Direitos” para orientar sistemas de inteligência artificial. Segundo a Casa Branca, o documento quer proteger os direitos civis e digitais a longo prazo.
“Podemos e devemos esperar melhorias e exigir mais de nossas tecnologias”, disse Alondra Nelson, vice-diretora do Escritório de Política Científica e Tecnológica da Casa Branca.
O documento determina que os sistemas de inteligência artificial devem implantar cinco pilares fundamentais para limitar os impactos do algoritmos e dar aos usuários mais controle sobre seus dados. São eles:
Os usuários devem estar protegidos de sistemas inseguros e ineficazes;
Os sistemas devem ser usados e projetados de maneira equitativa, de modo a enfrentar a discriminação por algoritmos;
Os usuários devem ter proteção contra práticas abusivas e ter o controle sobre o uso de seus dados;
Os usuários devem saber quando estão diante de um sistema automatizado e entender sobre sua contribuição;
Os usuários devem ter o direito de optar por não ter contato com inteligência artificial e ter acesso a uma pessoa real que solucione seus problemas rapidamente.
Os princípios são resultado de um ano de estudos com mais de 20 departamentos do governo, além de grupos da sociedade civil, especialistas e pesquisadores em tecnologia, e empresas como Microsoft e Palantir.
Cada item cita pesquisas acadêmicas, estudos de agências e reportagens sobre danos causados por ferramentas de inteligência artificial. Os exemplos incluem recursos de reconhecimento facial que colaboraram para prisões injustas e um sistema automatizado que discriminava estudantes que queriam empréstimos universitários.
O que muda
De certa forma, essa é uma medida surpreendente para o governo dos EUA, que costuma se manter distante das regulações sobre o mercado de tecnologia. Por isso, a Declaração de Direitos pode servir como baliza para novas leis a longo prazo, mas, por enquanto, têm pouco impacto nas empresas de inteligência artificial.
O documento não tem poder sobre o mercado, que é quem desenvolve as ferramentas, e não inclui projetos de lei. Segundo Nelson, a legislação que já existe continua valendo para as agências estatais dos EUA multarem em caso de danos com sistemas de IA.
Vale aqui o disclaimer: as novas diretrizes valem para os EUA, o que significa que cada país pode tratar o tema como bem entender — ou, simplesmente, jamais ter suas recomendações próprias. Dado o número de empresas de tecnologia com sede no país e a importância econômica e geopolítica dos EUA, porém, é provável que outros países que queiram criar suas próprias regras para IA se orientem pelo precedente americano.
A lista de princípios não estabelece ações específicas de fiscalização. Mas também não desincentiva completamente a adesão à inteligência artificial.
“Essas ferramentas têm potencial para redefinir cada parte de nossa sociedade e tornar a vida melhor para todos”, diz a Casa Branca. “Mas este importante progresso não deve vir às custas dos direitos civis ou valores democráticos”.
Jornalista e mestre em Linguística. Antes trabalhei no Poder360, A Referência e em jornais e emissoras de TV no interior do RS. Curiosa, gosto de falar sobre o lado político das coisas - em especial da tecnologia e cultura. Me acompanhe no Twitter: @juliamzps
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
