Apple desativa app de reconhecimento facial da Clearview AI e diz que empresa violou suas regras

A controversa startup de reconhecimento facial Clearview AI está finalizando uma semana de intenso escrutínio sobre suas nebulosas parcerias com órgãos policiais com uma dose ainda maior de más notícias: a Apple supostamente desativou a versão iOS do aplicativo da Clearview citando violações de seu programa de desenvolvedor.

O foi o primeiro a dar a notícia, dizendo que a Apple tomou medidas depois de saber que a Clearview havia incentivado seus clientes a baixar uma versão do aplicativo iOS reservada exclusivamente para desenvolvedores; uma violação dos termos de serviço do Enterprise Developer Program da Apple.

De modo simplificado, os desenvolvedores conseguem fornecer downloads para usuários específicos em caráter de teste por meio do Test Flight. Isto deve ser apenas para situações pontuais, e aparentemente a Clearview fazia isso para fornecer o app para seus clientes.

• Google notifica empresa de reconhecimento facial Clearview por violar suas regras
• Clearview: uma startup usada por autoridades que consegue achar fotos suas pela internet

A Apple não respondeu imediatamente um pedido de comentário. O CEO da Clearview, Hoan Ton-That, disse ao Gizmodo por e-mail: “Estamos em contato com a Apple e trabalhando no cumprimento de seus termos e condições”.

A Clearview tornou-se o foco de controvérsia nas últimas semanas após uma reportagem do New York Times que denunciou as práticas questionáveis ​​de coleta de dados da empresa. A Clearview retirou cerca de três bilhões de imagens da internet para alimentar sua tecnologia de reconhecimento facial, em muitos casos violando as políticas de outras empresas, como o Facebook e o YouTube, que proíbem essa coleta e agora ameaçam entrar com ações legais.

Como observa o BuzzFeed, a Apple já havia suspendido outras empresas por violar as diretrizes do programa para desenvolvedores, incluindo o Facebook e o Google.

Na sexta-feira, o Motherboard com os dados que a Clearview acumulou sobre uma de suas repórteres por meio da Lei de Privacidade do Consumidor da Califórnia – legislação que exige que as empresas entreguem as informações que mantêm sobre os residentes da Califórnia, mediante solicitação. A repórter, Anna Merlan, enviou uma foto sua à empresa, que foi submetida ao software de reconhecimento facial. Mais tarde, a companhia forneceu os resultados, um PDF com uma série de fotografias acumuladas, datadas desde 2004.

No início desta semana, o BuzzFeed que ofereciam uma lista dos clientes da Clearview, que – além do FBI, Proteção de Fronteiras e Alfândega, Interpol e cerca de 2.200 agências policiais – incluem grandes varejistas dos EUA, como Macy’s, Walmart e Best Buy, entre empresas em 26 outros países. (A Clearview afirmou anteriormente que o aplicativo é apenas para fins de aplicação da lei.)

A Color of Change, a maior organização de justiça racial do país, enviou a várias empresas que usavam o software da Clearview, incluindo a NBA (National Basketball Association), solicitando que eles cortem laços com a empresa. “Já sabemos que os negros e as comunidades marginalizadas estão desproporcionalmente expostos à perigosa combinação de preconceito racial na tecnologia de inteligência artificial e policiamento descontrolado pelos atores que a utilizam”, disse Brandi Collins-Dexter, gerente sênior de campanha da Color of Change, em um comunicado. “Saber agora que as grandes corporações estão usando os dados ilícitos da Clearview e empregando a perigosa tecnologia de reconhecimento facial, coloca todos nós em risco e requer ação imediata. Quando se trata de varejo, a discriminação pelas lojas e marcas já é uma experiência muito real que não precisa ser reforçada por tecnologia discriminatória”. Muitas dessas notícias seguem uma história divulgada esta semana , que confirmou que a Clearview havia sofrido uma violação de dados que expôs os nomes de seus clientes e o número de vezes que cada um realizou pesquisas em seu banco de dados.

O Gizmodo reportou na noite de quinta-feira que obteve uma cópia da versão Android do aplicativo de reconhecimento facial da Clearview. Os repórteres analisaram o programa e descobriram vários recursos ocultos, alguns dos quais o CEO Ton-That diz que estão inativos. Um deles permitiria à polícia tirar fotos de pessoas para vasculhar o banco de dados da Clearview, que, como observou o advogado da ACLU Matt Cagle no Twitter, é proibido pela lei da Califórnia. Outro recurso misterioso é chamado de “modo de pesquisa privada”, embora seu objetivo não seja claro; Ton-That não respondeu a perguntas sobre esse modo.

Além disso, o Gizmodo relatou que o senador Ron Wyden, um importante defensor de privacidade no Congresso norte-americano, já havia solicitado à Clearview uma demonstração do seu aplicativo. A empresa concordou inicialmente, mas aparentemente adiou a reunião em várias ocasiões.