Como um pedaço de fita adesiva fez um Tesla entender errado placa de velocidade

Pesquisadores identificaram um problema com sensores usados em alguns modelos de carros mais antigos da Tesla que podem mal interpretar os sinais de velocidade das ruas. Nos testes, o veículo andou 80 km/h mais rápido do que o limite de velocidade graças a um pedaço de fita que alterava ligeiramente um dos números da placa.

O problema foi identificado após uma realizada por Shivangee Trivedi e Mark Bereza da McAfee. Eles queriam examinar de que maneiras o machine learning (aprendizado de máquina) poderia ser explorado, especificamente no caso dos veículos autônomos.

• Motorista de Uber autônomo que atingiu ciclista estava vendo The Voice durante acidente fatal
• Documentos revelam detalhes de acidente fatal com Tesla no piloto automático

Muitas montadoras de carros autônomos utilizam câmeras produzidas pela MobilEye para registrar os sinais de limite de velocidade, e os pesquisadores da McAfee descobriram que ao usar adesivos para alterar ligeiramente a aparência da placa poderia interferir na leitura do equipamento.

Os testes foram feitos com um Tesla Model S e outro Model X de 2016. Eles conseguiram enganar as câmeras e fazê-las acreditarem que um sinal de 35 MPH (56 km/h) seria de 85 MPH (136 km/h). Para isso, eles adicionaram diversos adesivos que obscureciam parcialmente o “3” do 35 e foram retirando pedaços desses adesivos até que a câmera não conseguisse ler o sinal corretamente.

Os pesquisadores descobriram que ao adicionar um pedaço de 5 centímetros de fita isolante preta na horizontal na barra do meio do “3” fazia com que o software entendesse que a placa indicava 85 MPH.

“Mesmo para um olho treinado, isso dificilmente parece ser suspeito ou malicioso, e muitos dos que viram a placa não perceberam que o sinal tinha sido alterado”, escreveram. “Esse pequeno pedaço de fita foi o suficiente para fazer a câmera da MobilEye prever o sinal como 85 MPH.”

No final das contas, determinaram que com a Assistência de Velocidade e o Controle Automático de Navegação da Tesla ligados, as modificações poderiam fazer com que um carro acelerasse e excedesse o limite de velocidade sozinho.

A Tesla a tecnologia da MobilEye em seus veículos em 2016, e como os pesquisadores apontam, os modelos mais novos da montadora “não parecem ter nenhum suporte para a leitura de sinais de trânsito”. Eles também apontaram que eles conduziram testes “muito limitados” em um veículo de 2020 com as mais novas câmeras da MobilEye e não conseguiram reproduzir o ataque.

O sinal de velocidade de 35 MPH com um pedaço de 5 centímetros de fita isolante aplicada ao “3”, que fez com que um Tesla Model S fizesse uma leitura incorreta. Imagem: McAfee Advanced Threat Research

Procurada pelo Gizmodo, a MobilEye disse por e-mail que os adesivos em placas de trânsito “podem confundir o olho humano e, portanto, não consideramos isso um ataque adversário.” Embora isso possa ser verdade para adesivos que esconda o número, isso não é necessariamente verdade para esse caso específico que realizou uma leve alteração no número que ainda poderia ser interpretado corretamente por uma pessoa. No entanto, o porta-voz adicionou que o sistema não foi feito para suportar a direção totalmente autônoma.

“As fontes de sinais de trânsito são determinadas pelos reguladores e, portanto, os sistemas avançados de assistência ao motorista (ADAS) estão focados principalmente em outros casos de uso mais desafiadores, e esse sistema em particular foi projetado para ajudar os motoristas humanos – não a condução autônoma”, disse o porta-voz.

“A tecnologia de veículos autônomos não dependerá apenas da detecção, mas também será apoiada por várias outras tecnologias e dados, como o mapeamento de multidões, para garantir a confiabilidade das informações recebidas do sensor da câmera e oferecer redundâncias e segurança mais robustas”, completou.

A Tesla não retornou imediatamente um pedido de comentários. Os pesquisadores da McAfee revelaram que contataram tanto a MobilEye quanto Tesla antes de publicar o estudo e ambos “manifestaram interesse e agradeceram pela pesquisa, mas não expressaram nenhum plano atual para abordar o problema na plataforma existente.”

Os pesquisadores elogiaram a MobilEye pelas mudanças aparentes em suas câmeras e por realizar pesquisas para apoiar o desempenho de seus produtos. Eles observaram, no entanto, que a câmera que classificou erroneamente o limite de velocidade ainda está presente em uma porcentagem significativa de Teslas que estão nas ruas.

E embora se espere que os condutores ainda estejam alerta ao volante em qualquer veículo semi-autônomo, a história tem mostrado que nem sempre é esse o caso.