Depois de nomes conhecidos como Elon Musk e o diretor de cinema Christopher Nolan já terem se manifestado sobre os perigos da inteligência artificial, especialistas da OpenAI — dona do ChatGPT — acusam a empresa de ignorar os riscos no desenvolvimento da IAG (inteligência artificial geral). O termo se refere à capacidade hipotética da IA de executar qualquer tarefa intelectual que um ser humano possa fazer.
Em entrevista ao The New York Times, o ex-investigador de governança da OpenAI, Daniel Kokotajlo, disse que a empresa está “correndo de forma imprudente” para sair na frente com a tecnologia. Além disso, ele afirmou ainda que a IA tem cerca de 70% de chance de destruir a humanidade.
De acordo com Kakotajlo, após ingressar na companhia em 2022 e prever o progresso da tecnologia, ele se convenceu de que a indústria alcançaria a IAG até o ano de 2027. No entanto, havia uma grande probabilidade de que isso causasse prejuízos catastróficos, segundo ele.
Carta contra IA
Nesta terça-feira (4), ex-funcionários da OpenAI publicaram uma pedindo “maior transparência e mais proteções para os denunciantes” do trabalho das principais empresas de inteligência artificial. Kokotajlo é um dos signatários, que inclui também antigos funcionários do Google DeepMind. Além disso, Geoffrey Hinton, o “Padrinho da IA”, também endossada a carta.
No texto, os autores afirmam acreditar “no potencial da tecnologia de IA para proporcionar benefícios sem precedentes à humanidade”. Entretanto, eles ressaltam riscos como aprofundamento das desigualdades, manipulação e desinformação e perda de controle de sistemas autônomos, “resultando potencialmente na extinção humana”.
“Temos esperança de que estes riscos possam ser adequadamente mitigados com orientação suficiente da comunidade científica, dos decisores políticos e do público. No entanto, as empresas de IA têm fortes incentivos financeiros para evitar uma supervisão eficaz. Não acreditamos que estruturas personalizadas de governança corporativa sejam suficientes para mudar esta situação”, diz um trecho.
A carta pede por “supervisão governamental eficaz” das empresas e afirma que “amplos acordos de confidencialidade” impede funcionários de expressarem suas preocupações. “Alguns de nós tememos razoavelmente diversas formas de retaliação, dado o histórico de tais casos em toda a indústria”, conclui.
Jornalista formada pela Unesp. Com passagem pelo site de turismo Mundo Viajar, já escreveu sobre cultura, celebridades, meio ambiente e de tudo um pouco. É entusiasta de moda, música e temas relacionados à mulher.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
