Cem acadêmicos de algumas das principais universidades do mundo escreveram uma carta dirigida às empresas de software que alimentam e criam algoritmos de IA. Aqui está o que eles pedem
Quanto mais ChatGpt & Co. escrevia freneticamente ensaios, roteiros e artigos de jornal nos últimos meses, mais cartas de preocupação assinadas por empresários e luminares do mundo tecnológico afluíam. A carta que Elon Musk tinha entre os seus signatários é provavelmente a que teve maior ressonância, dado que o dono da Tesla e da SpaceX (para citar os mais famosos) foi um dos primeiros a investir no projecto OpenAi (que hoje tem um valor de cerca de 80 bilhões de dólares ) e, depois daquela carta em que pedia a suspensão dos trabalhos com IA, voltou a gastar no setor criando sua própria startup de inteligência artificial. Em suma, não é por acaso que hoje Musk está em disputa com os criadores do ChatGpt, numa luta a favor da câmara que poderá fazer até os mais cépticos pensarem novamente no papel salvador da inteligência artificial, dado que a inteligência humana por vezes parece estar em falta. Agora, uma nova carta contra a IA acaba de ser entregue às principais empresas de software.
DESTINATÁRIOS DA CARTA SOBRE AI
Na verdade, é urgente usar as palavras com cuidado: esta não é uma carta contra a IA, mas sim contra a IA e o uso que dela poderia ser feito. Na verdade, não se trata de uma missiva com alma obscurantista, tendo sido escrita por mais de 100 investigadores activos no sector da inteligência artificial – de Stanford a Princeton – para ser entregue à gestão de topo das empresas mais envolvidas nesta fronteira tecnológica. Os destinatários, conforme relatado pelo Washington Post, são empresas do calibre de OpenAI, Microsoft, Meta, Anthropic, Google e Midjourney.
O CONTEÚDO DA MISSÃO
“Propomos – lê-se no documento – que as empresas de IA façam mudanças simples nas políticas para proteger a investigação de boa-fé sobre os seus modelos e promover a segurança, a proteção e a fiabilidade dos sistemas de IA”.
A carta dos 100 pesquisadores refere-se explicitamente a casos de violação de direitos autorais, bem como de preconceitos de IA em relação a determinados temas: por isso é necessário garantir maior transparência sobre os métodos de aprendizagem de algoritmos.
TODOS OS PROBLEMAS DA IA
Na verdade, muitos problemas surgiram quando os algoritmos de inteligência artificial foram deixados à solta: desde web scraping, ou a prática de “buscar” informações na Web (a IA atualmente não processa nada, eles reelaboram textos, músicas e obras de arte muitas vezes com o desajeitado 'copiar e colar') a gafes sobre determinados temas , até à sua suspeita de parcialidade em determinados temas cujas origens permanecem um mistério.
E depois, claro, há o uso distorcido da ferramenta, que é muito poderosa, pois permite a qualquer pessoa reprocessar documentos escritos e fotográficos em poucos segundos. Os chamados “deep fakes”, em resumo. São inúmeras as vítimas, a maioria famosas, de imagens falsificadas e vídeos retocados, desde o Papa em Moncler até os nus falsos de Taylor Swift .
Mesmo aqui na Itália. Nos últimos dias, por exemplo, o apresentador da Ligúria Fabio Fazio apareceu no Instagram para anunciar que sua imagem seria utilizada para divulgar atividades de negociação online. “Cada vez mais aparecem vídeos meus com voz realista, criados por inteligência artificial, nos quais patrocino produtos financeiros. Aqui são tudo farsas, tudo fraudes, tudo falso”, disse o ex-rai rosto do Che Tempo che fa ao anunciar denúncias à Polícia Postal. Algo semelhante aconteceu nos Estados Unidos onde um falso Rishi Sunak , primeiro-ministro britânico, recomendou o aplicativo de investimentos de Elon Musk.
O Acerto no Gol
“As empresas de IA geradora – concluem os investigadores – devem evitar repetir os erros das plataformas de redes sociais, muitas das quais proibiram efectivamente tipos de investigação destinadas a responsabilizá-las.” Um golpe que certamente não agradará Meta, que mantém o mesmo pé em ambos os sapatos, tendo um império baseado nas redes sociais e estando engajado em atividades de P&D na frente de algoritmos inteligentes.
Esta é uma tradução automática de uma publicação publicada em Start Magazine na URL https://www.startmag.it/innovazione/lettera-cento-studiosi-software-house-ia/ em Sun, 10 Mar 2024 06:52:31 +0000.