Num movimento decisivo, o Instituto Alan Turing, o principal instituto nacional de inteligência artificial do Reino Unido, publicou um relatório abrangente instando o governo a estabelecer “linhas vermelhas” para a implementação de inteligência artificial generativa, especialmente em contextos em que a tecnologia poderia tomar ações irreversíveis. sem controle humano direto. O relatório, divulgado na sexta-feira, destaca as preocupações do instituto sobre a falta de fiabilidade e a natureza propensa a erros das atuais ferramentas generativas de IA, particularmente em cenários de alto risco no âmbito da segurança nacional.
Falta de confiabilidade da inteligência artificial generativa e riscos à segurança nacional
O relatório do Instituto Alan Turing destaca as actuais deficiências das ferramentas generativas de inteligência artificial, sublinhando a sua falta de fiabilidade e propensão para erros, especialmente em contextos críticos para a segurança nacional. Isto realça a necessidade de uma mudança fundamental no pensamento para ter em conta as formas não intencionais ou incidentais pelas quais a IA generativa representa riscos para a segurança nacional. O relatório sugere que a confiança excessiva dos utilizadores nos resultados gerados pela IA pode levar a uma relutância em contestar informações potencialmente incorretas.
O relatório identifica especificamente os agentes autónomos como uma aplicação importante da IA generativa que requer uma supervisão estreita num contexto de segurança nacional. Embora reconheça o potencial da tecnologia para acelerar a análise da segurança nacional, adverte que os agentes autónomos carecem de raciocínio a nível humano e não podem replicar a compreensão inata do risco crucial para evitar o fracasso.
As mitigações propostas incluem o registo de ações e decisões tomadas por agentes autónomos, a adição de alertas a cada etapa do resultado generativo da IA e a documentação dos piores cenários.
Recomendações governamentais e restrições rigorosas
O Instituto Alan Turing recomenda restrições rigorosas em áreas onde é necessária “confiança perfeita”, como o comando e controlo nuclear, e potencialmente em áreas menos existenciais, como o policiamento e a justiça criminal. O relatório sugere a implementação de travões de segurança para sistemas de IA que monitorizam infraestruturas críticas, semelhantes aos sistemas de travagem noutras tecnologias. No entanto, destaca a importância de considerar as limitações e os riscos, especialmente para os altos funcionários que podem não partilhar a cautela do pessoal operacional.
O relatório também assinala a utilização maliciosa da IA generativa como uma questão de segurança, destacando que a tecnologia aumenta os riscos sociais existentes, como a desinformação, a fraude e a pornografia infantil. Os maus atores, não limitados pelos requisitos de precisão e transparência, representam uma ameaça. O relatório recomenda apoio governamental para recursos de marca d'água resistentes a adulterações, exigindo compromissos de fabricantes de GPU como NVIDIA e coordenação governamental internacional. Os desafios à implementação são reconhecidos como formidáveis.
O apelo urgente para “Linhas Vermelhas para IA Generativa” do Instituto Alan Turing, o relatório explora a delicada intersecção entre a inovação tecnológica e a segurança nacional. A ênfase do instituto numa mudança de paradigma reconhece a falta de fiabilidade das atuais ferramentas generativas de IA, especialmente em cenários de alto risco, e destaca a necessidade de restrições e medidas de segurança rigorosas.
À medida que o governo do Reino Unido se esforça para regulamentar a IA, as recomendações servem como um roteiro, apelando a uma abordagem proactiva para mitigar os riscos associados a agentes autónomos e à utilização maliciosa. A questão permanece: como podem os quadros regulamentares adaptar-se para equilibrar a inovação e a segurança, garantindo a evolução responsável da IA generativa no nosso complexo panorama sociotécnico? O desafio reside em traduzir estas recomendações em políticas eficazes que protejam contra ameaças potenciais e, ao mesmo tempo, promovam o progresso tecnológico contínuo.