O US AI Safety Institute, subordinado ao Departamento de Comércio, anunciou cinco novos membros para sua equipe de liderança. Entre os cinco novos membros está um que previu que há 50% de probabilidade de que o desenvolvimento da inteligência artificial acabe por comprometer a humanidade. Mas esta não é a sua única apresentação; há algumas inovações muito importantes a seu favor.
Novos membros da equipe de segurança de IA
Há muito que se discute se a inteligência artificial se tornará uma ameaça existencial para os humanos, mas muitos especialistas argumentam que é exagerada e exagerada, e que este tipo de previsão pode impedir o progresso neste campo. A tarefa da equipe recém-nomeada é incentivar o desenvolvimento para que a inteligência artificial se torne benéfica para as pessoas, contra essa percepção de dano de acordo com o Instituto Nacional de Padrões e Tecnologia (NIST).
O Diretor do NIST e Subsecretário de Comércio para Padrões e Tecnologia, Laurie E. Locascio, disse:
“Estou muito satisfeito em dar as boas-vindas a estes talentosos especialistas na equipe de liderança do US AI Safety Institute para ajudar a estabelecer a ciência de medição que apoiará o desenvolvimento de inteligência artificial segura e confiável. Cada um deles traz experiências únicas que ajudarão o instituto a construir uma base sólida para a segurança da IA no futuro.”
Entre os novos membros está Adam Russell, diretor de visão, que também é diretor da divisão de IA do Instituto de Ciências da Informação da Universidade da Califórnia. O consultor sênior será o professor Rob Reich, nativo de Stanford, que trabalha como diretor associado do Institute for Human-Centered AI e também é especialista em ciência política.
Mara Quintero Campbell é nomeada diretora de operações e chefe de gabinete. Atualmente trabalha na Administração de Desenvolvimento Econômico do Comércio como vice-diretor de operações. Mark Latonero liderará o esforço internacional, vem do Escritório de Política Científica e Tecnológica da Casa Branca e trabalha como vice-diretor do Escritório Nacional de Iniciativa de IA.
A inteligência artificial está a bordo, mas há mais
O novo membro chamado AI Doomer não é outro senão Paul Christiano. Ele é nomeado chefe de segurança de IA da equipe. Ele é um ex-pesquisador da OpenAI e fundador do Alignment Research Center. Ele também é o inventor de uma técnica chave de segurança baseada em IA, conhecida como aprendizagem por reforço, que incorpora feedback humano. Ele recebeu seu rótulo de destruidor de IA depois de ser questionado em um podcast sobre a possibilidade de as ambições da IA humana terminarem em ruína, ao que ele mostrou alguma preocupação com a humanidade estar condenada, disse ele.
“Acho que há uma chance de 10-20% de que a IA assuma o controle e a maioria dos humanos morra, levo isso muito a sério.”
Ele também disse:
“No geral, talvez você tenha uma chance 50/50 maior de ruína imediatamente após obter sistemas de IA de nível humano.”
Fonte: Podcast sem banco.
Christiano expressou esses pensamentos no podcast Bankless com os apresentadores David Hoffman e Ryan Sean Adams, mas insiste que suas opiniões não são tão extremas quanto as do famoso destruidor de IA Eliezer Yudkowsky, o que sugere um cenário totalmente negativo.
A Secretária de Comércio dos EUA, Gina Raimondo, também disse que para salvaguardar a liderança global em IA responsável e para garantir a segurança da IA e mitigar os riscos associados a ela, precisamos dos melhores talentos do país, e é por isso que estes são indivíduos selecionados, que são os melhores em suas áreas para agora se juntarem à equipe de liderança executiva do AI Safety Institute dos Estados Unidos.
O comunicado à imprensa do Departamento de Comércio dos EUA pode ser encontrado aqui .