A ex-membro do conselho Helen Toner revelou que Sam Altman foi demitido do cargo de CEO da OpenAI porque desinformou intencionalmente o conselho de administração sobre o desenvolvimento de produtos e os processos de segurança da empresa.
Leia também: OpenAI alinha sucessor do GPT-4 em meio a questões de segurança
Toner, pesquisador de inteligência artificial e um dos diretores que demitiu Altman em novembro, falou pela primeira vez sobre o golpe fracassado na diretoria em uma entrevista de 28 de maio ao apresentador do TEDTalk AI Show, Bilawal Sidhu.
“Sam Altman mentiu descaradamente para o conselho”
O conselho de administração da OpenAI foi estabelecido para manter a empresa baseada no bem público antes do lucro, revelou Toner em entrevista. Ele disse: “Durante anos, Sam tornou muito difícil para o conselho de administração realizar esse trabalho, retendo informações, deturpando coisas que estavam acontecendo na empresa e, em alguns casos, mentindo abertamente ao conselho”.
Compartilho isso, gravado há algumas semanas. A maior parte do episódio é sobre políticas de IA de forma mais ampla, mas esta foi minha primeira entrevista longa desde o encerramento da investigação da OpenAI, então conversamos um pouco sobre novembro também.
Obrigado a @bilawalsidhu pela conversa divertida! https://t.co/h0PtK06T0K
-Helen Toner (@hlntnr) 28 de maio de 2024
Sam Altman foi repentinamente demitido do cargo de CEO em 17 de novembro de 2023, uma decisão que causou ondas de choque em toda a indústria de IA. Toner disse que o sigilo em torno da decisão fazia parte de um plano deliberado do conselho.
De acordo com Toner, "ficou claro para todos nós que assim que Sam tivesse a menor suspeita de que poderíamos fazer algo contra ele, ele faria tudo, faria tudo ao seu alcance para minar o conselho, para evitar de nós, você sabe, chegando ao ponto de poder demiti-lo.
Altman prevaleceu sobre o conselho nas consequências de novembro, com funcionários e investidores da OpenAI, incluindo a Microsoft, denunciando sua demissão. Ele foi reintegrado como CEO dentro de uma semana, enquanto o cientista-chefe Ilya Sutskever, Toner e outros “conspiradores” concordaram em deixar o conselho.
A reputação do AI Posterboy foi derrotada
A reputação de Altman como uma “imagem de cartaz de inteligência artificial generativa” sofreu um golpe nas últimas semanas, à medida que ex-altos escalões, incluindo Jan Leike, Gretchen Krueger e Tasha McCauley, questionaram a sua liderança.
Falando sobre a demissão de Altman, Toner disse que o conselho só soube do lançamento do ChatGPT em novembro de 2022 no Twitter, horário X, pois não havia sido notificado. Ele também acusou Altman de negar ao conselho que fosse dono do fundo inicial OpenAI.
Leia também: ChatGPT ainda espalha falsidades, diz regulador de dados da UE
“Quando o ChatGPT foi lançado [em] novembro de 2022, o conselho não foi avisado com antecedência. Aprendemos sobre GPT no Twitter”, disse Toner.
Ele continuou: “Sam não informou ao conselho que é dono do fundo inicial OpenAI, embora tenha afirmado consistentemente que é um membro independente do conselho, sem nenhum interesse financeiro na empresa”.
Mais tarde na entrevista, Toner falou sobre a divulgação discricionária de Sam sobre questões de segurança. “Em diversas ocasiões, ele nos forneceu informações imprecisas sobre o número limitado de processos formais de segurança que a empresa tinha em vigor, o que significa que era praticamente impossível para o conselho saber até que ponto esses processos de segurança estavam funcionando ou o que precisaria ser mudado. "
“Atmosfera tóxica” na OpenAI
De acordo com Toner, alguns funcionários importantes contornaram a autocensura inicial e disseram ao conselho de administração que Sam Altman não era confiável por causa da “atmosfera tóxica” que ele estava criando na empresa. Ele revelou:
“Eles usaram a frase ‘abuso psicológico’, dizendo-nos que não achavam que ele era a pessoa certa para liderar a empresa na direção da inteligência artificial geral (AGI).”
Os investigadores internos dos acontecimentos de Novembro relataram recentemente que o conselho agiu de boa fé, mas não previu a instabilidade que se seguiria à demissão de Altman. O CEO vem consolidando seu domínio na OpenAI desde novembro. A “ equipe do Superalinhamento ” co-presidida pelo conspirador-chefe Sutskever foi dissolvida no início deste mês após uma série de demissões.
Na terça-feira, a startup com sede em São Francisco anunciou um novo comitê de segurança e proteção que será liderado pelos diretores Altman, Bret Taylor (presidente), Adam D'Angelo e Nicole Seligman.
A nova entrevista de Toner se complementa com sua recente coluna convidada para The Economist, co-escrita com a ex-diretora da OpenAI Tasha McCauley. Os dois disseram que a autogovernança não conseguiu resistir à pressão dos incentivos ao lucro da OpenAI.
Reportagem criptopolitana de Jeffrey Gogo