A caminho da porta de saída da OpenAI — empresa de tecnologia responsável pelo ChatGPT —, o executivo Jan Leike alerta para preocupações em torno da empresa e da segurança da tecnologia.
Leike, que deixou o comando da equipe de “superalinhamento” da OpenAI, disse em uma publicação no X que discordava das prioridades do conselho da companhia e que havia “chegado em um ponto de quebra”.
“Alinhamento” ou “superalinhamento” são termos usados no mercado de inteligência artificial (AI) para se referir ao trabalho de treinamento dos programas para atender as necessidades humanas.
Leike se juntou à OpenAI em 2021, e no meio do ano passado a companhia anunciou que ele iria coliderar a equipe de superalinhamento, focando em promover “avanços científicos e técnicos para dirigir e controlar sistemas de IA muito mais inteligentes do que nós”.
Contudo, o executivo disse na sexta-feira (17) que nos últimos meses a operação estava sendo sucateada e que a equipe estaria “navegando contra o vento”.
“Estava ficando cada vez mais difícil realizar essa pesquisa crucial”, disse ele no X, acrescentando que quinta-feira (16) foi seu último dia na startup.
“Construir máquinas mais inteligentes que os humanos é uma empreitada perigosa. Mas nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes.”
Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.
— Jan Leike (@janleike) May 17, 2024
A saída de Leike ocorre em meio a uma mudança mais ampla na liderança da OpenAI.
Sua renúncia ocorreu após o cofundador e cientista-chefe da empresa, Ilya Sutskever, deixar a empresa na terça-feira (14). Sutskever também ajudou a liderar a equipe de superalinhamento.
Sutskever afirmou que está trabalhando em um novo projeto “que é muito significativo para mim, sobre o qual compartilharei detalhes no momento certo”.
Apesar de a explicação ser boa, pode haver mais por trás da saída do cofundador da empresa. Sutskever foi uma das peças centrais no xadrez entre o conselho da OpenAI contra seu CEO, Sam Altman.
No final do ano passado, Sutskever foi um dos membros que votou pela destituição de Altman. A saída foi rápida, com o CEO retomando sua cadeira após pressão de funcionários e o envolvimento da Microsoft no drama.
A CNN apurou que Sutskever estaria preocupado sobre a postura de Altman em relação à IA, dizendo que o CEO estaria pressionando o desenvolvimento “[para] muito longe e muito rápido”.
Mas dias depois da demissão de Altman, Sutskever teve uma mudança repentina: ele assinou uma carta aos funcionários pedindo a renúncia de todo o conselho e o retorno de Altman.
Ainda assim, questões sobre como — e com que rapidez — desenvolver e lançar publicamente a tecnologia de IA podem ter continuado a causar tensão dentro da empresa nos meses após Altman ter recuperado seu posto.
As saídas dos executivos ocorrem depois que a OpenAI anunciou esta semana que disponibilizaria seu modelo de IA mais poderoso, o GPT-4o, gratuitamente ao público por meio do ChatGPT.
A tecnologia tornará o ChatGPT mais parecido com um assistente pessoal digital, capaz de conversas faladas em tempo real.
“Acredito que muito mais da nossa capacidade deveria ser gasta na preparação para as próximas gerações de modelos, em segurança, monitoramento, preparação, proteção, robustez adversária, (super)alinhamento, confidencialidade, impacto social e tópicos relacionados”, escreveu Leike no X.
“Esses problemas são muito difíceis de resolver e estou preocupado por não estarmos no caminho certo para chegar lá.”
Solicitada a comentar as afirmações de Leike, a OpenAI direcionou a CNN a um post de Altman no X dizendo que a empresa está comprometida com a segurança.
i’m super appreciative of @janleike‘s contributions to openai’s alignment research and safety culture, and very sad to see him leave. he’s right we have a lot more to do; we are committed to doing it. i’ll have a longer post in the next couple of days.
— Sam Altman (@sama) May 17, 2024
“Estou muito grato pelas contribuições de @janleike para a pesquisa de alinhamento e cultura de segurança da OpenAI e estou muito triste em vê-lo partir”, disse Altman.
“Ele está certo, temos muito mais a fazer; estamos empenhados em fazê-lo. Farei uma postagem mais longa [sobre] nos próximos dias.”
Compartilhe:
