Nova Iorque
CNN
–
OpenAI diz que está apertando o botão de pausa em uma voz sintética lançada com uma atualização do ChatGPT que gerou comparações com um assistente de voz fictício retratado no filme quase distópico “Her”, da atriz Scarlett Johansson.
A retirada da OpenAI segue uma reação negativa à voz artificial, conhecida como Sky, que os críticos descreveram como excessivamente familiarizada com os usuários e soava como se tivesse surgido da fantasia de um desenvolvedor masculino. Foi amplamente ridicularizado por seu tom de flerte.
“Ouvimos perguntas sobre como escolhemos as vozes no ChatGPT, especialmente Sky”, disse OpenAI em uma postagem no X Segunda-feira. “Estamos trabalhando para pausar o uso do Sky enquanto resolvemos esses problemas.”
A voz em questão não deriva da de Johansson, disse a empresa em uma postagem no blog domingomas em vez disso “pertence a uma atriz profissional diferente, usando sua própria voz natural”.
A OpenAI disse que, com cada uma de suas vozes de IA, tentou criar “uma voz acessível que inspira confiança”, que contenha um “tom rico” e seja “natural e fácil de ouvir”. O modo de voz ChatGPT que usava a voz Sky ainda não havia sido amplamente divulgado, mas os vídeos do anúncio do produto e os teasers dos funcionários da OpenAI falando com ele se tornaram virais online na semana passada.
Alguns que ouviram Sky ridicularizaram-no como talvez muito fácil de ouvir. Na semana passada, a polêmica inspirou um segmento no The Daily Show em que o correspondente sênior Desi Lydic descreveu Sky como uma “voz de bebê robô excitada”.
“Isso está claramente programado para alimentar o ego dos caras”, disse Lydic. “Você realmente pode dizer que um homem construiu esta tecnologia.”
Até o CEO da OpenAI, Sam Altman, pareceu reconhecer os paralelos generalizados que os usuários estavam traçando com Johansson quando ele postou no X no dia do anúncio do produto: “ela”.
“Her” é o título do filme de 2013 em que Johansson interpreta uma assistente de voz com inteligência artificial por quem o protagonista, interpretado por Joaquin Phoenix, se apaixona, apenas para ficar com o coração partido quando a IA admite que também está apaixonada por centenas de outros usuários e mais tarde torna-se completamente inacessível.
As críticas em torno da Sky realçam preocupações sociais mais amplas sobre os potenciais preconceitos de uma tecnologia concebida por empresas tecnológicas em grande parte lideradas ou financiadas por homens brancos.
O anúncio veio depois que os líderes da OpenAI foram forçados a defender suas práticas de segurança no fim de semana, depois que um funcionário que estava saindo questionou as prioridades da empresa.
Jan Leike, que anteriormente liderou uma equipe focada na segurança de IA de longo prazo, mas deixou a OpenAI na semana passada junto com o cofundador e cientista-chefe Ilya Sutskever, postou um fio na X Friday, alegando que “nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes” na OpenAI. Ele também levantou preocupações de que a empresa não estava dedicando recursos suficientes para se preparar para uma possível futura “inteligência artificial geral” (AGI) que poderia ser mais inteligente que os humanos.
Altman rapidamente respondeu dizendo que apreciava o compromisso de Leike com a “cultura de segurança” e acrescentou: “Ele está certo, temos muito mais a fazer; estamos empenhados em fazê-lo.” A empresa também confirmou à CNN que nas últimas semanas começou a dissolver a equipe liderada por Leike e, em vez disso, estava integrando membros da equipe em seus vários grupos de pesquisa. Um porta-voz da empresa disse que a estrutura ajudaria a OpenAI a atingir melhor seus objetivos de segurança.
Presidente da OpenAI, Greg Brockman respondeu em uma postagem mais longa no sábado, que foi assinado com seu nome e o de Altman, expondo a abordagem da empresa para a segurança de IA a longo prazo.
“Nós aumentamos a conscientização sobre os riscos e oportunidades da AGI para que o mundo possa se preparar melhor para ela”, disse Brockman. “Demonstramos repetidamente as incríveis possibilidades de ampliar o aprendizado profundo e analisamos suas implicações; apelou à governação internacional da AGI antes que tais apelos se tornassem populares; e ajudou a ser pioneiro na ciência de avaliação de sistemas de IA para riscos catastróficos.”
Ele acrescentou que à medida que a IA se torna mais inteligente e mais integrada à vida diária dos humanos, a empresa está focada em implementar “um ciclo de feedback muito rígido, testes rigorosos, consideração cuidadosa em cada etapa, segurança de classe mundial e harmonia de segurança e segurança”. capacidades.”
