A gigante da tecnologia Meta desenvolveu recentemente uma nova inteligência artificial de vanguarda chamada Voicebox, que promete revolucionar o campo da síntese de fala. No entanto, a empresa alerta que a IA, embora promissora, pode ser perigosa se cair em mãos erradas e, por isso, decidiu não disponibilizá-la publicamente no momento.
O Voicebox é um modelo de IA que generaliza para tarefas de geração de fala, algo que nunca foi feito antes. Ele foi treinado com mais de 50.000 horas de fala gravada e transcrições de audiolivros do domínio público em seis idiomas: inglês, francês, espanhol, alemão, polonês e português. A capacidade do Voicebox de aprender com dados de fala variados sem que essas variações precisem ser cuidadosamente rotuladas o permite treinar em dados mais diversos e numa escala muito maior.
Diferentemente dos modelos autoregressivos de geração de áudio, que apenas modificam o final de um clipe de áudio, o Voicebox pode alterar qualquer parte de uma amostra dada. Ele é capaz de sintetizar fala em seis idiomas, além de realizar a remoção de ruído, edição de conteúdo, conversão de estilo e geração de amostras diversas. A capacidade do Voicebox de aprender a partir de dados de fala em contexto o torna excepcionalmente hábil em tarefas de edição de áudio e geração de fala.
Com o Voicebox, a Meta AI conseguiu superar o estado da arte em termos de inteligibilidade e similaridade de áudio, enquanto se tornava até 20 vezes mais rápido que os modelos anteriores. Ele se mostrou capaz de realizar transferência de estilo em vários idiomas, reduzindo a taxa média de erro de palavra de 10,9% para 5,2% e melhorando a similaridade de áudio de 0,335 para 0,481.
Embora o Voicebox represente um avanço significativo em IA e possa ser utilizado em uma série de aplicações interessantes, também há preocupações válidas sobre o potencial de abuso dessa tecnologia. Para atenuar esses riscos, a Meta desenvolveu um classificador altamente eficaz capaz de distinguir entre fala autêntica e áudio gerado pelo Voicebox. A empresa tem consciência da necessidade de equilibrar a abertura com a responsabilidade, e atualmente está compartilhando amostras de áudio e um artigo de pesquisa detalhando sua abordagem e resultados.
O Voicebox é um exemplo fascinante de como a IA pode transformar a síntese de fala, mas também serve como um lembrete de que as inovações em IA precisam ser tratadas com responsabilidade e cuidado. A comunidade de pesquisa precisa continuar a abordar a questão de como construir IA de maneira responsável e proteger contra possíveis abusos enquanto avança no estado da arte em IA.
Fonte: https://ai.facebook.com/blog
Sobre Ética em Inteligência Artificial e a Voicebox
Sem dúvida, a questão da ética em inteligência artificial (IA) é uma das mais importantes do nosso tempo. À medida que a IA continua a se desenvolver e a se tornar cada vez mais capaz, as questões éticas associadas a ela se tornam cada vez mais prementes.
A IA tem o potencial de trazer grandes benefícios para a sociedade, mas também traz riscos significativos. A tecnologia pode ser usada para fins prejudiciais se cair nas mãos erradas, como vimos com a preocupação da Meta sobre a possibilidade de abuso de sua IA de geração de fala, o Voicebox. Para mitigar esses riscos, a Meta desenvolveu um classificador altamente eficaz que pode distinguir entre a fala autêntica e o áudio gerado pelo Voicebox.
A importância da ética em IA é ainda mais destacada quando consideramos o potencial para uso indevido de tecnologia avançada. IA poderosa como o Voicebox poderia ser usada para criar deepfakes de áudio, por exemplo, que poderiam ser usados para enganar pessoas ou propagar desinformação. Este é apenas um exemplo dos tipos de abusos potenciais que podem ocorrer com a tecnologia de IA.
Portanto, é fundamental que os desenvolvedores de IA adotem uma abordagem ética para o desenvolvimento e implantação de suas tecnologias. Isso significa considerar cuidadosamente as implicações éticas de suas inovações, garantindo que os sistemas de IA sejam projetados e usados de maneira a maximizar os benefícios e minimizar os danos.
Além disso, é importante que haja uma discussão aberta e contínua sobre a ética em IA, envolvendo não apenas os desenvolvedores de IA, mas também o público em geral. Afinal, as decisões tomadas sobre como a IA deve ser usada afetarão toda a sociedade.
Em conclusão, a ética em IA não é apenas uma questão para os desenvolvedores de IA considerarem – é uma questão que todos nós, como sociedade, precisamos enfrentar. Devemos nos esforçar para garantir que a IA seja usada de maneira a beneficiar a humanidade, ao invés de causar danos. E a decisão da Meta de não lançar publicamente o Voicebox por preocupações com o abuso potencial é um exemplo de uma abordagem ética à implantação de IA.
