Conformer

O Conformer-2 é um avançado modelo de reconhecimento de fala automático. Ele é treinado com 1,1 milhão de horas de dados de áudio em inglês, expandindo o Conformer-1. Isso resulta em melhorias em nomes próprios, alfanuméricos e robustez ao ruído. O Conformer-2 constrói sobre a versão original do Conformer-1, aprimorando tanto o desempenho do modelo quanto a velocidade. Ele alcança uma melhora de 31,7% em alfanuméricos, 6,8% na Taxa de Erro de Nomes Próprios e 12,0% na robustez ao ruído. Essas melhorias foram possibilitadas pelo aumento da quantidade de dados de treinamento e do número de modelos usados para rotular dados pseudo. Além disso, a equipe de engenharia conseguiu reduzir a latência da pipeline de inferência em até 53,7%. Ao utilizar a técnica de modelagem em conjunto, o Conformer-2 se torna mais robusto quando exposto a dados não vistos durante o treinamento. Além disso, a pesquisa também explorou a escalabilidade de dados e parâmetros do modelo. Em relação à velocidade, o Conformer-2 é até 55% mais rápido que o Conformer-1, dependendo da duração do arquivo de áudio. Essas melhorias permitem que os usuários obtenham seus resultados mais rapidamente. O Conformer-2 foi projetado para melhorar o desempenho em domínios relevantes para casos de uso do mundo real. Embora a Taxa de Erro de Palavras (WER) possa ser um indicador de desempenho do modelo, existem métricas mais específicas, como a Taxa de Erro de Nomes Próprios (PPNER) e a Taxa de Erro de Caracteres (CER), que mostram as melhorias do Conformer-2 nessas áreas. Além disso, o modelo demonstra maior robustez ao ruído, permitindo sua aplicação em dados do mundo real. O Conformer-2 foi treinado em um cluster de computação GPU próprio, proporcionando maior flexibilidade e velocidade de treinamento.