Galactica: Promovendo a Pesquisa de IA Aberta e Transparente
Na Meta, acreditamos que a maneira de avançar na pesquisa de IA é através de um processo aberto, transparente e reprodutível. Também acreditamos que o progresso é melhor servido convidando uma comunidade ampla e diversa para participar e fornecer feedback. O artigo de pesquisa Galactica, o modelo, o código e o demo correspondente são destinados à comunidade de pesquisa e não estão sendo usados na produção.
No lançamento, destacamos as limitações que vêm com grandes modelos de linguagem como o Galactica, incluindo o potencial de gerar saída imprecisa e não confiável, embora o Galactica tenha sido treinado em dados científicos e acadêmicos de alta qualidade. Acreditamos que é crítico que o público entenda as forças e as fraquezas desses modelos de linguagem de uma maneira aberta e transparente. Também acreditamos que esta é a melhor maneira de obter feedback sobre esses sistemas e aprender como mitigar as fraquezas.
No entanto, dada a propensão de grandes modelos de linguagem como o Galactica para gerar texto que pode parecer autêntico, mas é impreciso, e porque ele se moveu além da comunidade de pesquisa, optamos por remover o demo da disponibilidade pública. Nossos modelos permanecem disponíveis para pesquisadores que querem saber mais sobre o trabalho e reproduzir os resultados no artigo.
