Galactica: Un Modello di AI per la Ricerca

Meta crede che il modo per far progredire la ricerca sull'IA sia attraverso un processo aperto, trasparente e riproducibile. Inoltre, ritiene che il progresso sia meglio servito invitando una comunità ampia e diversa a partecipare e fornire feedback. Il documento di ricerca Galactica, il modello, il codice e la relativa demo sono destinati alla comunità di ricerca e non vengono utilizzati in produzione.

All'avvio, sono state evidenziate le limitazioni che accompagnano i grandi modelli di linguaggio come Galactica, tra cui il potenziale di generare output inesatto e inaffidabile, anche se Galactica è stato addestrato su dati scientifici e accademici di alta qualità. Si ritiene fondamentale che il pubblico comprenda i punti di forza e le debolezze di questi modelli di linguaggio in modo aperto e trasparente. Inoltre, questo è ritenuto il modo migliore per ottenere feedback su questi sistemi e imparare come mitigare le debolezze.

Tuttavia, data la propensione dei grandi modelli di linguaggio come Galactica a generare testo che può sembrare autentico, ma è inesatto, e poiché è andato oltre la comunità di ricerca, è stata scelta la rimozione della demo dalla disponibilità pubblica. I modelli rimangono disponibili per i ricercatori che vogliono saperne di più sul lavoro e riprodurre i risultati nel documento.