Galactica:推动 AI 研究的语言模型
在 Meta,我们坚信推进 AI 研究的方式是通过开放、透明且可重复的过程。我们也认为,邀请广泛且多样化的社区参与并提供反馈,最有助于取得进步。Galactica 研究论文、模型、代码及相应的演示旨在为研究社区服务,并未用于实际生产。在推出时,我们列出了像 Galactica 这样的大型语言模型所具有的局限性,包括可能产生不准确和不可靠的输出,尽管 Galactica 是在高质量的科学和学术数据上进行训练的。我们认为,以开放和透明的方式让公众了解这些语言模型的优点和缺点至关重要。我们也相信这是获得这些系统反馈并学习如何减轻其弱点的最佳方式。然而,鉴于像 Galactica 这样的大型语言模型倾向于生成可能看起来真实但不准确的文本,并且它已经超出了研究社区的范围,我们选择将其演示从公众可访问性中删除。我们的模型仍然可供想要了解更多关于这项工作并在论文中重现结果的研究人员使用。