Frontier Model Forum 是一个由领先的AI公司组成的联盟,旨在通过技术和运营专长,推动整个AI生态系统的安全研究,并支持开发能够解决社会最紧迫需求的AI应用。该论坛认识到,虽然先进的AI技术具有巨大的潜力,但适当的防护措施是必要的,以减轻潜在风险。
美国政府、英国政府、欧盟、经合组织以及G7(通过广岛AI进程)等已经为这些努力做出了重要贡献。为了在这些基础上进一步发展,需要在安全标准和评估方面进行更多工作,以确保前沿AI模型的负责任开发和部署。Frontier Model Forum 是跨组织讨论和行动的一个平台,旨在促进AI安全和责任。
亚马逊和Meta已经加入了Frontier Model Forum,与创始成员Anthropic、谷歌、微软和OpenAI一起合作,共同推进AI安全。该论坛的核心目标包括推进AI安全研究、识别最佳实践、跨部门合作以及支持AI应对社会最大挑战的努力。
通过研究,论坛旨在促进前沿模型的负责任开发,最小化风险,并实现能力和安全的独立、标准化评估。识别负责任开发和部署前沿模型的最佳实践,以及帮助公众理解技术的性质、能力、局限性和影响,是论坛的另一重要目标。
此外,论坛强调政策制定者、学术界、民间社会和公司之间的合作,以及共享关于信任和安全风险的知识。支持开发应用以解决气候变化缓解和适应、早期癌症检测和预防以及打击网络威胁等问题,也是论坛的努力方向。
Frontier Model Forum 邀请所有相关方加入,共同将这些目标变为现实,塑造AI的未来。