LM Studio 是一款创新的 AI 工具,它使用户能够在自己的笔记本电脑上完全离线地发现、下载和运行大型语言模型(LLMs)。这款软件支持多种模型,包括 Llama、Mistral、Phi、Gemma 等,用户可以直接从 Hugging Face 的仓库下载兼容的模型文件。LM Studio 提供了一个内置的聊天界面,用户可以通过它或一个与 OpenAI 兼容的本地服务器来使用这些模型。此外,LM Studio 还引入了一个新功能,允许用户与本地文档进行聊天,这大大增强了用户与模型互动的灵活性。
LM Studio 的设计理念是隐私和便捷。它不收集任何数据,所有操作都在用户的本地机器上进行,确保了数据的安全性和隐私性。对于个人用户来说,LM Studio 是完全免费的,而对于商业用途,用户需要联系开发者获取许可。
LM Studio 的最新版本 0.3.5 引入了无头模式、按需模型加载和 MLX Pixtral 支持等新特性,进一步提升了用户体验。此外,LM Studio 还提供了一个发现页面,用户可以在这里发现新的和值得注意的 LLMs。
对于硬件和软件的最低要求,LM Studio 需要 M1/M2/M3 的 Mac,或者支持 AVX2 的 Windows/Linux PC。这款软件的实现得益于 llama.cpp 项目,而且 LM Studio 团队正在扩大,欢迎有志之士加入。
总之,LM Studio 是一款功能强大、注重隐私的 AI 工具,它为希望在本地运行大型语言模型的用户提供了一个完美的解决方案。