LM Studio

LM Studio là ứng dụng giúp đơn giản hóa việc sử dụng LLMs. Người dùng không cần có kỹ năng lập trình vẫn có thể khám phá, tải xuống và chạy các mô hình AI trực tiếp trên máy tính qua giao diện trực quan. Các tính năng chính gồm chạy LLMs hoàn toàn ngoại tuyến trên máy xách tay, dùng mô hình qua giao diện Chat trong ứng dụng hoặc Máy chủ cục bộ tương thích với OpenAI, tải xuống tệp mô hình từ Hugging Face và khám phá các LLMs mới. Để sử dụng, cần tải và cài đặt ứng dụng cho hệ thống (Mac, Windows hoặc Linux). Ưu điểm là giao diện dễ dùng, cho phép dùng mô hình cục bộ thay vì phụ thuộc dịch vụ online, dễ sử dụng, có thể dùng ngoại tuyến và hỗ trợ nhiều mô hình. Nhưng có thể cần cấu hình phần cứng nhất định để chạy các mô hình lớn. Đây là lựa chọn tốt cho người muốn dùng các mô hình ngôn ngữ lớn nguồn mở một cách dễ dàng và thuận tiện trên máy tính.