Prompto: Ứng dụng web tương tác với LLM

Prompto là một ứng dụng web nguồn mở được thiết kế để giúp việc tương tác với các mô hình ngôn ngữ lớn (LLM) trở nên đơn giản và hiệu quả. Với Prompto, người dùng có thể:

• Chuyển đổi giữa các LLM: Thử nghiệm các LLM khác nhau một cách dễ dàng ngay trong trình duyệt của mình.
• Tùy chỉnh phản hồi: Điều chỉnh cài đặt nhiệt độ để kiểm soát mức độ sáng tạo và rủi ro của đầu ra từ LLM.
• Chọn giữa chatbot và sổ ghi chép: Có thể lựa chọn giữa giao diện chatbot ghi nhớ cuộc trò chuyện hoặc sổ ghi chép để gửi các gợi ý không có ngữ cảnh.
• Tạo mẫu: Tạo các mẫu cho các gợi ý được sử dụng thường xuyên và thêm ngữ cảnh nhanh chóng.
• Tham gia cuộc trò chuyện với nhiều LLM đồng thời: So sánh phản hồi của chúng bên cạnh nhau trong Arena.

Prompto chạy hoàn toàn trong trình duyệt web của bạn, đảm bảo trải nghiệm mượt mà và đáp ứng nhanh. Mặc dù Prompto không yêu cầu máy chủ riêng, các LLM mà bạn tương tác có thể được lưu trữ trên các máy chủ bên ngoài. Điều này có nghĩa là trình duyệt của bạn sẽ giao tiếp trực tiếp với LLM được chọn. Vì sự đơn giản và quyền riêng tư của người dùng, tất cả các cài đặt và cuộc trò chuyện chat được lưu trữ chỉ trong bộ nhớ cục bộ của trình duyệt. Cách tiếp cận này cho phép bạn duy trì sở thích và lịch sử cuộc trò chuyện của mình mà không cần lưu trữ trên máy chủ, nhưng cũng đi kèm với các rủi ro về an ninh. Bạn có thể xóa tất cả các cài đặt và cuộc trò chuyện chat bất cứ lúc nào trên trang cài đặt. Hãy kiểm tra mã nguồn trên GitHub.