Prompto: LLM과의 효율적인 상호작용을 위한 웹 앱

Prompto는 오픈소스 웹 애플리케이션으로, 대규모 언어 모델(LLM)과의 상호작용을 간단하고 효율적으로 만들어주는 것을 목표로 합니다. 이 애플리케이션은 여러 가지 유용한 기능을 제공합니다.

LLM 간 쉬운 전환: 브라우저 내에서 다양한 LLM을 쉽게 시도할 수 있습니다. 응답 미세 조정: 온도 설정을 통해 LLM 출력의 창의성과 위험 수준을 조절할 수 있습니다. 채팅 또는 노트북: 대화를 기억하는 채팅봇 인터페이스와 컨텍스트 없이 프롬프트를 보낼 수 있는 노트북 중에서 선택할 수 있습니다. 템플릿: 자주 사용하는 프롬프트에 대한 템플릿을 만들고 즉석에서 컨텍스트를 추가할 수 있습니다. 아레나: 여러 LLM과 동시에 대화를 나누고 그 응답을 나란히 비교할 수 있습니다.

Prompto는 전적으로 웹 브라우저 내에서 실행되므로 부드럽고 반응성이 좋은 경험을 보장합니다. Prompto 자체는 서버가 필요 없지만, 상호작용하는 언어 모델(LLM)은 외부 서버에 호스팅될 수 있습니다. 이는 브라우저가 선택한 LLM과 직접 통신한다는 것을 의미합니다. 단순성과 사용자 프라이버시를 위해 모든 설정과 채팅 대화는 브라우저의 로컬 스토리지에만 저장됩니다. 이 접근 방식은 서버 저장 없이도 사용자의 선호도와 대화 기록을 유지할 수 있지만, 보안 위험도 동반합니다. 사용자는 설정 페이지에서 언제든지 모든 설정과 채팅 대화를 삭제할 수 있습니다. GitHub에서 소스 코드를 확인하세요.