Aguru Safeguard

Aguru Safeguard ist eine On-Prem-Software. Sie bietet detaillierte Einblicke in das Verhalten und die Leistung von Language Learning Models (LLMs). Man kann damit frühzeitig Maßnahmen gegen unzuverlässiges Verhalten und Sicherheitsbedrohungen ergreifen. Die Software ermöglicht die genaue Beobachtung der LLMs, liefert sofortige Warnungen bei potenziellen Anomalien, die ins Syslog protokolliert und an bevorzugte Warnsysteme weitergeleitet werden können. Zudem gibt es einen Playground, um mit spezifischen Prompts zu experimentieren und die Funktionalität der KI-Anwendungen zu verbessern. Die Software wird lokal installiert, sodass die Daten privat und sicher bleiben. Nach der Installation kann man über auf die Schnittstelle zugreifen und den LLM-Verkehr überwachen. Neben Aguru Safeguard bietet das Unternehmen auch den LLM Router an. Das Unternehmen strebt die Entwicklung von Lösungen an, die die Herausforderungen in Bezug auf Genauigkeit, Zuverlässigkeit, Sicherheit und Integrität von LLMs lösen.