Aguru Safeguardについて

Aguru Safeguardは、オンプレミスのソフトウェアで、LLMの行動とパフォーマンスのあらゆる重要な側面に対して実用的なインサイトを提供します。潜在的な異常が検出されるとすぐにアクション可能なアラートを受け取ることができ、すべてのアラートはsyslogにログされ、SplunkやDataDogなどのお好みのアラーティングシステムに転送できます。また、Playgroundを使って特定のプロンプトを実験し、システムがどのように異常を検出するかを観察することができます。これらのインサイトを使って、AIアプリケーションの機能を洗練し、強化できます。

インストールと設定

Aguru Safeguardはローカルにインストールされ、データのプライバシーとセキュリティが確保されます。簡単にサインアップしてフルパッケージをダウンロードできます。初期ユーザーには無料アクセスが提供されています。ダウンロードパッケージに含まれるREADME.mdファイルのステップバイステップの指示に従って、AIアプリケーションに統合できます。インフラストラクチャを設定して、LLMトラフィックをリバースプロキシを通じてルーティングします。このセットアッププロセスでは、アプリケーションコードの修正は不要で、完全にリスクフリーの設定が可能です。

実行とモニタリング

インフラストラクチャの設定が完了すると、 SafeguardはすぐにLLMトラフィックの監視を開始し、いかなる異常も検出します。