LastMile AI

LastMile AI는 생성형 AI 개발자들을 위한 종합 플랫폼으로, AI 애플리케이션의 디버깅, 평가, 그리고 성능 개선을 지원합니다. 이 플랫폼은 사용자 정의 평가자 모델의 미세 조정, 가드레일 설정, 그리고 애플리케이션 성능 모니터링을 포함한 다양한 기능을 제공합니다. AutoEval 기능을 통해 사용자는 애플리케이션 데이터를 업로드하고, LLM 판단 라벨링을 통해 평가 기준에 맞춘 빠른 평가자 모델을 미세 조정할 수 있습니다. 또한, LastMile AI는 RAG 및 다중 에이전트 AI 애플리케이션을 위한 평가 메트릭과 함께, 사용자 정의 평가자를 설계할 수 있는 미세 조정 서비스를 제공합니다. alBERTa라는 강력한 소형 언어 모델은 평가 작업을 위한 숫자 점수를 생성하며, CPU에서도 효율적으로 실행될 수 있습니다. LastMile AI는 또한 실시간 가드레일을 통해 환각, 독성, 안전성 또는 사용자 정의 기준에 대한 실시간 검사를 제공합니다. 데이터 프라이버시와 보안을 위해 LastMile 플랫폼을 사용자의 VPC 내에 배포할 수 있습니다. LastMile AI는 이산 작업을 위한 특화된 소형 언어 모델을 제공하며, 이를 쉽게 개인화하고 미세 조정하여 사용자 인프라에서 효율적으로 실행할 수 있습니다.