Banana는 AI 프로젝트를 빠르게 배포하고 확장할 수 있도록 설계된 GPU 추론 호스팅 플랫폼입니다. 이 플랫폼은 고처리량 추론을 위해 구축되었으며, GPU의 자동 스케일링 기능을 통해 비용을 절감하면서도 높은 성능을 유지할 수 있습니다. Banana는 GPU 시간에 대해 대부분의 서버리스 제공업체가 부과하는 높은 마진을 없애고, 사용자가 확장할 수 있도록 지원합니다. 또한, GitHub 통합, CI/CD, CLI, 롤링 배포, 추적, 로그 등 DevOps의 필수 요소를 포함한 전체 플랫폼 경험을 제공합니다.
Banana는 사용자가 높은 규모의 요청을 쉽게 처리할 수 있도록 GPU 복제본을 제공하며, 실시간으로 요청 트래픽, 지연 시간, 오류를 모니터링할 수 있는 성능 모니터링 및 디버깅 기능을 내장하고 있습니다. 또한, 비즈니스 분석을 통해 모든 요청과 지출을 추적하여 비즈니스와 고객을 더 잘 이해할 수 있도록 지원합니다.
Banana는 자동화 API를 통해 사용자가 배포를 자동화할 수 있도록 SDK와 CLI를 제공하며, 오픈 소스 HTTP 프레임워크인 Potassium을 통해 백엔드를 자유롭게 작성할 수 있습니다. Potassium 앱은 컨테이너에 배포되므로 환경을 완전히 사용자 정의할 수 있습니다.
Banana의 가격 정책은 월정액 요금과 컴퓨팅 비용만을 청구하며, 마크업이 없습니다. 소규모 팀을 위한 '팀' 플랜과 엔터프라이즈급 지원과 기능을 제공하는 '엔터프라이즈' 플랜이 있으며, 샌프란시스코 지역에서는 CEO가 직접 바나나를 배달하는 'Banana Delivery' 서비스도 제공합니다.
