Run

Run:ai는 AI 인프라를 혁신적으로 변화시키는 플랫폼으로, 개발 속도를 가속화하고 리소스를 최적화하며 AI 혁신의 경쟁에서 앞서 나갈 수 있도록 설계되었습니다. 이 플랫폼은 GPU에 특화되어 있으며, 미래를 염두에 두고 설계되어 AI 이니셔티브가 항상 최첨단 기술을 활용할 수 있도록 보장합니다. CLI 및 GUI 작업 공간, 도구, 오픈 소스 프레임워크를 포함한 다양한 기능을 제공하며, Llama-2-7b-chat-hf, Llama-2-70b-hf, Falcon-40b-instruct, Mixtral-8x7B-Instruct-v0.1 등의 LLM 카탈로그를 지원합니다. 또한, Run:ai 개발 생태계는 워크로드, 자산, 메트릭, 관리, 인증 및 권한 부여, Run:ai API, 다중 클러스터 관리, 대시보드 및 보고, 워크로드 관리, 리소스 접근 정책, 워크로드 정책, 권한 부여 및 접근 제어, Run:ai 제어 평면, AI 워크로드 스케줄러, 노드 풀링, 컨테이너 오케스트레이션, GPU 분할, GPU 노드, CPU 노드, 스토리지, 네트워크, Run:ai 클러스터 엔진 등을 포함합니다. Run:ai 클러스터 엔진은 AI 이니셔티브를 가속화하고 경쟁에서 앞서 나갈 수 있도록 설계되었습니다. AI 워크로드 스케줄러는 전체 AI 생명 주기에 맞춰진 리소스 관리를 최적화하며, GPU 분할은 노트북 팜 및 추론 환경의 비용 효율성을 높입니다. 노드 풀링은 이기종 AI 클러스터를 제어하며, 컨테이너 오케스트레이션은 클라우드 네이티브 AI 클러스터에서 분산 컨테이너화된 워크로드를 오케스트레이션합니다. Run:ai는 동적 스케줄링, GPU 풀링, GPU 분할 등을 통해 동일한 인프라에서 10배 더 많은 워크로드를 처리할 수 있는 최대 효율성을 제공합니다. 또한, 공정한 스케줄링, 할당량 관리, 우선순위 및 정책을 통해 보안 및 제어를 강화하며, 개요 대시보드, 역사적 분석 및 소비 보고서를 통해 클라우드 및 온프레미스 전반의 인프라 및 워크로드 활용에 대한 통찰력을 제공합니다. Run:ai는 클라우드, 온프레미스, 에어 갭 등 다양한 인프라에 배포할 수 있으며, 모든 ML 도구 및 프레임워크, Kubernetes, GPU, CPU, ASIC, 스토리지, 네트워킹 등을 지원합니다. 또한, 주문형 노트북, 훈련 및 미세 조정, 개인 LLM 배포 및 관리 등을 통해 간단하고 확장 가능하며 개방적인 새로운 AI 개발 플랫폼을 제공합니다. Run:ai는 AI 개발 및 시장 출시 시간을 단축하고, GPU 가용성을 높이며 AI 투자 수익을 극대화하는 데 도움을 줍니다. NVIDIA와의 파트너십을 통해 DGX 시스템을 위한 세계에서 가장 성능이 뛰어난 풀 스택 솔루션을 제공하며, AI 추론 및 훈련, 오픈 소스 GenAI의 부상 등에 대한 블로그, 백서, 사례 연구, 문서 등의 리소스를 제공합니다.