Marqo ist eine innovative Plattform, die speziell für das Training und die Bereitstellung von Embedding-Modellen entwickelt wurde. Mit Marqo können Entwickler und Unternehmen schnell Prototypen erstellen, die Iteration beschleunigen und nahtlos über 150 Embedding-Modelle bereitstellen. Diese Technologie ermöglicht es, leistungsstarke Suchanwendungen zu erstellen und den Retrieval-Stack zu transformieren.
Ein zentraler Aspekt von Marqo ist die Fähigkeit, Embedding-Modelle zu trainieren, die ohne Feinabstimmung auf domänenspezifische Daten oft schlechter abschneiden als traditionelle BM25-Retrieval-Methoden. Darüber hinaus bietet Marqo skalierbare und effiziente Pipelines zur Generierung von Embeddings für die Aufnahme und Suche, was dedizierte Infrastruktur erfordert.
Die Plattform unterstützt auch die Verbesserung der Retrieval-Leistung durch Techniken wie Reranking, Hybridsuche und Filterung. Eine umfassende und konsistente Bewertung der Retrieval-Leistung ist entscheidend, um die Iterationsgeschwindigkeit zu erhöhen und die Ergebnisse in der Produktion zu verbessern.
Marqo bietet eine breite Palette von Funktionen, darunter das Training von Hunderten von Open-Source-Embedding-Modellen, die Unterstützung für benutzerdefinierte Modelle und das Training mit Marqos Generalized Contrastive Learning. Die Plattform verfügt über eine Community-gestützte Embedding-Inferenz-Engine, die eine blitzschnelle Bildaufnahme, Inferenz und Suche ermöglicht. Marqo unterstützt Hunderte von Embedding-Modellen direkt und bietet auch die Möglichkeit, benutzerdefinierte Gewichte zu verwenden.
Darüber hinaus bietet Marqo horizontal skalierbare Vektor- und lexikalische Retrieval-Funktionen mit Metadatenverwaltung, Reranking, Filterung, Score-Modifikation und Hybridsuche. Die Plattform bewertet Ihr Suchsystem mit Noten für Präzision, Ranking, Konsistenz und durchschnittliche Relevanz und verwendet multimodale LLMs, um die Relevanz jedes zurückgegebenen Ergebnisses für einen standardisierten Satz von Abfragen zu analysieren.
Marqo kann in einer Vielzahl von Anwendungen eingesetzt werden, darunter die Verbesserung der Relevanz durch fortgeschrittene semantische Suche, die Steigerung der Leistung von generativen KI-Anwendungen mit state-of-the-art Embeddings, Feinabstimmung und multimodalen Fähigkeiten, sowie die Personalisierung von Empfehlungen basierend auf den Such-, Browse- und anderen Aktivitäten und Eigenschaften der Kunden.
Die Plattform wird von führenden Unternehmen in verschiedenen Branchen genutzt und bietet eine End-to-End-Lösung für das Training, die Inferenz und die Speicherung von Embedding-Modellen. Mit Marqo müssen Sie die Vektoren nicht selbst berechnen, sondern können einfach das Modell auswählen, das Sie verwenden möchten, und den Text und/oder die Bild-URLs direkt an die API übergeben.
Marqo unterstützt auch multimodale Modelle wie CLIP, um semantische Bedeutungen aus Bildern und anderen Datentypen zu extrahieren. Sie können nahtlos jede Kombination aus Text und Bildern durchsuchen und sogar Text und Bilder in einen einzigen Vektor kombinieren. Darüber hinaus bietet Marqo die Möglichkeit, in über 100 Sprachen zu suchen, mit Zugang zu state-of-the-art mehrsprachigen Modellen.
Die Plattform ist skalierbar und kann in einem Docker-Image auf Ihrem Laptop oder auf Dutzenden von GPU-Inferenzknoten in der Cloud ausgeführt werden. Marqo kann skaliert werden, um Suchvorgänge mit niedriger Latenz gegen Multi-Terabyte-Indizes bereitzustellen.
