Vicuna

Vicuna to innowacyjny open-source chatbot. Jest szkolony poprzez dostosowanie modelu LLaMA do użytkowników na podstawie konwersacji zebranych z ShareGPT. Wstępna ocena przy użyciu GPT-4 jako sędziego wskazuje, że Vicuna osiąga ponad 90% jakości OpenAI ChatGPT i Google Bard, przewyższając inne modele, takie jak LLaMA i Stanford Alpaca w ponad 90% przypadków. Koszt szkolenia Vicuna wynosi około 300 dolarów. Kod i wagi wraz z demonstracją online są dostępne do użytku niekomercyjnego. Szkolenie Vicuna odbywa się przy użyciu około 70 tysięcy konwersacji użytkowników zebranych z ShareGPT.com. Aby zapewnić jakość danych, HTML jest konwertowany na markdown i filtrowane są nieodpowiednie lub niskiej jakości próbki. Ponadto długie rozmowy są dzielone na mniejsze segmenty, które pasują do maksymalnej długości kontekstu modelu. System serwowania Vicuna jest zbudowany w taki sposób, aby być w stanie obsługiwać wiele modeli z rozproszonymi pracownikami. Obsługuje elastyczne wtyczki pracowników GPU zarówno z klastrów lokalnych, jak i chmury. Jednak, podobnie jak inne duże modele językowe, Vicuna ma pewne ograniczenia, takie jak słabość w zadaniach związanych z rozumowaniem lub matematyką oraz potencjalne problemy z dokładnym identyfikowaniem siebie lub zapewnieniem dokładności informacji. Jednakże, może stanowić otwarty punkt wyjścia dla przyszłych badań mających na celu przezwycięcie tych ograniczeń.