LLaMA (Large Language Model Meta AI) egy nagy nyelvi modell (LLM), amelyet a Meta AI ( a Facebook utóda) 2023 februárjában adott ki.
A képzés során több modellméretet is kipróbáltak, a paraméterek száma 7 milliárdról 65 milliárdra terjedt. A LLaMA fejlesztői azt jelentették, hogy a 13 milliárd paraméteres modell teljesítménye a legtöbb NLP mércén meghaladta a sokkal nagyobb GPT-3-ét (175 milliárd paraméterrel), és hogy a legnagyobb modell versenyképes volt olyan modellekkel, mint például a PaLM és a Chinchilla.
Az LLM-ek legnagyobb teljesítményű változatait általában csak korlátozott API-kon keresztül lehetett elérni (ha egyáltalán), de a Meta a LLaMA-t nem kereskedelmi célú használatra hozzáférhetővé tette kutatási célból.
Megjelenés időpontja: 2023. február
Fejlesztő: Meta/Facebook
Paraméterszám: 65 milliárd
Képzési anyag mérete: 1,4 trillió
Forrás: https://ai.facebook.com/blog/large-language-model-llama-meta-ai/