LLaMA (jezički model)
Llama (akronim za engl. Large Language Model Meta AI, Veliki jezički model Meta AI, a ranije stilizovan kao LLaMA) je porodica autoregresivnih velikih jezičkih modela (LLM) koje je Meta AI objavila počevši od februara 2023. godine.[2][3] Najnovija verzija je Llama 3.1, objavljena u julu 2024. godine.[4]
Programer(i) | Meta AI |
---|---|
Prva verzija | 24. februar 2023. god. |
Najnovija verzija | Llama 3.1 23. jul 2024. god. |
Pisano u | Piton |
Dostupno u | github |
Tip | |
Licenca | Meta Llama 3 licenca zajednice[1] |
Veb-sajt | llama |
Ponderi modela za prvu verziju Llame stavljeni su na raspolaganje istraživačkoj zajednici pod nekomercijalnom licencom, a pristup je bio odobren od slučaja do slučaja.[5][3] Neovlašćene kopije modela su deljene preko BitTorenta. Kao odgovor, Meta AI je izdao DMCA zahteve za uklanjanje protiv spremišta koja dele vezu na GitHub-u.[6][7] Naredne verzije Llame postale su dostupne izvan akademskih krugova i objavljene pod licencama koje su dozvoljavale određenu komercijalnu upotrebu.[8][9] Llama modeli se treniraju za različite veličine seta parametara, u rasponu između 7B i 405B.[4] Prvobitno, Llama model je bio dostupan samo kao osnovni model.[10] Počevši od verszije Llama 2, Meta AI je počeo da izdaje fino podešene verzije instrukcija zajedno sa osnovnim modelima.[9]
Uporedo sa izdavanjem verzije Llama 3, Meta je dodala funkcije virtuelnog pomoćnika na Fajsbuk i VotsAp u odabranim regionima, kao i samostalnu veb lokaciju. Oba servisa koriste Llama 3 model.[11]
Reference
уреди- ^ „llama3/LICENSE at main · meta-llama/llama3”. GitHub (на језику: енглески).
- ^ Touvron, Hugo; Lavril, Thibaut; Izacard, Gautier; Martinet, Xavier; Lachaux, Marie-Anne; Lacroix, Timothée; Rozière, Baptiste; Goyal, Naman; Hambro, Eric; Azhar, Faisal; Rodriguez, Aurelien; Joulin, Armand; Grave, Edouard; Lample, Guillaume (2023). „LLaMA: Open and Efficient Foundation Language Models”. arXiv:2302.13971 [cs.CL].
- ^ а б „Introducing LLaMA: A foundational, 65-billion-parameter large language model”. Meta AI. 24. 2. 2023.
- ^ а б „Introducing Llama 3.1: Our most capable models to date”. ai.meta.com (на језику: енглески). 23. 7. 2024. Приступљено 2024-07-23.
- ^ Malik, Yuvraj; Paul, Katie (25. 2. 2023). „Meta heats up Big Tech's AI arms race with new language model”. Reuters.
- ^ Vincent, James (8. 3. 2023). „Meta's powerful AI language model has leaked online — what happens now?”. The Verge.
- ^ OpSec Online LLC (21. 3. 2023). „github/dmca - Notice of Claimed Infringement via Email”. GitHub. Приступљено 25. 3. 2023.
- ^ David, Emilia (30. 10. 2023). „Meta's AI research head wants open source licensing to change”. The Verge (на језику: енглески).
- ^ а б „Meta and Microsoft Introduce the Next Generation of LLaMA”. Meta. 18. 7. 2023. Приступљено 21. 7. 2023.
- ^ Peters, Jay; Vincent, James (24. 2. 2023). „Meta has a new machine learning language model to remind you it does AI too”. The Verge (на језику: енглески).
- ^ „Meet Your New Assistant: Meta AI, Built With Llama 3”. Meta. 18. 4. 2024.
Literatura
уреди- Huang, Kalley; O'Regan, Sylvia Varnham (5. 9. 2023). „Inside Meta's AI Drama: Internal Feuds Over Compute Power” . The Information. Архивирано из оригинала 5. 9. 2023. г. Приступљено 6. 9. 2023.