Alpaca 7b - Large Language Model
11 april 2023
Begin maart 2023 creëerde een team van onderzoekers van Stanford University voor 600 USD hun eigen "Alpaca 7b" Large Language Model dat is te gebruiken door AI Chatbots. Ze gebruikten hiervoor:
- een open-source Language Model genaamd LLaMA 7B
- huurden voor 500 USD de API van ChatGPT-3 om 52.000 voorbeeld conversaties te genereren
- huurden voor 100 USD capaciteit op Cloudservers (3 uur op acht A100 NVIDIA Tensor Core GPUs) om het LLaMA-model te trainen met behulp van die gegenereerde conversaties.
Peter laat zien hoe je het "Alpaca 7b" Language Model op je eigen computer kunt installeren en gebruiken. En daarna als bonus een iets nieuwer en krachtiger Large Language Model genaamd GPT4ALL.
