Ja je kan natuurlijk on the web van alles en dikke prima. Maar om een LLM op je eigen pc thuis te draaien, dat kan best veel moeite kosten. Om de boel op te tuigen.
Voila Llamafile van Mozilla. 4 Gieg downloaden. 1 dingetje doen. Nummer 2 is run. En ook die opent in je webbrowser op een lokale poort.
Zo doet ie het. Lalala-mama