← Repo Trendinglyogavin/airllm
★ 21.1kJUPYTER NOTEBOOKCHATBOT / AGENT
Buat apaAirLLM memungkinkan kamu menjalankan model bahasa besar (LLM) seperti LLaMA, Mistral, dll. di GPU dengan VRAM terbatas (bahkan cuma 4GB) dengan cara memuat model lapis per lapis dari disk.
Cocok buatCocok buat peneliti atau developer yang pengen eksperimen dengan LLM besar tapi nggak punya GPU mahal atau akses ke cloud computing.
Lihat di GitHub →