AirLLM
70 milyar parametreli bir modeli normalde 100 GB'tan fazla GPU belleği gerekirken sadece 4 GB VRAM'li ekran kartında çalıştırabiliyorsun.
Kaynağa git ↗github.com
İsa NurdoğduBu kaynağı hazırlayan
Yapay zeka ile işleri büyütüyorum; kuruyorum ve nasıl kurulduğunu öğretiyorum.