工具介绍
AirLLM 是一款开源的大语言模型推理优化工具，核心亮点是大幅降低推理时的显存占用，让 70B 参数级别的大语言模型可以在单张 4GB 显存的 GPU 上运行，且无需量化、蒸馏或剪枝。项目支持 macOS 环境，提供快速上手指南、配置说明和示例 Notebook，适合希望在低配置硬件上本地部署大模型的开发者和技术爱好者。AirLLM 2.8T 版本进一步优化了性能，甚至支持运行更大规模的模型。
提示：本页信息由 智能工具库 自动抓取与整理，仅供参考。工具的功能与定价以官网为准；外部链接为官方地址，请注意甄别。
常见问题
AirLLM是什么？
单张4GB显卡即可运行70B大语言模型推理
AirLLM收费吗？
AirLLM提供免费版本，可直接访问官网使用。
AirLLM官网入口在哪里？
AirLLM的官方网址是 github.com，点击页面的「前往官网」按钮即可访问。
AirLLM属于哪一类 AI 工具？
AirLLM归入「AI编程」分类，该分类下还收录了其他同类工具，可在分类页查看全部。
AirLLM可以用来做什么？
AirLLM的主要用途包括：开源、本地部署、LLM推理、低显存、GPU优化。具体能力以官网说明为准。
有哪些和AirLLM类似的工具？
同属「AI编程」分类的还有 Trae、Kiro、Roo Code、Qwen Code 等工具，可在AI编程分类页对比选择。
在哪里可以看到AirLLM的更多介绍？
本页提供AirLLM的简介、分类与官网入口；更多同站工具可在 AI 工具榜单页按热度浏览。
