智能工具库
BitNet

BitNet

免费

微软开源的1-bit大语言模型CPU推理框架

AI开发平台 1 次浏览 热度 0 收录于 1 个月前
前往官网

反馈「BitNet」

链接打不开、介绍有误或存在风险,都可以告诉我们

工具介绍

BitNet 是微软开源的 1-bit 大语言模型推理框架,基于 bitnet.cpp 实现,无需 GPU 即可在 CPU 上高效运行超低比特量化模型。近期还发布了 VibeASR.cpp——一个基于 BitNet I2_S 量化的实时多语言语音识别推理引擎,在 CPU 上实现 RTF=3.10。项目要求 cmake>=3.22、clang>=18,Windows 用户需安装 Visual Studio 2022。适合关注模型压缩、边缘部署和高效推理的开发者,对资源受限环境下的 LLM 部署具有实用价值。

提示:本页信息由 智能工具库 自动抓取与整理,仅供参考。工具的功能与定价以官网为准;外部链接为官方地址,请注意甄别。

常见问题

BitNet是什么?

微软开源的1-bit大语言模型CPU推理框架

BitNet收费吗?

BitNet提供免费版本,可直接访问官网使用。

BitNet官网入口在哪里?

BitNet的官方网址是 github.com,点击页面的「前往官网」按钮即可访问。

BitNet属于哪一类 AI 工具?

BitNet归入「AI开发平台」分类,该分类下还收录了其他同类工具,可在分类页查看全部。

BitNet可以用来做什么?

BitNet的主要用途包括:模型推理、1-bit量化、本地部署、开源、CPU推理。具体能力以官网说明为准。

有哪些和BitNet类似的工具?

同属「AI开发平台」分类的还有 Hugging Face、扣子 Coze、Dify、OpenRouter 等工具,可在AI开发平台分类页对比选择。

在哪里可以看到BitNet的更多介绍?

本页提供BitNet的简介、分类与官网入口;更多同站工具可在 AI 工具榜单页按热度浏览。