AI 模型生态中心

软件内支持高速下载本地前沿模型

支持 HuggingFace 与 ModelScope 双源本地模型,以及众多国内外云端模型服务商

31+
适配本地轻量模型
100%
隐私无忧 离线运行
35+
主流云端 API 接入
能力筛选:
unslothHuggingFace

Qwen 3.5 0.8B (中文更佳)

unsloth/Qwen3.5-0.8B-GGUF:UD-Q5_K_XL

推荐
文本
参数:0.8B
大小:579MB
量化:UD-Q5_K_XL
上下文:128k
速度极速
质量中

极速轻量文本模型,适合低配及 CPU 环境,中文分析表现均衡。

#轻量#支持CPU运行#极速#仅文本
unslothHuggingFace

Qwen 3.5 0.8B (轻量识图)

unsloth/Qwen3.5-0.8B-GGUF:UD-Q6_K_XL

推荐
文本图像
参数:0.8B
大小:976MB
上下文:128k
速度极速
质量中

极致运行速度,适合极低配置环境,且支持图片分析,欠精准。

#GPU极速#支持CPU运行#多模态#迷你
AbirayHuggingFace

MiniCPM5 2B(高质量•高速•越狱)

Abiray/MiniCPM5-2B-heretic-abliterated-GGUF:Q4_K_M

推荐
文本
参数:2B
大小:1.45GB
量化:Q4_K_M
上下文:32k
速度很快
质量高

显存不足,又想正确分类文件,必须选我,去限制版本(Abliterated)。

#去限制#无审查#NSFW#仅文本#中文更佳
AbirayHuggingFace

LFM2.5 2.6B(越狱)

Abiray/LFM2.5-2.6B-Heretic-Abliterated-GGUF:Q4_K_M

推荐
文本
参数:2.6B
大小:1.56GB
量化:Q4_K_M
上下文:32k
速度很快
质量高

LFM2.5 2.6B 去限制无审查版本,平衡速度与质量。

#去限制#无审查#NSFW#仅文本
UnslothHuggingFace

Gemma 4 E4B-it(支持音频)

unsloth/gemma-4-E4B-it-GGUF:Q4_K_S

推荐
文本图像音频
参数:4B
大小:5.83GB
量化:Q4_K_S
上下文:128k
速度快速
质量高

谷歌的原版量化版本,支持文本、图像和音频分析。

#多模态#快速#音频#英文更佳
mradermacherHuggingFace

Qwen 3.5 4B(平衡)

mradermacher/Qwen3.5-4B_Abliterated-GGUF:Q4_K_M

文本图像
参数:4B
大小:3.08GB
量化:Q4_K_M
上下文:256k
速度快速
质量高

去限制版本(Abliterated)平衡速度与质量。

#去限制#无审查#NSFW#越狱#多模态
mradermacherHuggingFace

Qwen 3.5 2B(较好)

mradermacher/Huihui-Qwen3.5-2B-abliterated-GGUF:Q8_0

文本图像
参数:2B
大小:2.68GB
量化:Q8_0
上下文:256k
速度很快
质量极高

4G显存首选。

#去限制#无审查#NSFW#越狱#多模态
tatsuyaaaaaaaHuggingFace

Qwen 3.5 2B(日语优化)

tatsuyaaaaaaa/Qwen3.5-2B-gguf:Q4_0

文本
参数:2B
大小:1.2GB
量化:Q4_0
上下文:128k
速度快速
质量中

日语数据集优化的文本分析模型,仅支持文本分析。

#日语优化#仅文本#低显存
jordanwoodsonHuggingFace

Qwen 3.5 2B(越狱文本)

jordanwoodson/Qwen3.5-2B-heretic-GGUF:Q4_K_M

文本
参数:2B
大小:1.27GB
量化:Q4_K_M
上下文:128k
速度快速
质量高

对内容有一定理解能力的越狱模型。

#越狱#无审查#NSFW#仅文本
OpenBMBHuggingFace

MiniCPM-V 4.6 (识图小钢炮)

ggml-org/MiniCPM-V-4.6-GGUF:Q4_K_M

推荐
文本图像
参数:0.8B
大小:1.17GB
量化:Q4_K_M
上下文:32k
速度快速
质量极高

顶级端侧多模态模型,在 OCR、物体识别、复杂场景理解方面表现极其优异。

#多模态#OCR#场景理解#顶级识图
unslothHuggingFace

Gemma 4 E2B-it QAT MTP(全能-高速)

unsloth/gemma-4-E2B-it-qat-MTP-GGUF:UD-Q4_K_XL

文本图像音频
参数:2B
大小:3.71GB
量化:UD-Q4_K_XL
上下文:128k
速度极速
质量中

全能力,外加MTP技术提速,目前为止不二之选的模型。

#多模态#音频#QAT量化#MoE#极小显存#英文更佳
mradermacherHuggingFace

Nanbeige 4.2 3B(越狱-优化)

mradermacher/Nanbeige4.2-3B-heretic-i1-GGUF:i1-Q5_K_M

文本
参数:3B
大小:2.78GB
量化:i1-Q5_K_M
上下文:128k
速度快速
质量高

3B身材硬钢9B,越狱版i1量化精度更高,但仅支持文本。

#越狱#无审查#NSFW#仅文本#高精度
GoogleHuggingFace

Gemma 3 1B Instruct(基础)

unsloth/gemma-3-1b-it-GGUF:UD-Q4_K_XL

文本
参数:1B
大小:770MB
量化:UD-Q4_K_XL
上下文:32k
速度极速
质量中

英文小模型翘楚

#轻量#支持CPU运行#仅文本#英文更佳
gaston-parraviciniHuggingFace

LFM2.5 8B A1B(越狱)

gaston-parravicini/LFM2.5-8B-A1B-Uncensored-Gaston-GGUF:Q4_K_M

推荐
文本
参数:8B-A1B
大小:4.80GB
量化:Q4_K_M
上下文:32k
速度很快
质量高

LFM2.5 8B A1B MoE 无审查版本,仅 1B 激活参数,速度与质量均衡。

#MoE#无审查#NSFW#越狱#仅文本#英文更佳
dealignaiHuggingFace

Bonsai 27B 1-bit(超级压缩)

dealignai/Bonsai-27b-1bit-CRACK-GGUF:Q1_0

文本图像
参数:27B
大小:5.21GB
量化:Q1_0
上下文:128k
速度快速
质量中

Bonsai 27B 一比特量化越狱版本,去对齐无审查,支持文本与图像分析。

#1比特#越狱#无审查#NSFW#多模态#低显存
HauhauCSHuggingFace

Qwen 3.8 27B(越狱)

HauhauCS/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF:Q4_K_P

推荐
文本图像
参数:27B
大小:17.56GB
量化:Q4_K_P
上下文:128k
速度较慢
质量极高

Qwen3.8-27B 激进去审查版本,P 系重量化在关键张量保留更高精度,无审查且支持图像分析。

#越狱#无审查#NSFW#多模态#大参数#MTP
ornith-aiHuggingFace

Ornith 1.5 9B(顶级)

ornith-ai/Ornith-1.5-9B-GGUF:Q4_K_M

推荐
文本图像
参数:9B
大小:6.24GB
量化:Q4_K_M
上下文:128k
速度中等
质量极高

Ornith 1.5 多模态模型,支持文本与图像分析。

#多模态#识图#英文更佳

准备好体验更强的本地 AI 文件管理了吗?

无需复杂配置,萤核智能文件夹支持内置引擎与一键模型下载,为您开启智能高效整理之旅。