AI 模型生态中心

软件内支持高速下载本地前沿模型

支持 HuggingFace 与 ModelScope 双源本地模型,以及众多国内外云端模型服务商

30+
适配本地轻量模型
100%
隐私无忧 离线运行
35+
主流云端 API 接入
能力筛选:
ggml-orgHuggingFace

Qwen 3.5 0.8B (基础)

ggml-org/Qwen3.5-0.8B-GGUF:Q4_0

内置
文本
参数:0.8B
大小:563MB
量化:Q4_0
上下文:128k
速度极速
质量

无独显可运行,极致运行速度,仅支持文本分析,欠精准。

#官方#轻量#支持CPU运行#仅文本
unslothHuggingFace

Qwen 3.5 0.8B (轻量识图)

unsloth/Qwen3.5-0.8B-GGUF:UD-Q6_K_XL

文本图像
参数:0.8B
大小:976MB
上下文:128k
速度极速
质量

极致运行速度,适合极低配置环境,且支持图片分析,欠精准。

#GPU极速#支持CPU运行#多模态#迷你
DavidAUHuggingFace

Qwen 3.5 9B(Claude微调)

DavidAU/Qwen3.5-9B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING-MAX-NEOCODE-Imatrix-GGUF:D_AU-IQ3_M-imat

文本图像
参数:9B
大小:6.5GB
上下文:128k
速度极速
质量

基于Claude 4.6数据集微调,在遵循指令方面表现出色。

#微调优化#Claude数据集#多模态#NSFW#无审查#越狱
UnslothHuggingFace

Gemma 4 E4B-it(支持音频)

unsloth/gemma-4-E4B-it-GGUF:Q4_K_S

文本图像音频
参数:4B
大小:5.83GB
量化:Q4_K_S
上下文:128k
速度快速
质量

谷歌的原版量化版本,支持文本、图像和音频分析。

#多模态#快速#音频#英文更佳
mradermacherHuggingFace

Qwen 3.5 4B(平衡)

mradermacher/Qwen3.5-4B_Abliterated-GGUF:Q4_K_M

文本图像
参数:4B
大小:3.08GB
量化:Q4_K_M
上下文:256k
速度快速
质量

去限制版本(Abliterated)平衡速度与质量。

#去限制#无审查#NSFW#越狱#多模态
mradermacherHuggingFace

Qwen 3.5 2B(较好)

mradermacher/Huihui-Qwen3.5-2B-abliterated-GGUF:Q8_0

文本图像
参数:2B
大小:2.68GB
量化:Q8_0
上下文:256k
速度很快
质量极高

4G显存首选。

#去限制#无审查#NSFW#越狱#多模态
UnslothHuggingFace

Qwen 3.5 27B(最强)

unsloth/Qwen3.5-27B-GGUF:Q4_0

文本图像
参数:27B
大小:16.63GB
量化:Q4_0
上下文:128k
速度较慢
质量极高

超大参数模型,需要高性能显卡,支持文本和图像分析。

#超大参数#多模态#高性能GPU
tatsuyaaaaaaaHuggingFace

Qwen 3.5 2B(日语优化)

tatsuyaaaaaaa/Qwen3.5-2B-gguf:Q4_0

文本
参数:2B
大小:1.2GB
量化:Q4_0
上下文:128k
速度快速
质量

日语数据集优化的文本分析模型,仅支持文本分析。

#日语优化#仅文本#低显存
jordanwoodsonHuggingFace

Qwen 3.5 2B(越狱文本)

jordanwoodson/Qwen3.5-2B-heretic-GGUF:Q4_K_M

文本
参数:2B
大小:1.27GB
量化:Q4_K_M
上下文:128k
速度快速
质量

对内容有一定理解能力的越狱模型。

#越狱#无审查#NSFW#仅文本
mradermacherHuggingFace

Qwen 3.5 2B Instruct(高智商)

mradermacher/Qwen3.5-2B-Polaris-HighIQ-INSTRUCT-GGUF:IQ4_XS

文本图像
参数:2B
大小:1.54GB
量化:IQ4_XS
上下文:128k
速度快速
质量

Polaris高智商微调版本,支持文本和图像分析。

#微调优化#高智商#多模态
OpenBMBHuggingFace

MiniCPM-V 4.6 (识图小钢炮)

ggml-org/MiniCPM-V-4.6-GGUF:Q4_K_M

文本图像
参数:0.8B
大小:1.17GB
量化:Q4_K_M
上下文:32k
速度快速
质量极高

顶级端侧多模态模型,在 OCR、物体识别、复杂场景理解方面表现极其优异。

#多模态#OCR#场景理解#顶级识图
unslothHuggingFace

Qwen 3.6 27B MTP(较新)

unsloth/Qwen3.6-27B-MTP-GGUF:UD-IQ2_XXS

文本图像
参数:27B
大小:9.77GB
量化:UD-IQ2_XXS
上下文:128k
速度较慢
质量极高

智商爆表的3.6版本,需要升级萤核到2.1+才能支持。

#多模态#MTP#超大参数#高性能GPU
unslothHuggingFace

Gemma 4 E2B-it QAT MTP(全能-高速)

unsloth/gemma-4-E2B-it-qat-MTP-GGUF:UD-Q4_K_XL

文本图像音频
参数:2B
大小:3.71GB
量化:UD-Q4_K_XL
上下文:128k
速度极速
质量

全能力,外加MTP技术提速,目前为止不二之选的模型。

#多模态#音频#QAT量化#MoE#极小显存#英文更佳
GnLOLotHuggingFace

MiniCPM5 1B Claude微调(思维链)

GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF:Q4_K_M

文本
参数:1B
大小:688MB
量化:Q4_K_M
上下文:128k
速度极速
质量极高

基于Claude Opus Fable5数据集微调的MiniCPM5-1B,支持思维链推理,擅长编程和指令遵循。

#微调优化#Claude数据集#思维链#编程优化#轻量#支持CPU运行#仅文本
owaoHuggingFace

Nanbeige 4.2 3B(超越9B)

owao/Nanbeige4.2-3B-GGUF:Q4_K_M

文本
参数:3B
大小:2.40GB
量化:Q4_K_M
上下文:128k
速度快速
质量

3B身材硬钢9B,强列推荐,但仅支持文本。

#越狱#无审查#NSFW#仅文本
owaoHuggingFace

Nanbeige 4.2 3B(超越9B-高精度)

owao/Nanbeige4.2-3B-GGUF:Q8_0

文本
参数:3B
大小:4.13GB
量化:Q8_0
上下文:128k
速度快速
质量

3B身材硬钢9B,Q8_0最高精度量化,强列推荐,但仅支持文本。

#越狱#无审查#NSFW#仅文本#高精度
mradermacherHuggingFace

Nanbeige 4.2 3B(越狱-优化)

mradermacher/Nanbeige4.2-3B-heretic-i1-GGUF:i1-Q5_K_M

文本
参数:3B
大小:2.78GB
量化:i1-Q5_K_M
上下文:128k
速度快速
质量

3B身材硬钢9B,越狱版i1量化精度更高,但仅支持文本。

#越狱#无审查#NSFW#仅文本#高精度

准备好体验更强的本地 AI 文件管理了吗?

无需复杂配置,萤核智能文件夹支持内置引擎与一键模型下载,为您开启智能高效整理之旅。