Intel Arc B580 Graphics 能跑哪些开源模型

显存 12 GB
带宽 456 GB/s
可用 10.8 GB

规格出处: 显存 · Intel® Arc™ B580 Graphics Specifications · 带宽 · Intel® Arc™ B580 Graphics Specifications

搜索精度上下文并发最低速度结构类型厂商排序

适配	模型	参数 / 激活	推荐精度	显存占用	估算速度	最长上下文	运行方式
流畅	Qwen2.5-14B-Instruct-1M Alibaba Qwen	14.8B	IQ4_XS	9.3 / 10.8 GB	24–36 tok/s	16K	单卡
流畅	Qwen2.5-14B-Instruct Alibaba Qwen	14.8B	IQ4_XS	9.3 / 10.8 GB	24–36 tok/s	16K	单卡
流畅	DeepSeek-R1-Distill-Qwen-14B DeepSeek	14.8B	IQ4_XS	9.3 / 10.8 GB	24–36 tok/s	16K	单卡
流畅	Qwen3-14B Alibaba Qwen	14.8B	Q4_0	9.5 / 10.8 GB	24–35 tok/s	16K	单卡
流畅	Gemma 3 12B IT Google	12.2B	Q4_0	9.7 / 10.8 GB	23–35 tok/s	11K	单卡
流畅	Qwen2.5-Omni-7B Alibaba Qwen	10.7B	Q6_K	9.1 / 10.8 GB	25–37 tok/s	32K	单卡
流畅	GLM-4.6V-Flash Zhipu AI	10.3B	Q6_K	8.7 / 10.8 GB	26–39 tok/s	62K	单卡
流畅	Qwen3.5-9B Alibaba Qwen	9.7B	Q6_K	8.1 / 10.8 GB	28–42 tok/s	93K	单卡
流畅	Qianfan-VL-8B Baidu	8.8B	FP8	9.7 / 10.8 GB	23–35 tok/s	17K	单卡
流畅	Granite Switch 4.1 8B IBM	8.8B	Q6_K官方	9.3 / 10.8 GB	24–36 tok/s	17K	单卡
流畅	Qwen3-VL-8B-Instruct Alibaba Qwen	8.8B	Q6_K	8.3 / 10.8 GB	27–41 tok/s	25K	单卡
流畅	Qwen3-VL-8B-Thinking Alibaba Qwen	8.8B	Q6_K	8.3 / 10.8 GB	27–41 tok/s	25K	单卡
流畅	pplx-embed-v2-context-9b Perplexity	8.4B	Q8_0	9.1 / 10.8 GB	25–37 tok/s	63K	单卡
流畅	Qwen2.5-VL-7B-Instruct Alibaba Qwen	8.3B	Q8_0	9.1 / 10.8 GB	25–37 tok/s	38K	单卡
流畅	Qwen3-8B Alibaba Qwen	8.2B	Q6_K官方	7.9 / 10.8 GB	29–43 tok/s	28K	单卡
流畅	DeepSeek-R1-Distill-Llama-8B DeepSeek	8B	Q8_0	9.4 / 10.8 GB	24–36 tok/s	18K	单卡
流畅	Gemma 4 E4B Google	8B	Q8_0	8.6 / 10.8 GB	26–40 tok/s	125K	单卡
流畅	Ling-3.0-tiny Ant Group	7.9B / 1.3B	Q8_0官方	8.5 / 10.8 GB	142–212 tok/s	93K	单卡
流畅	Qwen2.5-7B-Instruct-1M Alibaba Qwen	7.6B	Q8_0	8.5 / 10.8 GB	27–40 tok/s	51K	单卡
流畅	Qwen2.5-7B-Instruct Alibaba Qwen	7.6B	Q8_0官方	8.5 / 10.8 GB	27–40 tok/s	32K	单卡
流畅	DeepSeek-R1-Distill-Qwen-7B DeepSeek	7.6B	Q8_0	8.5 / 10.8 GB	27–40 tok/s	32K	单卡
流畅	Mistral-7B-Instruct-v0.1 Mistral AI	7.2B	Q8_0	8.7 / 10.8 GB	26–39 tok/s	25K	单卡
流畅	Gemma 4 E2B Google	5.1B	Q8_0	5.6 / 10.8 GB	41–62 tok/s	125K	单卡
流畅	WeVisOne-VL-4B Tencent	4.8B	Q8_0	6.4 / 10.8 GB	36–54 tok/s	39K	单卡
流畅	Qianfan-OCR Baidu	4.7B	Q8_0	6.3 / 10.8 GB	37–55 tok/s	31K	单卡
流畅	Qwen3.5-4B Alibaba Qwen	4.7B	原生 BF16官方	9.4 / 10.8 GB	24–36 tok/s	52K	单卡
流畅	Qwen3-VL-4B-Instruct Alibaba Qwen	4.4B	Q8_0官方	5.6 / 10.8 GB	42–62 tok/s	45K	单卡
流畅	Qwen3-4B-Instruct-2507 Alibaba Qwen	4B	原生 BF16官方	9.1 / 10.8 GB	25–37 tok/s	20K	单卡
流畅	Qwen3-4B Alibaba Qwen	4B	原生 BF16官方	9.1 / 10.8 GB	25–37 tok/s	20K	单卡
流畅	DeepSeek-OCR DeepSeek	3.3B	原生 BF16官方	7.2 / 10.8 GB	82–123 tok/s	8K	单卡
流畅	Granite-4.0-H-Micro IBM	3.2B	原生 BF16官方	6.5 / 10.8 GB	35–53 tok/s	128K	单卡
流畅	Qwen3-1.7B Alibaba Qwen	2B	原生 BF16官方	5.2 / 10.8 GB	46–68 tok/s	40K	单卡
流畅	DeepSeek-R1-Distill-Qwen-1.5B DeepSeek	1.8B	原生 BF16官方	4.0 / 10.8 GB	60–90 tok/s	125K	单卡
流畅	GLM-OCR Zhipu AI	1.3B	原生 BF16官方	3.5 / 10.8 GB	72–107 tok/s	125K	单卡
流畅	Qwen3-0.6B Alibaba Qwen	0.8B	原生 BF16官方	2.8 / 10.8 GB	93–140 tok/s	40K	单卡
流畅	EmbeddingGemma 2 Google	0.7B	原生 BF16官方	2.0 / 10.8 GB	145–217 tok/s	256K	单卡
流畅	Qwen3-Embedding-0.6B Alibaba Qwen	0.6B	原生 BF16官方	2.5 / 10.8 GB	107–160 tok/s	32K	单卡
流畅	bge-reranker-v2-m3 BAAI	0.6B	原生 FP32官方	3.4 / 10.8 GB	74–111 tok/s	8K	单卡
流畅	bge-m3-unsupervised BAAI	0.6B	原生 FP32官方	3.4 / 10.8 GB	74–111 tok/s	8K	单卡
流畅	bge-large-en-v1.5 BAAI	0.3B	原生 FP32官方	1.8 / 10.8 GB	164–246 tok/s	512	单卡
流畅	bge-reranker-base BAAI	0.3B	原生 FP32官方	1.6 / 10.8 GB	202–302 tok/s	514	单卡
流畅	bge-base-en-v1.5 BAAI	0.1B	原生 FP32官方	0.9 / 10.8 GB	499–749 tok/s	512	单卡
流畅	bge-small-en-v1.5 BAAI	0B	原生 FP32官方	0.6 / 10.8 GB	1595–2393 tok/s	512	单卡
需放到内存	Ming-3.0-audio-flash Ant Group	128.2B / 6.5B	IQ4_XS	67.0 GB，57.4 放内存	14–21 tok/s	—	卸载 38/42 层
需放到内存	Ling-3.0-flash Ant Group	127.5B / 5.1B	IQ4_XS	66.6 GB，57.1 放内存	18–27 tok/s	—	卸载 38/42 层
需放到内存	Qwen3.5-122B-A10B Alibaba Qwen	125.1B / 10B	IQ4_XS	65.2 GB，55.4 放内存	9–14 tok/s	—	卸载 43/48 层
需放到内存	Ling-3.0-flash-VL Ant Group	124.8B / 5.5B	IQ4_XS	65.2 GB，55.9 放内存	17–25 tok/s	—	卸载 38/42 层
需放到内存	gpt-oss-120b OpenAI	116.8B / 5.1B	原生 MXFP4官方	64.1 GB，54.0 放内存	17–26 tok/s	—	卸载 32/36 层
需放到内存	GLM-4.5-Air Zhipu AI	110.5B	IQ4_XS	58.8 GB，49.3 放内存	10–15 tok/s	—	专家放内存
需放到内存	GLM-4.5V Zhipu AI	107.7B / 12B	IQ4_XS	57.4 GB，50.5 放内存	11–17 tok/s	—	专家放内存
需放到内存	GLM-4.6V Zhipu AI	107.7B	IQ4_XS	57.4 GB，49.3 放内存	11–16 tok/s	—	专家放内存
需放到内存	Ling-2.6-flash Ant Group	107.5B / 7.4B	Q4_0	59.4 GB，54.1 放内存	20–30 tok/s	—	专家放内存
需放到内存	Qwen3-Next-80B-A3B-Instruct Alibaba Qwen	81.3B / 3B	Q6_K官方	64.3 GB，54.7 放内存	20–30 tok/s	—	卸载 43/48 层
需放到内存	Qwen3-Next-80B-A3B-Thinking Alibaba Qwen	81.3B / 3B	Q6_K官方	64.3 GB，54.7 放内存	20–30 tok/s	—	卸载 43/48 层
需放到内存	Qwen3-Coder-Next Alibaba Qwen	79.7B / 3B	Q6_K官方	64.3 GB，54.7 放内存	20–30 tok/s	—	卸载 43/48 层
需放到内存	Qwen3.5-35B-A3B Alibaba Qwen	36B / 3B	Q8_0	37.5 GB，33.7 放内存	29–44 tok/s	—	专家放内存
需放到内存	Qwen3.6-35B-A3B Alibaba Qwen	36B / 3B	Q8_0	37.5 GB，33.7 放内存	29–44 tok/s	—	专家放内存
需放到内存	Qwen2.5-VL-32B-Instruct Alibaba Qwen	33.5B	IQ4_XS	19.4 GB，8.8 放内存	4–6 tok/s	—	卸载 34/64 层
需放到内存	Qwen3-VL-32B-Instruct Alibaba Qwen	33.4B	IQ4_XS	19.3 GB，8.8 放内存	4–6 tok/s	—	卸载 34/64 层
需放到内存	Qwen3-VL-32B-Thinking Alibaba Qwen	33.4B	IQ4_XS	19.3 GB，8.8 放内存	4–6 tok/s	—	卸载 34/64 层
需放到内存	Qwen2.5-32B-Instruct Alibaba Qwen	32.8B	IQ4_XS	19.0 GB，8.4 放内存	4–6 tok/s	—	卸载 33/64 层
需放到内存	Qwen2.5-Coder-32B-Instruct Alibaba Qwen	32.8B	IQ4_XS	19.0 GB，8.4 放内存	4–6 tok/s	—	卸载 33/64 层
需放到内存	QwQ-32B Alibaba Qwen	32.8B	IQ4_XS	19.0 GB，8.4 放内存	4–6 tok/s	—	卸载 33/64 层
需放到内存	DeepSeek-R1-Distill-Qwen-32B DeepSeek	32.8B	IQ4_XS	19.0 GB，8.4 放内存	4–6 tok/s	—	卸载 33/64 层
需放到内存	Qwen3-32B Alibaba Qwen	32.8B	IQ4_XS	19.0 GB，8.4 放内存	4–6 tok/s	—	卸载 33/64 层
需放到内存	Qwen3-Omni-30B-A3B-Captioner Alibaba Qwen	31.7B	Q8_0	33.7 GB，28.7 放内存	18–27 tok/s	—	专家放内存
需放到内存	Gemma 4 31B IT Google	31.3B	IQ4_XS	18.3 GB，7.5 放内存	5–7 tok/s	—	卸载 29/60 层
需放到内存	GLM-4.7-Flash Zhipu AI	31.2B	Q8_0	32.9 GB，27.5 放内存	17–26 tok/s	—	专家放内存
需放到内存	Qwen3-VL-30B-A3B-Instruct Alibaba Qwen	31.1B	Q8_0官方	32.5 GB，28.2 放内存	19–29 tok/s	—	专家放内存
需放到内存	Qwen3-VL-30B-A3B-Thinking Alibaba Qwen	31.1B	Q8_0官方	32.5 GB，28.2 放内存	19–29 tok/s	—	专家放内存
需放到内存	Qwen3-30B-A3B-Instruct-2507 Alibaba Qwen	30.5B / 3.3B	Q8_0	32.5 GB，28.7 放内存	20–30 tok/s	—	专家放内存
需放到内存	Qwen3-30B-A3B-Thinking-2507 Alibaba Qwen	30.5B / 3.3B	Q8_0	32.5 GB，28.7 放内存	20–30 tok/s	—	专家放内存
需放到内存	Qwen3-30B-A3B Alibaba Qwen	30.5B / 3.3B	Q8_0官方	32.5 GB，28.8 放内存	20–30 tok/s	—	专家放内存
需放到内存	Qwen3-Coder-30B-A3B-Instruct Alibaba Qwen	30.5B / 3.3B	Q8_0	32.5 GB，28.7 放内存	20–30 tok/s	—	专家放内存
需放到内存	Hy-Memory-30B-A3B Tencent	30.1B / 3B	Q8_0官方	32.0 GB，28.6 放内存	21–31 tok/s	—	专家放内存
需放到内存	Granite Switch 4.1 30B IBM	30B	IQ4_XS	17.6 GB，7.0 放内存	5–7 tok/s	—	卸载 31/66 层
需放到内存	Qwen3.5-27B Alibaba Qwen	27.8B	IQ4_XS	14.9 GB，4.3 放内存	7–10 tok/s	—	卸载 20/64 层
需放到内存	Qwen3.6-27B Alibaba Qwen	27.8B	IQ4_XS	14.9 GB，4.3 放内存	7–10 tok/s	—	卸载 20/64 层
需放到内存	Qwen3.8-27B Alibaba Qwen	27.8B	IQ4_XS	14.9 GB，4.3 放内存	7–10 tok/s	—	卸载 20/64 层
需放到内存	Gemma 4 26B A4B IT Google	25.8B / 3.8B	Q8_0	27.3 GB，23.2 放内存	22–33 tok/s	—	专家放内存
需放到内存	Magistral Small 1.2 Mistral AI	24B	IQ4_XS	13.7 GB，3.0 放内存	9–13 tok/s	—	卸载 10/40 层
需放到内存	Devstral Small 1.0 Mistral AI	23.6B	IQ4_XS	13.5 GB，2.9 放内存	9–14 tok/s	—	卸载 10/40 层
需放到内存	Devstral Small 1.1 Mistral AI	23.6B	IQ4_XS	13.5 GB，2.9 放内存	9–14 tok/s	—	卸载 10/40 层
需放到内存	Magistral Small 1.0 Mistral AI	23.6B	IQ4_XS	13.5 GB，2.9 放内存	9–14 tok/s	—	卸载 10/40 层
需放到内存	Magistral Small 1.1 Mistral AI	23.6B	IQ4_XS	13.5 GB，2.9 放内存	9–14 tok/s	—	卸载 10/40 层
需放到内存	ERNIE-4.5-21B-A3B-Thinking Baidu	21.8B / 3B	Q8_0	23.1 GB，12.3 放内存	21–32 tok/s	—	卸载 16/28 层
需放到内存	GPT OSS 20B OpenAI	20.9B / 3.6B	原生 MXFP4官方	13.6 GB，3.2 放内存	48–71 tok/s	—	卸载 6/24 层

按厂商 Hugging Face 仓库的数据估算（截至 2026-11-06）；带筛选的页面不建索引。怎么估算的