跑开源模型的硬件

每页按一款硬件给所有开源模型分级。显存、带宽和算力都是硬件厂商自己公布的数字,附出处。

GeForce RTX 50

GeForce RTX 40

GeForce RTX 30

Workstation

Data center

Radeon

Instinct

Arc

Apple silicon

Unified memory

纯 CPU(系统内存)