
电视盒子跑 16B,Kindle 也能聊天:想在自己电脑上跑 AI,先看这 5 个开源项目
Inkling 2 Mini 说笔记本能跑,可你的电脑到底装得下多大的模型?我按先测、再压、借硬盘、借手机、翻旧设备的思路,挑了五个开源项目:llmfit、lookatmyquant、InferSSD、Backburner 和 smolmaxxing。

Inkling 2 Mini 说笔记本能跑,可你的电脑到底装得下多大的模型?我按先测、再压、借硬盘、借手机、翻旧设备的思路,挑了五个开源项目:llmfit、lookatmyquant、InferSSD、Backburner 和 smolmaxxing。