【手搓万兆软路由与NAS】偶发灵感:本地运行DeepSeek R1,稳了!
本地部署DeepSeek R1大模型的保姆级教程:https://www.bilibili.com/video/BV18icFeGEC5/ 我自己设计的PCIe底板,有2条PCIe x4插条,可以插2个显卡,按照这个视频教程,那我部署大模型后,回复速度岂不是要飞起? 我得抓紧设计好底板了[色][色] #DIY设计# #Deepseek#
#DIY设计#
#Deepseek#
开源硬件平台
全部评论 默认 最新
Fisheee
2025-02-02 13:17:54 来自江西
老师您好,请问您使用什么显卡?x4的插槽带宽恐怕不够哦,用x16的槽会快很多
点亮君 作者
2025-02-02 20:54:28 来自上海
可能会先用P100试试。x4带宽够不够得实测,只要吐出tokens的速度不低于在线网页版就可。
已折叠部分评论 展开
没有更多啦~