求助目前的情况,如果想本地部署一个和网络api水平近似的大模型满血版,成本大概多少?

这几天玩DS玩的心潮澎湃,这东西是真战未来,有没有AI部署大佬大概讲讲,我想把部署一台这种东西当成人生目标来搞
十万打的住么?(四张4090 48g?)二十万行么?(四张50系专业卡?)难道得百万?(只有H100那种计算卡才有可能?)
妈个鸡我是真想整一台,发自内心想整一台

PS:
给大佬们说一下,我的应用场景是coding和编剧助理(RA),要求聪明一点和上下文尽量长一些,生成速度要求没那么高,对质量有要求
手里目前有一台5090,可以利用好这个5090做点什么么,加几张5090够不够用?

请登录后发表评论

    没有回复内容