DeepSeek-R1这个模型671B(6710亿),当然了这个参数是MOE架构叠加的。不是单体模型671B。要想跑得动Deepseek这么大的模型,光放下模型就要700G显存,跑起来需要更多。英伟达H100 SXM, 8卡标准机器,每卡80G显存,还不达标。。要组12卡集群来跑。这个门槛就高了。。4090这种消费级显卡24G显存,要组多少张卡才能搞,而且4090缺乏NVLink组网方案,效率太低了,不现实。。我们近期会发布AMD MI300x的测评结果,未来大量蒸馏数据可以找我了。。我厂有大量MI300X机器,当时每台250万元购买的,可心疼了。现在都是拿高端训练机来跑推理啊,同志们。
@搜狐新闻
【河北唐山一三甲医院被曝倒闭关门 院方:停止接诊 为患者办理出院】2月7日,河北唐山市多名网友发视频爆料,唐山南湖医院破产倒闭,引起广泛关注。当日下午,记者从南湖医院了解到,目前该医院已停止接诊,住院患者正在陆续办理出院手续,退卡退余额业务可以正常办理。视频中,南湖医院一楼接诊大厅空空荡荡,各诊室大门紧闭,楼道里只有寥寥几名工作人员,楼门口有救护车正在接病人出院。视频发布者称,其家人还在南湖医院住院,目前还没有痊愈,医院却通知病人出院。公开资料显示,唐山南湖医院2018年开业,总投资20.8亿元,医院员工1700余人,是一所集医疗、康复、保健体检于一体的大型综合性民营三甲医院。更多详细内容请查看原文>>>网页链接 奔流新闻的微博视频