//@有S型曲线的高叔叔:现在的端侧大模型都要依赖芯片公司的旗舰芯片里面的APU/NPU,我去年带团队搞的推理引擎可以用普通GPU甚至CPU就能打满带宽,吞吐基本持平NPU,只是prefill阶段比npu稍慢(可见npu做的有多烂)。
@梁斌penny
作为VIVO大模型的核心数据供应商,我厂应邀参加人类历史上首款大语言模型量产端侧智能手机(vivo PhoneGPT)的发布。。。3B参数的端侧大模型(大模型完全跑在手机上),可以了,基本服务群众日常生活够用了,同声传译,情绪按摩,大事小事给点参谋建议。不知道一台手机要多少钱,不贵的话,买一书包带走。。
最近有不少地方需要了解DeepSeek的火热对国民经济可能带来的影响,领导也要快速补课,希望我能做个报告,我打算周末写个简短的ppt,目的是帮助领导身边的同志,快速学习,达到给领导汇报的能力。提纲我都想好了。1)DeepSeek技术上显著特点有哪些?牛在哪里。2)DeepSeek对硬件发展会带来哪些影响3)各行各业如何用好DeepSeek,有一些什么优秀案例4)部署和使用DeepSeek需要哪些条件,目前基础设施,资金等有哪些短板?5)后续人工智能人才方面需要如何配合,如何配置?6)DeepSeek最快能和哪些产业结合,如何带动产业升级我就大概写一写,我就不出门了,免费给领导身边的同志参考,以上内容完全公开,永久免费。
以前收过清华的钱,今年终于又收到了北大的钱。这对我们二本地方院校毕业生来说就算光宗耀祖了。
不接受不接受反驳。
有人把 IDA Pro 的图标换了……