这个东西别人部署亏钱,Deepseek部署赚钱//@黄建同学:价格还有下探空间//@老师木:DeepSeek 每台机器输出吞吐15000,利润率500%, 看来做MaaS 亏本还是赚钱取决于自身能力
@黄建同学
DeepSeek 5天开源周(实际今天第6天也放出来一个"DeepSeek-V3/R1 推理系统概述")总结:覆盖硬件加速、模型训练、数据处理等,均围绕*降低算力成本*与*提升硬件效率*展开,通过开源代码实现技术普惠。Day 1:FlashMLA—GPU算力压榨新标杆- 专为Hopper GPU优化的高效解码内核,动态分配算力资源,解决AI处理变长序列(如长/短文本)时的资源浪费问题。实测显示,翻译、内容生成等任务效率提升显著,成本降低30%。 - 挑战英伟达CUDA生态的封闭性,证明开源工具同样能最大化硬件性能,推动开发者对算力的精细化利用。 Day 2:DeepEP—MoE模型通信效率革命- 首个针对混合专家模型(MoE)的开源通信库,支持低精度计算(FP8),减少多专家协同训练的延迟与算力消耗,提升训练速度20%。 - 降低分布式训练的硬件门槛,助力中小团队参与大模型研发,加速MoE架构的普及。 Day 3:DeepGEMM—矩阵计算的“省电小能手”- 通过FP8低精度计算优化矩阵乘法(AI训练核心操作),结合CUDA误差修正技术,兼顾速度与精度,代码仅300行,易部署。 - 简化高性能计算开发流程,推动边缘计算与低功耗芯片(如国产ASIC)的应用场景扩展。 Day 4:DualPipe & EPLB—并行计算的“时间管理大师”- DualPipe:双向调度流水线任务,解决多任务并行中的等待问题; - EPLB:动态复制任务至空闲GPU,实现负载均衡,避免资源闲置。 - 提升集群利用率,降低超算中心运营成本,为云计算服务商提供高效解决方案。 Day 5:3FS—数据处理的“极速引擎”- 分布式文件系统结合SSD与RDMA网络技术,数据读取速度达6.6TB/秒,满足海量训练需求。 - 推动存储与网络技术的协同创新,加速AI大模型训练周期,助力超大规模数据应用落地。 Day 6:V3/R1推理系统—吞吐量与成本的“双杀”- 通过跨节点边缘计算(EP)驱动的批量扩展计算和通信重叠技术,显著提升吞吐量和降低延迟。具体表现为每个H800节点每秒可处理73.7k输入令牌,输出达14.8k令牌,满足高并发、实时性需求场景(如视频流分析、大规模即时推理)。 - 系统成本利润率高达545%,结合DeepSeek此前开源的训练优化工具链,实现从训练到推理的全链路降本增效。 - 提供标准化API接口,开发者可快速集成至现有应用,支持个性化功能扩展(如定制化AI绘画、写作工具后端)。行业影响:重构AI竞争格局1. 挑战英伟达:DeepSeek开源工具直击英伟达CUDA生态的软硬件耦合优势,为国产GPU/ASIC提供替代路径。 2. 推动技术民主化:中小开发者可基于开源模块快速搭建AI应用,降低创新门槛,催生更多细分场景解决方案。 3. 倒逼行业转型:迫使闭源厂商(如OpenAI)重新评估商业模式,加速全球AI开源生态的竞争与合作。 汇总:github.com/deepseek-ai/open-infra-index#DeepSeek披露理论利润率达545%##deepseek##ai创造营#
#美乌元首谈崩9分钟完整版# 如果你觉得有什么东西崩塌了幻灭了,那么我带你复习一下: Translate content 长图
今天的盲猜关注列表活动开始啦! //@在下许多多:嚯~臭老九整上下三滥的活儿了高举社会主义大旗你是又当✗又立✗和谐社会没见你出多少力,分裂观众群体带节奏你是蝎子莱莱独一份儿…//@艺能人_金广发:新中国有下九流么?如果有具体都是什么?旧社会的下九流全部没思考是经验之谈?//@在下许多多:你阴阳别人到时候别人阴阳你的时候别破防…靠观众吃饭的下九流有了思考后确实挺逗的…
@艺能人_金广发
国产电影兴奋剂?看完不敢说?#艺能人金广发##采访# #蛇年造梗大赛# 网页链接
恭喜@VC老杨 等100名用户等额平分【5000元现金】。微博官方唯一抽奖工具@微博抽奖平台 对本次抽奖进行监督,结果公正有效。公示链接:网页链接
@梁斌penny
“梁博,你发的内容挺好,就是太能吹牛了,这个会丢失很多粉丝的,我就没看到那个清华的人像你这么吹牛,真的不好。”答:可能这位同学是新粉丝,我的身世比较惨,早年学习一般,缺乏目标,没有动力,也没有人带,原本打算一生就混日子了。。命运的齿轮竟然从一次吹牛开始了。 高考发挥正常,考上了一所普通学校,虽然是计算机专业,但是学历不高。。进校的第一天,也不知道怎么搞的,就当着众人(包括本班同学和部分高年级同学)吹牛自己要过英语4/6级和软件中级。。于是未来的3年,备受同学老师嘲讽,学习动力非常足,因为要face,后来这些牛都做到了,成为那个学校,那个专业建校建专业以来,第一个完成此壮举的人。。 在学校我又吹了很多牛,比如骑车从连云港回南京,做了很多准备工作,但是出发前拉肚子了,发烧(可能食堂的饭菜问题),有个一起的同学考虑再三放弃了,然后大家都看我的笑话,认为我也会放弃,结果我一个人骑回南京,捍卫了face。 毕业后,其他同学找工作都是能找到就行,我非要找个好的,牛先吹出去,再努力,必能获得免费嘲讽,随后果然找到了当时在南京非常好的单位。后来的考研,也是吹牛要考南大,后来也考上了。。 后面的牛越吹越大,越吹越离谱,有时候自己都忘记了,两次吹的都不一致,后来发现微博上吹牛效果,比现实生活中还好,越吹越上头。 我儿子英语不好,我就怂恿他开学在班上吹牛,自己英语要考第一名,最终他胆怯了, 没有敢吹牛。至今发展缓慢。 说了这么多我就想说一句,无数大佬说过,清华北大不如胆子大,胆子要大一点,步子要大一点,胆量真的很重要,是核心竞争力,吹牛就是非常需要胆量,现在的这些互联网大佬,当年是多么能吹。吹牛真是能给自己目标,增加愉悦感,抵消疲劳,关键是还能拉来大量免费嘲讽,然后为了face,就真能玩命干了。 当然也不是什么都适合吹牛,对员工的承诺,对粉丝抽奖的承诺都是每一件兑现的,最近接的广告不少,今天就抽了吧。转发本条微博的铁粉,今天中午12点抽奖100人,每人50元(看个电影),总金额5000元,谢谢。 抽奖详情
回复@Nadve3:当你灰心丧气的时候,想到发出这种xx的xx都还xx地xx在这个xx的xx上,就会觉得自己好像也没那么糟糕。//@Nadve3:啥意思没看明白
@t0mbkeeper
亲爱的朋友,如果你遭遇了一点逆境,开始怀疑自己是否值得是否配,请搜索“李飞飞 安检”。