全行业一拥而上猛蒸馏,发现API不行自己部署,然后发现效果不对,一通忙啊,这几天,我厂也是一团乱麻,刚刚搞定//@八大山债人:回复@tuo-niao:付钱了也搞服务器忙?那可以起诉deepseek赔偿了。。。#债见# 。。。//@tuo-niao:大佬,我看你这么说,立马去试了下,结果api也是一直time out,害我白高兴了
@八大山债人
的确,你如果在deepseek遇到越来越多的“服务器忙”,你应该就是不付费用户,他们家的算力估计都优先供给付费用户api等等。。。所以,可能deepseek真的不打算直接搞to C业务了。。。#债见# 。。。
博士后卖煎饼,蛮好的,老婆也不嫌弃,还一起干起来了。 梁斌penny的微博视频 Translate content播放视频播放当前时间 00:00/时长 01:18加载完毕: 5.94%媒体流类型 直播试图直播,当前实时播放直播 播放速度0.5x1x(默认), 选择1.25x1.5x2x倍速高清 720p, 选择标清 480p流畅 360p720p小窗播放试试“小窗播放”,边刷微博边看视频 全屏静音This is a modal window.梁斌penny+ 关注 复制视频地址 正在小窗播放中点击展开01:18 3874次观看
有网友说我阴阳华为芯片。。这没有,我哪敢呢,华为还是我们的。。我只是说水比较深,难以掌握,型号多,这个都是客观事实,怎么就阴阳了呢。还有网友说用4090显卡24G显存也能搭一个,结果一看是Q2量化,也有说4090显卡可以搭满血满尺寸,结果一看是1000多token/s。4090显卡不是说不好功耗太高了,费电,大厂员工可以不考虑电费,我们创业小厂电费太关键了。。16张4090魔改48GB显卡,跑满大概不到2000tok/s,耗电5400瓦 ; Mi300x 跑满 6000瓦,3500tok/s;耗电上还是MI300X便宜。而且这种2台机器,16张卡,涉及到跨机器组网,这里面有高科技,4090不能直接用nvlink,要做到高速互联,还是比较吃通讯带宽,优化上升通道有限。怎么说呢,今天不少大厂技术同学和我们交流,挺热闹的,大家都拿出自己的测试结果讨论,还有用H20的,大厂的特殊情况,这种都不是公开交流和发布的,只有我厂不怕,发了测评。。后面我们也会测试一些其他方案的情况,供大家选型参考。
renew
@t0mbkeeper
既然已经有人讨论 ChatGPT 会不会取代搜索引擎了。我必须要说:让 ChatGPT 这种东西取代搜索引擎是危险的。不仅不应用 ChatGPT 取代搜索引擎,也不应用最近几年你们常用的短视频平台、购物社交平台来取代搜索引擎。知识的供给绝对不能被垄断。搜索引擎固然可以控制搜索结果排序,但这毕竟是一种弱干预。同时,世界上也存在多个不同的搜索引擎。而一旦我们习惯了某个东西把问题的唯一答案喂到嘴边,这就是给自己请了一个赛博 Big Brother 回来。
@中国经营报
#曝纵目科技创始人失联或临爆雷#【独家|陷欠薪风波 智驾公司纵目科技创始人失联或临爆雷】#唐锐曾建议员工离职自行缴纳社保# 作为昔日智能驾驶领域的明星企业,纵目科技(上海)股份有限公司(以下简称“纵目科技”)深陷“舆论风暴眼”,面临的经营危机不断加剧。#曝纵目科技封楼员工凭证带走私物# 2月8日,有纵目科技员工告诉《中国经营报》记者,他们公司行政在钉钉群内发消息称,2月8日18﹕00后开始断电并封楼,员工可在以上时间内把个人物品取走或者办理离职证明。1月26日,纵目科技曾召开全员会,该公司CEO唐锐向员工告知公司所处的艰难现状,并建议大家可以离职,自行缴纳社保。多位纵目科技的员工也向记者证实了上述说法。对于公司员工的欠薪、寻求并购的进展等相关问题,记者多次拨打唐锐手机号,但均处于关机状态。与此同时,记者也短信向唐锐发送采访问题,但截至记者发稿,也未收到回复。本报记者 夏治斌 石英婧 上海报道 独家|陷欠薪风波 智驾公司纵目科技创始人失联或临爆雷