大量硬盘从南京发出//@司寇玹棠:不是还有@梁斌penny 为这些大模型提供训练数据吗?//@冬亚:唉,南京呢?继续躺着呢?//@UB_吴斌:我观察,大模型这波技术浪潮,中国的产业驱动中心,正在由珠三角,转向长三角。比如,目前发展最快的:DeepSeek(杭州深度求索人工智能基础技术研究有限公司,杭州),MiniMax(上海稀宇极智科技有限公司,上海),通义千问(阿里,杭州),秘塔(上海秘塔网络科技有限公司,上海)。
@张俊林say
国内大模型发展速度确实快,Deepseek和阿里在开源方面已经领先国外的Meta,是世界范围内开源最强者,而且目前国内发布的推理模型效果基本和o1打平,虽仍弱于o3,但是技术路线走通了追上甚至赶超是必然的,只是时间问题。目前国内开源的风气越来越好了,这是被Deepseek和阿里带动起来的,或者说是被逼迫的,希望国内公司能更进一步,开源方案超过OpenAI 的闭源方案,逼迫国外头部大模型公司重回开源路线,只要我们自己实力够强且开源,这就是有可能的。为啥呢?道理很简单:如果闭源公司作出的模型还不如开源模型,想靠闭源获得技术领先优势以及由此而来的API调用收入就不再成立,此时要么走出很大的差异化路线(基座模型要做到这点很难,谁最强谁就是差异化最明显的),要么放弃基座模型转而去做应用,要么转而也跟进开源,貌似可做的选择不多。目前陆续有之前定位为基座模型的公司放弃了基座模型训练,其实在现在这个时间点应该咬咬牙坚持下去,因为目前大模型基座的研发重心已经转移了,可以找到相对低成本把模型做到最强的方法。好的选择貌似是可以选择放弃Pre-train阶段,Base模型可以采用最好的开源模型,重心放在Post-Training阶段,目前看如果方法得当,完全可以低成本得做到最强。在基座模型快速发展与竞争的年代,如果立志于做基座模型,最好放弃短期内靠基座模型获取收入的想法,你只要有这个念头并试图去做些什么,大概率就会掉队。国内基座做的最好的几家,Deepseek、阿里,这两位是国际开源届的翘楚,已经通过开源模型的能力证明了自己;再加上字节豆包,字节基座模型能力说不上特别强,但胜在产品力Max及AI赛道无论投入多少都要拿下的决心。你要找共性因素的话,一方面就是持续投入的决心比较坚决,无论投入多大一定要把最领先基座模型这个赛道要占住,另一方面也都有从其它渠道获得的资金来做资源投入,不指望靠基座模型本身赚钱,专心把基座模型做好。有其他收入来源养活基座模型团队,这点是其它创业型大模型公司比不了的优势。但是比较残酷的现实就是如此,如果既想要收入又想要技术领先,目前看基本是不可能的,OpenAI先发的巨大领先优势目前几乎丧失殆尽,跟这个也有很大关系,好的思路是未来两年重点把基座模型做到第一梯队把其他人快速甩开,到最后剩下几家最终胜出再考虑怎么赚钱的事情,而且那时候应该更容易找到赚钱的方法。腾讯在AI赛道的潜力我认为是被低估的,尽管腾讯不以技术见长,看似在AI方向胜算没有太大,但腾讯的风格是后发先致,看清后投入比较坚决且有能力做巨大的投入,所以我个人其实比较看好腾讯未来在AI赛道的表现。国外的最大潜力股那肯定是马斯克的xAI了,不计成本的资源投入国内外首屈一指,做到最顶尖速度应该比较快。
回复@charlotteny:微博正文 //@charlotteny:晚上好,朋友们。我想问一下怎么治脚气……
@t0mbkeeper
我之前说过猫真菌感染的事情,那个是猫藓,最后猫尾巴的毛都掉光了,整个尾巴外面结了一层硬壳。兽医开的药抹了也不见效。我分析了一下,认为就是因为有硬壳,所以药透不进去。于是我用治脚气的水杨酸制剂浸透一张厨房纸巾,然后把纸巾包到猫尾巴上,外面再用保鲜膜包住,二十分钟后拆开清洗。这样两三天硬壳就脱落了。这时再涂抗真菌药,很快就治好了。
你顶板了吗?
@t0mbkeeper
I told you so. t0mbkeeper的微博视频
@刘群MT-to-Death
#诺贝尔物理学奖# 竟然颁给了John Hopfield和Geoffery Hinton,真是让人大跌眼镜。虽然他们的工作不能说跟物理毫无关系,但他俩怎么都算不上物理学家吧?感觉诺贝尔奖也在蹭AI的热度。不过说起Geoffery Hinton,真是个传奇人物,他的经历太有意思了。不仅他自己传奇,他出身的家族也是一个传奇家族。经常看我微博的人应该注意到我发过很多谈到Hinton的微博。这次我也蹭一下诺贝尔奖的热度,把Hinton和他的家族的传奇故事再罗列一下:* 他的父亲是一位英国昆虫学家,母亲是一名教师,他们都是共产主义者;* Hinton从未正式上过计算机课程,本科在剑桥大学读的是生理学和物理学,期间曾转向哲学,但最终拿到的却是心理学方向的学士学位;* Hinton曾因为一度厌学去做木匠,但见识过真正的木匠大牛以后觉得自己缺乏做木匠的天赋,只好回到爱丁堡大学,并拿到当时的“冷门专业”人工智能方向的博士学位;* 博士毕业后曾在美国工作过一段时间,但因为不愿意接受美国国防部的资助,回到了加拿大;* 他的生活很不幸,第一任妻子患癌症去世,第二任妻子后来也患上癌症,自己抚养收养的两个孩子,其中一个患有多动症和其他学习障碍。他自己也患有严重的腰椎疾病,使他他无法像正常人那样坐下,日常的大部分时间都必须站立工作,因此也排斥坐飞机;* 他在多伦多大学工作的时候跟学校达成协议,他录制视频课程,然后赚到钱跟学校分成,但最后赚了钱学校却赖账不给他分钱;* 数学不好让他在做研究时倍感绝望,当了教授之后,对于不懂的神经科学和计算科学知识,他也总要请教自己手下的研究生;* 他在深度学习方面的工作出名以后,百度接触他希望收购他的公司,他跟他的合作者很聪明地选择了拍卖,拍到了一个天价,最后他们还是选择了谷歌;* 他的学术观点非常鲜明。他相信AI将比人聪敏并最终统治人类,为此也忧心忡忡。他直言不讳地说乔姆斯基的是个疯子。批评RLHF只是在生锈的汽车上涂了一层漆。* Geoffery Hinton的一个堂姑John Hinton(寒春)是美国核物理学奖,早期当过费米的助手,曾经参加过美国制造原子弹的曼哈顿项目(很快就退出了),认识杨振宁。后来她成为了共产主义革命者、国际主义战士,并于1948年来到中国参加中国革命,取中文名寒春,并与另一个美国人阳早结婚,余生全部奉献给了中国革命,在中国主要从事奶牛养殖技术工作,被称为“中国人民的好朋友”,“国际友人”,成为第一个获得中国绿卡的外国人。对外经贸大学教授阳和平是他们的儿子。* Hinton的曾祖母的妹妹,也是寒春的祖母艾捷尔·丽莲·伏尼契是爱尔兰女作家,著名的小说《牛虻》的作者。该书描写了意大利革命党人牛虻的一生。《钢铁是怎样炼成的》主角保尔最喜欢的小说就是《牛虻》。* 寒春的曾祖父乔治·布尔(George Boole),是布尔代数的发明人,布尔代数是计算机科学的基础之一,学过计算机科学基础的人对布尔代数一定不陌生。(题外话:布尔曾经长期在爱尔兰居住,我在爱尔兰工作的时候,爱尔兰的某个机构还联系过我,希望搞一个布尔诞生200周年纪念活动,问我能不能帮忙联系中国计算机学会提供一些赞助,可惜我当时没有办成这件事情,也不知道这个纪念活动最后有没有举办。)图1:2024诺贝尔物理学奖得主John Hoppfield和Geoffery Hinton。图2:Geoffery Hinton。图3:阳早和寒春(John Hinton).图4:伏尼契。图5:小说牛虻中文版封面。 #微博新知#