《文科生听懂大模型》第一课 Transformer架构PPT全部弄完了,已经找人润色整理格式等等,明天发给同学们提前预习。下周的线下课程报名截止了,请不要再报名了,@梁博第二助理 忙不过来了,一共报名了500多人,场地有限,只邀请了200人来现场学习。课程有视频会公开,计划在微博和B站首发。所以没有来现场的,也不要遗憾。活动不会做学习群,也禁止拉群,防止个别想做生意的来捞人。现场也不会拍照,毕竟有些人都是偷偷跑来学习的,会保护隐私,视频也只会对着投影和白板,如果有提问的人需要保护隐私,通知工作人员,我们会做声音处理。课程全部免费,全部活动没有收费项目,如果有收费一定是骗子。。晚上还要继续写第二课课件 《大模型的若干高级话题》,主要大模型日常遇到的一些行话和术语,这个还真不少。。
去年的流感病毒是 H1N1 为主,今年是 H3N2 为主。H3N2 对 65 岁及以上老年人造成的住院率和死亡率较高,而 H1N1 在儿童、青年和中年人中造成严重结果的比例较高。通俗地说:H3N2 对老年人更危险,H1N1 对年轻人更危险。
@财联社APP
【多名欧洲领导人:应以俄乌当前战线为谈判起点】财联社10月21日电,据新华社,法国总统府21日发布一份多名欧洲领导人关于乌克兰问题的联合声明,称“强烈支持”美国总统特朗普在乌克兰问题上的立场,即俄罗斯与乌克兰立即停火,以当前战线作为谈判起点。声明写道:“我们依然坚持这一原则:国际边界不得通过武力改变。”声明称,将加大对俄罗斯施压,持续支持乌克兰。为此,联署这则声明的欧洲领导人正在制定方案,将利用被冻结的俄罗斯资产支援乌克兰。他们将于本周晚些时候举行相关会议。法国总统府的信息显示,乌克兰总统泽连斯基是联署声明的领导人之一,其他领导人包括欧盟委员会主席、欧洲理事会主席、法国总统、英国首相、德国总理、意大利总理、波兰总理、挪威首相、芬兰总统、丹麦首相等。
我发现 Sora 已经拒绝生成川普形象的视频了——无论是在提示词中直接指定川普,还是通过上传川普的照片或者哪怕是卡通造型的图片,甚至完全通过提示词设定类似川普的人物造型都会被拒绝。我首先想到的是白宫对 OpenAI 施压或者奥特曼主动表现积极靠拢。但我又发现生成图片仍然是可以的。查了一下:昨天 OpenAI 和美国演员工会等组织达成了协议,要防止 Sora 被用于生成深度伪造视频。考虑到川普也曾是美国演员工会的成员(至今还在从美国演员工会领取养老金),虽然 2021 年因为国会山骚乱事件被开除了,所以 Sora 拒绝生成川普形象的视频可能只是因为和美国演员工会的这个协议。
我的网络设备比较多,弱电箱放不下。我搞了一个迷你机架,单独放在一个橱柜里。于是这个橱柜内部温度就比较高,三十多度。之前想过要不要在柜门上开散热孔,或者用那种隐藏式门缝散热器。但我推演了一下后果——任何散热方式都会导致散热口附近被熏黑。考虑到温度也不是很高,我觉得可以忍。前阵子买了些猕猴桃,都还是硬的,跟苹果一起密封放了几天变化也不大。我想到提高温度应该可以加快后熟速度,但怎么提高温度呢?我一拍大腿:家里有现成的温室啊!于是我就把猕猴桃放在那个柜子里。果然,很快就能吃了。那么发面是不是也可以?做酸奶是不是也可以?——酸奶需要更高的温度,但是可以开 BT 下载增加网络设备功耗提高发热量!我觉得应该可以实现一个通过控制网络流量对橱柜内温度进行精确调节的程序。现在我对这个温暖的小空间很满意。唯一的问题是昨晚打开柜门从里面飞出一个蚊子,然后蚊子可能嫌外面冷,又飞回去了。
看来关注列表定律对大模型同样生效。参考:微博正文
@木遥
本日最好笑研究:在训练 AI 的时候,如果强迫 AI 大量阅读社交媒体,会对 AI 造成不可逆的脑损伤。与在高质量数据上训练的对照组相比,持续投喂垃圾数据(确切来说是让它拼命刷推)的 LLM 在推理、长上下文理解和安全性能上均表现出明显的衰退。模型在性格测试中表现出精神病态和自恋等特质的得分显著提高。错误分析显示,模型的主要病变是思维跳跃,即越来越倾向于截断或跳过解决问题所需的关键推理链条。研究者比较了什么样的帖子最有「毒性」,发现最好的相关性指标是参与度,也就是一条贴文有多火。最容易病毒式传播的内容也最容易导致脑损伤。这种认知衰退具有持久性。在模型出现脑损伤后,再用高质量的干净数据对其进行指令调整和继续预训练,也只能观察到部分但不完全的治愈。模型的表征漂移仍然存在。你很难不怀疑这个研究是在指桑骂槐。论文地址:网页链接