图一：虚假的 Hi-Fi 线图二：真正的 Hi-Fi 线
英伟达危险了//@马少平THU://@文光围脖1:其实我们最新的工作表明，通过软件和算法的改进，大模型预训练连h800都不需要，工业界投资在nvlink上是浪费钱。。。//@梁斌penny:我们用大模型打标，不用人工，用电//@宝玉xp:这人就是美国版梁博@梁斌penny //@郑峻:这个王前几天花钱在华盛顿邮报上打广告，称“川普总统，美国必须打赢AI战”。他父亲是移民美国的中国物理学家，从小就是学霸，从MIT辍学创业，现在身价20亿美元。Scale AI是标注数据的，美国媒体称他们主要靠亚洲和非洲极其低廉的劳动力成本，时薪甚至还不到1美元。 查看图片
@郑峻
硅谷很多人不相信DeepSeek居然可以用阉割版的H800芯片训练出一流模型。他们认为DeepSeek一定是通过黑市绕过出口管制，拿到了英伟达的先进GPU，而且还不是上一代的A100，而是最新的Hopper架构的旗舰GPU H100。Scale AI的创始人亚历山大·王（华裔）公开表示，DeepSeek的芯片数量可能高于外界想象，自己相信DeepSeek至少拥有5万块H100，因为违反了美国出口管制规定，所以他们不会公布具体数字。他进一步暗示，未来中国AI行业可能会面临更多挑战，“未来，他们将受到我们已经实施的芯片和出口管制的限制，难以再获取更多芯片。”
@光头怪博士
刚刚知道GPT两个很好玩的Bug：1. 很难生成人用左手写字的图片；2. 很难生成显示你想要的时间的钟表或者手表的照片，生成的时间大部分都是10点10分左右。试了一下，用的是GPT-4o。还真的是这样！怎么引导训诫都不管用 第一个很好理解：网上左撇子写字的照片太少了，在训练数据集里是高度under-representative的。第二个对我是新知识：网上钟表和手表的照片很多都是广告，这些广告一般都会选择时针分针对称分开的10点10分作为展示时间，导致了显示这个时间的照片在训练数据里是严重over-representative的。上网搜了一下，还真是如此！怎么说的，并不惊讶，但是这个程度。。。离所谓的AGI是不是有点儿远？
@宝玉xp
Twitter 的权重分数算法，把这图让 o1 pro 分析了一下：从这段泄露出来的 Twitter 排序公式可以看出，Twitter 对“高价值互动”有非常明显的偏好，而对“负面反馈”采取了非常严厉的惩罚。我们可以先逐行地看一下这些系数和含义，然后再给出一些优化和改进建议。1. 公式拆解Twitter Ranking Score = 75 * is_replied_reply_engaged_by_author + 27 * is_replied + 12 * is_profile_clicked_and_profile_engaged + 11 * MAX( is_good_clicked_convo_desc_favorited_or_replied, is_good_clicked_convo_desc_v2 ) + 1.0 * is_retweeted + 0.5 * is_favorited + 0.005 * is_video_playback_50 - 74 * is_negative_feedback_v2 - 369 * is_report_tweet_clicked1）高权重的正向信号：is_replied_reply_engaged_by_author（+75）：如果推文作者与某条回复进行互动，或这条回复是作者与读者之间的“深入对话”（reply engaged），那么就会有非常高的加权。这意味着对话作者对这条推文或回复作出回应，平台将其视为极其重要的信号，说明该推文内容非常有价值。is_replied（+27）：只要有人给该推文回复，也会得到正向加权。虽然数值远低于和作者之间的深度互动，但依然是一个高分项，体现出 Twitter 对讨论和对话的重视。is_profile_clicked_and_profile_engaged（+12）：若有人通过这条推文或链接点击了用户档案并进一步进行关注、收藏等操作，也能带来较高加分，表示推文吸引了读者对账号本身的兴趣。MAX(is_good_clicked_convo_desc_favorited_or_replied, is_good_clicked_convo_desc_v2)（+11）：这里看起来是一个“好的对话行为”或“好的点击行为”的指标，取两者中的最大值，乘以 +11。说明平台想要找出对话中更深层次、优质的交互（比如点击推文后进行点赞或回复）并加以奖励。2）中低权重的正向信号：is_retweeted（+1.0）：被转推获得的加权其实不算高，仅为 1 分。对比上面大几十的分值，可以看出 Twitter 对“转推”本身的价值定位低于“直接的对话回复与互动”。is_favorited（+0.5）：点赞只有 +0.5，进一步说明 Twitter 认为“点赞”是最基础、最轻量级的肯定信号，权重相对较低。is_video_playback_50（+0.005）：视频播放超过一半仅有 0.005 的加分，几乎可以忽略不计。可能是因为很多人看视频并不一定表示对内容非常认可，也可能是因为视频播放容易受自动播放、滑动浏览等因素影响，所以此项权重非常小。3）负向信号：is_negative_feedback_v2（-74）如果有人对推文做出负面反馈（可能包括“不感兴趣”“屏蔽”之类的行为），直接扣 74 分。可以看出，这和“is_replied_reply_engaged_by_author”的正向加分相当，负面影响极大。is_report_tweet_clicked（-369）如果有人点击“报告推文/举报”，会被惩罚性地扣 369 分，比负面反馈更严重得多。这基本上会让推文在推荐系统中瞬间“沉底”，意味着 Twitter 对“被举报”的内容加以强烈打压。2. 观察与解读互动的“质量”比“数量”更重要最高分值的几个信号都与“深度互动”相关：尤其是跟作者本人的对话（75）和回复（27）。这说明 Twitter 非常看重用户之间真正的对话交流。转推和点赞虽然也有加分，但远远不及回复和深入互动。鼓励关注档案与二次交互“点击个人档案”并在档案页面进一步互动也有较高加分（12），说明 Twitter 希望用户不仅仅是快速浏览，而是更深入地关注创作者本身。负面反馈和举报几乎“宣判死刑”负面反馈分数（-74）和被举报（-369）的权重都非常高，一旦出现大规模负面反馈或被用户举报，该推文的排名将快速下滑。音视频内容播放比重被严重弱化视频播放仅有 +0.005，表明除非有人进一步对推文做出点赞、回复，否则单纯的视频观看不足以显著提高推文排序。系统的“平衡点”整体来看，Twitter 排名系统尽量挖掘“用户强互动”并过滤“用户强烈不满”的内容，让更多有讨论度、有价值的推文能浮到更前面。3. 给出的改进/优化建议对于创作者：引导用户回复与讨论既然“回复”乃至“作者与读者深度对话”是最高权重，那在内容创作时应注重引发读者的思考或讨论，提出开放性问题、鼓励读者留言等；同时，如果作者自己能多去回复互动，会有更大加成。在推文中引导用户进一步点击或查看主页适度在推文中提及一些个人主页里的信息、项目链接等，吸引读者点击档案页并进行后续操作（关注、查看更多内容），可以赢得那 +12 的不俗加分。谨慎对待各种负面反馈高度关注是否有人对你的推文点“我不感兴趣”或进行投诉/举报。负面反馈的扣分极为严重，需要创作者在选题、用词、态度方面保持谨慎，避免太过敏感和极端化的内容。使用更多的富媒体（但要强调互动）视频或图片本身对吸睛有帮助，但如果只靠播放量并不能带来高排序分数。应尽量在富媒体内容里引导用户进行更深入的互动，比如让他们发表评论、回复、点赞，从而把富媒体播放与更高层次的动作结合起来。善用“对话”的氛围Twitter 强调对话，对长链回复、问答、辩论等情形，分值会更高。如果你能引导粉丝之间相互讨论或多次回复，也能进一步提升推文权重。对于平台（算法层面）的可能改进：平衡过高的权重差距目前从 75 分、27 分到 0.5、0.005 分的跨度非常大。对于某些类型的内容（如视频），即便产生了大量播放，也无法抵消几条负面反馈或一次举报带来的严重扣分。可以考虑在整体算法里对不同信号进行更平滑的加权，以免激励过度地“刷回复”或“刻意引战”，也避免优秀视频内容被埋没。更精细地区分负面反馈类型“不感兴趣” 和“真正冒犯或违规”有着本质区别，若将所有负面反馈都套用-74，会导致某些非恶意类反馈的影响过度。可以考虑引入更多维度，对反馈类型进行更细分的区隔，比如“无兴趣”“垃圾邮件”“仇恨言论”在算法层面的区别对待。引入更多的正向反馈形式除了点赞、回复、转推和点击主页，也可考虑把“发送私信（基于推文）”等更多信号纳入评分体系，精细衡量用户真实喜爱程度。增加对优质多媒体内容的识别和加权目前对视频播放仅给了极低加分，但在当下趋势里，优质视频或图文结合的推文往往对用户有更强的吸引力和创作成本。可以考虑引入更丰富的机器学习特征来识别是否是“高质量”视频或图文，从而更好地推荐给用户。4. 结论从这个排序公式可以明显看出：最重要的是引发对话、激励读者回复，以及作者自己也积极参与回复。负面反馈与被举报会带来巨大的扣分，需尽力避免。简单的点赞或转推并不能给予很高的排名增益，相比之下“深度互动”更关键。引导用户点击并进一步关注/互动可有效提升推文的可见度。对于创作者而言，如果想在推文算法中获得更好的曝光，应该重点关注“与作者及读者的交互质量”、“减少和避免负面反馈”这两大方面。对于 Twitter 平台本身而言，也需要在信号加权、负面反馈细分以及对富媒体的评估上不断做迭代和优化，才能更加全面、精准地衡量内容质量。
我们用大模型打标，不用人工，用电//@宝玉xp:这人就是美国版梁博@梁斌penny //@郑峻:这个王前几天花钱在华盛顿邮报上打广告，称“川普总统，美国必须打赢AI战”。他父亲是移民美国的中国物理学家，从小就是学霸，从MIT辍学创业，现在身价20亿美元。Scale AI是标注数据的，美国媒体称他们主要靠亚洲和非洲极其低廉的劳动力成本，时薪甚至还不到1美元。 查看图片
@郑峻
硅谷很多人不相信DeepSeek居然可以用阉割版的H800芯片训练出一流模型。他们认为DeepSeek一定是通过黑市绕过出口管制，拿到了英伟达的先进GPU，而且还不是上一代的A100，而是最新的Hopper架构的旗舰GPU H100。Scale AI的创始人亚历山大·王（华裔）公开表示，DeepSeek的芯片数量可能高于外界想象，自己相信DeepSeek至少拥有5万块H100，因为违反了美国出口管制规定，所以他们不会公布具体数字。他进一步暗示，未来中国AI行业可能会面临更多挑战，“未来，他们将受到我们已经实施的芯片和出口管制的限制，难以再获取更多芯片。”
前面说的那个网络故障（微博正文），问题解决了，但疑问并没有消失。我通过抓包发现，A 以有线方式通过 B 上网，访问 IPv4 的时候，A 会发出大于 1500 的包，然后就是一堆 TCP Retransmission。显然包没发出去。这就是有些网站能访问，有些网站不能访问的原因。能访问的那些网站是解析为 IPv6 的。但是，我打开网卡的高级设置，看到 Jumbo Frame 选项是 Disable。理论上，这里 Disable 了网卡就不应该发出超大的包。但我也只好死马当活马医，把 Jumbo Frame 设置成 9KB MTU——居然就好了。按道理说，Jumbo Frame 设置成 9KB MTU 才会发出超大的包，但现在居然是设置成 9KB MTU 才不会发出超大的包。而且进一步测试发现，只有当 Jumbo Frame 设置为 9KB MTU 和 8KB MTU 时网络访问才正常，设置为 7KB MTU 或更小的值都不行。所以说问题解决了，但疑问并没有消失。PS：在评论区网友的提示下，我发现禁用 Large Send Offload 也能解决问题。但这仍然无法解释为什么把 Jumbo Frame 设置成 9KB MTU 可以解决问题……
我遇到了一个诡异的网络故障。有一台计算机 A，一个路由器 B，一个路由器 C：1、A 以无线方式通过 B 上网，一切正常。2、A 以有线方式通过 B 上网，Chrome、Edge、Firefox 都无法访问某些网站，但用 curl 等命令行工具可以。3、A 以有线方式通过 C 上网，一切正常。我想了半天觉得问题只可能出在网卡上，因为 1、2 两个情形唯一的差别就是网卡不同。于是我给 A 增加了一个 USB 网卡，再用 USB 网卡以有线方式通过 B 上网，果然也一切正常。但我想不通的是，网卡如何导致上面这种故障？