回复@用户rs2i1poegs:也不能说没有，具体可搜索“长刀之夜”，不过论起搞清洗，希特勒和斯大林比起来就是小巫见巫妖王了：微博正文 //@用户rs2i1poegs:好奇1到54后来咋样了？是不是都被突突了？
@tombkeeper
1919 年，德国在第一次世界大战中战败。德国陆军政治部成立了一个调查局，开始对境内各种政治团体进行调查。30 岁的陆军下士希特勒加入这个调查局，当上了特务。1919 年 9 月 12 日，希特勒接到命令，去调查慕尼黑“德国工人党”的一次集会。德国工人党是一个很小的政治团体，只有 6 名委员，总共也就 54 个成员。按说希特勒只需要以热心群众的身份低调的坐在角落里听着，回去写份报告就行了，但当他听到有人说巴伐利亚应该独立的时候就忍不住站起来，大骂这个人是中了犹太人分裂德国的奸计。显然，希特勒的表现令人印象深刻。很快他就收到德国工人党的党魁德莱克斯勒寄来的明信片，邀请他入伙。希特勒考虑再三，居然同意了，成为了该党的第 7 名委员和第 55 名成员。不过后来希特勒党证上的编号是 555——他们为了显得人多，是从 501 开始编号的。当时德国工人党内鼓吹雅利安人优越性、扮演精神导师角色的是埃卡特，一个诗人、记者、酒鬼（1923 年就喝酒喝死了）。埃卡特认为他们需要的领袖应该是这样的：“他要能够吃得消机枪的声音。群众是需要吓一吓的。我们不能用军官，因为大家现在不再尊重他们了。最好是一个能说会道的工人……他不需要什么脑筋……他必须是个单身汉，这样我们就能#吸引妇女#。”当希特勒加入德国工人党之后，埃卡特发现自己一直在找的人终于出现了。于是埃卡特积极地帮希特勒建立人脉，还帮他提高德文水平。在埃卡特的辅佐下，一年之后，希特勒就取代德莱克斯勒成为了德国工人党的党魁，并将其更名为“国家社会主义德国工人党”，也就是纳粹党。也就是说，希特勒本来是朝廷派到梁山的探子，但他居然在梁山入伙，还坐上头把交椅，竖起了“替天行道”的大旗。
MLA是一种计算技巧。计算自注意力机制的时候，其中有一步是自己和自己的转置相乘，句子的长度，每个词汇的embedding维度都特别很大。比如序列长度1024个token，K和Q维度都是512。这个计算量是 1024*1024*512 = 536870912次乘法（加法计算量低忽略不计）；如果采用低秩链接压缩技术。把一个大矩阵变成了个小矩阵的乘积来计算。比如K变成K1*K2。K1的维度是1024*50；K2 的维度是50*512。之前K*Q的计算量就变成了K1*（K2*Q），此处要用一下结合律。则需要50*512*1024+1024*50*1024 = 78643200次乘法。节约了85%的乘法计算量。当然一个大矩阵拆乘2个矩阵相乘，也有成本，总体上肯定是有正收益的，这帮年薪都200多万的大牛，肯定比我算得精准。。全网也只有我这么算给大家看了吧
我现在天天有网友让我谈大饼，中X国际，英X达，活生生把我一个高端技术大咖的形象给糟蹋了。。。也就偶尔说说就可以了，还是要说正事，毕竟基本盘还是科技类网友。最近和一些高科技老板沟通一个事情，与大家分享下，就是抢占入口这件事情，是否还那么重要，你看以往的高科技，不一定是最牛逼的技术，只要抢占入库，后面的人都很难超越。OpenAI是第一个获客奇迹，然后就是我们国内的Ds，轻松就抢回了入口，前面烧入口，烧用户习惯的资本叫苦不迭。。我觉得现在高科技时代下，越来越是好饭不怕晚，慢慢打磨技术，不着急，你看多少导演导了一辈子了，名满天下，票房收入也不如饺子2部电影来钱多。这对于投资界的眼光提出了新的要求，不是说有钱砸就一定能砸出东西出来，还是需要看到厂长的魅力和坚守，只要是出真正好的东西，现在社交媒体这么火，传播这么牛逼，烧入口的老套路真不好使了。。我厂现在也是积极向组织靠拢，把技术做细，做扎实，现在大家一窝蜂搞知识库，我厂就不着急，还是要打磨技术，出精品，别老想着时间窗口这个问题，真不着急的，同志们。
“梁文锋在幻方量化时就以薪酬慷慨著称，他会给数据科学家开出150万的年薪，而同行给的数字一般不会超过80万” 我怎么就没这个格局呢//@Apache9:北大清华步行都可达的地方应该是圆明园//@_杨肉_:路透社没去过北京吧，清华北大走到融科不累吗//@来去之间:“这样的异常支出让幻方量化受到了证券监管部门的注意，但最终没有做出干预，这对后来DeepSeek的问世至关重要，因为2022年开始，中国企业就不太能够合规买到A100了”
@阑夕
DeepSeek-R2真的要来了，这次不是KFCVWO50！来自路透社的独家报道：- DeepSeek原计划在5月初发布新一代R2模型，但已经开始考虑提前发布，这段时间Grok 3、Claude 3.7、Qwen 2.5-Max等竞品接连推出，还是有影响的；- 梁文锋在距离清华、北大两所高校步行可达的地段设立了北京办公室，非常乐于和实习生以及应届生一起工作和讨论问题，而且从不鼓励加班；- 采访中一名已经离职的研究员依然对前老板赞不绝口，「他把我们视为专家，不断提问，一起学习，而且愿意下放管理权，普通员工也能参与核心技术，这很让人兴奋」；- 梁文锋在幻方量化时就以薪酬慷慨著称，他会给数据科学家开出150万的年薪，而同行给的数字一般不会超过80万；- 在创办DeepSeek前，幻方量化就制定了把70%对可支配收入投入到AI研究上的战略，从2020年到2021年，幻方量化花了12亿买卡训练模型；- 这样的异常支出让幻方量化受到了证券监管部门的注意，但最终没有做出干预，这对后来DeepSeek的问世至关重要，因为2022年开始，中国企业就不太能够合规买到A100了；- DeepSeek-R1爆火之后，梁文锋被建议不要和媒体接触，因为担心过度炒作会引起不必要的争议，尤其是在地缘政治的风口浪尖，苟住再说；- 另有前员工表示，DeepSeek不缺算力，能够进行大规模训练，但梁文锋对更具经济成本的模型架构非常关注，这决定了DeepSeek的发展路线以及后来的巨大成功；- 全球的AI大厂至今都还在消化DeepSeek-R1造成的影响，也都盯着R2的时间表，它的发布会是今年AI行业的又一个关键时刻。