peopleevents
梁斌penny 2025-06-05 10:20+08:00Z
原微博

比如:搜索引擎回答不了“林徽因老公的弟弟的舅舅是谁这种问题”,后来谷歌搞了知识图谱解决了一部分推理问题,但非常有限,最终大模型解决了这种泛化问题(语料中没有的间接知识,但是通过推理得到的新知识)。//@盐你一脸喵:泛化能力跟搜索引擎没有自己的理解不是一个事儿吧

@梁斌penny

“梁博,我昨天一个实习面试搞砸了,面试官问我用一两句话概括对大模型的理解,解决了什么问题,为什么能解决这些问题。我一下子就懵了,我一个大四学生,哪能有很高的理解水平呢,又向往大模型公司,这个问题要怎么回答呢?”答:我认为大模型的核心价值2C来说是压缩信息差,此前搜索引擎做到了一部分,但是缺2个。第一个是泛化能力,搜索引擎相当于从自己知识库找到相关性高的答案给出,没有自己的理解。第二个是受限于阅读习惯,只能按照按一定排序算法顺序给出参考,距离最终答案还需要人工做最后解读和整理。而大模型解决了这些问题,一步到位直接给答案,极大的压缩了信息差,实现了信息进一步公平。2B来说是整理数据的能力大大提高了,我们此前整理数据,使用了各种各样的自然语言处理工具,整理效果和性能都不行,大模型把这方面能力大大提高了,这也使得中美两国,包括一些拥有巨大数据的公司,Palantire,彭博,还有一些对冲基金公司的数据被更高效的整理,整体价值大大提高了。至于为什么大模型解决了这些问题,有两个特别牛逼的结合,第一个是注意力机制,这个解决了对输入的精准理解。第二个是残差网络,这个解决了深度神经网络训练梯度消失,梯度爆炸的问题。而深度神经网络可以拟合任何输入和输出的特性,加上上面2条改进,就成为无敌的利器。当然我的回答可能还是繁琐了一些,如果简单来说,2C是压缩信息差,2B是提高数据整理能力。核心改进是注意力机制(首创)和残差网络(借鉴),这么回答基本可以过关了。。

上一页第298/995页每页 10 条总共 9943 条下一页