【极客公园 IF 2024】张宏江 & 卢一峰:大模型皇冠上的明珠,到底是什么?

发布时间:2023年12月20日

原文未找到,记录一些自己看对话时的笔记体会

  1. 快思考与慢思考: 大语言模型目前处于快思考的阶段,主要基于预训练,虽然强大,但离慢思考解决复杂问题还有很长的路要走。这需要更多强调慢思考能力的准确性和深度

  2. 技术与应用的突破: 在大模型驱动的创业浪潮中,技术和应用方面可能会产生重大突破,这不仅会带来生活的便利,也有望给整个人类带来更多价值。

  3. 硬件与软硬件共生: 硬件的变化如TPU、GPU的成熟将与软件共同进步,利用硬件的优势推动AI技术的发展

  4. 数据层面的突破和挑战: 挑战在于数据的丰富性和质量,尤其是缺乏超人类水平的数据,互联网数据是普通人类的水平。如何寻找和创造高质量的数据成为重要议题。数据实际是任务,是目标,做各种各样的task,世界模型,啥都知道一点,训练里面各种问题都做过。

  5. 创新的三类境界: 对创新有不同层次的定义,从达到人类平均水平到超越人类认知极限。
    (1)人类平均水平
    (2)Alpha Go、Alpha Fold 突破了人类的极限认知
    (3)给定这个环境的目标,达到超人类的结果

  6. AI作为工具的角色和个人的关系: AI是一种工具,需要了解其边界和玩法,并通过全力拥抱、调整或适应来加强自己的生活和工作。没有人比你自己更像你自己,每个人都有自己擅长的领域,需要play自己的game,同时将AI视作强大的工具之一来改变生活和工作,增强自己的人生

一些语录

卢一峰参加极客公园创新大会 2024 时表示,现在的大语言模型实际上还是属于快思考的模式。它的知识来自于整个互联网数据的压缩,压缩后进行重新组合、汇编,试着回答用户的问题。它实际上离慢思考,离能够帮助人类解决很难的问题还有很长的路要走。

先下山再上山,才能登上更高的山峰

也许未来在这一波的大模型驱动中,这个创业浪潮中间,能够产生技术上的一些突破,能够产生应用上的一些突破,不光是给我们生活带来方便,也会给世界给整个人类带来更好的价值。

多模态,世界运行的规律不仅仅是书本知识,一图胜千言,其他信号也是非常有意义的,还没有完整的被纳入文本训练之中

文章来源:https://blog.csdn.net/liluo_2951121599/article/details/135089492
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。