【人工智能】直觉的力量 | 杰弗里辛顿最新对话 | Sana AI峰会 | 回忆AI生涯 | Ilya的能力和直觉 | 缩放法则 | 多模态 | 语言与认知 | 神经网络 | AI情感 | 反向传播

最近图灵奖得主杰佛里辛顿Geoffrey Hinton，和天才创业者乔尔·海勒马克Joel Hellermark进行了一场对话，被网友们评价为每一秒都是精华。在这次访谈中，辛顿谈到了很多话题，包括回忆自己的人工智能生涯、当前大模型的技术路线、多模态学习的重要性、数字计算与共享知识、智能系统的意识与情感，以及他的合作者和优秀的学生伊利亚苏茨克维尔，等等等等，大飞我看的过程中真是有一种享受的感觉，这里跟大家分享一下。
原视频链接： • Geoffrey Hinton | On w...
#geoffreyhinton #backpropagation #neuralnetworks #ilyasutskever

[@GeoffreyQian]

在您5.09 提到的那篇论文中，Hinton教授的名字排在了自己两位学生之后，他待人之公平和人格之高尚令人敬佩

[@bestpartners]

哈哈，您的名字正好也是 Geoffrey

[@GeoffreyQian]

@@bestpartners❤

[@scottwang3541]

太棒了！感谢大飞老师的讲解！点赞支持！

[@scchen2011]

Sofa!這集太棒了。🎉

[@planplay5921]

谢谢，刚看完原视频，来听精简。以前我赞同杨立坤对于语言模型如今架构无法真正“理解”，而现在辛顿的观点让我重新思考

[@user-tf8ib2hb7i]

我都觉得人类自视甚高。人类都无法理解大脑的链接原理，但是却笃定AI无法真正理解。所以人类对于不理解的大脑反而“神话”了，反而觉得能理解的AI庸俗化了。

[@TrasThienTien]

感谢讲解

[@user-fp5dg4ij8d]

很有趣

[@feifeishuishui]

很好的视频，值得多听几遍便于理解。我突然觉得，人类的语音其实就像是神经网络里的隐变量，是帮助从输入变成输出的中间层。有很多单个的词语是很难对应到具体的物理事物的，但是人脑在通过训练，把具体的事情和词语建立联系后，就能通过词语的含义和相互的关系，在大脑中很快地构建一个更加精炼的模型来反映具体的物理事物，并且根据这个模型来预测结果。

[@chaochen6492]

发现一个好频道，非常高的质量，开心

[@bestpartners]

感谢支持

[@qingsongyao4974]

Thanks!

[@bestpartners]

感谢支持🙏

[@Sky-my8oc]

确实专业

[@alexyoung3609]

第二✌️

[@alexjiang758]

人脑神经元的连接是单向的，因此我总觉得现在的反向传播训练模型的方式和人脑学习的方式底层原理不一样

[@yuhuachen9958]

深以为然，但是后来想想飞机也不靠煽动翅膀飞吖。
生物进化跟机械优化可能存在不同的路线

[@back_to_the_future9187]

大脑传播是单向，这只是局部观察的定论，但在n:n的网络系统中传播方向其实目前还没有定论

[@skyacaniadev2229]

大脑皮层里大概可以分六层，但我们对其中几层的功能还不太清楚（细究的话其实每一层都没搞明白）。丘脑，海马体也可能参与了一个更大的机制（对，我预感人脑实际上有两层back propagation机制）。

[@yanwei2320]

拍脑门的感觉是，喊放慢进度的 估计是自感很优越优先的人。

[@GeoffreyQian]

在您转述访谈内容的过程中提供了不少辅助观众理解的资料和图片视频内容，这是非常有用的附加值。您是怎么高效地做到这些的呢？

[@bestpartners]

有一些素材网站，也会 google 一些资料，尽可能丰富大家的体验和理解

[@GeoffreyQian]

@@bestpartners❤

[@user-xe5ip9ey2o]

1，辨識手寫數字是對應什麼數字圖像，其實無須標籤。反向傳播無法形成有助學習和創造（模仿、濃縮、組合、隔離干擾等等）的表意識或自我認知。如何設定安全又根本暨通用的正負激勵（無限迴圈），來擴大自主並減少智人種的干擾？
立體三維空間視知覺，不只需要雙眼，還需要半規管、橢圓囊、球囊、本體感覺……等等（時空……感）；日後也可以感測器……使高維，以便盼ASI試著以降維表達向智人種部分解釋我們沒交集到的宇宙規律。
2，沒有尋找共同結構的通用程序，就會陷入專用（廣用/泛用不等於通用）與簡略(不等於簡化) ；基於神經網路的演算法和模型，無法是真正的即時通用適應型ASI。相對轉換與絕對整合不同；混和（如工具箱，好些的有多層蘊含關係並有序）與融合（類似瑞士刀，但可再細化層次）不同。理解現有的知識之內部關聯，甚至替換，不等同於智慧或推理，而只是其中一部分。
3，累積誤差，這問題未被已知的主流演算法完全解決；且，其模型無法發展原創的「概念與理論以及符號和數學之系統」，即使可從非文字或語音編碼的感知學習第一語言，就算可在人造/自然語言、程式語言、數學語言、多種感測器輸入值或其轉換之間映射/轉換，甚至可避免歧義謬誤。
4，知名的AI或機器學習之專家學者或者資料科學家，還不知道什麼情況代表不是因素，與條件機率該有的限制，及何謂真實、虛/實、矛盾、模糊、混亂、……等，何來的有/無、異/同，與「不知、前庭覺和本體感覺等感知及感覺統合、情緒暨情感的認知要素組合」之影響以及神經之並聯、串聯、非聯、連結強度差異的對應，及數學的本質與建立公理的根本邏輯規則，...等等。

[@user-xe5ip9ey2o]

修補：……當前為止不是……

[@user-xe5ip9ey2o]

修補：……有助……後設認知--

[@user-xe5ip9ey2o]

補充，如果不是辨識圖像上的手寫數字是對應其他圖像上的數字，而是數字編碼，那麼，也可由錯誤標籤的不一致性、次數較少來區分或影響其選擇正確標籤；如果錯誤標籤被預先規劃，錯得很一致，那應是可誤導（不過，只有一半……，且各數字比例……，所以……）。另，上則修補最後仍該是「……」，後設認知是要在括弧內的。

[@zensationimage2459]

Hinton met iiiya in university of Toronto

[@bestpartners]

是的，应该是在多伦多大学，谢谢指正，是我的疏忽。

[@cayoh]

身為T恤控一直想請教你的T恤都哪買的 :D

[@bestpartners]

哈哈，这件是高速服务区买的，25 元。等我回头给大家搞点 T恤，在准备中了

[@gpt-newbie]

大飞哥的燈打得有點光😹可以暗一點也可以，不用那麼辛苦

[@bestpartners]

好的，谢谢

[@mengmeng4312]

地板

[@skyacaniadev2229]

一不小心跑原视频下留言说我有AGI快采访我😂万一真的被联系了怎么办😂

[@bestpartners]

你火了，哈哈

[@zhuchhust5743]

广告有点多

[@yoshida.LION_jp]

不知道100年后的人看到当下这些技术的萌芽，会如何想。

[@motizuki1275]

不就跟现在看一百年前一样吗😅

[@user-tf8ib2hb7i]

你看回飞机发明，你怎么想？

[@mengmeng4312]

我08年暑假，就开始看神经病原理

[@fantaxifantaxi]

16年后的现在，你小有所成

[@020239a]

黃瓜

[@bestpartners]

哈哈，🥒

[@RedWhiteBlue209]

Hilton: 科学上的巨人，政治上小人

[@zhchbob]

可以这么说，如果没有来自中国科学家的有力竞争，人类可能会放弃发展AGI。这方面是中国科学家对智能进化的重大贡献！

[@jz4756]

遥遥领先