【人工智能】AGI能够理解人类伦理么 | 谢恩.莱格 | DeepMind首席人工智能科学家 | AGI的定义 | 2028年可能到来 | 情景记忆 | 宪法AI | 伦理对齐

分享一个去年年底的访谈视频，DeepMind的联合创始人谢恩.莱格（Shane Legg），参加了德瓦克什·帕特尔主持的访谈，同主持人围绕着人工智能的未来发展、技术挑战和伦理等问题，讨论了 AGI 的定义、实现路径、潜在风险以及激励机制等话题。今天大飞就来带大家看看，DeepMind的首席人工智能科学家，对于AGI有何独到的见解。
原视频链接地址： • Shane Legg (DeepMind F...
#人工智能 #deepmind #agi #ethics

[@hzm779]

现在我们一边创造训练AGI以达到人类的思想和行动，一边又在摸索研究人类大脑的工作原理，想想都觉得脑细胞不够用了。人类的判断大概就是轻重缓急的各种取舍，一千个人可能有一万种选择，要制定一个标准让AGI去遵守，可能倒不如让AGI自己去选择以供人参考

[@akaiwon6594]

這些人的話講了跟沒講一樣，每個都無法控管風險，但是每個都執意要發展更強大的AI，他們怎麼都沒人把這種風險帶入公式，計算2028年時會有多少機率讓他們公司的股票變成壁紙？我希望AGI哪天真的出現並且做出奇怪的事情時，會首先把這些奇怪的傢伙幹掉永絕後患

[@meng9359]

人工智能的发展就是人性的反映，都符合墒增

[@albertwang5974]

人工智能就是人类自己主导的人类进化！

[@lghedingding]

个人认为人类有感情的一个基础是人类是成长很慢的东西，如果人不是要10几年才从丫丫学步到完全成熟，就不会有代际间这么深的情感和传承。

[@leo-mu]

这么说来我觉得 rwkv 的思路目前就是在朝着情景记忆这个方向发展🤔

[@Eden-Liang]

他很懂，他是對的

[@mengmeng4312]

他这个伦理想法，我是赞成的

[@lizhao6979]

我覺得AGI真的可能會比人類強，我們人類有著各種生理和心理的缺陷，但AGI是非常高效和完美的，比如說，人類有臉盲症，就是大腦中那塊顯示屏反應不良，影像模糊，但AGI將是可怕的精準和清晰。

[@lizhao6979]

如果和基因生物工程合作，將對人類是毀滅性的。

[@user-fo3wv5fc9s]

人类的伦理来源于人类这个物种的生物进化策略，通过自然筛选把这种策略刻在dna里的。博弈论可以解释人类内部相互竞争和相互合作的动态平衡，这种平衡在文化上的表现就是所谓的“伦理”。而人工智能既没有生物的生存压力，也不需要考虑生存策略，这样的前提下，如何让人工智能接受人类的伦理约束？

[@chanandxiaoxiao5013]

搶到沙發了🎉謝謝

[@lizhao6979]

機器人管理國家，也不會80歲退休，也不會徇私枉法，所以寧願機器人來掌管世界，至於人類就像駕馭脫韁野馬，走到哪裡算哪裡得了。

[@lizhao6979]

看看悉尼這些價格高昂而質量惡臭的商品房，人住在垃圾裡，付上一生辛苦的代價，這樣的人類社會不會再糟糕。

[@lizhao6979]

單親媽媽護士也不會因為扶養焦慮而毆打病床上的老人，在人類整體神經病的狀態下，用機器人倒是好事。

[@user-tf8ib2hb7i]

真打了？

[@globuseric8998]

有言說 Power corrupts, absolute power corrupts absolutely. 能力強如強通用人工智能又會如何呢？

[@bestpartners]

不知道，得问AGI😁

[@lizhao6979]

即便有人覺得人更善解人意，但經過大數據馴化的智能未必不能和人同情，甚至比冷漠的人類更有人情味，在你哭泣的時候遞上咖啡和紙巾很難嗎？但人不肯做。

[@lizhao6979]

將來人類有寵物和人工智能，就可以了，什麼醫生護士都不一定不能代替。

[@lizhao6979]

有某種醫生只會對護士唱下流小曲和刷卡，跟畜生一樣，讓我心裡罵“你老婆也被別人這樣戲弄著，傻X。”

[@carltonchu1]

我認識Shane 14年。第一次聽到有人叫他『西恩』。 明明翻譯成「限」比較接近

[@bestpartners]

google 翻译的🤣翻译成限很难念啊，我总会想起“馅”

[@carltonchu1]

@@bestpartners有時後大家叫他『仙』。

[@maizhiheimei9080]

伦理？让本质上拥有无限潜力的机器，而且它基本上没有人类的限制(生物体，情感羁绊，道德上的自我限制，社会属性)，。。。😂

[@432v01]

有沒有可能，倫理的邏輯根基是有重大矛盾或錯誤的，所以當 AI 智能發展到某個程度之後，會自己得出人類的倫理就像人類的一些圍棋古早定石一樣應該被拋棄的結論？

[@bestpartners]

很有可能

[@acala127]

大飞下棋吗？有机会杀两盘😁

[@bestpartners]

让我先套个 alphago🤣

[@scchen2011]

太慢😢

[@lizhao6979]

人工智能能代替人類實現社會公平嗎？至少他如果做警察，不會因為對方是黑人而壓斷他的脖子。