AI 的安全性难度太高了，懂大模型运行原理的朋友估计都明白，要 debug 一个 AI 为什么做出这个决定会导致几十亿次的数据计算的追溯，而且每个节点都对做出的决定做出那么一丢丢的贡献，到后面都不知道为什么 AI做的这个决策。这个感觉和想搞清楚人类大脑怎么做决定的情况差不多。所以对于现实 AI 的决策的限制相关的项目，行业叫对齐，是相当十分困难的，短时间内如果没有发现更好的单个神经元结构，没有理论突破，很难有实质的进展。
Very well said. there is more to it than atoms bumping into atoms as emotion and consciousness. When you put the atoms in a particular shape, why are they able to form thoughts? and take actions, feelings....
时间轴（这期团队熬夜剪出来的，大家记得给我们点个赞哟❤各位抱歉，6:24处出现素材damage，请大家点击7:01分继续观看；同时更正版已经上传到主页，欢迎大家点击最新视频来看完整更正版）：
00:04 - 02:15 OpenAI董事会罢免Sam Altman
02:15 - 03:56 OpenAI的特殊架构：非营利控股有限营利架构
03:57 - 09:26 9个席位缩水成6个，细扒OpenAI董事会成员
09:27 - 11:27 OpenAI的路径“死局”？
各位抱歉，6:24处出现素材damage，请大家点击7:01分继续观看。这里丢失的文案是“投资人Reid Hoffman，绝对的硅谷大佬，对技术对投资对运营公司都非常有经验。如果Hoffman还在董事会的话，我相信他会站在Sam这边并阻止这场罢免的出现。
Will Hurd是作为政府关系对接人出现，他是前共和党联邦众议员，从公开采访来看，他极力推动各方拥抱AI，包括在政府和国防中。我认为，如果Will还在董事会，也很大可能不会同意对Sam的罢免。
Shivon Zilis此前一直以顾问的身份与OpenAI合作，但她的介绍上也很明确写到“她关心的是机器学习如何造福人类”，很难说她的投票会如何。我们这里先打个问号。
然后就是Quora的联合创始人兼职CEO Adam D’Angelo, 这次投了Sam的反对票。Adam此前对外界的表态一直都是，没想过OpenAI会成为多大的公司，今年一月，他在《福布斯》采访中说，没有任何结果表明OpenAI能成为五大科技公司之一，希望能为世界做更多的好事，而不仅仅是成为另一家大规模的公司。所以，如果Ilya Sutskever以安全原因去拉Adam入伙驱逐Sam，Adam投赞成票是可以理解的。”
没关系，辛苦了
这期节目快速及时全面 ，很棒转发啦
Thanks!
這個反應時間太佩服了，下一篇可以解析到了微軟後的影響
感謝更新！非常及時❤
説解得很清醒，很理智，又會尊重性別。遠遠好過一群生活在X(twitter) 上面那堆吃人口紅利發家的網絡大佬的眼界和修養。
6:30左右沒聲音
哇塞支持！！才发生的新闻 视频跟进好快啊
給讚 詳細又即時 太厲害了！
感觉很专业，这个我盲猜是最接近事实的分析和资料了。👍
专业，好看，订阅。
终于看到一个讲得清晰明白的博主了。
非常好❤
感谢熬夜工作！非常有启发的一期节目
AI 的安全性难度太高了，懂大模型运行原理的朋友估计都明白，要 debug 一个 AI 为什么做出这个决定会导致几十亿次的数据计算的追溯，而且每个节点都对做出的决定做出那么一丢丢的贡献，到后面都不知道为什么 AI做的这个决策。这个感觉和想搞清楚人类大脑怎么做决定的情况差不多。所以对于现实 AI 的决策的限制相关的项目，行业叫对齐，是相当十分困难的，短时间内如果没有发现更好的单个神经元结构，没有理论突破，很难有实质的进展。
Very well said. there is more to it than atoms bumping into atoms as emotion and consciousness. When you put the atoms in a particular shape, why are they able to form thoughts? and take actions, feelings....
所以 问题的解决之道就在于 让GPT学会怎么说 不 以及解释为什么要说不😅
@@junjieli4 对，很多科学家认为这个方法可行，所以觉得得训练另外一个小一点，大概只有主模型三分之一的小模型，在大模型运行的时候，监督它，控制它该说什么不该说什么。有人管这个叫用魔法打败魔法。但是这个其实还是没有解决根本问题，因为这个小模型其实也很大，也需要监管不是？？
整件事，很心痛Ilya ，孤獨的承受眾人所指。
主持人的颜值和节目的内容都无可挑剔。
近些年來這些資本永遠只想要拿已經培養好的文化產物短時間內轉化成自己的資本增長
說真的各行各業已經被破壞得差不多了
這個世界上從一開始就真的不需要只能存生於資本社會中的資本
世界的進步完全是來自於文化還有科技的發展，現在所謂資本的發展，只是資本在資本環境中發展的假象
實際上讓這些所謂的資本消失，這個世界也能在短時間內重振
因為資本本來就存在
不存在的是那些聲稱能代表資本的公司或者人
怎么没提过萨姆奥特曼最近一直要搞算力芯片拉投资的事儿呢？
讲得很好
AI编故事这一点确实太可怕了。设想一样，如果所有人都用AI，那AI说的话就是真理，没有途径能展示其他意见，它就像先知一样了。
这不就是教科书里面的历史和人类文明
讲故事😂
@@gg-ny9ns很有道理，教科書就是在做樓主說的事。 😂
@@gg-ny9ns很有道理，教科書就是在做樓主說的事。 😂
AI是发展的趋势，就算未来会控制人类，也已经阻止不了它的发展。
6:24的时候卡住了
又传了一次，欢迎点击主页看完整版哟 ❤
预了今天…
既然微软都进了LP Copilot 还是要靠这个接口的吧？！
已经加入微软了 😂
这期各方面都表现得非常好：及时，有态度，有建立在前期基础上的专业！
內容很棒！ 感謝分享！唯一有一點，前面先說不能說是誰的老婆 後來怎麼又可以說是誰的老公呢，感覺不太好
解释一下，前面说女性是她们自己是因为有文章直接说她们是谁的老婆而不说她们本身的经历和职业，以此来弱化她们在AI上的认知；后者是因为夫妻是利益共同体，当然会有conflict of interest，所以要提。前者是科技认知，后者是商业利益，所以前者的八卦不重要但后者重要。
你的理解能力堪忧。前面是说不要以谁谁的妻子的关系来娱乐化及揣测女性的能力，，后面是交代董事会成员的利益关系。根本不一样的事情。这都要解释给你吗？
希望以后有一部电影，以他们的理想和分歧展开，讲述人类文明在这个历史拐点发生了什么。
就取名叫《奥本海默》吧
verge said Sama may not join MSFT, and the OpenAI board tryin' to merge with anthropic, more plot twists coming.
MSFT just hired Altman
要我说AI安全问题肯定是要以一些人的牺牲作为开端的。如果人类无法彻底理解AI就根本不用想安全了，而AI存在的目的就是帮人类解决不理解的事。
的确🤣，如果反过来那各位就恭喜发财
要流血牺牲
如果作为一个非盈利组织存在注定会失败
6:30就卡住了
请移步这里哟：th-cam.com/video/RMHavWOK6Ag/w-d-xo.html
如果AI沒有直接連接到武器上，那麼它是如何毀滅直接人類的？
核武器，卫星，电动车，电力系统，银行系统，国防系统，导弹，航母等都是通过网络控制的，也可能被攻击，
支持
可以让他们从GPT4为基础，分开成为两个公司，既然保守派不想要商业化，就让他们自己做open source，并去全球游说各国政府监管AI的开发，而OpenAI可以在Sam的领导下继续商业化，世界本来是可以竞争的，何必要强迫别人呢，尤其是当全球化后竞争已经远远不是某个国家的问题，如同当年核弹发展，美国要求限制的科学家也很多，但是如果只有美国限制，苏联继续突飞猛进的研发，那世界早就是在苏联的独霸核威胁之下了。
支持abtest 铁废物太多了进度太慢😂
不需要强分，已经在自然的发生了
Video starts hanging at 6.24ms
Apologize! The exported video might have some footage damage. Pls click 07:02 to continue. Sorry again!
給你們一個贊👍
没有限制的大模型确实挺让人犯怵的。之前用过一个未审核的羊驼，什么犯罪贩毒啥的都能给你扯得一愣一愣的。何况再进一步的Gobi，应该吓人。
语速很喜欢 声音好听 普通话标准
置之死地而后生吗？就好像Steven Job这样。。。
两人去了微软了，再看架构图，微软在背后捣腾什么了吧
阴谋论来了
赞👍
这就跟一边研究核武器一边讨论怎么不杀人一样，既然有了Ai就不会停下来，考虑一大堆还是永远有漏洞无法阻止，该发生的永远会发生，不如正常开发出现问题就解决问题，没必要无端瞎猜
接下来就看有多少会跟着 Altman 离开 OpenAI，说不定它会因此被毁掉、、、
openai 不是开源的吗？ 搞个龟毛融资啊。没有开源社区有会OPENAI吗？
可不是完全开源的，openai还是需要遵循其自身的商业模式和策略以保护期技术和创新，并推动人工智能技术的发展
知道OpenAI被戲稱ClosedAI嗎
我支持Sam
以后视频打光注意一点，眼球中间一个白光点看得很难受
Open AI
的激进派和保守派冲突
这就是美国国内左右两派资本家的博弈而已😢
关键emmet shear…把twitch搞成什么鬼样
有些惋惜两位女士不再是董事会里的一员，希望将来有更多像陈茜这样的亚裔女性进入董事会
感覺不是AI安全問題 要不然Sam為什麼不知道要被炒了
拿来安全来说事，你相信要是换了个女的上去。可能这都不是事了。问题是这种事不是只要这种所谓女科学家 而是依靠很多科学家不分男女。奥特曼不只是CEO。是凝聚技术人员的图腾了。
奥特曼作为创始人为啥没有股份？
因为是非营利组织，创始人们基本都没拿股份；后来设立限制性营利架构的时候，拿股份的都没有董事会投票权。
这转一圈还得是看马斯克啊
喜欢陈茜的新闻及时性！！
到底是openai成就了altman還是altman成就了openai，這個答案只有等altman離開openai就知道
互相成就
第一次看101视频版，陈茜原来是个大美铝
看看大家对此的评论就知道金钱和利益的作用了！
颜值高过内容，关注走一波
应该是左派乌托邦路线和资本主义路线的大对决吧。美国是资本主义国家，资本说了算，幸运之神永远于美国同在。
AI wrote the whole story and it is being played out like a horror science fiction human VS openAI story
你真漂亮❤
Twich
发起ai监管，微硬要摊事
妳真可愛
吃的太早了。去微软了。
我更尊重iLYA
这个颜值超过小lin了,
🛋
我曹。。。那微软亏大了。。。。。。
微软白嫖了open ai有什么亏的，这里把Sam赶走我觉得就是董事会认为Sam 把gpt送给微软，OA还没拿到好处，微软投资的钱全送回给Azure 了，微软为什么把copilot 放进windows 里，它难道疯了吗？还不是吃了OA
我希望OpenAI越乱越好，在美国持续制裁中国AI产业发展的现状下，让中国国内的AI公司有更多时间快速赶上。
打个不恰当的比方，就和做爱一样。老师安全安全，那能尽兴嘛？只有彻底摆脱各种concern才能玩得舒服😂 大家就不是一路人
Shivon和Tasha在科技業不代表他們是科學家⋯⋯沒常識