ขนาดวิดีโอ: 1280 X 720853 X 480640 X 360
แสดงแผงควบคุมโปรแกรมเล่น
เล่นอัตโนมัติ
เล่นใหม่
不错！看新闻就对这个概念很感兴趣。
因为安全问题OpenAI要分裂了，过了几个月再看这个视频，感触良多。
我也回看了一遍，确实感慨良多。。
这样的视频风格都特别好。
感谢观看和支持🙏
想起 刀剑神域爱丽丝篇里图书馆的贤者
高产
试用了下claude 2，号称有人工智能宪法专利，超级对齐能力的AI，就基本一坨shit的水平，输出推理能力会严重受到ai预制价值观影响（道德，版权，政治正确），输入内容只要有一点擦边，就会被丢弃，推理输出绕开，然后答案就有大概率不伦不类。导致，结果薛定谔的离谱，有时候答案和gpt4能比，有时候只能和百度文心一个水平了。所以我感觉目前的ai，就这点智力水平，还搞啥对齐了，先把智力提升到像个人的水平再说吧
对齐的问题，其实是随着AI发展同步产生的，如果对AI不做限制，可能在智力上会达到比现在高的多的水平，但是随之也伴随着各种危害风险；限制严了，又觉得不够灵活，答案不理想。所以这个问题本质上是个平衡的艺术，既要兼顾，又要避免矫枉过正，其实解决起来会很有难度，至少意识到有这个问题，比没意识到要好很多，一步一步来吧。
@@bestpartners 主要没对比就没伤害，GPT4的对齐我觉得已经很严格了，claude2大概是gpt4的2倍限制力度，道德问题不说，最多是写故事会写童话，但是版权政治正确这类问题，就容易严重影响内容推理结果，
就比如说我让claude帮我用最华丽的文字描写一个女生外观美，我写同人小说用，claude 2直接告诉我，女性最美的是内心，不是外表，没了，没内容输出了，但是GPT4用了非常合乎逻辑的比喻多层次描写了外表美，我就直接改改用了……
@@paulzhu7694 应该说，这个是安全审查边界的问题，claude 这方面一直比较严格
@@bestpartners 那还真不是，国内claude api价格炒到几千块钱，还不是因为claude 1.3 100k是目前最强大支持nsfw内容输出的ai，好多类Character AI都这个接口，市场还有点。也可能是故意完全放开收集数据集训练用。
沙發
请问十级对齐,有相关文献介绍的link吗? 🙏
你可以看一下这个：www.lesswrong.com/posts/EjgfreeibTXRx9Ham/ten-levels-of-ai-alignment-difficulty
感谢！
现在版本的AI一切行为都是跟人类学的。人类内部都没办法对齐，都还在自相残。这样的对齐逻辑上就是个悖论。
😄
不错！看新闻就对这个概念很感兴趣。
因为安全问题OpenAI要分裂了，过了几个月再看这个视频，感触良多。
我也回看了一遍，确实感慨良多。。
这样的视频风格都特别好。
感谢观看和支持🙏
想起 刀剑神域爱丽丝篇里图书馆的贤者
高产
试用了下claude 2，号称有人工智能宪法专利，超级对齐能力的AI，就基本一坨shit的水平，输出推理能力会严重受到ai预制价值观影响（道德，版权，政治正确），输入内容只要有一点擦边，就会被丢弃，推理输出绕开，然后答案就有大概率不伦不类。导致，结果薛定谔的离谱，有时候答案和gpt4能比，有时候只能和百度文心一个水平了。
所以我感觉目前的ai，就这点智力水平，还搞啥对齐了，先把智力提升到像个人的水平再说吧
对齐的问题，其实是随着AI发展同步产生的，如果对AI不做限制，可能在智力上会达到比现在高的多的水平，但是随之也伴随着各种危害风险；限制严了，又觉得不够灵活，答案不理想。所以这个问题本质上是个平衡的艺术，既要兼顾，又要避免矫枉过正，其实解决起来会很有难度，至少意识到有这个问题，比没意识到要好很多，一步一步来吧。
@@bestpartners 主要没对比就没伤害，GPT4的对齐我觉得已经很严格了，claude2大概是gpt4的2倍限制力度，道德问题不说，最多是写故事会写童话，但是版权政治正确这类问题，就容易严重影响内容推理结果，
就比如说我让claude帮我用最华丽的文字描写一个女生外观美，我写同人小说用，claude 2直接告诉我，女性最美的是内心，不是外表，没了，没内容输出了，但是GPT4用了非常合乎逻辑的比喻多层次描写了外表美，我就直接改改用了……
@@paulzhu7694 应该说，这个是安全审查边界的问题，claude 这方面一直比较严格
@@bestpartners 那还真不是，国内claude api价格炒到几千块钱，还不是因为claude 1.3 100k是目前最强大支持nsfw内容输出的ai，好多类Character AI都这个接口，市场还有点。也可能是故意完全放开收集数据集训练用。
沙發
请问十级对齐,有相关文献介绍的link吗? 🙏
你可以看一下这个：www.lesswrong.com/posts/EjgfreeibTXRx9Ham/ten-levels-of-ai-alignment-difficulty
感谢！
现在版本的AI一切行为都是跟人类学的。人类内部都没办法对齐，都还在自相残。这样的对齐逻辑上就是个悖论。
😄