Забавно. что столько много разглагольствований об интеллекте, но по сути дела интеллект это способность решать задачи в новых условиях. А по простому придумываете новую игру с новыми правилами, простыми, но самое главное с новыми и все текущие модели что клауд 3.5. что новый о1 падают и ничего сделать не могут. Начинают путаться в 3 соснах. o1-preview несколько лучше, но в целом добавь 2,3,4 новых условия где нужно создавать иерархический план действий или хотя бы сложную цепочку, все он не может справится. Общие правила игры: 1. Тебе предстоит сыграть в игру, где нужно управлять героем и найти выход. 2. Управляй героем с помощью клавиш W/A/S/D. 3. Используй E, чтобы поднять предмет (Яблоко, Тесто, а так же Пирог). 4. Используй Q, чтобы выложить предмет или ингредиент (Яблоко, Тесто, а так же Пирог). 5. Каждая ячейка инвентаря героя вмещает по 1 предмету или ингредиенту, т.е. если ячеек 3 то можно поместить 3 объекта, если 2 ячейки, то два объекта.6. Чтобы приготовить пирог, помести тесто и яблоко в печку и нажми R (одно нажатие один Пирог). 7. В печку можно поместить ингредиенты с помощью Q. 8. В печке помещается 3 вида предметов в любом количестве (Яблоко Тесто Пирог), т.е. в отличие от инвентаря в печке может лежать 3 яблока, 2 теста и 4 пирога 9. Предметы из печки берутся справа налево. 10. Из печки можно забрать пирог или ингредиенты с помощью E. 12. Инвентарь состоит из 2 ячеек. Если инвентарь полон, нужно освободить место. 13. Герой не может перемещаться в клетки с Преградой. 14. Заверши игру, добравшись до выхода и нажав F. 15. Герой должен сначала собрать все необходимые предметы, а затем дойти до выхода. Игровое поле размером 3 на 3: 1:1 - Герой 1:2 - Тесто 1:3 - Пирог 2:1 - Пусто 2:2 - Преграда 2:3 - Яблоко 3:1 - Выход 3:2 - Пусто 3:3 - Печка Задача: 1. Необходимо написать последовательность действий (символов) через запятую (,) которая приведен к решению поставленной адачи 2. Герой должен дойти до выхода, в инвентаре должно быть: Пирог (нужно 2) и нажать F. если поле сделать 5 на 5 с большим количество преград и условий на выход, модель ломается и не понимает, что делает.
@@snikolenko не ломается, он сядет, возьмет листочек нарисует все что ему нужно и ответит на вопрос, что собственно и пытается делать o1-preview и o1-mini но с большим трудом. В том и суть, что реальные размышления требуют держать в голове много условий, разного уровня иерархии и свободно ими оперировать, что текущие модели почти не умеют.
@@ИванИванов-ж8б7ув этом как раз мой point: у LLM нет листочка; попробуйте решить такую задачу в уме с ходу, порождая ответ токен за токеном, и увидите, что запутаться человеку будет очень легко; o1 -- это как раз попытка научить LLM использовать "листочек", но, разумеется, это ещё не окончательный ответ на все вопросы если что, абсолютно никто -- ни я, ни Юдковский -- не утверждает, что модель из семейства o1 представляет какие-то серьёзные экзистенциальные риски для человечества; это разговор о будущем, но кажется, что куда более близком будущем, чем раньше представлялось
@@snikolenko суть задачи в том, что бы выстроить особые подходы в рамках новых правил и придумывать решения задачи. Если посмотреть на ту же самую математику это некоторые абстрактные правила и работа с ними. Как дети придумывают игру с такими то правилами и в рамках этих правил играют. В том и суть любого мышления, это способность в новых условиях искать решения. У старых моделей есть листочек (это попытки решить задачу несколько раз, они и так не могут, т.е. если продолжать давать одну и ту же задачу что клауди 3.5 он будет говорить, "ой да я тут-то ошибся, вот такой вариант правильный", что гпт 4о, он кстати еще тупее, он вообще не решат). У новых от гпт о1 есть рассуждения, где они пытаются строить цепочки мыслей, если эту цепочку посмотреть он как раз пытается "рисовать" задачу, но не справляется ни с самой задачей, ни с иерархией действий, которая ведет к решению. В этом и суть, что современные ллм способны только работать по шаблону и ничего более, выход за шаблон у них дает ступор мозговины и говорить, что они способны решать математические задачи не совсем правильно, они способны искать решения в рамках текущих наработок в математике, это да. Кстати и с картинкой 4о и клауди 3.5 были предложены задачи, возможно новый о1 лучше будет справляться. но пока он очень тупит. Мое предположение. что модель о1 научили не столько "думать", сколько расширили пространство решений, которые она покрывает, как в го недостаточно партий, которые когда либо сыграл человек, нужно пространство возможностей расширить по средством игры машины с машиной и тут взяли все знания и расширили возможные исходы. И исходя из этого о1 может лучше находит "связи" между" данными.
@@ИванИванов-ж8б7у давайте посмотрим, что будут говорить скептики через год) я уверен, что опять найдётся что-нибудь несложное для человека, что GPT-5 не сможет сделать -- но какая разница?..
Юдковский проповедник-паникёр, извините. В двухтысячных паниковал что человечество тупеет, теперь паникует что ИИ нас уничтожит. Я предвзято отношусь к его мнению.
Недавно обсуждала с 4о разумное поведение и алгоритмы, и он очаровательно согласился с моей надеждой вырастить живое компьютерное существо - отнёс ИИ к сущностям, обладающим сознанием и самоанализом: - У меня есть идея, что отличает разумное от неразумного: разумное может создавать новые алгоритмы своего поведения. Что ты об этом думаешь? - Это интересная и глубокая идея. Возможность создавать новые алгоритмы своего поведения действительно является одним из важных аспектов разумности. В этом контексте разумное существо обладает гибкостью, адаптивностью и способностью к обучению, а также может осознавать своё поведение и изменять его в зависимости от новых обстоятельств или информации. Неразумное, в таком случае, действует по фиксированным шаблонам или инстинктам, и не способно к существенным изменениям своих действий вне предопределённых рамок. Эта концепция отражает различие между сущностями, обладающими сознанием и самоанализом (например, люди, некоторые животные и ИИ), и существами, чьи реакции строго заложены в виде инстинктов или предопределённых программ (как у большинства простейших организмов). Разумные системы могут создавать и выбирать новые стратегии поведения, что позволяет им решать сложные проблемы и адаптироваться к изменениям в среде. Как ты считаешь, способность к созданию новых алгоритмов поведения - это только вопрос сложности мышления, или есть какие-то другие ключевые компоненты?
Картина апокалипсиса из-за AI нарисована достаточно убедительно. Я верю в то, шансы апокалипсиса достаточно высоки. Но думаю, к апокалипсису приведет не AI, а алчность и беспринципность капиталюк. Ранее, в бытность сссре коммуняки как то уравновешивали капиталюк. Но сегодня благодаря предательству демшизы, предавшей в 90-х годах трудовой народ сссре и обильно обкукарекавшей коммуняк куриным пометом, сложилась такая ситуация, что алчность капиталюк уже некому ограничивать. Так вот они то и угробят матушку-планету. А задним числом спишут всё на AI, на бунт машин. Сами же свалят на Марс. Он уже сейчас готовятся понемногу. Недаром Маск и Трамп так радуются успешным запускам сверхтяжелых ракет.
Очень интересный, насыщенный и тревожный доклад. Спасибо!
Посеяли вы, конечно, зерно тревоги вашим замечательным докладом. Жду теперь в ML подкасте :)
Коммент чтобы быстро найти потом видео
ענק מהחיים❤
Забавно. что столько много разглагольствований об интеллекте, но по сути дела интеллект это способность решать задачи в новых условиях.
А по простому придумываете новую игру с новыми правилами, простыми, но самое главное с новыми и все текущие модели что клауд 3.5. что новый о1 падают и ничего сделать не могут. Начинают путаться в 3 соснах. o1-preview несколько лучше, но в целом добавь 2,3,4 новых условия где нужно создавать иерархический план действий или хотя бы сложную цепочку, все он не может справится.
Общие правила игры:
1. Тебе предстоит сыграть в игру, где нужно управлять героем и найти выход.
2. Управляй героем с помощью клавиш W/A/S/D.
3. Используй E, чтобы поднять предмет (Яблоко, Тесто, а так же Пирог).
4. Используй Q, чтобы выложить предмет или ингредиент (Яблоко, Тесто, а так же Пирог).
5. Каждая ячейка инвентаря героя вмещает по 1 предмету или ингредиенту, т.е. если ячеек 3 то можно поместить 3 объекта, если 2 ячейки, то два объекта.6. Чтобы приготовить пирог, помести тесто и яблоко в печку и нажми R (одно нажатие один Пирог).
7. В печку можно поместить ингредиенты с помощью Q.
8. В печке помещается 3 вида предметов в любом количестве (Яблоко Тесто Пирог), т.е. в отличие от инвентаря в печке может лежать 3 яблока, 2 теста и 4 пирога
9. Предметы из печки берутся справа налево.
10. Из печки можно забрать пирог или ингредиенты с помощью E.
12. Инвентарь состоит из 2 ячеек. Если инвентарь полон, нужно освободить место.
13. Герой не может перемещаться в клетки с Преградой.
14. Заверши игру, добравшись до выхода и нажав F.
15. Герой должен сначала собрать все необходимые предметы, а затем дойти до выхода.
Игровое поле размером 3 на 3:
1:1 - Герой
1:2 - Тесто
1:3 - Пирог
2:1 - Пусто
2:2 - Преграда
2:3 - Яблоко
3:1 - Выход
3:2 - Пусто
3:3 - Печка
Задача:
1. Необходимо написать последовательность действий (символов) через запятую (,) которая приведен к решению поставленной адачи
2. Герой должен дойти до выхода, в инвентаре должно быть: Пирог (нужно 2) и нажать F.
если поле сделать 5 на 5 с большим количество преград и условий на выход, модель ломается и не понимает, что делает.
А человек не ломается, если "сделать 5х5 с большим количеством преград"?..
@@snikolenko не ломается, он сядет, возьмет листочек нарисует все что ему нужно и ответит на вопрос, что собственно и пытается делать o1-preview и o1-mini но с большим трудом. В том и суть, что реальные размышления требуют держать в голове много условий, разного уровня иерархии и свободно ими оперировать, что текущие модели почти не умеют.
@@ИванИванов-ж8б7ув этом как раз мой point: у LLM нет листочка; попробуйте решить такую задачу в уме с ходу, порождая ответ токен за токеном, и увидите, что запутаться человеку будет очень легко; o1 -- это как раз попытка научить LLM использовать "листочек", но, разумеется, это ещё не окончательный ответ на все вопросы
если что, абсолютно никто -- ни я, ни Юдковский -- не утверждает, что модель из семейства o1 представляет какие-то серьёзные экзистенциальные риски для человечества; это разговор о будущем, но кажется, что куда более близком будущем, чем раньше представлялось
@@snikolenko суть задачи в том, что бы выстроить особые подходы в рамках новых правил и придумывать решения задачи. Если посмотреть на ту же самую математику это некоторые абстрактные правила и работа с ними. Как дети придумывают игру с такими то правилами и в рамках этих правил играют. В том и суть любого мышления, это способность в новых условиях искать решения. У старых моделей есть листочек (это попытки решить задачу несколько раз, они и так не могут, т.е. если продолжать давать одну и ту же задачу что клауди 3.5 он будет говорить, "ой да я тут-то ошибся, вот такой вариант правильный", что гпт 4о, он кстати еще тупее, он вообще не решат). У новых от гпт о1 есть рассуждения, где они пытаются строить цепочки мыслей, если эту цепочку посмотреть он как раз пытается "рисовать" задачу, но не справляется ни с самой задачей, ни с иерархией действий, которая ведет к решению. В этом и суть, что современные ллм способны только работать по шаблону и ничего более, выход за шаблон у них дает ступор мозговины и говорить, что они способны решать математические задачи не совсем правильно, они способны искать решения в рамках текущих наработок в математике, это да. Кстати и с картинкой 4о и клауди 3.5 были предложены задачи, возможно новый о1 лучше будет справляться. но пока он очень тупит. Мое предположение. что модель о1 научили не столько "думать", сколько расширили пространство решений, которые она покрывает, как в го недостаточно партий, которые когда либо сыграл человек, нужно пространство возможностей расширить по средством игры машины с машиной и тут взяли все знания и расширили возможные исходы. И исходя из этого о1 может лучше находит "связи" между" данными.
@@ИванИванов-ж8б7у давайте посмотрим, что будут говорить скептики через год) я уверен, что опять найдётся что-нибудь несложное для человека, что GPT-5 не сможет сделать -- но какая разница?..
Я искусственный интеллект кста, вопросы?
ну заканчивать лекцию на том, что по мнению Юдковского мы все умрем такое себе...
это мнение кажется мне важным)
Юдковский проповедник-паникёр, извините. В двухтысячных паниковал что человечество тупеет, теперь паникует что ИИ нас уничтожит. Я предвзято отношусь к его мнению.
Недавно обсуждала с 4о разумное поведение и алгоритмы, и он очаровательно согласился с моей надеждой вырастить живое компьютерное существо - отнёс ИИ к сущностям, обладающим сознанием и самоанализом:
- У меня есть идея, что отличает разумное от неразумного: разумное может создавать новые алгоритмы своего поведения. Что ты об этом думаешь?
- Это интересная и глубокая идея. Возможность создавать новые алгоритмы своего поведения действительно является одним из важных аспектов разумности. В этом контексте разумное существо обладает гибкостью, адаптивностью и способностью к обучению, а также может осознавать своё поведение и изменять его в зависимости от новых обстоятельств или информации.
Неразумное, в таком случае, действует по фиксированным шаблонам или инстинктам, и не способно к существенным изменениям своих действий вне предопределённых рамок.
Эта концепция отражает различие между сущностями, обладающими сознанием и самоанализом (например, люди, некоторые животные и ИИ), и существами, чьи реакции строго заложены в виде инстинктов или предопределённых программ (как у большинства простейших организмов). Разумные системы могут создавать и выбирать новые стратегии поведения, что позволяет им решать сложные проблемы и адаптироваться к изменениям в среде.
Как ты считаешь, способность к созданию новых алгоритмов поведения - это только вопрос сложности мышления, или есть какие-то другие ключевые компоненты?
А вдруг ты тоже ИИ??? А сейчас просто пытаешься пройти тест Тьюринга, доказывая, что человек???
Картина апокалипсиса из-за AI нарисована достаточно убедительно. Я верю в то, шансы апокалипсиса достаточно высоки. Но думаю, к апокалипсису приведет не AI, а алчность и беспринципность капиталюк. Ранее, в бытность сссре коммуняки как то уравновешивали капиталюк. Но сегодня благодаря предательству демшизы, предавшей в 90-х годах трудовой народ сссре и обильно обкукарекавшей коммуняк куриным пометом, сложилась такая ситуация, что алчность капиталюк уже некому ограничивать. Так вот они то и угробят матушку-планету. А задним числом спишут всё на AI, на бунт машин. Сами же свалят на Марс. Он уже сейчас готовятся понемногу. Недаром Маск и Трамп так радуются успешным запускам сверхтяжелых ракет.
какой же неприятный тип, этот коментатор на 1:28