วีดีโอ

какие другие, например? кажется, почти что угодно другое проще будет обучить как часть самого representation learning, если уж понадобится

@@snikolenko Например, косинусное сходство или вообще использовать Ядра

@@hsqlk косинус - это и есть скалярное произведение (для векторов единичной длины) :) Ядро как раз нейросетевая часть и выучивает, я об этом и говорил

@@snikolenko Подскажите пожалуйста, а как вы вообще все совмещаете?

​@@hsqlk итс мэджик) на самом деле, если разобраться, "всего" не так уж и много -- очень надеюсь всё-таки доделать главное...

какие?) мне есть где их исправить)

​@@snikolenko Сергей, мне показались не ясно изложенными следуюшие моменты: 1. в статье про шиншилу - главная идея не про то, что модели можно сделать маленькими, а то, что существующие на тот момент модели тренировали на недостаточном объеме данных. Была выведена эмпирическая зависимость размера модели к кол-ву токенов, как 1:20 для достижения максимально эффективного обучения. Главный посыл на тот момент - мало данных в обучении. 2. использование tools работает иначе. Это не один запрос, как говорится в лекции (лектор полагает, что после генерации special token, каким-то образом вызывается калькулятор, который возвращает результат, и модель продолжает генерацию с учетом новых данных. На самом деле модель по описанию инструментов, которые ей доступны в данном конкретном запросе (просто передается по api и подставляется в контекст) генерирует структурированный ответ в виде имени функции (инструмента) и параметров, которые она подставляет исходя из контекста запроса. Обычно ответом модели является json. Далее агент на стороне клиента вызывает соответствующую функцию и возвращает результат в llm. Последняя начинает новую генерацию с учетом ответа от калькулятора. С натяжкой это можно сравнить с RAG, когда дополненный контекст представляет из себя ответ инструмента. Безусловно можно дообучить модель так, что она будет вызывать определенные инструменты, но на практике так не делается, тк это фактически hardcode practice. 3. В эпизоде про RAG полностью пропущен chunking и offline indexing. Лектор полагает, что документы передаются в контекстное окно. Иногда, некая доп модель может фильтровать информацию и возвращать контекст "вокруг хитов поиска". На практике ретривер возвращает чанки (документ целиком только в случае, если его размер меньше оптимального размера последовательности, на которой обучали эмбеддинговую модель. По состоянию на конец 24-го 512-8192, редко и дорого - 32000 токенов). RAG приложения постоянно занимают топ места в корпоративном сегменте и хотелось бы уделить этому особенное внимание. (проблемы выбора embedding model, types of chunking, reranking, hallucinations). Почему все еще нет универсальных графовых подходов? Большинство публикуемых исследований, многие из которых упоминались, не имеют практического выхлопа( Никто из слушателей не будет писать кастомные функции потерь или новые оптимизаторы, а вот знание лучших практик очень ценно. Сколько говорили про mamba. А в проде ее используют единицы. Почему? )) Тем не менее лекция интересная. Спасибо! Лайк я поставил)

​@@igsor2009 спасибо! с (1) согласен, да про (2) я так и не понял, в чём разница между тем, что вы говорите, и тем, что я сказал в лекции, и даже тем, как вы передали то, что я сказал в лекции :) модель генерирует запрос с именем инструмента и параметрами, ей возвращают результат функции, она продолжает генерировать -- я так и сказал) я мог оговориться, но как соавтор, например, недавней статьи про Toolken+ я в целом в курсе, как оно устроено) (3) mamba в живой природе уже встречается, но этому методу всего меньше года, про трансформер в 2018-м то же самое можно было бы сказать; жизнь покажет, никто не утверждает, что mamba -- это ответ на все вопросы, может, и вообще другие ответы появятся и философский ответ на (3) -- смысл моих лекций вовсе не в том, чтобы рассказать, "что в проде": -- во-первых, на это и без меня много охотников, -- во-вторых, когда слушатель придёт к своему "проду" через несколько лет, там с большой вероятностью будет уже что-то другое; смысл лекций в том, чтобы рассказывать интересные идеи и давать общий контекст понимания машинного обучения так, чтобы слушатель потом смог легко разобраться в чём-то новом и подходить к этому новому с правильного угла зрения; рассматривать мои лекции как набор инструментов для применения в реальной практике, думаю, скорее вредно, чем полезно) до практики есть ещё как минимум важный слой инженерии, о котором я совсем ничего не говорю в этом контексте mamba -- несомненно одна из самых интересных идей за последний год

​@@igsor2009 а, да, про RAG не ответил -- да, конечно, всё так и есть, как вы пишете; chunking -- это как раз та самая инженерия, о которой я не особенно говорю :) а идейно, конечно, ясно, что полные даже результаты поиска в контекст скорее всего не влезут, это я упоминал, кажется

Вы правы, я практик, и читаю статьи в основном с позиций того, что можно использовать в реальных приложениях. Именно сейчас, смотрю обзоры про o3. Скорость прогресса когнитивных способностей поражает! Всем добра)

Он так же единственный, кто из ML участвует в «Что?, где?, когда?»

здравствуйте, да вроде тут как раз всё правильно, мы к (1-alpha_{t} ) прибавляем (1-alpha_{t-1} ) alpha_{t}, а потом к этому (1-alpha_{t-2} ) alpha_{t-1} alpha_{t}, и так далее

@@snikolenko Да, пропустил объяснение на 23:00.

=== -- hi! why do you think tensorflow lost to pytorch? -- Hi Sergey! The "loss" of TensorFlow to PyTorch in certain domains, especially academic research and cutting-edge machine learning development, is a multifaceted issue. Here are some of the key reasons why PyTorch has gained a strong foothold over TensorFlow: 1. User-Friendly Design Eager Execution: PyTorch initially offered a dynamic computation graph (eager execution) by default, which aligns closely with Python's native programming style. TensorFlow originally used static computation graphs, requiring a session-based API that was cumbersome for rapid prototyping and debugging. While TensorFlow introduced eager execution later, PyTorch had already gained significant traction. Intuitive Syntax: PyTorch's syntax feels more Pythonic and approachable for many developers, especially those from non-professional software engineering backgrounds. 2. Research and Academia Adoption by Researchers: PyTorch quickly became the go-to library for researchers because of its ease of use for developing new models and algorithms. It significantly simplified writing and testing experimental code, which is critical in research. Paper Implementations: Many researchers started releasing implementations of their papers in PyTorch, creating a network effect that encouraged further adoption in the research community. 3. Community and Ecosystem Community Momentum: PyTorch benefitted from a growing and enthusiastic community that drove rapid improvements and provided ample support through forums and GitHub. Integration with Research Libraries: Many newer ML libraries and tools (e.g., Hugging Face Transformers, Lightning AI) either started with or favored PyTorch, further strengthening its position. 4. TensorFlow's Early Complexity Confusing APIs: TensorFlow's early versions were criticized for having inconsistent and verbose APIs. It wasn't until TensorFlow 2.x that significant improvements were made, but by then, PyTorch had already captured a large portion of the developer and research market. Backward Compatibility Issues: TensorFlow's updates sometimes broke backward compatibility, frustrating developers who had to refactor their code. 5. Industry Adoption While TensorFlow remains popular in industry settings due to its production-ready features (e.g., TensorFlow Serving, TensorFlow Lite, and TensorFlow.js), PyTorch has significantly closed this gap with frameworks like TorchServe and ONNX support. PyTorch's ease of use started appealing to companies looking to prototype and deploy models quickly, especially as it matured and became more production-ready. 6. Facebook's Strategic Push Facebook (Meta) invested heavily in PyTorch's development and promotion. It was also made the default backend for many of Meta's ML projects, demonstrating its robustness in real-world applications. 7. Open Governance PyTorch's transition to the PyTorch Foundation, a Linux Foundation project, signaled a commitment to open governance and transparency. This has been seen as an advantage over TensorFlow's tighter association with Google. 8. Momentum and Perception Once a tool gains significant momentum, it becomes the de facto standard in certain communities. This phenomenon reinforced PyTorch's dominance in research as more tutorials, courses, and models were written for it. TensorFlow's Strengths It's worth noting that TensorFlow is far from "losing" in an absolute sense. It remains dominant in certain areas: -- Production and Deployment: TensorFlow's ecosystem for production is robust, including tools like TensorFlow Extended (TFX) and TensorFlow Lite for mobile and embedded devices. -- Cross-Platform Compatibility: TensorFlow supports deployment on diverse platforms, making it highly versatile. -- Corporate Adoption: Many companies with existing TensorFlow workflows continue to use it due to familiarity and the cost of transitioning. In conclusion, PyTorch's ascendancy is due to a combination of technical advantages, community engagement, and strategic choices. TensorFlow's pivot towards simplicity with TensorFlow 2.x came too late to reverse PyTorch's momentum in research and development. However, both frameworks have carved out strong niches, and the competition continues to push innovation in the ML ecosystem. === couldn't put it better myself :)

самое смешное, что после этого ответа приложение GPT выдало плашку: "For the most complete and up-to-date information about the U.S. Election, please visit news sources like The Associated Press, Reuters, or check with your state or local election authority." так что если вдруг на выборы TensorFlow vs. PyTorch позовут, держите в курсе :)

ваша правда)

@ хочу поблагодарить за замечательные лекции очень познавательно! Особенно по байесовской части.

@@SergeySK спасибо на добром слове! в этом курсе только байесовская часть и есть :)

Потому что энкодер состоит из сверточных слоев, там получается тензор, карты признаков :)

В самом VQ-VAE нет никакого условия; текстовые условия появляются позже, вот в DALL-E, например, где последовательность графических токенов пишет трансформер

не уверен, что значит "помогает", но шум просто есть в предположениях) иначе откуда бы взялась функция ошибки...

так пользуйтесь моментом. выводите свой продукт или статьи.

@soen2368 Вы слишком оптимистичны. Реализация любой идеи крайне затруднена. Инвесторы же не вкладываются в новые продукты, выгоднее работать на отлаженной системе рисков. И ещё существует ряд сложностей не дающих даже лёгкой надежды на положительный результат для заявителя. Кроме проблем от этого ничего не нажить. Статьи ваши дадут кому то пропиариться и разбогатеть, вам же только проблемы гарантированы.

@@Opterium-BTC оу ну с таким подходом человечество и огонь с колесом бы не изобрели.

@soen2368 Так и не изобрели, хотя ваш пример не в тему. Человек не изобретал ни огонь ни колесо.

@@Opterium-BTC перешли к софистике? ясно. полагаю изобретения не Ваш конек

Я думаю, зима точно не ждёт -- если даже прогресс полностью остановится на GPT-5, просто тщательное "выдаивание" возможностей LLM, которые уже есть (но пока не очень широко используются), изменит мир в ближайшие годы очень сильно. "Зима" -- это ведь скорее про бизнес и хайп, чем про конкретные достижения науки. А будет ли в ближайшие годы именно AGI и как сильно GPT-5 будет отличаться от GPT-4, а GPT-6 от GPT-5 -- этого я не знаю; Сэм вот опять давеча сказал, что будет, но кто ж его знает на самом деле...

@@snikolenko Просто кажется, что базовые задачи уже отлично решаются. А вот к сложным не связанным с текстами не подобраться

@@bbrother92 роботика пока ждёт своего ChatGPT moment, но кажется, что он уже не за горами; а какие ещё после этого останутся "не связанные с текстами задачи"? :)

@@snikolenko Ну пока что непонятно как готовить данные для логических задач да и вообще, что является минимальным элементов в такие задачках на логику. То это математическое мышление толи пространственное. ГПТ все еще дико валится на таких задачах, могу скрин скинуть. Картинки, звук, тексты это все было в достатке поэтому этот орех раскалоли, слава биг дате. Но а дальше что, не упремся ли мы в потолок сегодня как это было с релейной техникой в 30х-50х годах до появления транзистора.

​@@bbrother92 тут у меня есть надежда на o1-подобные идеи; надежда не математически обоснованная, но интуитивно ведь мы это и делаем, когда рассуждаем: опираемся на промежуточные результаты, сформулированные нами же ранее мне кажется, главный следующий прорыв -- хорошо добавить в LLM "рабочую память" для этих рассуждений; про это есть миллион статей, но, видимо, пока окончательного ответа не появилось; но здесь, согласитесь, трудно сомневаться, что так или иначе это получится

но очень интересно, спасибо

гербы?)

Галлюцинации? 😂 Нейронки тоже галлюцинируют.

Эти эмблема СПБГУ и рядом эмблема центра технологий на базе которых лекция и происходила Если поищите в интернете то поймёте что они отличаются от герба РФ. Более того если загуглите герб Византийской империи, то двуглавого орла найдете и там От того что например свастика стала символом нацистов, не повод отменять индийскую свастику просто потому что она лично у вас вызывает неприятные ассоциации

@@AlexP-fg3ci да причём тут не нравится, я всей душой эту свастику ненавижу, потому что люди которые её носили убивали мою родню... Нравится не нравится, как баба ей Богу.

А что если кант не прав?

@user-ie3qr1ox8r Вы думаете что человек с плоскими мозгами логика прав. Логика это только часть мышления по Канту. Читайте внимательно Канта Юма и так далее.

@@SOFIST_STEPANOW а какая разница что там по Канту если это "нечто" помогает решать сложные задачи? Отрицать полезность бессмысленно. Более того попробуйте дать недвусмысленное определение всем использованным терминам не прибегая к другим сложным терминам так, чтобы по ним можно было вынести бинарный ответ - система обладает "интеллектом"/"разумом" или нет. Сомневаюсь что у вас получится

@AlexP-fg3ci Любой вымысел псевдонауки имеет право на жизнь если даёт результат в эксперименте в Настоящем которое мгновенно непознаваемо принципиально Разумом. Физики это модельеры в бюро прогнозов Природы не более. Это современные Дельфийские пророки и оракулы или римские Сивиллы предсказывает будущее как Настоящее не более. Никто не знает что такое интеллект Человека от слова совсем. ИИ ЭТО НЕ О ЧЁМ.

​​@@SOFIST_STEPANOWпока да, да ни совсем, сегодня вот с девушкой смм щицой разговаривал, так у неё десятки закладок (промптов и ответов) по решению разных задач..... ИИ (я бы его так не называл конечно) лучше большие языковые статистические модели) вошли в жизнь железно и захватывают все больше сфер деятельности. Это действительно что-то.. Но к сожалению оно делает нашу жизнь мышление и поведение ещё более шаблонным, раскрою: есть такая задача для llm - пересказ или ужатие.... текста, так вот оно выполнит задачу, но так как обучилось это делать ранее на обучающих данных, короче, llm не подметит того что подметил бы кожанный индивид, причем каждый по разному и по разным причинам. Далее пользуясь этим с малого возраста все разнообразие и креативность 'обработки текста' текста, весь индивидуализм теряется накуй. Оно за тебя не переварит так как ты.

этот микрофон просто не записывался) мой звук, я так понимаю, идёт с петлички, а из зала в дорожке было либо ничего не слышно, либо хоррор, да)

@@snikolenko Sergey могу у вас спросить. Что вы думаете про ближайшие 5 лет - упрутся ли ML технологии в потолок из-за нехватки gpu или возможностей памяти? Еще хотел спросить всетакие - смогут ли сделать не языковые нейронки - для пространственного обучения? Или же первые легкие плоды уже собраны а дальше нас ждет ИИ зима и небольшие оптимизации без сильного прогресса в сторону настоящего ИИ. Спасибо

конечно) вот, например, мой свежий краткий обзор: th-cam.com/video/FGNphH7nw9w/w-d-xo.html поскольку он уже существует и общедоступен, мы скорее всего в курсе его повторять не будем, так что смотрите как доп. материал

ага, выложил слайды обеих лекций как дополнительные материалы к курсам, например: logic.pdmi.ras.ru/~sergey/teaching/mlspsu2023.html добавил это в описания

logic.pdmi.ras.ru/~sergey/teaching/slides/2024-10-30%20--%20Nikolenko%20--%20What%20is%20Happening%20in%20AI.pdf

большое спасибо на добром слове! на самом деле все материалы курсов я выкладываю в открытый доступ, так что не-студенты отличаются разве что тем, что не могут задать вопрос на лекции

1) не мешает, но удобнее повторять одинаковые 2) конечно, да, об этом будем говорить дальше 3) да, конечно :) это объяснение скорее для того, чтобы за математикой была история, помогающая её понять и запомнить 4) не до конца понял мысль, но да, есть варианты с линейным вниманием, про них тоже поговорим

да, это верно, конечно) забыл проговорить)

да, мы предполагаем, что eps настолько мало, что ничего измениться не может заведомо, как в примере с пандой

@@snikolenko понял, спасибо! И еще возник вопрос, почему, чтобы найти x с чертой (более сложный образ в окрестности) необходимо идти по антиградиенту? Не должен ли быть там +gradL по х, чтобы найти более сложный образ, то есть на котором лосс выше? Спасибо

@@surrrogatehuman7653 чёрт, да, я не с тем знаком написал( на самом деле, конечно, смотря градиент чего: если градиент скора правильного ответа, то с минусом, а если конечный лосс, то да, с плюсом; но я написал L и с минусом, был неправ)

@@snikolenko Спасибо!

А человек не ломается, если "сделать 5х5 с большим количеством преград"?..

@@snikolenko не ломается, он сядет, возьмет листочек нарисует все что ему нужно и ответит на вопрос, что собственно и пытается делать o1-preview и o1-mini но с большим трудом. В том и суть, что реальные размышления требуют держать в голове много условий, разного уровня иерархии и свободно ими оперировать, что текущие модели почти не умеют.

​@@ИванИванов-ж8б7ув этом как раз мой point: у LLM нет листочка; попробуйте решить такую задачу в уме с ходу, порождая ответ токен за токеном, и увидите, что запутаться человеку будет очень легко; o1 -- это как раз попытка научить LLM использовать "листочек", но, разумеется, это ещё не окончательный ответ на все вопросы если что, абсолютно никто -- ни я, ни Юдковский -- не утверждает, что модель из семейства o1 представляет какие-то серьёзные экзистенциальные риски для человечества; это разговор о будущем, но кажется, что куда более близком будущем, чем раньше представлялось

@@snikolenko суть задачи в том, что бы выстроить особые подходы в рамках новых правил и придумывать решения задачи. Если посмотреть на ту же самую математику это некоторые абстрактные правила и работа с ними. Как дети придумывают игру с такими то правилами и в рамках этих правил играют. В том и суть любого мышления, это способность в новых условиях искать решения. У старых моделей есть листочек (это попытки решить задачу несколько раз, они и так не могут, т.е. если продолжать давать одну и ту же задачу что клауди 3.5 он будет говорить, "ой да я тут-то ошибся, вот такой вариант правильный", что гпт 4о, он кстати еще тупее, он вообще не решат). У новых от гпт о1 есть рассуждения, где они пытаются строить цепочки мыслей, если эту цепочку посмотреть он как раз пытается "рисовать" задачу, но не справляется ни с самой задачей, ни с иерархией действий, которая ведет к решению. В этом и суть, что современные ллм способны только работать по шаблону и ничего более, выход за шаблон у них дает ступор мозговины и говорить, что они способны решать математические задачи не совсем правильно, они способны искать решения в рамках текущих наработок в математике, это да. Кстати и с картинкой 4о и клауди 3.5 были предложены задачи, возможно новый о1 лучше будет справляться. но пока он очень тупит. Мое предположение. что модель о1 научили не столько "думать", сколько расширили пространство решений, которые она покрывает, как в го недостаточно партий, которые когда либо сыграл человек, нужно пространство возможностей расширить по средством игры машины с машиной и тут взяли все знания и расширили возможные исходы. И исходя из этого о1 может лучше находит "связи" между" данными.

@@ИванИванов-ж8б7у давайте посмотрим, что будут говорить скептики через год) я уверен, что опять найдётся что-нибудь несложное для человека, что GPT-5 не сможет сделать -- но какая разница?..

это мнение кажется мне важным)

Юдковский проповедник-паникёр, извините. В двухтысячных паниковал что человечество тупеет, теперь паникует что ИИ нас уничтожит. Я предвзято отношусь к его мнению.

А вдруг ты тоже ИИ??? А сейчас просто пытаешься пройти тест Тьюринга, доказывая, что человек???

Может получиться, да; если архитектура двух веток одинаковая и их веса инициализированы одинаково, то почти наверняка и получится. Но если хотя бы инициализировать по-разному, то уже скорее всего выучат разные вещи, просто потому что это лучше с точки зрения целевой функции.

@@snikolenko Благодарю. А все же, почему целеовй ф-ии лучше, если выучат разное, а не одно и то же, например? Из чего это следует?

@@ocamlmail ну как, два разных признака лучше, чем один)

Уже упоминавшийся Murphy, там поподробнее. На самом деле у Бишопа почти ничего не пропускается, но чтобы понять, действительно надо внимательно читать все аппендиксы; но вроде все ссылки там на месте.

пройдите по ссылке из описания видео)

картинка такая как у вас над головой в видео. 3 круга из пунктирных линии. нужно найти их положение.