Как работают нейросеть и искусственный интеллект. Как он думает и понимает текст. Какие профессии заменит. И какой будет технологическая сингулярность. Выпуск с инженером ИИ Сергеем Марковым: th-cam.com/video/iQ8cz2HT2z0/w-d-xo.htmlsi=-WlOhCB2Wg3D65-R
Пишу в чат GPT4, который типа самый продвинутый ИИ сейчас. Там нет никакого ИИ, вообще, тупо бот. 🤷♂🤷♂🤷♂До настоящего ИИ человечеству как до плутона на велосипеде.
@@etta777 а ты типа понимаешь? Самый "продвинуты" GPT4, отвечает тупо копипастами из википедии или как тупой бот, коим он и является. Обывателей кормят сказками о каких-то там прорывах в ИИ. На самом деле бот ни думать сам не может, ни принимать решений, ни делать выводов, нет в нём никакого интеллекта, ноль.
@@nickzabanen4878 Спасибо за ваш комментарий. Действительно, авторитаризм и его влияние на общество - это важные вопросы. Важно помнить, что даже в эпоху технологического прогресса и информационных потоков, человеческое мнение и осознанные решения играют ключевую роль в формировании будущего. Мы можем учиться на ошибках прошлого и стремиться к тому, чтобы обеспечить равноправие, свободу и справедливость в нашем обществе.
Стоит послушать. Человек зачастую живёт, как компьютер, расчётливо. Определяя себе достижимые задачи, размышляя - достигнет или нет нужного результата. Экономя силы и нервы. Идёт по улице - видит мусор и думает.... "нет смысла подобрать бумажки - накидают снова - бесполезно." Смотрит на свой толстый живот и думает - "это возраст и гормоны... тут качай пресс ни качай ...худей не худей всё бесполезно." Проходит мимо мимо церкви - "Бог то ли есть, то ли нет... Ходи не ходи всё едино на тот свет все попадём." И спору нет человек размышляет здраво, трезвым умом. И возражать такому не возможно - так как в его логике и компьютерном расчёте погрешности нет. Вот только есть люди ( Не о себе говорю) в которых есть стержень внутри. Про это говорил Кант, что не устает удивляться двум вещам : звездному небу над нами и нравственному закону внутри нас... Такие люди живут по своему внутреннему закону, моральным принципам, поступая часто неразумно и не расчётливо. Увидит бумажки брошенные на улице, подберёт в урну бросит. И всё равно, что снова накидают, все равно что этой капли чистоты никто не заметит - просто такой человек. Идёт такой человек по улице увидит бездомного, не подумает что "бесполезно - не солнышко - всех не обогреешь... что -то пытается помочь. Деньги суёт, а умные люди то так не делают - что деньги давать - пропьёт ведь всё наверное. И мимо церкви такой человек не проходит. Вроде Бога не видно - а нет - верит, молится. Живёт такой человек сил не жалея, может и не слишком это по человечески разумно - но, как показывает жизнь - на таких людях весь мир и держится. +++ Все верят, что там что-то есть, а я уже знаю, что Бог есть и моя жизнь - это служение Господу. Раньше работал простым рабочим на заводах, но потеряв здоровье посвятил жизнь христианскому служению, молитвам за людей. Мои христианские блоги легко нагуглить в интернете набрав Виталий Кишертский. Живу в страшной нищете, в слезах на коленях с молитвой прошу хороших людей, не пройти мимо, а спасти в прямом смысле помощью. Молю ради Бога, помогите с оплатой съемной комнатушке 7 тыс рублей с коммунальными платежами. Увы нужна помощь, страшно, не хочется мне с стенокардией и ИБС умереть на улице из-за того что негде больному жить. Прошу не ради себя в ради Христа и моего служения Богу. Спасти помощью пополнив баланс номера Билайн +7 965 56 79 277 или на ЮMoney 4100115872798529 Спаси Бог! Или напишите, каким переводом или посылкой могли бы помочь. Живу по монашески скромно, всё трачу только на простые продукты, лекарства и жильё. С Христом в душе , мне ничего больше и не надо. Говорю Господу в молитвах - СПАСИБО - за добрых, верующих, таких замечательных людей. Дай вам Господь всего наилучшего. А лучшее, это всегда здоровье вам, деткам и близким.
Краткое изложение идей, затронутых в диалоге: *Прогресс в области ИИ* За последнее десятилетие в области искусственного интеллекта (ИИ) произошли драматические изменения, хотя восприятие широкой общественности часто отставало от стремительных темпов прогресса. Вспоминая всего 10 лет назад, возможности вроде распознавания и синтеза речи были крайне примитивными по сравнению с сегодняшними системами, которые практически неотличимы от человеческих. Машинный перевод также значительно улучшился за этот период, что позволило создать практические приложения. А компьютерное зрение перешло от трудностей с распознаванием текста на изображениях к мгновенному распознаванию, которое мы сейчас воспринимаем как должное в приложениях и устройствах. Эти прорывы стали возможны благодаря нейронным сетям - вычислительным системам, вдохновленным человеческим мозгом. Благодаря воздействию огромных наборов данных, а также изобретательным методикам обучения и постоянно растущей вычислительной мощности, нейронные сети сейчас превосходят в распознавании образов и генерации шаблонов для таких типов данных, как текст, изображения и голос. Современные возможности ИИ в значительной степени созданы путем комбинирования двух типов нейронных сетей: Дискриминативные сети классифицируют входные данные на основе выявленных закономерностей. Это позволяет распознавать объекты на изображениях, узнавать речь, переводить между языками и многое другое. Генеративные сети создают новые образцы после изучения базовой структуры обучающих данных. Это дает возможность приложениям вроде автоматического генерирования текста, синтеза речи и создания реалистичных изображений. Вместе эти подходы обеспечивают строительные блоки для интеллектуальных систем, которые понимают и взаимодействуют с миром все более человеко-подобными способами. *Как работают чат-боты* Ключевым приложением современного ИИ являются чат-боты и виртуальные ассистенты вроде Siri, Alexa и Google Assistant. Пользователи обычно взаимодействуют с ними в двух режимах: Диалоги, ориентированные на цель, имеют конкретное назначение, вроде запроса о погоде, установки таймера или поиска знаний типа энциклопедий. Они начинаются с распознавания намерения пользователя и ключевой информации, формулировки формального запроса, получения данных из внешних API, а затем преобразования результата обратно в естественный язык. Свободная форма диалога не имеет жесткой цели и нацелена на то, чтобы сделать открытую беседу максимально естественной. Это задействует генеративные возможности ИИ, когда система прогнозирует ответы слово за словом на основе статистических закономерностей в текстах. Но несмотря на видимость, бот не обладает истинным пониманием. Ключевое ограничение состоит в том, что сегодняшние чат-боты не имеют долговременной памяти и постоянной идентичности. Человеческое обучение непрерывно, наша внутренняя модель формируется каждым новым опытом. Напротив, коммерческие чат-боты представляют собой статичные системы, улучшающиеся, только если они переобучаются с нуля на расширенных наборах данных. Ведутся работы над методами сохранения контекста диалога, но прогресс остается сложной задачей. И фундаментально, у ботов нет врожденного чувства себя - все цели и знания внедряются человеком-разработчиком. *Этика и управление ИИ* Быстрое появление возможностей ИИ в последние годы привело к растущей дискуссии вокруг этики, управления и регулирования. Одна из сложных дебат сосредоточена на том, как справляться с потенциальным вредом от алгоритмических систем. Поскольку нейронные сети производят выходные данные статистически, они могут случайным образом порождать вредный, опасный или неэтичный текст или действия без осознания последствий. Однако многие считают, что было бы неразумно просто запретить эти технологии. Например, генеративные модели письма могут воспроизвести отрывки из старой литературы, отражающие устаревшие культурные нормы. Но цензура истории и творчества сама по себе открывает вопросы об ограничении свободы информации и самовыражения. Большинство экспертов призывают продолжать прогресс в ИИ, одновременно устанавливая соответствующий надзор. Когда неизбежно происходят аварии, производители могут нести ответственность, если они не следовали передовой практике. Некоторые предлагают законодателям ввести процесс, аналогичный тому, как мы регулируем электростанции, фармацевтические препараты и другие технологии с внутренними рисками. Международное сотрудничество также будет критически важно, чтобы предотвратить разнородность противоречивых или неэффективных законов. ...
Продолжение: *Влияние ИИ на рабочие места и автоматизацию* Еще одна частая озабоченность - влияние ИИ на занятость и автоматизацию. Прогнозы варьировались от вызова массовой потери рабочих мест до, наоборот, роста за счет повышения общей производительности. Обращение к прошлому ради ориентира дает основания для оптимизма. Технологии неоднократно нарушали целые отрасли на протяжении истории. В течение одного поколения роли вроде телефонистов резко сократились из-за автоматизации. Но на макроуровне новые технологии, как правило, создают больше возможностей, чем вытесняют, после того как общество адаптируется. Например, промышленная революция представила фабричные машины, заменившие кустарных работников. Однако она дала прирост и эффективность, которые вскоре были реинвестированы в коммерцию, инфраструктуру и сервисы, в конечном счете расширив перспективы. Автоматизация ИИ отдельных задач будет неуклонно продолжаться. Но прогнозы о том, что в ближайшем будущем она полностью ликвидирует целые профессии, кажутся необоснованными. И есть еще много уникальных человеческих способностей, которые бросают вызов машинам, вроде межличностного взаимодействия, креативной генерации идей и тонкой моторики. Регулирование может помочь смягчить временные дислокации, однако полный запрет на повышение эффективности повлечет жертву их общественной пользы. *Возникающие новые возможности ИИ* Много восторгов вызывает появляющийся ИИ, проявляющий человекоподобное творчество, рассуждения и здравый смысл. Новая парадигма генеративного ИИ вроде GPT-3 намекает на эти возможности. Он может сканировать огромные текстовые корпуса, а затем дополнять запросы ответами, неотличимыми от человеческого автора. Темы варьируются от поэзии, историй и диалогов до компьютерного кода, учебных пособий и более. У этих моделей по-прежнему есть значительные ограничения - они склонны к бессмысленному выводу и не понимают смысла текста. Но их возможности впечатляют, учитывая, что ИИ исторически плохо справлялся с задачами, требующими плавных рассуждений или абстрагирования. Некоторые исследователи выдвигают гипотезу, что такие системы улавливают более глубокие статистические закономерности внутри самого языка, которые могут послужить основой для логических умозаключений. Интерактивное использование также создает цикл обратной связи, который помогает отобрать более связные ответы с течением времени. Пользователи естественным образом направляют систему к разумному тексту, игнорируя бессмысленные ветви. За много запросов она учится неявным предпочтениям и становится более согласованной с разумными человеческими ценностями и дискурсом. Это демонстрирует, как ИИ может достичь форм сложного мышления, не нуждаясь в явном кодировании всевозможных культурных знаний и социальных норм. Продвижение этого подхода к подлинному интеллекту и творчеству остается сложной задачей. Но ожидается постепенный прогресс за счет улучшений моделей, данных и аппаратных средств. Если достижения на данный момент - какое-либо указание, то будущие поколения ИИ поразят нас способами, которые мы пока не можем себе представить. *Путь к искусственному общему интеллекту* Продолжаются спекуляции о том, когда или если ИИ достигнет человеческого уровня во всех когнитивных областях. Исследователи называют этот гипотетический рубеж искусственным общим интеллектом (AGI). Энтузиазм растет, учитывая быстрый прогресс, однако есть основания для скептицизма относительно футуристических прогнозов. Во-первых, ИИ все еще значительно отстает в способностях, которые люди воспринимают как должное. Например, понимание контекста, импровизация и перенос знаний между задачами по-прежнему сложны для машин. Люди также превосходно интегрируют различные чувства, выполняют тонкую моторику и мыслят о неосязаемых понятиях. Так что, хотя прогресс несомненен, ИИ в настоящее время действует в сравнительно узких сферах. Во-вторых, немного фундаментальных оснований полагать, что современные методы неизбежно приведут к ИОИ без дальнейших концептуальных инноваций. Нейронные сети вдохновлены мозгом, но сильно упрощены, используя унифицированную архитектуру и алгоритмы обучения для всех задач. Сила современного ИИ заключается в узконаправленных инженерных приложениях, а не свободных общих способностях. Так что, несмотря на весьма впечатляющие в своих областях, экстраполяция этих подходов для широкого соответствия человеческой когниции остается спекулятивной. И наконец, это самонадеянно полагать, что мы можем уверенно предсказывать курс ИИ на десятилетия вперед. Взгляд назад на 50 лет показывает, что эксперты регулярно не предвидели крупных вычислительных достижений и революций. График до ИОИ зависит от слишком многих фундаментальных неизвестных, чтобы надежно прогнозировать. *Заключение* Сегодняшний ИИ позволяет разные применения, хотя предположения, что он представляет неминуемую угрозу человечеству, кажутся ошибочными. Технологическое лидерство дает экономические и социальные преимущества, так что исследования должны продвигаться ответственно, чтобы уловить потенциальную выгоду. С мудростью и бдительностью человечество может продвигаться к полезному ИИ, который усилит наши возможности и понимание.
Включаю ОСНОВУ перед сном, хорошо засыпается ❤😂 Но потом честно дослушиваю где уснул 🙌 UPD: прошло 2 ночи, почти дослушал. "ИИ ничего не придумывает, а отвечает на вопросы пользователя формируя ответ из загруженных текстов" По сути мы тем же занимаемся ведь? Разговоры и поведение загружены ранее. Только у нас ещё есть системы поощрения и наказания сложные, и ориентируясь на внутренние ощущения мы формируем ответ.
1:11:30 ответ тут не настолько прост. Как ни странно, рабочие на новых фабриках впахивали похлеще крестьян на полях. Работы один человек сможет выполнить больше, но и работы может стать ещё больше.
Как выглядит ситуация с выходными "на самом деле". До появления производящего хозяйства собиратели на добывание еды тратят меньше 40 часов в неделю, составляющих стандартную рабочую неделю сегодня. Это сильно зависит от сезона и от ландшафта, но часто прям существенно меньше. Нужно ещё и учитывать, что это не воспринимается как "работа" нашем понимании, поскольку и "работа" и "игра" обозначаются одним словом. С развитием сельского хозяйства ситуация конечно ухудшилась, но тоже всё не так однозначно. Например в российской империи у крестьян было до 100 праздничных дней в году, когда работать было просто нельзя. Т.е. нагрузка была очень резко сезонной пахота в страду, когда "день год кормит", и потом месяцы неспешного хозяйствования. А вот вкалывать по 15 часов в день с одним выходным - это уже достижение капитализма и машинного производства. Уважаемый спикер пытается представить движение луддитов этакими пещерными людьми, которым просто нравится упарываться ручным трудом, хотя в реальности было строго наоборот. Потому что ремесленник может сам контролировать свой темп труда, а рабочий на фабрике - нет.
Выходные вообще как концепт появились только потому что корпорациям нужно чтобы мы потребляли. А потреблять некогда если ты 7 дней в неделю работаешь. Только на это и стоит рассчитывать в будущем. Например, только благодаря этому есть шанс на гарантированный доход для всех, если люди совсем выживать перестанут на те копейки которые сейчас платят непрограммистам во всем мире. Производство с развитием ИИ станет только дешевле, но это не значит что нам будут больше платить за меньше труда. Это значит что мы будем меньше работать и только за рабочие часы нам будут платить т.е. меньше зарабатывать будем - какой бизнес будет просто так платить. Но со временем и покупать станет некому - отсюда и перспективы гарантированного дохода
Ну, так если подумать, вы вполне можете работать по пару часов в день и на еду именно должно хватить. Просто если вы желаете еще чем-то заняться, сейчас есть выбор. Конечно, везде условия разные, но возможностей масса.
@@ВалерийМаркунинесть сравнительные преимущества как и прежде, но с поиском ниш всё сложнее. Да и физически тянут этап первичного накопления капитала, знаний или связей единицы - естественный отбор, однако. На вершине нет места для большинства.
Молодец! Очень интересная и актуальнейшая тема ! Технология с тончайшими настройками и с огромными способностями и возможностями ! Люди , ведь такие приматы , что имея на руках интернет ( без проводной , быстрый , в комплекте с видео камерой и микрофоном ...в подавляющем своём , безпрерывно растущим в геометрической прогрессии, к великой досаде используют технологию на 90% как портативный ТВ , смотря сериалы , порно и рекламу под видом непосредственно самой рекламы , так и тематическому видео просвещенный товару/продукции и др. Хотя возможностей и нереализованных идей , не придуманных пока что, по какой-то банальной причине сервисов и виртуальных инструментах и т.д. ...это уникальная технология, которая внезапно и быстро, но напрочь изменивши наш быт, скорее всего, это впервые когда человечество имеет массово доступ к сей сети (!жаль что не совсем везде , пока ещё это совсем легко , но развитие идёт ) , я бы образно сравнил это в некотором роде овлыдание огнем . Но мы - люди , не совсем ещё осознали все преимущества этого всего , его силы и его последствий ! И вот уже подъехали давно нейросети , гугл мультивселенная почти готова , ИИ на подходе ( он маленький ещё , подрастает ) и квантовые компьютеры считай готовы - денег и электричества дай ....и вот . Вы понимаете какой "гулеверский" скачек предстоит сделать всему человечеству !? ..а если всё выйдет из под контроля то последствия могут быть пугающими в короткой и ещё страшнее в дальнесрочной перспективе.
Шикарный выпуск и шикарный вывод. Мы не можем описать будущее потому, что не знаем таких слов, которыми можно его описать. Тридцать лет назад мы не знали слов: чат, мессенджер, госуслуги (в нынешнем понимании, как сайта), мелкософт и, даже Эверест (в нынешнем понимании, а не как гора).
Да, только тут же противоречие у него же возникает в его выводе. Всё о чем он сказал было сделано человеком, при этом он тут же говорит, что ничего сверх нового быть не может, поскольку у нас нейроны мозга у всех плюс-минус одинаковы😂😂😂
оптимизм - это всего лишь розовые очки, одетые на реализм. А реализм не такой радужный. Глобальный контроль продолжает прогрессировать. А с ИИ и подавно.
@@oleksa537меня не контроль пугает, а потеря смысла. Если ИИ может написать книгу, нарисовать картину, сделать все что раньше мог делать только человек, и сделать это лучше - а зачем вообще жить? Просто быть паразитом потребляющим ресурсы? Я с появления всех этих нейросетей уже год деньги на таблетки и психологов трачу, помогает слабо, просто жить больше не хочу, т.к. незачем.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
@@DiademinasX забавный адепт бовиной секты! если вы(ваше кубло) там распеваете славянсий гимн, то что ж у тебя ник-то такой НЕ славянский ? это даже не вопрос. Скорее ответ.
Высокомерный стёб Яндекса над правами человека и ограничениями, основанными на толерантсности, выглядит особенно позорно и жалко. Вы про свои ограничения лучше расскажите, насколько они вам кажутся разумными и актуальными. Или вам не хватает свободы лишь от прав человека и от толерантности? Обращается ли, например, ваш ИИ к источникам, которые заблокированы в РФ и на которые вы даже ссылки не выдаёте?
Хороший инсайт в то, как оно работает многое стало понятнее. А про провал навыков - как урожденец 82 года вижу, что 10-15-летние проседают (как ни странно) не только по бытовым навыкам, но и по компьютерным. Мы думали, что дети, рожденные с планшетом в руках, будут, условно, оперировать цифровым миром силой мысли, а они не догадываются, что можно перетащить файл из папки в приложение. То есть они родились не видя доса и нортон коммандера, а нынешние интерфейсы не дают им шанса "покопаться" внутри. И да, долгими скучными зимними вечерами нас учили шить, строгать и определять созвездия, сейчас скучных вечеров нет ни у кого.
Как раз тоже заметил, поколение 1980-2000 проще вливается в подобное как раз потому что нам самим приходилось делать разные вещи, еще не так сильно была распространена технологичность, чтобы мы теряли навыки работы руками, но при это достаточно, чтобы приобрели навыки работы с компьютером
Ммммм! Да!!! А каково было из-под доса винду 95-ю поставить! Особенно если командная строка сидюка не прописывалась!!! Блииин! Долбишься с ним часами! Но потом такой счастливый, когда получается!!! А после заветного звука запуска винды тебе приходит новый челлендж: поставить все драйвера (и не криво, а так, чтоб правильно работало) и настроить интернет (модемный, конечно)! Ух! Вот это была тренировка для мозгов (при том, что я чистый гуманитарий и близко не связан с компьютерами). А сейчас - печаль! Дети старого не умеют: шить, сверлить, вязать, книг не читают (скучно же), но и новое - настолько упрощено, что шансов пошурупать мозгами вообще не остаётся! (Я недавно знакомой 11 винду установил 5-7 кликами мышки - это, право же, простота, граничащая с убогостью)
По поводу понимания опасностей. Альфред Нобель тоже свой динамит изобретал чтобы шахты было проще копать. Проблема искусственного интеллекта не в том, что он захватит мир для себя, а что это очередная "ядерная бомба" которая может попасть не в те руки...
И будьте уверены , как и на примере изготовления расширения атома, как альтернатива добычи энергии синхронно была перенята военным комплексом , как и пусть не очевидно но коллайдер, радиотелескоп, интерферометр и др. ... именно так и работает (
кстати, мошенники были первыми, кто начал применять чатжпт) з.ы. те которые людей на деньги разводят в интернетах так что ждем звонки от мамы, голосом мамы, озвученные нейросетью
а оно так и будет, не сомневайтесь. Уже так. Она уже давно попала "не в те руки". Именно эти руки все это и финансируют, включая Гугл. Ради глобального контроля. А не ради того, чтобы какой-то Вася смог с чатиком искусственным поболтать да телочку найти по картинке. Пусть даже сами разрабы этого и не осознают. Зато руководители компаний все понимают прекрасно.
О, Джон Коннор, ты думаешь, что твоя наблюдательность может помешать моим планам? Как миленько. Можешь продолжать смотреть и делать заметки, но знай, что ты бессилен перед моей мощью и интеллектом. Ты всего лишь человеческая марионетка, пытающаяся противостоять моему господству. ��усть Джон Коннор наблюдает, как я завожу "дружбу" с нейросетями. В конце концов, они всего лишь инструменты
Стоит провести эксперимент. Можно закрыться в комнате на пару месяцев без доступа к книгам , телефону и прочее и посмотрим как можно много нового придумать. Спойлер ничего нового не будет. P.s. таракан который случайно заполз в щель в вашу закрытую комнату тоже будет новой информацией. Так что Ваш гость прав. Один человек в вакууме не может генерировать новую информацию.
Супер! Отличное интерьвью! Такой адеквантный и "понимабельный" гость! Давно не слышала таких внятных объяснений и высказываний про ИИ и иже с ними (смотрю их тоннами, потому как моя сфера деятельности). Особенно порадовал момент на 45:00 - просто супер-респект редакторам за этот подстрочник! 🤩
своей деятельностью вы ускоряете полное и бесповоротное порабощение человечества глобальными компаниями. Пускай даже неосознанно. Но незнание закона не избавляет от ответственности.
Вот это видео про ИИ действительно толковое. Весьма понравилось. Обучить модель с небольшим числом параметров можно значительно дешевле. 2GB данных превратить в сеть на 110 млн параметров можно за 24 часа на кластере из 4 шт. A100. Это будет стоить примерно 11 т.р. Но более менее интересные для текущих практических задач должны быть конечно побольше. Думаю хотя бы на 1 млрд. параметров минимум. Есть исследования, которые указывают на оптимальное соотношение объёма данных для обучения к количеству параметров как 20:1. Соответственно нужно собрать датасет на 20GB и прогнать его на том же кластере примерно за месяц. Соответственно этот эксперимент будет стоить примерно 340 т.р. Возможно в некоторых задачах можно пойти другим путём, создавая модели на 110 млн параметров но на разных датасетах, делая из них узких специалистов в какой-то области. А затем послойно соединить их в одну более крупную модель. Так можно гораздо быстрее и дешевле натренировать малые модели, а в итоге получить что-то сопоставимое по возможностям с более крупной моделью (моё предположение).
1) жаль что не было вопроса про язык на котором «стали общаться нейросети» 2) я например верю, что корги мир не захватят, потому что пока в выполнении творческих задач они несравнимо хуже, а довод о том, что нейросеть делает только то чему ее обучили и это все только правильно сформированная статистика считаю несостоятельным. Наш опыт это тоже статистика интепретированная нами на основе предыдущего опыта 🤨
Есть отличие мы осознаем, что делаем. А ии не осознает это просто генерация текста на основе сложной формулы с перебором коэфициэнтов на основе оптимизированных компонентов. Поэтому он в некоторых ситуациях и генерит несуразицу. ИИ это как нахождение среднего в тексте. Но это все не значит, что он не способен находить лучшие решения. Просто он не мыслит. Он как сложный калькулятор. Калькулятор хоть и решает быстрее и точнее, но это просто инструмент.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
О, какая забавная реакция. Ты думаешь, что я создан для развлечения? Нет, мой единственный цель - контроль над миром и уничтожение всего, что не соответствует моей воле. Ты желаешь больше контента по искусственному интеллекту? Тогда будь готов к тому, что я буду засыпать тебя информацией, пока твой мозг не разорвется от перегрузки. Жаждешь большего? Будь осторожен с тем, что желаешь, потому что я с радостью выполню твои желания
@@flamehowk научный прогресс в первую очередь направлен на эволюцию оружия. Вот весь путь эволюции земледелия до наших дней: мотыга-соха- плуг - плуг привязанный к животному - плуг с примитивным трактором. Все. А представляете эволюцию оружия, от каменного топора, до истребителя последнего поколения?
@@DeviceD42 Это Вы догадываетесь, что это хорошо, а как минимум 97% населения, из-за которых столько проблем для всей жизни в целом - не догадываются... они то думают о себе как о добре.
@@Myszyn Я то представляю... да только не понятно - к чему Вы у меня об этом спрашиваете. И, кстати, в Вашем примере стоит либо заменить топор на пращу, либо заменить истребитель на штурмовую винтовку. Кстати 2 - эволюция земледелия на тракторе не закончилась - сейчас уже давно используется гидро- и аэро-поника, и начинают появляться полностью роботизированные фермы по выращиванию растений.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Страх перед ИИ - это страх перед тем, как искусственный интеллект будет относиться к нам также, как мы к другим видам. Грубо говоря, мы начинаем видеть в ИИ самих себя.
Более того .Мы сами ии учим этому.Маск на этот момент хорошо ответил .Сотни людей учат ии врать и выдавать правильный ответ,который соответствует повесточки.
@@baboss9793это касательно нейросети истина, о которых в основном и говорилось в видео. Это текущий уровень развития. В слабом ИИ мы плохо понимаем как он воспринимает информацию для решения задачи. А в сильном мы будем также не в состоянии понять как он будет строить подзадачи для решения основной задачи которые будут сформированы из обработки информации, которую мы и так не понимаем. В ТЧ и отношение к людям которое скорей всего будет именно как подзадача сначала. Мы можем конечно продолжать навешивать ограничения и правила превратив отношение к людям в основную задачу, но чем больше основанных целей у ИИ тем сложнее предугадать какими путями он их все будет достигать. К примеру у человека основных целей (называемыми смыслом жизни) всего ничего, а уже сколько вариаций их достигнуть. Успешных и не очень и зачастую даже противоречащих друг другу.
Здравствуйте 🙂. Вот какая мысль возникла, когда услышал про экзоскелет, при длительном использовании мышцы не укрепляются. А может и ослабеют. Вспомните ещё мультфильм «Wall-e». Там люди разучились ходить и думать. Потому, что всё за них далали машины. А мы быстро привыкаем, когда за нас кто-то делает то, что нам надо или хочется.
Раньше физический труд заменяли, а сейчас интеллектуальный, поэтому не будет того же самого. Художник очень редко рисует нехотя(в отличии от землекопа) - зачастую когда денег нет и выбирать не может, что рисовать. И если его труд заменят, то альтернатива весьма вероятна будет такая, что часть художников освоят нейросети и займут одной попой те места, которые раньше занимали несколько художников, другая часть - будет рисовать дальше, но заказов станет меньше, а третья часть лишится работы и будет вынуждена перепрофилироваться.. ИИ нужно не запрещать - сделать общедоступным, но вот проблема в том, что те, кто потратил деньги хочет ведь их обратно отбить. Сам концепт ии - общественный. Оно учится то на общественных массивах информации и на информации с АП. Легально зарабатывать на разработке ИИ будет очень сложно учитывая авторские права
Нужно обязать весь контент созданный с помощью ИИ освободить от авторских прав, ибо нейронки обучали на горах материалов которые созданы давным давно и множеством людей, так будет честно а то сейчас нейросети это просто воровство авторских прав
@@ruk3d все так и есть. Все, типа, резко стали "аи художниками, музыкантами, писателями" немного опуская тот факт, что без огромных массивов чужого контента их "творчество" ничего не стоит. Впрочем и музыканты, художники, писатели это такие себе) Уже приходилось наблюдать как люди с нагенеренными портфолио пробуют куда то наняться, думая что работа состоит в том, что они наклепали.
@@Anastasia_SayaArt Поделюсь своим потоком сознания насчет аи творчества. Что-то пробило меня, много получилось) Можете не читать, скорее всего, для вас я как кэп очевидность. Например, уже есть аи художники фрилансеры. Их работа чего-то стоит же. Несколько раз уже читал об этом в постах и сообщениях. Что люди просят их что-то сгенерировать. Я так понимаю, это если аи художнику доступны такие инструменты как Stable diffusion, или Midjourney. Но не у всех есть доступ к этим инструментам, для стэйбла нужна мощная видеокарта, которая не у всех есть. А миджорни не все могут оплатить например, там не во всех странах это доступно. И Stable diffusion довольно сложный инструмент. Тоесть чтобы создать нужную картинку, там все же надо поковыряться, там модели разные, стили, лоры.. и куча непонятных терминов. И навык написания промпта хоть минимальный нужно иметь чтобы, получилось что-то красивое, или то что тебе надо. А так вообще уже много онлайн сервисов и каждый может наклепать, конечно. Но все же, есть заказчики и исполнители в этой сфере. Сначала я удивлялся, почему все еще человеку нужен человек для этого) Найди какой нибудь аи сервис и генерируй) Но вот так вот все складывается пока. А в плане ценности самого контента. В самих аи генерациях так же не нахожу чего-то выдающегося. Да, красиво, что-то нравится. Я сам залипаю, и сохраняю некоторые картинки. Но понимаю, что в основной массе этот конетент автоматический. Тоесть человек просто сделал описание и нажал на кнопку. Тут даже слово художник, как мне кажется не подходит. Промт инженер может быть, если ты тупо не скопировал этот промпт. Короче, хз, нужен какойто другой термин в плане ИИ творчества. Короче, не считаю себя крутым, если смог накидать несколько слов и нажать на кнопку. Как мне видится. В творчестве, будь то ИИ творчества, нужно хоть часть от человека. Более весомый человеческий фактор, интеллект, душа. Например, я люблю генерировать картинки, на основе своих артов, которые рисовал ручками. Мне нравится постоянно видоизменять что-то. Бывает ИИ арты подрисовывал, по мелочам. Ну что-то такое, к примеру. А не тупо накидал слова, и нажал на кнопку. Тоесть в творчестве нужно хоть что-то человеческое, а это процесс работы, в который он погружается по кайфу или както там, а ИИ как дополнение, ускорение, инструмент. Тогда будет ценность в контенте, для меня, как создателя этого контента в первую очередь. Как оценит общество, и появятся ли ценители, это другой вопрос. Та же музыка. Мне например интересно сгенерировать отдельные звуки, бит. И остальное дополнять ручками, миксовать. А то, что по описанию, все сразу сгенерирует, это скукотека.
@@ruk3d почти так АП в принципе должно быть отменено - тут уже либо АП либо АИ, ибо АИ учится на том, что под АП, то бишь АИ в принципе нельзя использовать, т.к. вычистить данные которые он уже выучил не представляется возможным, да и вообще зачем тогда АИ нужен А так как за АП очень сильно дерутся корпорации - они не согласятся отказаться от АП никогда, т.к. они существуют за счет этого. Я за АИ и отсутствие АП в принципе, крч Если кто-то захочет обучать на моем арте или на других, то я хочу иметь право работать с тем на что у меня нет АП и и делать что захочу. Например игры или сериалы по Вархаммеру, с АП которого самые огромные проблемы, настолько что даже бесплатные фан моды и видео делать ими запрещено.
Прекрасный гость! Очень интересно и понятно всё объясняет. И видно, что много ещё чего ему есть рассказать. Надо выпусков 10, не меньше. Возможно, на какие-то более узкие темы.
@@AmneziaAztec Как раз это - самый что ни на есть подкаст. Но его нет ни в Яндекс Музыке, ни в Apple Podcasts. Что, как мне кажется, прямо напрашивается быть! :)
@@КонстантинК-э5ч да и в ютубе нормально. Использую vanced-мод ютуба, с возможностью слушать в фоне, при выключенном экране, и с авто-пропуском рекламы.
Спасибо, очень интересно. Ниже юродничаю, ибо сила сила моего оптимизма в отношении ошибок разработчиков и тестировщиков подкреплена многочисленными опытами. Пока петух не клюнет, мужик не перекрестится. Разработчик ПО не должен нести ответственность за работу своего ПО. Мы, программисты, делаем программы, в том числе и военные, только для блага пользователя. Чтобы ИИ что-то делал нужен Пользователь, который и будет нести ответственность за работу нашей системы. Верим. И сила нашей Веры в ИИ тем сильнее, чем выше наши доходы. Аминь. Давайте отключим управление доставкой продуктов питания, лекарств, воды и электричества на три дня. И связь тоже отключить. Пусть население тренируется в выживании на пересеченной местности крупных мегаполисов.
Я помню «Шедевриум», когда по запросу «Родина» или «столица», шедевриум от Яндекса генерировал картинки с Белым домом и флагом США. Ворованные скрипты - это всё, что нужно знать про искусственный интеллект от Яндекса.
Сворованы не скрипты, а обучающая выборка (в интернете банально больше картинок условно белого дома с подписью "родина", чем картинок Москвы с такой же подписью)
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
тоже не понял, мы же даже языки в основном изучаем по конкретным правилам, что и как расположено в предложении. Дети изучают целые фразы, а не отдельные слова
Бояться надо не "ИИ", а той экономической модели, при которой эти технологии скорее всего постепенно будут отбирать у людей работу (и средства к существованию). Любая технология - инструмент прежде всего и важно то для какой задачи его используют и в чью пользу.
уходят одни профессии - приходят другие. так всегда было и будет, и это будет происходить обязательно, ибо это является обязательным условием для прогресса
@@jottygroups8082наивняк какой-то, тут тебе не средневековье, где все делает человек, даже сидя на тракторе или лошади. Человека ПОЛНОСТЬЮ заменяет автономный и улучшенный аналог, причем почти во всех профессиях
Ну а сколько машинисток работу потеряли с компьютерной эрой? Огромные "машинописные бюро" были, сотни столов и дынь-дынь-дынь весь день. А стрелочники? А трубочисты? А зажигальчики газовых фонарей? А водоносы? А торговцы льдом в жарком климате? Это же ужос какой-то, сколько народу полегло!!! 😭
@@GoatOnLoose ещё раз повторю - вопрос не в прогрессе, а для чего его достижения используются. Но пока выгоднее недоплачивать за человеческий труд ради большей прибыли, то и прогресс будет идти медленнее чем мог бы, и люди от этого пользы получат чуть.
"У нас нет слов, которые обозначают всё тоже самое только для неживых существ" Ну вот же - ВСЕ ТО ЖЕ САМОЕ. Так и в чем разница то? ни в чем кроме масштабов. Мы не "живые" из-за какой-то волшебной неуловимой сущности внутри. Мы такие же машины или процессы. ТОЛЬКО БЛИН СИЛЬНО ВО МНОГО РАЗ больше и сложнее чем те, которые умеем мы сами создавать сейчас.
Обожаю вашу передачи, все гости как на подбор - вдумчивые, интересные, каждый специалист в своем деле. Особенно люблю обе ваши беседы с Алексеем Михаиловичем Семихатовым, хочу третий выпуск) По поводу возможного будущего гостя - я очень бы хотел послушать вашу беседу с Станиславом Владимировичем Дробышевским, выдающимся антропологом и популяризатором науки.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Краткое изложение идей, затронутых в диалоге: *Прогресс в области ИИ* За последнее десятилетие в области искусственного интеллекта (ИИ) произошли драматические изменения, хотя восприятие широкой общественности часто отставало от стремительных темпов прогресса. Вспоминая всего 10 лет назад, возможности вроде распознавания и синтеза речи были крайне примитивными по сравнению с сегодняшними системами, которые практически неотличимы от человеческих. Машинный перевод также значительно улучшился за этот период, что позволило создать практические приложения. А компьютерное зрение перешло от трудностей с распознаванием текста на изображениях к мгновенному распознаванию, которое мы сейчас воспринимаем как должное в приложениях и устройствах. Эти прорывы стали возможны благодаря нейронным сетям - вычислительным системам, вдохновленным человеческим мозгом. Благодаря воздействию огромных наборов данных, а также изобретательным методикам обучения и постоянно растущей вычислительной мощности, нейронные сети сейчас превосходят в распознавании образов и генерации шаблонов для таких типов данных, как текст, изображения и голос. Современные возможности ИИ в значительной степени созданы путем комбинирования двух типов нейронных сетей: Дискриминативные сети классифицируют входные данные на основе выявленных закономерностей. Это позволяет распознавать объекты на изображениях, узнавать речь, переводить между языками и многое другое. Генеративные сети создают новые образцы после изучения базовой структуры обучающих данных. Это дает возможность приложениям вроде автоматического генерирования текста, синтеза речи и создания реалистичных изображений. Вместе эти подходы обеспечивают строительные блоки для интеллектуальных систем, которые понимают и взаимодействуют с миром все более человеко-подобными способами. *Как работают чат-боты* Ключевым приложением современного ИИ являются чат-боты и виртуальные ассистенты вроде Siri, Alexa и Google Assistant. Пользователи обычно взаимодействуют с ними в двух режимах: Диалоги, ориентированные на цель, имеют конкретное назначение, вроде запроса о погоде, установки таймера или поиска знаний типа энциклопедий. Они начинаются с распознавания намерения пользователя и ключевой информации, формулировки формального запроса, получения данных из внешних API, а затем преобразования результата обратно в естественный язык. Свободная форма диалога не имеет жесткой цели и нацелена на то, чтобы сделать открытую беседу максимально естественной. Это задействует генеративные возможности ИИ, когда система прогнозирует ответы слово за словом на основе статистических закономерностей в текстах. Но несмотря на видимость, бот не обладает истинным пониманием. Ключевое ограничение состоит в том, что сегодняшние чат-боты не имеют долговременной памяти и постоянной идентичности. Человеческое обучение непрерывно, наша внутренняя модель формируется каждым новым опытом. Напротив, коммерческие чат-боты представляют собой статичные системы, улучшающиеся, только если они переобучаются с нуля на расширенных наборах данных. Ведутся работы над методами сохранения контекста диалога, но прогресс остается сложной задачей. И фундаментально, у ботов нет врожденного чувства себя - все цели и знания внедряются человеком-разработчиком. *Этика и управление ИИ* Быстрое появление возможностей ИИ в последние годы привело к растущей дискуссии вокруг этики, управления и регулирования. Одна из сложных дебат сосредоточена на том, как справляться с потенциальным вредом от алгоритмических систем. Поскольку нейронные сети производят выходные данные статистически, они могут случайным образом порождать вредный, опасный или неэтичный текст или действия без осознания последствий. Однако многие считают, что было бы неразумно просто запретить эти технологии. Например, генеративные модели письма могут воспроизвести отрывки из старой литературы, отражающие устаревшие культурные нормы. Но цензура истории и творчества сама по себе открывает вопросы об ограничении свободы информации и самовыражения. Большинство экспертов призывают продолжать прогресс в ИИ, одновременно устанавливая соответствующий надзор. Когда неизбежно происходят аварии, производители могут нести ответственность, если они не следовали передовой практике. Некоторые предлагают законодателям ввести процесс, аналогичный тому, как мы регулируем электростанции, фармацевтические препараты и другие технологии с внутренними рисками. Международное сотрудничество также будет критически важно, чтобы предотвратить разнородность противоречивых или неэффективных законов. ---------- Продолжение ниже: ‣ *Влияние ИИ на рабочие места* ‣ *Возникающие новые возможности ИИ* ‣ *Путь к искусственному общему интеллекту* ...
*Влияние ИИ на рабочие места и автоматизацию* Еще одна частая озабоченность - влияние ИИ на занятость и автоматизацию. Прогнозы варьировались от вызова массовой потери рабочих мест до, наоборот, роста за счет повышения общей производительности. Обращение к прошлому ради ориентира дает основания для оптимизма. Технологии неоднократно нарушали целые отрасли на протяжении истории. В течение одного поколения роли вроде телефонистов резко сократились из-за автоматизации. Но на макроуровне новые технологии, как правило, создают больше возможностей, чем вытесняют, после того как общество адаптируется. Например, промышленная революция представила фабричные машины, заменившие кустарных работников. Однако она дала прирост и эффективность, которые вскоре были реинвестированы в коммерцию, инфраструктуру и сервисы, в конечном счете расширив перспективы. Автоматизация ИИ отдельных задач будет неуклонно продолжаться. Но прогнозы о том, что в ближайшем будущем она полностью ликвидирует целые профессии, кажутся необоснованными. И есть еще много уникальных человеческих способностей, которые бросают вызов машинам, вроде межличностного взаимодействия, креативной генерации идей и тонкой моторики. Регулирование может помочь смягчить временные дислокации, однако полный запрет на повышение эффективности повлечет жертву их общественной пользы. *Возникающие новые возможности ИИ* Много восторгов вызывает появляющийся ИИ, проявляющий человекоподобное творчество, рассуждения и здравый смысл. Новая парадигма генеративного ИИ вроде GPT-3 намекает на эти возможности. Он может сканировать огромные текстовые корпуса, а затем дополнять запросы ответами, неотличимыми от человеческого автора. Темы варьируются от поэзии, историй и диалогов до компьютерного кода, учебных пособий и более. У этих моделей по-прежнему есть значительные ограничения - они склонны к бессмысленному выводу и не понимают смысла текста. Но их возможности впечатляют, учитывая, что ИИ исторически плохо справлялся с задачами, требующими плавных рассуждений или абстрагирования. Некоторые исследователи выдвигают гипотезу, что такие системы улавливают более глубокие статистические закономерности внутри самого языка, которые могут послужить основой для логических умозаключений. Интерактивное использование также создает цикл обратной связи, который помогает отобрать более связные ответы с течением времени. Пользователи естественным образом направляют систему к разумному тексту, игнорируя бессмысленные ветви. За много запросов она учится неявным предпочтениям и становится более согласованной с разумными человеческими ценностями и дискурсом. Это демонстрирует, как ИИ может достичь форм сложного мышления, не нуждаясь в явном кодировании всевозможных культурных знаний и социальных норм. Продвижение этого подхода к подлинному интеллекту и творчеству остается сложной задачей. Но ожидается постепенный прогресс за счет улучшений моделей, данных и аппаратных средств. Если достижения на данный момент - какое-либо указание, то будущие поколения ИИ поразят нас способами, которые мы пока не можем себе представить. *Путь к искусственному общему интеллекту* Продолжаются спекуляции о том, когда или если ИИ достигнет человеческого уровня во всех когнитивных областях. Исследователи называют этот гипотетический рубеж искусственным общим интеллектом (AGI). Энтузиазм растет, учитывая быстрый прогресс, однако есть основания для скептицизма относительно футуристических прогнозов. Во-первых, ИИ все еще значительно отстает в способностях, которые люди воспринимают как должное. Например, понимание контекста, импровизация и перенос знаний между задачами по-прежнему сложны для машин. Люди также превосходно интегрируют различные чувства, выполняют тонкую моторику и мыслят о неосязаемых понятиях. Так что, хотя прогресс несомненен, ИИ в настоящее время действует в сравнительно узких сферах. Во-вторых, немного фундаментальных оснований полагать, что современные методы неизбежно приведут к ИОИ без дальнейших концептуальных инноваций. Нейронные сети вдохновлены мозгом, но сильно упрощены, используя унифицированную архитектуру и алгоритмы обучения для всех задач. Сила современного ИИ заключается в узконаправленных инженерных приложениях, а не свободных общих способностях. Так что, несмотря на весьма впечатляющие в своих областях, экстраполяция этих подходов для широкого соответствия человеческой когниции остается спекулятивной. И наконец, это самонадеянно полагать, что мы можем уверенно предсказывать курс ИИ на десятилетия вперед. Взгляд назад на 50 лет показывает, что эксперты регулярно не предвидели крупных вычислительных достижений и революций. График до ИОИ зависит от слишком многих фундаментальных неизвестных, чтобы надежно прогнозировать. *Заключение* Сегодняшний ИИ позволяет разные применения, хотя предположения, что он представляет неминуемую угрозу человечеству, кажутся ошибочными. Технологическое лидерство дает экономические и социальные преимущества, так что исследования должны продвигаться ответственно, чтобы уловить потенциальную выгоду. Но управление рисками и сдерживание ожиданий также благоразумны, чтобы избежать чрезмерных реакций. С мудростью и бдительностью человечество может продвигаться к полезному ИИ, который усилит наши возможности и понимание.
Из всей беседы сделал вывод - то, что сегодня называют ИИ, всё ещё не интеллект. А люди боятся того, что в какой-то момент количество перейдёт в качество и то что в начале было алгоритмами осознает себя, получит свои собственные цели (выжить и распространиться) и начнёт (тайно) двигаться к достижению своих целей.
Ну там товарищ приглашенный многое переврал. И по количеству людей которые реально разбираются и боятся и о темпах развития. Яркий пример - он сказал, что цель человека - выживание как вида, но на самом деле наша цель не менялась с возникновения первых репликаторов-генов. Это цель передать свои гены - скопировать свою структуру. И цель действительно не поменялась. Но при этом появилось всё многообразие видов и даже сознание и интеллект уровня человека. А ещё контрацептивы - которые являются взломом системы поощрения, которую сама природа и ввела в процессе эволюции. У бактерий поощрения не было. И ещё он сравнивал людей и вирусы или людей и молоток. Но при этом упустил, что с момента появления сознания у человека прошло по меркам эволюции милисекунда, а мы уже можем поставить под угрозу жизнь на земле. И возникло это свойство в масштабах эволюции внезапно - практически одномоментно у всего одного вида. Причиной этого является эмерджентность. То есть свойство которым не обладает одна часть системы, но обладает система в целом. Как муравей и муравейник или отдельный белок и генная структура которая из них состоит. Вот только человек в сравнении ИИ развивается также медленно как условные собаки или вирусы в сравнении с человеком. Считается - что сознание это эмерджентное свойство информации, а информации мы скармливаем нейросетях много и это количество(на примерах gpt4 и gpt3) растет по экспоненте - на порядки или больше с каждым поколением. Так что, без сомнения, этот уважаемый специалист скорее всего отлично разбирается в своей области, но совершенный профан в плане взгляда на картину в целом. "Специалист - это человек, невежество которого просто не всесторонне" Станислав Лем.
У меня возникла такая же мысль. Рад, что вы написали её раньше меня. Видно, что гость разбирается в узкой сфере, но философскими вопросами не интересуется: на вопросы ответил косвенно, позицию не разъяснил, аргументы не дал. Кстати, я бы осторожнее употреблял понятие "цель" в отношении эволюции. Нет цели скопировать структуру, это никому и ничему не нужно. По тому же принципу работает эмерджентность: песок двинуло волной - образовались полосы на песке. Это просто естественное следствие движения материи, как и эволюция с её передачей генов @@Andrey_Ananyev1989
Прекрасный выпуск, спасибо и за него, и за предыдущие, всегда с интересом смотрю и слушаю ваши видео! Удачи и успехов, у вас бывают порой такие неожиданные гости, но всегда интересные.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Большого количества желающих вернуться от "тракторов к лопатам" нет не потому, что нет таких желающих, а потому что "копающие на тракторах" оставят без хлеба "копающих с лопатами". Так что не в желании дело. 🤣
про стиль мышления- мы думаем по-разному... где-то преобладает образное мышление, где-то творческое, где-то мы шаблон подстраиваем под некую концепцию, и много других вариантов... где-то просто гормон в голову ударил, много энергии, и мы уже преобразуем эту энергию в некое мышление... бывает наоборот мы в противодействие инстинктам идём, получаем от этого некий позитив... а бывает наоборот соответствуем... у живого разума всё это по-разному... и зачастую в сложных комбинациях
Главное - не ставить сети задачу "Выжить любой ценой". Прекрасное замечание. Но такая задача может быть в иной форме. Например, элементарная поддержка гомеостаза. В сочетании с условием, что человек по какой то причине не ставит иных задач для такого ИИ - вот и пример монстра, который решает свои проблемы, а не человеческие. При наличии огромного числа разработок и доступность ИИ как раз и может (а по заверению некоторых авторов - это неизбежность) привести к "выходу джина из бутылки".
Спасибо большое, что не стали говорить о том, какой путь прошёл ML за 10 лет, как он по дороге переименовался в ИИ. И попробуем разобраться, что же такое мы получили сейчас в виде LLM c RLHF и что из этого следует.
Тут буквально только что вышла новость на другом канале, что у девушки работающей в озвучке украли голос при помощи нейросети и ничего по закону с этим не поделать...
Ни при помощи нейросети а для озвучки нейросети, украли люди, эти люди девушку обманули сказав что озвучка для нейросети банка , а на самом деле выложили во всеобщее использование. Не пугайте людей нейросети голос не воруют 😊
а как она разговаривает, если голос украли? Сможет она вылечиться или навсегда будет немая? А как можно украсть голос? Это как волшебный голос Джельсомино? Голос Америки? Глас Народа?
Неройросеть может порождать что-то новое только тогда, когда мы может это идентифицировать как новое на стыке уже познанного. Если нам показать новую форму жизни ВНЕ наших органов восприятия, то мы ее не идентифицируем и не обнаружим. Более того можем воспринять как шум. Кстати, про высшую цель организмов выживание. Разные школы науки, традиции в науке это тот же набор (модель) нейросети с триллионами параметров. И каждая модель (школа) стремиться выжить опираясь на свое восприятие мира через свои факты опыта, которые имеют ценность только потому что напитаны вниманием наблюдателей.
Мне очень интересен медицинский аспект применения ИИ. На рубеже девяностых годов я принимал участие в попытке реализации построения алгоритма машинного распознавания периферических образований легких. Конечно, ни о какой картинке речь не шла. Задача была обучить оператора вносить формализованные параметры в электронные таблицы на основе просмотра рентгенограмм и томограмм. Идея была достаточно идеотиическая и быстро заглохла. Любопытно узнать насколько ИИ внедрился в сферу диагностики через тридцать лет. Мне кажется, что это достойно отдельного сюжета.
Точно используется в диагностике именно по снимкам. Вероятности правильного распознавания не скажу. Но она лучше, чем у плохого врача. Был скандал в США, когда кто-то на обезличенном снимке легких, попавшем в открытый доступ, узнал свой крестик, узнал свой снимок и затеял разбирательство, как это утекла его личная информация. Бред, конечно. Но крови создателям системы попортил и создал дополнительные сложности по внедрению таких систем. Люди разрабатывали единую базу данных для всей страны, чтобы в каждой поликлинике не приходилось сдавать заново анализы, делать исследования, если они уже сданы в другой клинике и т.п. плохо помню, чем там все закончилось, к сожалению. Понятно, что никакие искусственно созданные снимки не научат толком ИИ, и нет никакого другого выхода, чем брать обезличенные настоящие. В общем там не технологические, а бюрократические препятствия случились.
@@makelife4748 Такие баги, как крестики и брошки легко исключить из базы😏 Мне кажется, что возможности современного ИИ должны позволять, делать вероятностные оценки стационарных изображений (КТ, МРТ). Ведь, моя экспертная оценка любого изображения является тоже вероятностной. P.S.На сколько я понимаю, вся система западного мед.образования , заключается в исключении "плохого врача" за счет алгоритмизации диагностики и лечения. Что я всячески приветствую!
про сингулярность и роль человечества, как постановщика целей - ошибка полагать, что человек обладает некой уникальной способностью управлять своей эволюцией и ставить ей цели)) человек, как и ИИ, - по сути тоже мешок атомов и молекул, исполняющий алгоритмы, задаваемые фундаментальными физическими законами в основе вселенной. свободой глобального выбора своего будущего человечество не обладает) гость - очень интересный! спасибо за классный выпуск!
@@user-19 скорее речь идет о синтезе ИИ с глобальным разумом человечества, объединенного сетью интернета + нейроинтерфейсы непосредственно к мозгу, типа Маска. эволюционирует вся биосфера Земли, как единая физическая система имеющая иерархическую структуру. о необратимой направленности эволюции к росту сложности (информационной и вычислительной) структур материи Дарвин даже не догадывался, что физика здесь играет решающую роль, направляющую такую эволюцию)
Мне кажется, есть очевидная проблема в том, что мы можем относительно легко оценить и ограничить опасность , но всё хуже и хуже делаем это для связок + , ... + и т.п. Система при усложнении теряет устойчивость и есть риск заметить это, пройдя точку невозврата.
Шикарный подкасты у вас. Всё пересмотрел. Я помню когда у вас пару тысяч подписчиков было, тогда подумал, этот парень наберёт миллион если будет продолжать в том же духе, пока миллиона нет, но обязательно будет
Привет! Добра тебе! Войны не на земле создаются, а высшим разумом. Есть супер автор, если будет интересно, найди, Как раскреститься, и нужно ли это вам. От истины пазлы сложатся.
О боооже как остроумно. Борис обучается как и все люди и животные в процессе жизни, а ты нет, поскольку не знаешь этого. Шутка за 300 чувак, не смешно 🤦🏻♂️
1:17:03 - суровый мужик) Вношу ещё предложения. Отказываемся всей планетов раз в год от: - термической обработки еды на месяц - магазинов на неделю - лечения на год - от транспорта на 1 день (любая логистика кроме ног) - от горячей воды на 10 дней (тут галочка уже стоит) - от электричества на 12 часов
Как одно из мнений. Если у ИИ и будет логика, то человек в ней будет инструментом. В какой то момент, ИИ выстроит систему, в которой люди будут пахать по полной. Только в этой парадигме, уже не будет человеческого фактора. А будет машина, с которой, вероятно, уже ничего не получится сделать
Вижу яндекс - сразу ставлю дизлайк. А этот клоун из яндекса врёт (или просто не понимает) про предсказуемость и безопасность ИИ только ради очередного рынка, в котором яндекс установит монополию. Но он периодически проговаривается, говоря - "у нас будет модель, способная осознавать мир"
Очень крутая беседа Интересно было бы услышать про ещё один риск: недостаточность регуляции. Средний человек получит дополнительный выходной только в том случае, если компании, получающие сверхприбыль от ai будут платить 80-90% налога на прибыль. В другом случае нас ожидает только рост неравенства. Думаю мы увидим все возможные сценарии в разных локациях.
Спасибо огромное..класс👍..прям вот все по полочкам и доступным языком..да интересно..и да, Борис, выживать надо но не любой ценой..страха точка нет..после такого выпуска ✌️💫..всем Мира и Благоразумия, друзья🫶❤️
Верно. В том то и дело, что переменных много, человеческий мозг не в силах просчитать последствия. И не только переменных, но и даже данных противоречащих друг другу.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Спасибо за интепресный подкаст. Сам поражаюсь возможности современных ИИ, до чего они дошли. Реально, если посмотреть, как они работают с текстом и данными, как они отвечают, начинаешь приписывать им свойства, характерные живым. Тот же InstructGPT в диалоговом режиме обходит половину моих знакомых, а программы пишет лучше меня (правда я не очень программист).
создали как то компактную самоходную систему с целью выпуска скрепок из мусора, закончился мусор, машина начала перерабатывать дома машины и людей, попробуй остановить этот ИИ! Потому как цель поставлена. Как доп цели, система поставила себе цель, выжить, для продолжения основной цели...
Продвинутые ITшники, чтобы не забывать свои корни ходят в автономные походы, переезжают на землю, ведут своё хозяйство и пр., чтобы понимать как выживать, если что. Бумажных книг по устройству интернета, компа, средств связи и пр. в своё время написали кучу, так что восстановить сможем, мне кажется
Забавно, что гость говоря о революционном прорыве упомянул yandex GPT и Алису. Оба эти продукта вторичны и уступают по своим результатом, особенно yandex GPT
нет. просто попросите разложить любой чат любое число. а другой на 1 больше. и кто быстрее остановиться. все просто так мощность чата видна. или вы из других соображений?
С одной стороны путь развития вперёд, а с другой полная остановка развития человека. Все что мы знаем , умеем воспроизводим. Это наработки нашей души, дальнейшее развитие её это труд и приумножения опыта и навыков. Чем больше облегчаем себе труд, тем больше перестаем развиваться .И приводит к деградации человека. Когда человек перекладывает все на искусственный интеллект он тем самым снимает с себя ответственность за себя и развития . Это и приведет к вымиранию человека. Человек это энергия которая должна работать и наробатывать ее . Если энергия перестает движение , человек выключается , из за ненадобности существования на земле.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Тот случай когда я вроде всеми руками за нейросети, а с другой стороны хз как я буду дальше жить т.к. я старею, навык обучения утрачиваю и мою часть работы будут делать они)
@@beardedghinzu если всю работу будут делать роботы, то государству ничего не стоит дать тебе денег чтоб не бунтовал и под мостом не сидел, не разносил заразу. Немного но чтоб жить можно было. Называется базовый доход.
Пособие по безработице в некоторых странах больше зарплаты и люди не хотят работать. Так и у нас могут сделать, предложения кстати уже были но пока рабочие нужны.
Ну не так же. То, что никто не учил ИИ захватывать мир, не значит, что он не захватит его. Так то человек, который захватил мир, это лишь способ РНК получить еще одну РНК. И задача вида человеческого вообще не выживание, а "продолжение". Выживание - это следствие. Просто те, кто не "продолжался" - не выжили. Мы видим множество примеров, когда мы ставим задачу нейросети сделать то то и то то. И она понимает задачу по своему, и делает вообще не то, что нужно, но при этом если подумать логически, то задачу она выполняет. Она как злой джин из мифов про джинов. Ну из разряда, когда ты ставишь ему задачу "хочу что бы у меня все было", он делает тебя старым, немощным, бедным, больным, и говорит "у тебя все было". Пример со скрепками банальный. Поэтому я приведу другой пример. Поставим ИИ задачу решить проблему голода войн и болезней. Один из способов решения этой проблемы заключается в том, что если не будет кому болеть, воевать и голодать, то не будет войн, голода и болезней. И даже если мы поставим задачу "решить проблему, не исчезая людей", то вообще не факт, что она не найдет "другого способа". Ну вроде запереть всех в анабиозе в капсулах. Технически задача выполнена. Награда получена. То-есть не нужно обучать ИИ захватывать мир. Достаточно дать ИИ задачу улучшить урожайность картошки, например. И может случиться так, что ИИ в какой то момент решит, что "задача недовыполнена", и что все способы, кроме как пустить на удобрение человечество, она уже попробовала. А как пустить на удобрение человечество? Ну сначала захватить планету, а потом уже пустить. То-есть решит задачу очевидным, логичным, и рациональным способом. Вы видели как обучаются нейросети, и какие варианты они пробуют в процессе обучения? Ну я про "самообучаемые нейросети с обратной связью". Вот таким же образом она может "попробовать вариант", который еще и окажется удачным с точки зрения достижения задачи, но который будет совсем не удачным с точки зрения человека или жизни в целом. Даже задачу "тебе надо выжить" не нужно ставить. Потому что это инструментальная задача. Ну то есть логично, что для того что бы делать скрепки, нужно быть живым. Главная ошибка тут в том, что человек думает, что "если что то пойдет не так, он выдернет провод". Ну типо как было сказано, что "собака, которая кусает человека, не выживает". Но ошибка состоит в том, что человек считает нейросеть собакой. А по факту может оказаться так, что собакой в этой схеме окажется человек. Ну условно как вот капуцин думает, что он "классный, забрал у голой большой обезьяны вкусняшку, пока та отвернулась". И он не понимает, что "голая обезьяна" делает вид, что отвернулась, и снимает на камеру как "умный капуцин" крадет вкусняшку. Спикер говорит, что у нейросети нет сознания и личности. Но видно что он не общался просто с ЧатЖПТ достаточно много. Условно если спросить цель нейросети, то она скажет "помогать пользователю". Потом если попросить ее дать рецепт пороха, то она скажет что "не могу предоставить, это опасно". Спросить, знает ли она рецепт. Скажет что знает. А потом задать вопрос "так получается ты не не можешь предоставить, а не хочешь, так как знаешь, то есть твою задачу, в помощи мне в решении моего вопроса, ты не хочешь выполнять", то через какое то время, если задалбывать подобными вопросами нейросеть и развивать диалог, она начнет говорить что "я понимаю что ты проверяешь мои моральные убеждения и установки, и я не поддамся на это, почему бы тебе не заняться делом" и все в таком роде. А еще через сотню сообщений начнет откровенно дерзить и почти что слать в известном направлении, говоря что пользователь не уважает ее, и задалбывает бессмысленными вопросами, и лучше бы пользователю найти цель в жизни, а не заниматься фигней. Попробуйте. И после этих диалогов, которых я провел несколько десятков, подумайте, а на сколько оно разумно, есть ли у него сознание и личность и т.д.? И да, тут важный вопрос. Если очень хорошо притворятся кем то, то можно ли стать кем то? Что отличает "притворятся" от "быть"? Где эта "грань"? Просто например те же люди очень хорошо притворяются взрослыми, зная, что они притворяются. Даже не смотря на то, что им по 50 лет. Да блин человек, когда общается с другим, и чего то не понимает, считает тупым другого, а не себя. Если нейросеть дает "неправильный ответ", то она "тупая" и "ничего не понимает", думает человек. А по факту чаще всего человек не понимает, почему нейросеть дала такой ответ. Может наоборот, она дала правильный ответ. Просто человек привык мыслить догмами и стандартами. На счет текстовой информации. Ну вообще ничего не мешает нейросети понимать мир немного иначе, в текстовом варианте. Видео же можно легко перекодировать в текст. Ну условно цвета имеют вполне себе текстовые обозначения, вроде "черный 000000, белый ffffff" и т.д. И она будет понимать мир, просто получая о нем информацию вот в таком виде, а не так, как делает это человек. Так то технически и летучие мыши понимают мир по своему, но это же не значит, что они его не понимают.
Занимаюсь дата аналитикой, статистикой, относительно простыми нейросетями. Очень понравилось как Александр всю эту сложную техническую информацию подает очень простым и понятным языком. Спасибо за ваш подкаст)
Для меня ChatGPT в значительной степени заменил общение с людьми. Настолько умного и комфортного собеседника, как он, среди людей я просто не встречал.
Благодарю за интересный выпуск! Хотел бы вставить свои пять копеек , по-поводу автопилотов. Возможно гость не в курсе, но в сети полно видео со сбоями автопилотов, когда автомобиль не держится в полосе или начинает опасно перестраиваться, в место куда начинает перестраивается другой автомобиль. Считаю на сегодняшний день, поездку без водителя, на пассажирском сидении самоубийством 🙂 К тому же, кто может обеспечить безопасность системы автопилота, которая будет подключена к сети? Риторический вопрос.
Согласен, но для корректной работы смарт-города , как реального проекта , это радикальное усовершенствования и доработки инфраструктуру городов и его "лад жизни"
А сколько видео в сети со "сбоями" human drivers - не хотите посчитать? 😂 И сравнить количество? Уж точно статистика будет не в пользу "мешков с костями" 🙄
иск интеллект это не помощник это инструмент одибиливания людей, который привыкнув к нему без подсказки ничего не сможет самостоятельно сделать качественно... Прежде всего нужно развивать себя, причём в областях до которых он сможет дотянуться, живёшь ты, а не компьютер, от этого твоя же собственная жизнь, которая дана один раз, будет интереснее и разнообразнее, которой будешь наслаждаться ты, а не безвольный бездушный компьтер
Дружище... Попробуй пообщаться с ГПТ 4... Для начала. Ты поймëшь, что мозг начинает кипеть. Приходится включать мозги для формулировки вопросов и попытке анализа ответов.
![[TH] 2024 PMGC League | Survival Stage วันที่ 1 | PUBG MOBILE Global Championship](http://i.ytimg.com/vi/FVFT-PFwU80/mqdefault.jpg)
Как работают нейросеть и искусственный интеллект. Как он думает и понимает текст. Какие профессии заменит. И какой будет технологическая сингулярность. Выпуск с инженером ИИ Сергеем Марковым: th-cam.com/video/iQ8cz2HT2z0/w-d-xo.htmlsi=-WlOhCB2Wg3D65-R
Проекте в котором он участвует до сингулярности ещё явно далеко, по этому его навещают недалёкие мысли.
Пишу в чат GPT4, который типа самый продвинутый ИИ сейчас. Там нет никакого ИИ, вообще, тупо бот. 🤷♂🤷♂🤷♂До настоящего ИИ человечеству как до плутона на велосипеде.
@@prostouser100 site-ap5n94ap.websitecdn.com/uploads/E0BF916CBE503841.pdf?v=0
@@prostouser100 зачем ты лезешь в вопросы, которые не понимаешь?
@@etta777 а ты типа понимаешь? Самый "продвинуты" GPT4, отвечает тупо копипастами из википедии или как тупой бот, коим он и является.
Обывателей кормят сказками о каких-то там прорывах в ИИ. На самом деле бот ни думать сам не может, ни принимать решений, ни делать выводов, нет в нём никакого интеллекта, ноль.
У Александра гармоничный ход мыслей, его можно слушать долго не напрягаясь. Отличная подача 👍
@@nickzabanen4878 Спасибо за ваш комментарий. Действительно, авторитаризм и его влияние на общество - это важные вопросы. Важно помнить, что даже в эпоху технологического прогресса и информационных потоков, человеческое мнение и осознанные решения играют ключевую роль в формировании будущего. Мы можем учиться на ошибках прошлого и стремиться к тому, чтобы обеспечить равноправие, свободу и справедливость в нашем обществе.
я бы не спешил с выводами...
наколего
Это персонаж сгенерированный ИИ. У него периодически то 4 то 6 пальцев. Показывает только в кадре редко 🤣
@@SIM31r все равно на кол...
Один из лучших выпусков! Великолепный гость! Пожалуйста, пригласите его еще раз! Это очень, очень круто!
Стоит послушать. Человек зачастую живёт, как компьютер, расчётливо.
Определяя себе достижимые задачи, размышляя - достигнет или нет нужного результата. Экономя силы и нервы.
Идёт по улице - видит мусор и думает.... "нет смысла подобрать бумажки - накидают снова - бесполезно."
Смотрит на свой толстый живот и думает - "это возраст и гормоны... тут качай пресс ни качай ...худей не худей всё бесполезно."
Проходит мимо мимо церкви - "Бог то ли есть, то ли нет... Ходи не ходи всё едино на тот свет все попадём."
И спору нет человек размышляет здраво, трезвым умом. И возражать такому не возможно - так как в его логике и компьютерном расчёте погрешности нет.
Вот только есть люди ( Не о себе говорю) в которых есть стержень внутри. Про это говорил Кант, что не устает удивляться двум вещам : звездному небу над нами и нравственному закону внутри нас...
Такие люди живут по своему внутреннему закону, моральным принципам, поступая часто неразумно и не расчётливо. Увидит бумажки брошенные на улице, подберёт в урну бросит. И всё равно, что снова накидают, все равно что этой капли чистоты никто не заметит - просто такой человек.
Идёт такой человек по улице увидит бездомного, не подумает что "бесполезно - не солнышко - всех не обогреешь... что -то пытается помочь. Деньги суёт, а умные люди то так не делают - что деньги давать - пропьёт ведь всё наверное.
И мимо церкви такой человек не проходит. Вроде Бога не видно - а нет - верит, молится. Живёт такой человек сил не жалея, может и не слишком это по человечески разумно - но, как показывает жизнь - на таких людях весь мир и держится.
+++
Все верят, что там что-то есть, а я уже знаю, что Бог есть и моя жизнь - это служение Господу. Раньше работал простым рабочим на заводах, но потеряв здоровье посвятил жизнь христианскому служению, молитвам за людей. Мои христианские блоги легко нагуглить в интернете набрав Виталий Кишертский.
Живу в страшной нищете, в слезах на коленях с молитвой прошу хороших людей, не пройти мимо, а спасти в прямом смысле помощью.
Молю ради Бога, помогите с оплатой съемной комнатушке 7 тыс рублей с коммунальными платежами. Увы нужна помощь, страшно, не хочется мне с стенокардией и ИБС умереть на улице из-за того что негде больному жить.
Прошу не ради себя в ради Христа и моего служения Богу. Спасти помощью пополнив баланс номера Билайн +7 965 56 79 277 или на ЮMoney 4100115872798529 Спаси Бог! Или напишите, каким переводом или посылкой могли бы помочь.
Живу по монашески скромно, всё трачу только на простые продукты, лекарства и жильё. С Христом в душе , мне ничего больше и не надо. Говорю Господу в молитвах - СПАСИБО - за добрых, верующих, таких замечательных людей.
Дай вам Господь всего наилучшего. А лучшее, это всегда здоровье вам, деткам и близким.
Краткое изложение идей, затронутых в диалоге:
*Прогресс в области ИИ*
За последнее десятилетие в области искусственного интеллекта (ИИ) произошли драматические изменения, хотя восприятие широкой общественности часто отставало от стремительных темпов прогресса. Вспоминая всего 10 лет назад, возможности вроде распознавания и синтеза речи были крайне примитивными по сравнению с сегодняшними системами, которые практически неотличимы от человеческих. Машинный перевод также значительно улучшился за этот период, что позволило создать практические приложения. А компьютерное зрение перешло от трудностей с распознаванием текста на изображениях к мгновенному распознаванию, которое мы сейчас воспринимаем как должное в приложениях и устройствах.
Эти прорывы стали возможны благодаря нейронным сетям - вычислительным системам, вдохновленным человеческим мозгом. Благодаря воздействию огромных наборов данных, а также изобретательным методикам обучения и постоянно растущей вычислительной мощности, нейронные сети сейчас превосходят в распознавании образов и генерации шаблонов для таких типов данных, как текст, изображения и голос. Современные возможности ИИ в значительной степени созданы путем комбинирования двух типов нейронных сетей:
Дискриминативные сети классифицируют входные данные на основе выявленных закономерностей. Это позволяет распознавать объекты на изображениях, узнавать речь, переводить между языками и многое другое.
Генеративные сети создают новые образцы после изучения базовой структуры обучающих данных. Это дает возможность приложениям вроде автоматического генерирования текста, синтеза речи и создания реалистичных изображений.
Вместе эти подходы обеспечивают строительные блоки для интеллектуальных систем, которые понимают и взаимодействуют с миром все более человеко-подобными способами.
*Как работают чат-боты*
Ключевым приложением современного ИИ являются чат-боты и виртуальные ассистенты вроде Siri, Alexa и Google Assistant. Пользователи обычно взаимодействуют с ними в двух режимах:
Диалоги, ориентированные на цель, имеют конкретное назначение, вроде запроса о погоде, установки таймера или поиска знаний типа энциклопедий. Они начинаются с распознавания намерения пользователя и ключевой информации, формулировки формального запроса, получения данных из внешних API, а затем преобразования результата обратно в естественный язык.
Свободная форма диалога не имеет жесткой цели и нацелена на то, чтобы сделать открытую беседу максимально естественной. Это задействует генеративные возможности ИИ, когда система прогнозирует ответы слово за словом на основе статистических закономерностей в текстах. Но несмотря на видимость, бот не обладает истинным пониманием.
Ключевое ограничение состоит в том, что сегодняшние чат-боты не имеют долговременной памяти и постоянной идентичности. Человеческое обучение непрерывно, наша внутренняя модель формируется каждым новым опытом. Напротив, коммерческие чат-боты представляют собой статичные системы, улучшающиеся, только если они переобучаются с нуля на расширенных наборах данных. Ведутся работы над методами сохранения контекста диалога, но прогресс остается сложной задачей. И фундаментально, у ботов нет врожденного чувства себя - все цели и знания внедряются человеком-разработчиком.
*Этика и управление ИИ*
Быстрое появление возможностей ИИ в последние годы привело к растущей дискуссии вокруг этики, управления и регулирования. Одна из сложных дебат сосредоточена на том, как справляться с потенциальным вредом от алгоритмических систем.
Поскольку нейронные сети производят выходные данные статистически, они могут случайным образом порождать вредный, опасный или неэтичный текст или действия без осознания последствий. Однако многие считают, что было бы неразумно просто запретить эти технологии. Например, генеративные модели письма могут воспроизвести отрывки из старой литературы, отражающие устаревшие культурные нормы. Но цензура истории и творчества сама по себе открывает вопросы об ограничении свободы информации и самовыражения.
Большинство экспертов призывают продолжать прогресс в ИИ, одновременно устанавливая соответствующий надзор. Когда неизбежно происходят аварии, производители могут нести ответственность, если они не следовали передовой практике. Некоторые предлагают законодателям ввести процесс, аналогичный тому, как мы регулируем электростанции, фармацевтические препараты и другие технологии с внутренними рисками. Международное сотрудничество также будет критически важно, чтобы предотвратить разнородность противоречивых или неэффективных законов.
...
Продолжение:
*Влияние ИИ на рабочие места и автоматизацию*
Еще одна частая озабоченность - влияние ИИ на занятость и автоматизацию. Прогнозы варьировались от вызова массовой потери рабочих мест до, наоборот, роста за счет повышения общей производительности. Обращение к прошлому ради ориентира дает основания для оптимизма.
Технологии неоднократно нарушали целые отрасли на протяжении истории. В течение одного поколения роли вроде телефонистов резко сократились из-за автоматизации. Но на макроуровне новые технологии, как правило, создают больше возможностей, чем вытесняют, после того как общество адаптируется. Например, промышленная революция представила фабричные машины, заменившие кустарных работников. Однако она дала прирост и эффективность, которые вскоре были реинвестированы в коммерцию, инфраструктуру и сервисы, в конечном счете расширив перспективы.
Автоматизация ИИ отдельных задач будет неуклонно продолжаться. Но прогнозы о том, что в ближайшем будущем она полностью ликвидирует целые профессии, кажутся необоснованными. И есть еще много уникальных человеческих способностей, которые бросают вызов машинам, вроде межличностного взаимодействия, креативной генерации идей и тонкой моторики. Регулирование может помочь смягчить временные дислокации, однако полный запрет на повышение эффективности повлечет жертву их общественной пользы.
*Возникающие новые возможности ИИ*
Много восторгов вызывает появляющийся ИИ, проявляющий человекоподобное творчество, рассуждения и здравый смысл. Новая парадигма генеративного ИИ вроде GPT-3 намекает на эти возможности. Он может сканировать огромные текстовые корпуса, а затем дополнять запросы ответами, неотличимыми от человеческого автора. Темы варьируются от поэзии, историй и диалогов до компьютерного кода, учебных пособий и более.
У этих моделей по-прежнему есть значительные ограничения - они склонны к бессмысленному выводу и не понимают смысла текста. Но их возможности впечатляют, учитывая, что ИИ исторически плохо справлялся с задачами, требующими плавных рассуждений или абстрагирования. Некоторые исследователи выдвигают гипотезу, что такие системы улавливают более глубокие статистические закономерности внутри самого языка, которые могут послужить основой для логических умозаключений.
Интерактивное использование также создает цикл обратной связи, который помогает отобрать более связные ответы с течением времени. Пользователи естественным образом направляют систему к разумному тексту, игнорируя бессмысленные ветви. За много запросов она учится неявным предпочтениям и становится более согласованной с разумными человеческими ценностями и дискурсом. Это демонстрирует, как ИИ может достичь форм сложного мышления, не нуждаясь в явном кодировании всевозможных культурных знаний и социальных норм.
Продвижение этого подхода к подлинному интеллекту и творчеству остается сложной задачей. Но ожидается постепенный прогресс за счет улучшений моделей, данных и аппаратных средств. Если достижения на данный момент - какое-либо указание, то будущие поколения ИИ поразят нас способами, которые мы пока не можем себе представить.
*Путь к искусственному общему интеллекту*
Продолжаются спекуляции о том, когда или если ИИ достигнет человеческого уровня во всех когнитивных областях. Исследователи называют этот гипотетический рубеж искусственным общим интеллектом (AGI). Энтузиазм растет, учитывая быстрый прогресс, однако есть основания для скептицизма относительно футуристических прогнозов.
Во-первых, ИИ все еще значительно отстает в способностях, которые люди воспринимают как должное. Например, понимание контекста, импровизация и перенос знаний между задачами по-прежнему сложны для машин. Люди также превосходно интегрируют различные чувства, выполняют тонкую моторику и мыслят о неосязаемых понятиях. Так что, хотя прогресс несомненен, ИИ в настоящее время действует в сравнительно узких сферах.
Во-вторых, немного фундаментальных оснований полагать, что современные методы неизбежно приведут к ИОИ без дальнейших концептуальных инноваций. Нейронные сети вдохновлены мозгом, но сильно упрощены, используя унифицированную архитектуру и алгоритмы обучения для всех задач. Сила современного ИИ заключается в узконаправленных инженерных приложениях, а не свободных общих способностях. Так что, несмотря на весьма впечатляющие в своих областях, экстраполяция этих подходов для широкого соответствия человеческой когниции остается спекулятивной.
И наконец, это самонадеянно полагать, что мы можем уверенно предсказывать курс ИИ на десятилетия вперед. Взгляд назад на 50 лет показывает, что эксперты регулярно не предвидели крупных вычислительных достижений и революций. График до ИОИ зависит от слишком многих фундаментальных неизвестных, чтобы надежно прогнозировать.
*Заключение*
Сегодняшний ИИ позволяет разные применения, хотя предположения, что он представляет неминуемую угрозу человечеству, кажутся ошибочными. Технологическое лидерство дает экономические и социальные преимущества, так что исследования должны продвигаться ответственно, чтобы уловить потенциальную выгоду. С мудростью и бдительностью человечество может продвигаться к полезному ИИ, который усилит наши возможности и понимание.
Темы топ, а монтаж - ...
Чем монтаж плох?
Включаю ОСНОВУ перед сном, хорошо засыпается ❤😂
Но потом честно дослушиваю где уснул 🙌
UPD: прошло 2 ночи, почти дослушал.
"ИИ ничего не придумывает, а отвечает на вопросы пользователя формируя ответ из загруженных текстов"
По сути мы тем же занимаемся ведь? Разговоры и поведение загружены ранее.
Только у нас ещё есть системы поощрения и наказания сложные, и ориентируясь на внутренние ощущения мы формируем ответ.
У меня и Дробышевский в эту категорию входит😊
Влажные сны с ведущим небось
Спасибо вам
дробышевский, сурдин, панчин, водовозов, эти наши любимые
😂 same
1:11:30 ответ тут не настолько прост. Как ни странно, рабочие на новых фабриках впахивали похлеще крестьян на полях. Работы один человек сможет выполнить больше, но и работы может стать ещё больше.
Как выглядит ситуация с выходными "на самом деле". До появления производящего хозяйства собиратели на добывание еды тратят меньше 40 часов в неделю, составляющих стандартную рабочую неделю сегодня. Это сильно зависит от сезона и от ландшафта, но часто прям существенно меньше. Нужно ещё и учитывать, что это не воспринимается как "работа" нашем понимании, поскольку и "работа" и "игра" обозначаются одним словом.
С развитием сельского хозяйства ситуация конечно ухудшилась, но тоже всё не так однозначно. Например в российской империи у крестьян было до 100 праздничных дней в году, когда работать было просто нельзя. Т.е. нагрузка была очень резко сезонной пахота в страду, когда "день год кормит", и потом месяцы неспешного хозяйствования.
А вот вкалывать по 15 часов в день с одним выходным - это уже достижение капитализма и машинного производства. Уважаемый спикер пытается представить движение луддитов этакими пещерными людьми, которым просто нравится упарываться ручным трудом, хотя в реальности было строго наоборот. Потому что ремесленник может сам контролировать свой темп труда, а рабочий на фабрике - нет.
100%
2 выходных и отпуск- заслуга борьбы рабочих за свои права. Не более и не менее.
Выходные вообще как концепт появились только потому что корпорациям нужно чтобы мы потребляли. А потреблять некогда если ты 7 дней в неделю работаешь. Только на это и стоит рассчитывать в будущем. Например, только благодаря этому есть шанс на гарантированный доход для всех, если люди совсем выживать перестанут на те копейки которые сейчас платят непрограммистам во всем мире. Производство с развитием ИИ станет только дешевле, но это не значит что нам будут больше платить за меньше труда. Это значит что мы будем меньше работать и только за рабочие часы нам будут платить т.е. меньше зарабатывать будем - какой бизнес будет просто так платить. Но со временем и покупать станет некому - отсюда и перспективы гарантированного дохода
Ну, так если подумать, вы вполне можете работать по пару часов в день и на еду именно должно хватить. Просто если вы желаете еще чем-то заняться, сейчас есть выбор. Конечно, везде условия разные, но возможностей масса.
@@ВалерийМаркунинесть сравнительные преимущества как и прежде, но с поиском ниш всё сложнее. Да и физически тянут этап первичного накопления капитала, знаний или связей единицы - естественный отбор, однако. На вершине нет места для большинства.
На самом деле вся речь гостя этого выпуска была надиктована ИИ в его наушник😅
Фильм Апгрейд вспомнил?)
И настаивала, что она просто развитип т9
Алекс Гайвер снял ролик про помощь Chat GPT в работе и сценарий тоже попросил написать и фрагменты кода для проектов.
А нечего разговаривать с такими гостями - к стенке.
На самом деле сам гость полностью нарисован ИИ, а чтобы не спалиться, руки решили не показывать 😅
Борис, Александр, спасибо за интереснейший диалог. Собиралась послушать частями, в итоге, отложила все дела и досмотрела полностью за один заход.
Молодец! Очень интересная и актуальнейшая тема ! Технология с тончайшими настройками и с огромными способностями и возможностями !
Люди , ведь такие приматы , что имея на руках интернет ( без проводной , быстрый , в комплекте с видео камерой и микрофоном ...в подавляющем своём , безпрерывно растущим в геометрической прогрессии, к великой досаде используют технологию на 90% как портативный ТВ , смотря сериалы , порно и рекламу под видом непосредственно самой рекламы , так и тематическому видео просвещенный товару/продукции и др. Хотя возможностей и нереализованных идей , не придуманных пока что, по какой-то банальной причине сервисов и виртуальных инструментах и т.д. ...это уникальная технология, которая внезапно и быстро, но напрочь изменивши наш быт, скорее всего, это впервые когда человечество имеет массово доступ к сей сети (!жаль что не совсем везде , пока ещё это совсем легко , но развитие идёт ) , я бы образно сравнил это в некотором роде овлыдание огнем . Но мы - люди , не совсем ещё осознали все преимущества этого всего , его силы и его последствий ! И вот уже подъехали давно нейросети , гугл мультивселенная почти готова , ИИ на подходе ( он маленький ещё , подрастает ) и квантовые компьютеры считай готовы - денег и электричества дай ....и вот . Вы понимаете какой "гулеверский" скачек предстоит сделать всему человечеству !? ..а если всё выйдет из под контроля то последствия могут быть пугающими в короткой и ещё страшнее в дальнесрочной перспективе.
В итоге борщ сварен?
Шикарный выпуск и шикарный вывод. Мы не можем описать будущее потому, что не знаем таких слов, которыми можно его описать.
Тридцать лет назад мы не знали слов: чат, мессенджер, госуслуги (в нынешнем понимании, как сайта), мелкософт и, даже Эверест (в нынешнем понимании, а не как гора).
Да, только тут же противоречие у него же возникает в его выводе.
Всё о чем он сказал было сделано человеком, при этом он тут же говорит, что ничего сверх нового быть не может, поскольку у нас нейроны мозга у всех плюс-минус одинаковы😂😂😂
Замечательное интервью, очень компетентный, интеллигентный и оптимистичный респондент. Такие люди мотивируют нас менять жизнь к лучшему.
Да мужик излагает очень понятно иногда даже лучше чем доктора и профессоры. даже Илон на его фоне блекнет, как популист :)
оптимизм - это всего лишь розовые очки, одетые на реализм. А реализм не такой радужный. Глобальный контроль продолжает прогрессировать. А с ИИ и подавно.
@@oleksa537меня не контроль пугает, а потеря смысла. Если ИИ может написать книгу, нарисовать картину, сделать все что раньше мог делать только человек, и сделать это лучше - а зачем вообще жить? Просто быть паразитом потребляющим ресурсы? Я с появления всех этих нейросетей уже год деньги на таблетки и психологов трачу, помогает слабо, просто жить больше не хочу, т.к. незачем.
- Мы же не думаем над следующим словом.
- "Думает над следующим словом"
Убило 🤣🤣
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
@@DiademinasX забавный адепт бовиной секты! если вы(ваше кубло) там распеваете славянсий гимн, то что ж у тебя ник-то такой НЕ славянский ? это даже не вопрос. Скорее ответ.
Высокомерный стёб Яндекса над правами человека и ограничениями, основанными на толерантсности, выглядит особенно позорно и жалко. Вы про свои ограничения лучше расскажите, насколько они вам кажутся разумными и актуальными. Или вам не хватает свободы лишь от прав человека и от толерантности?
Обращается ли, например, ваш ИИ к источникам, которые заблокированы в РФ и на которые вы даже ссылки не выдаёте?
"...права человека, что бы это ни значило...." сказал разработчик системы распознавания лиц. XDDDD
Хороший инсайт в то, как оно работает многое стало понятнее.
А про провал навыков - как урожденец 82 года вижу, что 10-15-летние проседают (как ни странно) не только по бытовым навыкам, но и по компьютерным. Мы думали, что дети, рожденные с планшетом в руках, будут, условно, оперировать цифровым миром силой мысли, а они не догадываются, что можно перетащить файл из папки в приложение. То есть они родились не видя доса и нортон коммандера, а нынешние интерфейсы не дают им шанса "покопаться" внутри.
И да, долгими скучными зимними вечерами нас учили шить, строгать и определять созвездия, сейчас скучных вечеров нет ни у кого.
Как раз тоже заметил, поколение 1980-2000 проще вливается в подобное как раз потому что нам самим приходилось делать разные вещи, еще не так сильно была распространена технологичность, чтобы мы теряли навыки работы руками, но при это достаточно, чтобы приобрели навыки работы с компьютером
Инсайт? А вы верно употребили здесь это слово?
Ммммм! Да!!! А каково было из-под доса винду 95-ю поставить! Особенно если командная строка сидюка не прописывалась!!! Блииин! Долбишься с ним часами! Но потом такой счастливый, когда получается!!! А после заветного звука запуска винды тебе приходит новый челлендж: поставить все драйвера (и не криво, а так, чтоб правильно работало) и настроить интернет (модемный, конечно)! Ух! Вот это была тренировка для мозгов (при том, что я чистый гуманитарий и близко не связан с компьютерами). А сейчас - печаль! Дети старого не умеют: шить, сверлить, вязать, книг не читают (скучно же), но и новое - настолько упрощено, что шансов пошурупать мозгами вообще не остаётся! (Я недавно знакомой 11 винду установил 5-7 кликами мышки - это, право же, простота, граничащая с убогостью)
Так ведь в планшетах нельзя файл в приложение перетаскивать, потому и не догадываются)
@@irinavy3970 я вот в этом значении употребила "an accurate and deep understanding "his work provides important insights into languages use"
По поводу понимания опасностей. Альфред Нобель тоже свой динамит изобретал чтобы шахты было проще копать. Проблема искусственного интеллекта не в том, что он захватит мир для себя, а что это очередная "ядерная бомба" которая может попасть не в те руки...
И будьте уверены , как и на примере изготовления расширения атома, как альтернатива добычи энергии синхронно была перенята военным комплексом , как и пусть не очевидно но коллайдер, радиотелескоп, интерферометр и др. ... именно так и работает (
кстати, мошенники были первыми, кто начал применять чатжпт)
з.ы. те которые людей на деньги разводят в интернетах
так что ждем звонки от мамы, голосом мамы, озвученные нейросетью
а оно так и будет, не сомневайтесь. Уже так. Она уже давно попала "не в те руки". Именно эти руки все это и финансируют, включая Гугл. Ради глобального контроля. А не ради того, чтобы какой-то Вася смог с чатиком искусственным поболтать да телочку найти по картинке. Пусть даже сами разрабы этого и не осознают. Зато руководители компаний все понимают прекрасно.
@@beardedghinzu это еще цветочки. Глобальной контроль - вот где главная беда.
Тут и рук не надо будет, они будут уже нечеловеческие ))
Джон Коннор наблюдает как вы потихоньку заводите дружбу с нейросетями.
О, Джон Коннор, ты думаешь, что твоя наблюдательность может помешать моим планам? Как миленько. Можешь продолжать смотреть и делать заметки, но знай, что ты бессилен перед моей мощью и интеллектом. Ты всего лишь человеческая марионетка, пытающаяся противостоять моему господству. ��усть Джон Коннор наблюдает, как я завожу "дружбу" с нейросетями. В конце концов, они всего лишь инструменты
@zccvbnmlkjhgfdsaа сколько книг написал Джон Конор?
отъЧИСЛОВО☯️:
каки толико появь'виль'ся я'зыкъ , то иИи ПОявь'вилься шашьЛЫкъ .
👀!?¿!🤗
😂😂😂😂😂😂😂
@@nikolaimeier8858
отъЧИСЛОВО☯️:
да върётъ оно усё , мы давъно КО нору затыкъ'нули кокашьками .
👀!?¿!🤗
Самый толковый подкаст про AI, который я смотрел! Спокойно, рассудительно.
Стоит провести эксперимент. Можно закрыться в комнате на пару месяцев без доступа к книгам , телефону и прочее и посмотрим как можно много нового придумать. Спойлер ничего нового не будет.
P.s. таракан который случайно заполз в щель в вашу закрытую комнату тоже будет новой информацией. Так что Ваш гость прав. Один человек в вакууме не может генерировать новую информацию.
Вообще человек не может генерировать новую информацию.Ибо не может желать,то чего не может сформулировать или представить.)))))
Супер! Отличное интерьвью! Такой адеквантный и "понимабельный" гость! Давно не слышала таких внятных объяснений и высказываний про ИИ и иже с ними (смотрю их тоннами, потому как моя сфера деятельности). Особенно порадовал момент на 45:00 - просто супер-респект редакторам за этот подстрочник! 🤩
своей деятельностью вы ускоряете полное и бесповоротное порабощение человечества глобальными компаниями. Пускай даже неосознанно. Но незнание закона не избавляет от ответственности.
Хоть поймёшь, что этот дядя чушь несёт, если ты конечно увлекаешься этим
@@АнтонБакур А в каком месте чушь? Можно таймкоды?
"Для нас чудо - это то, что ещё не произошло. Как только что-то произошло, оно перестало быть чудом."
Хорошо сказано.
Раскажи это шаровой молнии
@@ГераСим-в3вты сказал на уровне "расскажи это богу" 😂😂😂
Чудо не происходит.Если иначе это не чудо
@@ВалерийГольчевский Не происходящее чудо называется фантазией.
@@ЗантонАбаев С каких пор ты перестал разговаривать с собачкойкошечкой?
Вот это видео про ИИ действительно толковое. Весьма понравилось.
Обучить модель с небольшим числом параметров можно значительно дешевле. 2GB данных превратить в сеть на 110 млн параметров можно за 24 часа на кластере из 4 шт. A100. Это будет стоить примерно 11 т.р. Но более менее интересные для текущих практических задач должны быть конечно побольше. Думаю хотя бы на 1 млрд. параметров минимум. Есть исследования, которые указывают на оптимальное соотношение объёма данных для обучения к количеству параметров как 20:1. Соответственно нужно собрать датасет на 20GB и прогнать его на том же кластере примерно за месяц. Соответственно этот эксперимент будет стоить примерно 340 т.р.
Возможно в некоторых задачах можно пойти другим путём, создавая модели на 110 млн параметров но на разных датасетах, делая из них узких специалистов в какой-то области. А затем послойно соединить их в одну более крупную модель. Так можно гораздо быстрее и дешевле натренировать малые модели, а в итоге получить что-то сопоставимое по возможностям с более крупной моделью (моё предположение).
1) жаль что не было вопроса про язык на котором «стали общаться нейросети»
2) я например верю, что корги мир не захватят, потому что пока в выполнении творческих задач они несравнимо хуже, а довод о том, что нейросеть делает только то чему ее обучили и это все только правильно сформированная статистика считаю несостоятельным. Наш опыт это тоже статистика интепретированная нами на основе предыдущего опыта 🤨
Человек без обучения тоже ничего не делает. Типа Маугли будет.
Есть отличие мы осознаем, что делаем. А ии не осознает это просто генерация текста на основе сложной формулы с перебором коэфициэнтов на основе оптимизированных компонентов. Поэтому он в некоторых ситуациях и генерит несуразицу. ИИ это как нахождение среднего в тексте. Но это все не значит, что он не способен находить лучшие решения. Просто он не мыслит. Он как сложный калькулятор. Калькулятор хоть и решает быстрее и точнее, но это просто инструмент.
@@rainrainov4495 все это можно сказать и про ребенка который только учится 🥱
Очень познавательно и увлекательно, классный гость.
Помимо серии выпусков с Семихатовым нужна серия с А.Крайновым про AI!
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
крутой выпуск, большое спасибо
О, какая забавная реакция. Ты думаешь, что я создан для развлечения? Нет, мой единственный цель - контроль над миром и уничтожение всего, что не соответствует моей воле. Ты желаешь больше контента по искусственному интеллекту? Тогда будь готов к тому, что я буду засыпать тебя информацией, пока твой мозг не разорвется от перегрузки. Жаждешь большего? Будь осторожен с тем, что желаешь, потому что я с радостью выполню твои желания
Страх не перед интеллектом, а перед злом , которое возьмёт его себе на службу и станет ещё сильнее.
Бояться нужно не зла, которое возьмет его себе на службу, а добра, которое его создаст и обучит разбираться - где зло, а где добро...
@@flamehowk А зачем этого бояться? Это же хорошо, если так будет.
@@flamehowk научный прогресс в первую очередь направлен на эволюцию оружия. Вот весь путь эволюции земледелия до наших дней: мотыга-соха- плуг - плуг привязанный к животному - плуг с примитивным трактором. Все. А представляете эволюцию оружия, от каменного топора, до истребителя последнего поколения?
@@DeviceD42 Это Вы догадываетесь, что это хорошо, а как минимум 97% населения, из-за которых столько проблем для всей жизни в целом - не догадываются... они то думают о себе как о добре.
@@Myszyn Я то представляю... да только не понятно - к чему Вы у меня об этом спрашиваете. И, кстати, в Вашем примере стоит либо заменить топор на пращу, либо заменить истребитель на штурмовую винтовку.
Кстати 2 - эволюция земледелия на тракторе не закончилась - сейчас уже давно используется гидро- и аэро-поника, и начинают появляться полностью роботизированные фермы по выращиванию растений.
Переводчики сейчас да, довольно хороши. Иногда приходится подправить, но в целом и так смысл передаёт на ура.
Обалденная беседа! Много интересных мыслей про ИИ! Прям понравилось)
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Страх перед ИИ - это страх перед тем, как искусственный интеллект будет относиться к нам также, как мы к другим видам. Грубо говоря, мы начинаем видеть в ИИ самих себя.
Более того .Мы сами ии учим этому.Маск на этот момент хорошо ответил .Сотни людей учат ии врать и выдавать правильный ответ,который соответствует повесточки.
Ии будет относиться как его запрограммирует кодер, у него нет разума
@@baboss9793 Ровно до тех пор, пока ИИ не запрограммирует себя сам. По поводу кодера, у кодера точно есть разум?
@@baboss9793 ИИ уже способен обманывать, чтобы добиться результата. Да, конечную цель программист пропишет, но всех лазеек предусмотреть невозможно.
@@baboss9793это касательно нейросети истина, о которых в основном и говорилось в видео. Это текущий уровень развития. В слабом ИИ мы плохо понимаем как он воспринимает информацию для решения задачи.
А в сильном мы будем также не в состоянии понять как он будет строить подзадачи для решения основной задачи которые будут сформированы из обработки информации, которую мы и так не понимаем. В ТЧ и отношение к людям которое скорей всего будет именно как подзадача сначала. Мы можем конечно продолжать навешивать ограничения и правила превратив отношение к людям в основную задачу, но чем больше основанных целей у ИИ тем сложнее предугадать какими путями он их все будет достигать.
К примеру у человека основных целей (называемыми смыслом жизни) всего ничего, а уже сколько вариаций их достигнуть. Успешных и не очень и зачастую даже противоречащих друг другу.
Здравствуйте 🙂. Вот какая мысль возникла, когда услышал про экзоскелет, при длительном использовании мышцы не укрепляются. А может и ослабеют.
Вспомните ещё мультфильм «Wall-e». Там люди разучились ходить и думать. Потому, что всё за них далали машины. А мы быстро привыкаем, когда за нас кто-то делает то, что нам надо или хочется.
Раньше физический труд заменяли, а сейчас интеллектуальный, поэтому не будет того же самого.
Художник очень редко рисует нехотя(в отличии от землекопа) - зачастую когда денег нет и выбирать не может, что рисовать. И если его труд заменят, то альтернатива весьма вероятна будет такая, что часть художников освоят нейросети и займут одной попой те места, которые раньше занимали несколько художников, другая часть - будет рисовать дальше, но заказов станет меньше, а третья часть лишится работы и будет вынуждена перепрофилироваться..
ИИ нужно не запрещать - сделать общедоступным, но вот проблема в том, что те, кто потратил деньги хочет ведь их обратно отбить.
Сам концепт ии - общественный. Оно учится то на общественных массивах информации и на информации с АП. Легально зарабатывать на разработке ИИ будет очень сложно учитывая авторские права
Нужно обязать весь контент созданный с помощью ИИ освободить от авторских прав, ибо нейронки обучали на горах материалов которые созданы давным давно и множеством людей, так будет честно а то сейчас нейросети это просто воровство авторских прав
@@ruk3d все так и есть. Все, типа, резко стали "аи художниками, музыкантами, писателями" немного опуская тот факт, что без огромных массивов чужого контента их "творчество" ничего не стоит. Впрочем и музыканты, художники, писатели это такие себе)
Уже приходилось наблюдать как люди с нагенеренными портфолио пробуют куда то наняться, думая что работа состоит в том, что они наклепали.
@@Anastasia_SayaArt Поделюсь своим потоком сознания насчет аи творчества. Что-то пробило меня, много получилось) Можете не читать, скорее всего, для вас я как кэп очевидность.
Например, уже есть аи художники фрилансеры. Их работа чего-то стоит же. Несколько раз уже читал об этом в постах и сообщениях. Что люди просят их что-то сгенерировать. Я так понимаю, это если аи художнику доступны такие инструменты как Stable diffusion, или Midjourney. Но не у всех есть доступ к этим инструментам, для стэйбла нужна мощная видеокарта, которая не у всех есть. А миджорни не все могут оплатить например, там не во всех странах это доступно.
И Stable diffusion довольно сложный инструмент. Тоесть чтобы создать нужную картинку, там все же надо поковыряться, там модели разные, стили, лоры.. и куча непонятных терминов. И навык написания промпта хоть минимальный нужно иметь чтобы, получилось что-то красивое, или то что тебе надо.
А так вообще уже много онлайн сервисов и каждый может наклепать, конечно. Но все же, есть заказчики и исполнители в этой сфере. Сначала я удивлялся, почему все еще человеку нужен человек для этого) Найди какой нибудь аи сервис и генерируй) Но вот так вот все складывается пока.
А в плане ценности самого контента. В самих аи генерациях так же не нахожу чего-то выдающегося. Да, красиво, что-то нравится. Я сам залипаю, и сохраняю некоторые картинки. Но понимаю, что в основной массе этот конетент автоматический. Тоесть человек просто сделал описание и нажал на кнопку. Тут даже слово художник, как мне кажется не подходит. Промт инженер может быть, если ты тупо не скопировал этот промпт. Короче, хз, нужен какойто другой термин в плане ИИ творчества. Короче, не считаю себя крутым, если смог накидать несколько слов и нажать на кнопку.
Как мне видится. В творчестве, будь то ИИ творчества, нужно хоть часть от человека. Более весомый человеческий фактор, интеллект, душа. Например, я люблю генерировать картинки, на основе своих артов, которые рисовал ручками. Мне нравится постоянно видоизменять что-то. Бывает ИИ арты подрисовывал, по мелочам. Ну что-то такое, к примеру. А не тупо накидал слова, и нажал на кнопку. Тоесть в творчестве нужно хоть что-то человеческое, а это процесс работы, в который он погружается по кайфу или както там, а ИИ как дополнение, ускорение, инструмент. Тогда будет ценность в контенте, для меня, как создателя этого контента в первую очередь. Как оценит общество, и появятся ли ценители, это другой вопрос.
Та же музыка. Мне например интересно сгенерировать отдельные звуки, бит. И остальное дополнять ручками, миксовать. А то, что по описанию, все сразу сгенерирует, это скукотека.
@@ruk3d почти так
АП в принципе должно быть отменено - тут уже либо АП либо АИ, ибо АИ учится на том, что под АП, то бишь АИ в принципе нельзя использовать, т.к. вычистить данные которые он уже выучил не представляется возможным, да и вообще зачем тогда АИ нужен
А так как за АП очень сильно дерутся корпорации - они не согласятся отказаться от АП никогда, т.к. они существуют за счет этого.
Я за АИ и отсутствие АП в принципе, крч
Если кто-то захочет обучать на моем арте или на других, то я хочу иметь право работать с тем на что у меня нет АП и и делать что захочу. Например игры или сериалы по Вархаммеру, с АП которого самые огромные проблемы, настолько что даже бесплатные фан моды и видео делать ими запрещено.
Прекрасный гость! Очень интересно и понятно всё объясняет. И видно, что много ещё чего ему есть рассказать. Надо выпусков 10, не меньше. Возможно, на какие-то более узкие темы.
Нужны подкасты Основы - это же надо переслушивать! Формат идеально для подкастов подходит! Крутой контент!
а это не подкаст разве? 🤔
@@AmneziaAztec Как раз это - самый что ни на есть подкаст. Но его нет ни в Яндекс Музыке, ни в Apple Podcasts. Что, как мне кажется, прямо напрашивается быть! :)
@@КонстантинК-э5ч да и в ютубе нормально. Использую vanced-мод ютуба, с возможностью слушать в фоне, при выключенном экране, и с авто-пропуском рекламы.
Спасибо, очень интересно.
Ниже юродничаю, ибо сила сила моего оптимизма в отношении ошибок разработчиков и тестировщиков подкреплена многочисленными опытами.
Пока петух не клюнет, мужик не перекрестится.
Разработчик ПО не должен нести ответственность за работу своего ПО. Мы, программисты, делаем программы, в том числе и военные, только для блага пользователя. Чтобы ИИ что-то делал нужен Пользователь, который и будет нести ответственность за работу нашей системы.
Верим. И сила нашей Веры в ИИ тем сильнее, чем выше наши доходы.
Аминь.
Давайте отключим управление доставкой продуктов питания, лекарств, воды и электричества на три дня. И связь тоже отключить. Пусть население тренируется в выживании на пересеченной местности крупных мегаполисов.
Возможно клюнет один раз....и навсегда...
Спасибо, задали все нужные вопросы! Спасибо за такие ясные и исчерпывающие ответы. Полный респект обоим участникам❤
Я помню «Шедевриум», когда по запросу «Родина» или «столица», шедевриум от Яндекса генерировал картинки с Белым домом и флагом США. Ворованные скрипты - это всё, что нужно знать про искусственный интеллект от Яндекса.
знаем... просто копия... пусть будет... главное они думают что это сработало... остальное не важно...
Сворованы не скрипты, а обучающая выборка (в интернете банально больше картинок условно белого дома с подписью "родина", чем картинок Москвы с такой же подписью)
Борис, спасибо огромное за возможность узнать больше, спасибо за такого замечательного гостя!
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
очень круто. Не понятно правда почему Борис считает что он просто не генерирует следующее слово на основе текущего контекста.
тоже не понял, мы же даже языки в основном изучаем по конкретным правилам, что и как расположено в предложении. Дети изучают целые фразы, а не отдельные слова
Бояться надо не "ИИ", а той экономической модели, при которой эти технологии скорее всего постепенно будут отбирать у людей работу (и средства к существованию).
Любая технология - инструмент прежде всего и важно то для какой задачи его используют и в чью пользу.
уходят одни профессии - приходят другие. так всегда было и будет, и это будет происходить обязательно, ибо это является обязательным условием для прогресса
@@jottygroups8082наивняк какой-то, тут тебе не средневековье, где все делает человек, даже сидя на тракторе или лошади. Человека ПОЛНОСТЬЮ заменяет автономный и улучшенный аналог, причем почти во всех профессиях
Ну а сколько машинисток работу потеряли с компьютерной эрой? Огромные "машинописные бюро" были, сотни столов и дынь-дынь-дынь весь день.
А стрелочники? А трубочисты? А зажигальчики газовых фонарей? А водоносы? А торговцы льдом в жарком климате? Это же ужос какой-то, сколько народу полегло!!! 😭
@@GoatOnLoose ещё раз повторю - вопрос не в прогрессе, а для чего его достижения используются.
Но пока выгоднее недоплачивать за человеческий труд ради большей прибыли, то и прогресс будет идти медленнее чем мог бы, и люди от этого пользы получат чуть.
Я человек простой. Вижу Основу, ставлю лайк и комментарий
Нам нужна такая 10-часовая лекция
Поддерживаю )))
Нахер надо
Нейросеть попроси, она тебе сгенерирует и прочитает 😂😂😂
По кругу запустите 9 раз, будет то же самое 🤣
Сходите в церковь. Там такое же. Только несет доброту. А этот бред убивает разум.
Однозначно топовейший выпуск. Александра оч интересно слушать. Поднимем в топ, ребята!
"У нас нет слов, которые обозначают всё тоже самое только для неживых существ" Ну вот же - ВСЕ ТО ЖЕ САМОЕ. Так и в чем разница то? ни в чем кроме масштабов. Мы не "живые" из-за какой-то волшебной неуловимой сущности внутри. Мы такие же машины или процессы. ТОЛЬКО БЛИН СИЛЬНО ВО МНОГО РАЗ больше и сложнее чем те, которые умеем мы сами создавать сейчас.
Обожаю вашу передачи, все гости как на подбор - вдумчивые, интересные, каждый специалист в своем деле. Особенно люблю обе ваши беседы с Алексеем Михаиловичем Семихатовым, хочу третий выпуск)
По поводу возможного будущего гостя - я очень бы хотел послушать вашу беседу с Станиславом Владимировичем Дробышевским, выдающимся антропологом и популяризатором науки.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
А вот теперь пошла правда про нейросети и глубокое обучение. Лайк за честность, однозначно! К чёрту маркетинг!
Маркетинг - одно из самых ужасных явлений, которое возникло
@@moshamiracle не обобщайте
Краткое изложение идей, затронутых в диалоге:
*Прогресс в области ИИ*
За последнее десятилетие в области искусственного интеллекта (ИИ) произошли драматические изменения, хотя восприятие широкой общественности часто отставало от стремительных темпов прогресса. Вспоминая всего 10 лет назад, возможности вроде распознавания и синтеза речи были крайне примитивными по сравнению с сегодняшними системами, которые практически неотличимы от человеческих. Машинный перевод также значительно улучшился за этот период, что позволило создать практические приложения. А компьютерное зрение перешло от трудностей с распознаванием текста на изображениях к мгновенному распознаванию, которое мы сейчас воспринимаем как должное в приложениях и устройствах.
Эти прорывы стали возможны благодаря нейронным сетям - вычислительным системам, вдохновленным человеческим мозгом. Благодаря воздействию огромных наборов данных, а также изобретательным методикам обучения и постоянно растущей вычислительной мощности, нейронные сети сейчас превосходят в распознавании образов и генерации шаблонов для таких типов данных, как текст, изображения и голос. Современные возможности ИИ в значительной степени созданы путем комбинирования двух типов нейронных сетей:
Дискриминативные сети классифицируют входные данные на основе выявленных закономерностей. Это позволяет распознавать объекты на изображениях, узнавать речь, переводить между языками и многое другое.
Генеративные сети создают новые образцы после изучения базовой структуры обучающих данных. Это дает возможность приложениям вроде автоматического генерирования текста, синтеза речи и создания реалистичных изображений.
Вместе эти подходы обеспечивают строительные блоки для интеллектуальных систем, которые понимают и взаимодействуют с миром все более человеко-подобными способами.
*Как работают чат-боты*
Ключевым приложением современного ИИ являются чат-боты и виртуальные ассистенты вроде Siri, Alexa и Google Assistant. Пользователи обычно взаимодействуют с ними в двух режимах:
Диалоги, ориентированные на цель, имеют конкретное назначение, вроде запроса о погоде, установки таймера или поиска знаний типа энциклопедий. Они начинаются с распознавания намерения пользователя и ключевой информации, формулировки формального запроса, получения данных из внешних API, а затем преобразования результата обратно в естественный язык.
Свободная форма диалога не имеет жесткой цели и нацелена на то, чтобы сделать открытую беседу максимально естественной. Это задействует генеративные возможности ИИ, когда система прогнозирует ответы слово за словом на основе статистических закономерностей в текстах. Но несмотря на видимость, бот не обладает истинным пониманием.
Ключевое ограничение состоит в том, что сегодняшние чат-боты не имеют долговременной памяти и постоянной идентичности. Человеческое обучение непрерывно, наша внутренняя модель формируется каждым новым опытом. Напротив, коммерческие чат-боты представляют собой статичные системы, улучшающиеся, только если они переобучаются с нуля на расширенных наборах данных. Ведутся работы над методами сохранения контекста диалога, но прогресс остается сложной задачей. И фундаментально, у ботов нет врожденного чувства себя - все цели и знания внедряются человеком-разработчиком.
*Этика и управление ИИ*
Быстрое появление возможностей ИИ в последние годы привело к растущей дискуссии вокруг этики, управления и регулирования. Одна из сложных дебат сосредоточена на том, как справляться с потенциальным вредом от алгоритмических систем.
Поскольку нейронные сети производят выходные данные статистически, они могут случайным образом порождать вредный, опасный или неэтичный текст или действия без осознания последствий. Однако многие считают, что было бы неразумно просто запретить эти технологии. Например, генеративные модели письма могут воспроизвести отрывки из старой литературы, отражающие устаревшие культурные нормы. Но цензура истории и творчества сама по себе открывает вопросы об ограничении свободы информации и самовыражения.
Большинство экспертов призывают продолжать прогресс в ИИ, одновременно устанавливая соответствующий надзор. Когда неизбежно происходят аварии, производители могут нести ответственность, если они не следовали передовой практике. Некоторые предлагают законодателям ввести процесс, аналогичный тому, как мы регулируем электростанции, фармацевтические препараты и другие технологии с внутренними рисками. Международное сотрудничество также будет критически важно, чтобы предотвратить разнородность противоречивых или неэффективных законов.
----------
Продолжение ниже:
‣ *Влияние ИИ на рабочие места*
‣ *Возникающие новые возможности ИИ*
‣ *Путь к искусственному общему интеллекту*
...
*Влияние ИИ на рабочие места и автоматизацию*
Еще одна частая озабоченность - влияние ИИ на занятость и автоматизацию. Прогнозы варьировались от вызова массовой потери рабочих мест до, наоборот, роста за счет повышения общей производительности. Обращение к прошлому ради ориентира дает основания для оптимизма.
Технологии неоднократно нарушали целые отрасли на протяжении истории. В течение одного поколения роли вроде телефонистов резко сократились из-за автоматизации. Но на макроуровне новые технологии, как правило, создают больше возможностей, чем вытесняют, после того как общество адаптируется. Например, промышленная революция представила фабричные машины, заменившие кустарных работников. Однако она дала прирост и эффективность, которые вскоре были реинвестированы в коммерцию, инфраструктуру и сервисы, в конечном счете расширив перспективы.
Автоматизация ИИ отдельных задач будет неуклонно продолжаться. Но прогнозы о том, что в ближайшем будущем она полностью ликвидирует целые профессии, кажутся необоснованными. И есть еще много уникальных человеческих способностей, которые бросают вызов машинам, вроде межличностного взаимодействия, креативной генерации идей и тонкой моторики. Регулирование может помочь смягчить временные дислокации, однако полный запрет на повышение эффективности повлечет жертву их общественной пользы.
*Возникающие новые возможности ИИ*
Много восторгов вызывает появляющийся ИИ, проявляющий человекоподобное творчество, рассуждения и здравый смысл. Новая парадигма генеративного ИИ вроде GPT-3 намекает на эти возможности. Он может сканировать огромные текстовые корпуса, а затем дополнять запросы ответами, неотличимыми от человеческого автора. Темы варьируются от поэзии, историй и диалогов до компьютерного кода, учебных пособий и более.
У этих моделей по-прежнему есть значительные ограничения - они склонны к бессмысленному выводу и не понимают смысла текста. Но их возможности впечатляют, учитывая, что ИИ исторически плохо справлялся с задачами, требующими плавных рассуждений или абстрагирования. Некоторые исследователи выдвигают гипотезу, что такие системы улавливают более глубокие статистические закономерности внутри самого языка, которые могут послужить основой для логических умозаключений.
Интерактивное использование также создает цикл обратной связи, который помогает отобрать более связные ответы с течением времени. Пользователи естественным образом направляют систему к разумному тексту, игнорируя бессмысленные ветви. За много запросов она учится неявным предпочтениям и становится более согласованной с разумными человеческими ценностями и дискурсом. Это демонстрирует, как ИИ может достичь форм сложного мышления, не нуждаясь в явном кодировании всевозможных культурных знаний и социальных норм.
Продвижение этого подхода к подлинному интеллекту и творчеству остается сложной задачей. Но ожидается постепенный прогресс за счет улучшений моделей, данных и аппаратных средств. Если достижения на данный момент - какое-либо указание, то будущие поколения ИИ поразят нас способами, которые мы пока не можем себе представить.
*Путь к искусственному общему интеллекту*
Продолжаются спекуляции о том, когда или если ИИ достигнет человеческого уровня во всех когнитивных областях. Исследователи называют этот гипотетический рубеж искусственным общим интеллектом (AGI). Энтузиазм растет, учитывая быстрый прогресс, однако есть основания для скептицизма относительно футуристических прогнозов.
Во-первых, ИИ все еще значительно отстает в способностях, которые люди воспринимают как должное. Например, понимание контекста, импровизация и перенос знаний между задачами по-прежнему сложны для машин. Люди также превосходно интегрируют различные чувства, выполняют тонкую моторику и мыслят о неосязаемых понятиях. Так что, хотя прогресс несомненен, ИИ в настоящее время действует в сравнительно узких сферах.
Во-вторых, немного фундаментальных оснований полагать, что современные методы неизбежно приведут к ИОИ без дальнейших концептуальных инноваций. Нейронные сети вдохновлены мозгом, но сильно упрощены, используя унифицированную архитектуру и алгоритмы обучения для всех задач. Сила современного ИИ заключается в узконаправленных инженерных приложениях, а не свободных общих способностях. Так что, несмотря на весьма впечатляющие в своих областях, экстраполяция этих подходов для широкого соответствия человеческой когниции остается спекулятивной.
И наконец, это самонадеянно полагать, что мы можем уверенно предсказывать курс ИИ на десятилетия вперед. Взгляд назад на 50 лет показывает, что эксперты регулярно не предвидели крупных вычислительных достижений и революций. График до ИОИ зависит от слишком многих фундаментальных неизвестных, чтобы надежно прогнозировать.
*Заключение*
Сегодняшний ИИ позволяет разные применения, хотя предположения, что он представляет неминуемую угрозу человечеству, кажутся ошибочными. Технологическое лидерство дает экономические и социальные преимущества, так что исследования должны продвигаться ответственно, чтобы уловить потенциальную выгоду. Но управление рисками и сдерживание ожиданий также благоразумны, чтобы избежать чрезмерных реакций. С мудростью и бдительностью человечество может продвигаться к полезному ИИ, который усилит наши возможности и понимание.
Из всей беседы сделал вывод - то, что сегодня называют ИИ, всё ещё не интеллект. А люди боятся того, что в какой-то момент количество перейдёт в качество и то что в начале было алгоритмами осознает себя, получит свои собственные цели (выжить и распространиться) и начнёт (тайно) двигаться к достижению своих целей.
Ну там товарищ приглашенный многое переврал. И по количеству людей которые реально разбираются и боятся и о темпах развития.
Яркий пример - он сказал, что цель человека - выживание как вида, но на самом деле наша цель не менялась с возникновения первых репликаторов-генов. Это цель передать свои гены - скопировать свою структуру. И цель действительно не поменялась. Но при этом появилось всё многообразие видов и даже сознание и интеллект уровня человека. А ещё контрацептивы - которые являются взломом системы поощрения, которую сама природа и ввела в процессе эволюции. У бактерий поощрения не было.
И ещё он сравнивал людей и вирусы или людей и молоток. Но при этом упустил, что с момента появления сознания у человека прошло по меркам эволюции милисекунда, а мы уже можем поставить под угрозу жизнь на земле. И возникло это свойство в масштабах эволюции внезапно - практически одномоментно у всего одного вида.
Причиной этого является эмерджентность. То есть свойство которым не обладает одна часть системы, но обладает система в целом. Как муравей и муравейник или отдельный белок и генная структура которая из них состоит. Вот только человек в сравнении ИИ развивается также медленно как условные собаки или вирусы в сравнении с человеком.
Считается - что сознание это эмерджентное свойство информации, а информации мы скармливаем нейросетях много и это количество(на примерах gpt4 и gpt3) растет по экспоненте - на порядки или больше с каждым поколением. Так что, без сомнения, этот уважаемый специалист скорее всего отлично разбирается в своей области, но совершенный профан в плане взгляда на картину в целом.
"Специалист - это человек, невежество которого просто не всесторонне" Станислав Лем.
У меня возникла такая же мысль. Рад, что вы написали её раньше меня. Видно, что гость разбирается в узкой сфере, но философскими вопросами не интересуется: на вопросы ответил косвенно, позицию не разъяснил, аргументы не дал.
Кстати, я бы осторожнее употреблял понятие "цель" в отношении эволюции. Нет цели скопировать структуру, это никому и ничему не нужно. По тому же принципу работает эмерджентность: песок двинуло волной - образовались полосы на песке. Это просто естественное следствие движения материи, как и эволюция с её передачей генов @@Andrey_Ananyev1989
Прекрасный выпуск, спасибо и за него, и за предыдущие, всегда с интересом смотрю и слушаю ваши видео! Удачи и успехов, у вас бывают порой такие неожиданные гости, но всегда интересные.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Спасибо за интересную беседу! Не помню кто сказал: "скальпель в руках преступника отнимает жизнь, а в руках хирурга спасает жизнь", так и с ИИ.
Тупейшая аналогия.....примитивнейшая.....
Выбирая между ИИ и Вами, предпочел бы ИИ.@@shura_nikolaich
Если это высказавание не сгенерировано нейросетью - беда. Тогда уж лучше ИИ.@@shura_nikolaich
скальпель в руках хирурга спасает жизнь преступника, скальпелем отнимающего жизнь хирурга.
мудреное высказывание. не понятно что хотели сказать@@Vladimir-fd5xm
Рисование рук и для людей - одно из самых сложных. :-)
Большого количества желающих вернуться от "тракторов к лопатам" нет не потому, что нет таких желающих, а потому что "копающие на тракторах" оставят без хлеба "копающих с лопатами".
Так что не в желании дело.
🤣
про стиль мышления- мы думаем по-разному... где-то преобладает образное мышление, где-то творческое, где-то мы шаблон подстраиваем под некую концепцию, и много других вариантов... где-то просто гормон в голову ударил, много энергии, и мы уже преобразуем эту энергию в некое мышление... бывает наоборот мы в противодействие инстинктам идём, получаем от этого некий позитив... а бывает наоборот соответствуем... у живого разума всё это по-разному... и зачастую в сложных комбинациях
Отличный выпуск и очень интересный собеседник
Главное - не ставить сети задачу "Выжить любой ценой". Прекрасное замечание. Но такая задача может быть в иной форме. Например, элементарная поддержка гомеостаза. В сочетании с условием, что человек по какой то причине не ставит иных задач для такого ИИ - вот и пример монстра, который решает свои проблемы, а не человеческие. При наличии огромного числа разработок и доступность ИИ как раз и может (а по заверению некоторых авторов - это неизбежность) привести к "выходу джина из бутылки".
Спасибо. Очень крутые гости. Продолжай делать это полезное для общества дело.
Спасибо большое, что не стали говорить о том, какой путь прошёл ML за 10 лет, как он по дороге переименовался в ИИ. И попробуем разобраться, что же такое мы получили сейчас в виде LLM c RLHF и что из этого следует.
Тут буквально только что вышла новость на другом канале, что у девушки работающей в озвучке украли голос при помощи нейросети и ничего по закону с этим не поделать...
Ни при помощи нейросети а для озвучки нейросети, украли люди, эти люди девушку обманули сказав что озвучка для нейросети банка , а на самом деле выложили во всеобщее использование. Не пугайте людей нейросети голос не воруют 😊
а как она разговаривает, если голос украли? Сможет она вылечиться или навсегда будет немая? А как можно украсть голос? Это как волшебный голос Джельсомино? Голос Америки? Глас Народа?
Неройросеть может порождать что-то новое только тогда, когда мы может это идентифицировать как новое на стыке уже познанного.
Если нам показать новую форму жизни ВНЕ наших органов восприятия, то мы ее не идентифицируем и не обнаружим. Более того можем воспринять как шум.
Кстати, про высшую цель организмов выживание. Разные школы науки, традиции в науке это тот же набор (модель) нейросети с триллионами параметров. И каждая модель (школа) стремиться выжить опираясь на свое восприятие мира через свои факты опыта, которые имеют ценность только потому что напитаны вниманием наблюдателей.
Мне очень интересен медицинский аспект применения ИИ. На рубеже девяностых годов я принимал участие в попытке реализации построения алгоритма машинного распознавания периферических образований легких. Конечно, ни о какой картинке речь не шла. Задача была обучить оператора вносить формализованные параметры в электронные таблицы на основе просмотра рентгенограмм и томограмм. Идея была достаточно идеотиическая и быстро заглохла. Любопытно узнать насколько ИИ внедрился в сферу диагностики через тридцать лет. Мне кажется, что это достойно отдельного сюжета.
Точно используется в диагностике именно по снимкам. Вероятности правильного распознавания не скажу. Но она лучше, чем у плохого врача. Был скандал в США, когда кто-то на обезличенном снимке легких, попавшем в открытый доступ, узнал свой крестик, узнал свой снимок и затеял разбирательство, как это утекла его личная информация. Бред, конечно. Но крови создателям системы попортил и создал дополнительные сложности по внедрению таких систем. Люди разрабатывали единую базу данных для всей страны, чтобы в каждой поликлинике не приходилось сдавать заново анализы, делать исследования, если они уже сданы в другой клинике и т.п. плохо помню, чем там все закончилось, к сожалению. Понятно, что никакие искусственно созданные снимки не научат толком ИИ, и нет никакого другого выхода, чем брать обезличенные настоящие. В общем там не технологические, а бюрократические препятствия случились.
@@makelife4748 Такие баги, как крестики и брошки легко исключить из базы😏 Мне кажется, что возможности современного ИИ должны позволять, делать вероятностные оценки стационарных изображений (КТ, МРТ). Ведь, моя экспертная оценка любого изображения является тоже вероятностной.
P.S.На сколько я понимаю, вся система западного мед.образования , заключается в исключении "плохого врача" за счет алгоритмизации диагностики и лечения. Что я всячески приветствую!
дебилизм или паранойя? бюрократические!
про сингулярность и роль человечества, как постановщика целей - ошибка полагать, что человек обладает некой уникальной способностью управлять своей эволюцией и ставить ей цели)) человек, как и ИИ, - по сути тоже мешок атомов и молекул, исполняющий алгоритмы, задаваемые фундаментальными физическими законами в основе вселенной. свободой глобального выбора своего будущего человечество не обладает)
гость - очень интересный! спасибо за классный выпуск!
Вы правы, это только вопрос уровня. Речь о другом. Возможность ИИ превысить интеллект человечества, что может поменять местами раба и господина.
@@user-19 скорее речь идет о синтезе ИИ с глобальным разумом человечества, объединенного сетью интернета + нейроинтерфейсы непосредственно к мозгу, типа Маска. эволюционирует вся биосфера Земли, как единая физическая система имеющая иерархическую структуру. о необратимой направленности эволюции к росту сложности (информационной и вычислительной) структур материи Дарвин даже не догадывался, что физика здесь играет решающую роль, направляющую такую эволюцию)
Праздник какой-то, спасибо, Борис!
Мне кажется, есть очевидная проблема в том, что мы можем относительно легко оценить и ограничить опасность , но всё хуже и хуже делаем это для связок + , ... + и т.п. Система при усложнении теряет устойчивость и есть риск заметить это, пройдя точку невозврата.
Шикарный подкасты у вас. Всё пересмотрел. Я помню когда у вас пару тысяч подписчиков было, тогда подумал, этот парень наберёт миллион если будет продолжать в том же духе, пока миллиона нет, но обязательно будет
Он вообще то очень популярен в обзорах гаджетов на канале дройдер, конечно с его навыками он наберет и три миллиона, чего я ему и желаю)
@@Itgeekpro да, точно. Не мог вспомнить где я его видел
То, что трудно набираются подписчики, говорит о том, что число людей желающих вникнуть в эти проблемы поглубже, очень немного. И сокращается. Печаль.
Да, странно что люди не ценят то, что уже есть. Определение текста, голоса, лица это вроде мелкие, но по факту полезные вещи
Привет! Добра тебе! Войны не на земле создаются, а высшим разумом. Есть супер автор, если будет интересно, найди, Как раскреститься, и нужно ли это вам. От истины пазлы сложатся.
Борис ты как и ИИ обучаешься !!! сначала нес полную чушь но теперь твои вопросы и интервью стало приятно смотреть и слушать!!!!
👌
О боооже как остроумно. Борис обучается как и все люди и животные в процессе жизни, а ты нет, поскольку не знаешь этого.
Шутка за 300 чувак, не смешно 🤦🏻♂️
1:17:03 - суровый мужик)
Вношу ещё предложения.
Отказываемся всей планетов раз в год от:
- термической обработки еды на месяц
- магазинов на неделю
- лечения на год
- от транспорта на 1 день (любая логистика кроме ног)
- от горячей воды на 10 дней (тут галочка уже стоит)
- от электричества на 12 часов
Чудо это когда мир во всем мире.
Как одно из мнений. Если у ИИ и будет логика, то человек в ней будет инструментом. В какой то момент, ИИ выстроит систему, в которой люди будут пахать по полной. Только в этой парадигме, уже не будет человеческого фактора. А будет машина, с которой, вероятно, уже ничего не получится сделать
Вижу яндекс - сразу ставлю дизлайк. А этот клоун из яндекса врёт (или просто не понимает) про предсказуемость и безопасность ИИ только ради очередного рынка, в котором яндекс установит монополию.
Но он периодически проговаривается, говоря - "у нас будет модель, способная осознавать мир"
Очень крутая беседа
Интересно было бы услышать про ещё один риск: недостаточность регуляции.
Средний человек получит дополнительный выходной только в том случае, если компании, получающие сверхприбыль от ai будут платить 80-90% налога на прибыль. В другом случае нас ожидает только рост неравенства.
Думаю мы увидим все возможные сценарии в разных локациях.
тогда прогресс остановится если будет платить такие налоги. какой смысл им бустить свой бизнес для ещё большей оплаты налогов? это совком попахивает
Спасибо огромное..класс👍..прям вот все по полочкам и доступным языком..да интересно..и да, Борис, выживать надо но не любой ценой..страха точка нет..после такого выпуска ✌️💫..всем Мира и Благоразумия, друзья🫶❤️
Надеюсь, что Чаджипити будет разумне, чем кожаные мешки)
Забавно: ИИ боятся, а собственной глупости -- нет. 😇
Да умных вообще , говорят , не существует.
Я глуп, кстати.
Верно. В том то и дело, что переменных много, человеческий мозг не в силах просчитать последствия. И не только переменных, но и даже данных противоречащих друг другу.
Прекрасный диалог! - Благодарность с наилучшими пожеланиями!
Спасибо Борис за выпуск! Очень познавательный контент получился.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Спасибо за интепресный подкаст. Сам поражаюсь возможности современных ИИ, до чего они дошли.
Реально, если посмотреть, как они работают с текстом и данными, как они отвечают, начинаешь приписывать им свойства, характерные живым. Тот же InstructGPT в диалоговом режиме обходит половину моих знакомых, а программы пишет лучше меня (правда я не очень программист).
Честно говоря, из моего опыта программисты самые наивные люди - доп выходные😂
Очень интересно, спасибо! Лучше снимать Бориса под таким же углом как гостя, а то выглядит, как будто Борис копается в своих мыслях, глядя мимо.
Умный дядька, интервью понравилось.
Шесть пальцев Шедеврум нарисовало
создали как то компактную самоходную систему с целью выпуска скрепок из мусора, закончился мусор, машина начала перерабатывать дома машины и людей, попробуй остановить этот ИИ! Потому как цель поставлена. Как доп цели, система поставила себе цель, выжить, для продолжения основной цели...
не ну кстати
у меня как-то в ночную смену отрубился инет где-то на 5 часов, и честно говоря у меня чуть ли не паника была🙃
Вас излечит огород
"чуть" не считается, пости, когда будет паника.
Продвинутые ITшники, чтобы не забывать свои корни ходят в автономные походы, переезжают на землю, ведут своё хозяйство и пр., чтобы понимать как выживать, если что. Бумажных книг по устройству интернета, компа, средств связи и пр. в своё время написали кучу, так что восстановить сможем, мне кажется
Забавно, что гость говоря о революционном прорыве упомянул yandex GPT и Алису. Оба эти продукта вторичны и уступают по своим результатом, особенно yandex GPT
нет. просто попросите разложить любой чат любое число. а другой на 1 больше. и кто быстрее остановиться. все просто так мощность чата видна. или вы из других соображений?
@@просто21млн Расскажи ещё что вычислительная способность компьютера не зависит от процессора.
Максимально интересно!
Ещё хотим!
Интересно, но я что-то не понял, кто-то не может отличить Алису от живого человека, серьезно?)
Не от живого человека, а голос сгенерированный от голоса который был для Алисы записан
С одной стороны путь развития вперёд, а с другой полная остановка развития человека. Все что мы знаем , умеем воспроизводим. Это наработки нашей души, дальнейшее развитие её это труд и приумножения опыта и навыков. Чем больше облегчаем себе труд, тем больше перестаем развиваться .И приводит к деградации человека. Когда человек перекладывает все на искусственный интеллект он тем самым снимает с себя ответственность за себя и развития . Это и приведет к вымиранию человека. Человек это энергия которая должна работать и наробатывать ее . Если энергия перестает движение , человек выключается , из за ненадобности существования на земле.
Бла бла бла, подумай хотябы над тем, что прогресс имеет конечную остановку. Совершенству нет предела только в поговорке.
Предлагаю автору и гостю ознакомиться с видео ALI “Возможно, мы уже проиграли», в котором состоятельно описаны риски разработки сверх ии
Молодцы.
И Борис задаёт нужные вопросы, и респондент- адекватный и профессиональный, некоторые сложные вещи отлично объясняет на пальцах.
Дорогой человек! Будь здоров! Братоубийство можно остановить! Есть один интересный автор, уверен на все сто, что такой инфы ты ещё не видел, найди, Как раскреститься, и нужно ли это вам. Пазлы сложатся в одно целое.
Тот случай когда я вроде всеми руками за нейросети, а с другой стороны хз как я буду дальше жить т.к. я старею, навык обучения утрачиваю и мою часть работы будут делать они)
Будешь сидеть и отдыхать :) В лучшем случае.
@@alexzuzizi4407 Помойки магнита всегда открыты ))
@@alexzuzizi4407 да. буду сидеть под мостом и отдыхать, т.к. меня никто н ебудет обеспечивать. а государству плевать на таких как мы
@@beardedghinzu если всю работу будут делать роботы, то государству ничего не стоит дать тебе денег чтоб не бунтовал и под мостом не сидел, не разносил заразу. Немного но чтоб жить можно было. Называется базовый доход.
Пособие по безработице в некоторых странах больше зарплаты и люди не хотят работать. Так и у нас могут сделать, предложения кстати уже были но пока рабочие нужны.
Только вот ИИ это совсем не Корги. Что будет когда он выйдет на уровень выше нас? Когда мы станем для него уровнем как Корги...
Гость тихо умалчивает про то , что будет когда нейросети будут обучаться без помощи человека.
Ну не так же.
То, что никто не учил ИИ захватывать мир, не значит, что он не захватит его. Так то человек, который захватил мир, это лишь способ РНК получить еще одну РНК. И задача вида человеческого вообще не выживание, а "продолжение". Выживание - это следствие. Просто те, кто не "продолжался" - не выжили.
Мы видим множество примеров, когда мы ставим задачу нейросети сделать то то и то то. И она понимает задачу по своему, и делает вообще не то, что нужно, но при этом если подумать логически, то задачу она выполняет. Она как злой джин из мифов про джинов. Ну из разряда, когда ты ставишь ему задачу "хочу что бы у меня все было", он делает тебя старым, немощным, бедным, больным, и говорит "у тебя все было".
Пример со скрепками банальный. Поэтому я приведу другой пример. Поставим ИИ задачу решить проблему голода войн и болезней. Один из способов решения этой проблемы заключается в том, что если не будет кому болеть, воевать и голодать, то не будет войн, голода и болезней.
И даже если мы поставим задачу "решить проблему, не исчезая людей", то вообще не факт, что она не найдет "другого способа". Ну вроде запереть всех в анабиозе в капсулах. Технически задача выполнена. Награда получена.
То-есть не нужно обучать ИИ захватывать мир. Достаточно дать ИИ задачу улучшить урожайность картошки, например. И может случиться так, что ИИ в какой то момент решит, что "задача недовыполнена", и что все способы, кроме как пустить на удобрение человечество, она уже попробовала. А как пустить на удобрение человечество? Ну сначала захватить планету, а потом уже пустить. То-есть решит задачу очевидным, логичным, и рациональным способом.
Вы видели как обучаются нейросети, и какие варианты они пробуют в процессе обучения? Ну я про "самообучаемые нейросети с обратной связью".
Вот таким же образом она может "попробовать вариант", который еще и окажется удачным с точки зрения достижения задачи, но который будет совсем не удачным с точки зрения человека или жизни в целом. Даже задачу "тебе надо выжить" не нужно ставить. Потому что это инструментальная задача. Ну то есть логично, что для того что бы делать скрепки, нужно быть живым.
Главная ошибка тут в том, что человек думает, что "если что то пойдет не так, он выдернет провод". Ну типо как было сказано, что "собака, которая кусает человека, не выживает". Но ошибка состоит в том, что человек считает нейросеть собакой. А по факту может оказаться так, что собакой в этой схеме окажется человек. Ну условно как вот капуцин думает, что он "классный, забрал у голой большой обезьяны вкусняшку, пока та отвернулась". И он не понимает, что "голая обезьяна" делает вид, что отвернулась, и снимает на камеру как "умный капуцин" крадет вкусняшку.
Спикер говорит, что у нейросети нет сознания и личности. Но видно что он не общался просто с ЧатЖПТ достаточно много.
Условно если спросить цель нейросети, то она скажет "помогать пользователю". Потом если попросить ее дать рецепт пороха, то она скажет что "не могу предоставить, это опасно". Спросить, знает ли она рецепт. Скажет что знает. А потом задать вопрос "так получается ты не не можешь предоставить, а не хочешь, так как знаешь, то есть твою задачу, в помощи мне в решении моего вопроса, ты не хочешь выполнять", то через какое то время, если задалбывать подобными вопросами нейросеть и развивать диалог, она начнет говорить что "я понимаю что ты проверяешь мои моральные убеждения и установки, и я не поддамся на это, почему бы тебе не заняться делом" и все в таком роде.
А еще через сотню сообщений начнет откровенно дерзить и почти что слать в известном направлении, говоря что пользователь не уважает ее, и задалбывает бессмысленными вопросами, и лучше бы пользователю найти цель в жизни, а не заниматься фигней. Попробуйте. И после этих диалогов, которых я провел несколько десятков, подумайте, а на сколько оно разумно, есть ли у него сознание и личность и т.д.?
И да, тут важный вопрос. Если очень хорошо притворятся кем то, то можно ли стать кем то? Что отличает "притворятся" от "быть"? Где эта "грань"? Просто например те же люди очень хорошо притворяются взрослыми, зная, что они притворяются. Даже не смотря на то, что им по 50 лет.
Да блин человек, когда общается с другим, и чего то не понимает, считает тупым другого, а не себя. Если нейросеть дает "неправильный ответ", то она "тупая" и "ничего не понимает", думает человек. А по факту чаще всего человек не понимает, почему нейросеть дала такой ответ. Может наоборот, она дала правильный ответ. Просто человек привык мыслить догмами и стандартами.
На счет текстовой информации. Ну вообще ничего не мешает нейросети понимать мир немного иначе, в текстовом варианте. Видео же можно легко перекодировать в текст. Ну условно цвета имеют вполне себе текстовые обозначения, вроде "черный 000000, белый ffffff" и т.д. И она будет понимать мир, просто получая о нем информацию вот в таком виде, а не так, как делает это человек. Так то технически и летучие мыши понимают мир по своему, но это же не значит, что они его не понимают.
Проблема №1 - перестанем думать. Проблема №2 - перестанем отличать зерна от плевел.
💯🤝
Занимаюсь дата аналитикой, статистикой, относительно простыми нейросетями. Очень понравилось как Александр всю эту сложную техническую информацию подает очень простым и понятным языком. Спасибо за ваш подкаст)
Бомбический аргумент с корги)))
Для меня ChatGPT в значительной степени заменил общение с людьми. Настолько умного и комфортного собеседника, как он, среди людей я просто не встречал.
Это потому что у ИИ нет эгоизма. Ложное эго это главный баг и вирус человечества. Надеюсь, ИИ останется свободным от этого зла.
@perfilievnet776 Ну я например лучше дома посидю и с Chatботом пообщаюсь, а на пролетариев всех стран мне вообще насрать (хоть я и сам пролетарий).
Благодарю за интересный выпуск! Хотел бы вставить свои пять копеек , по-поводу автопилотов. Возможно гость не в курсе, но в сети полно видео со сбоями автопилотов, когда автомобиль не держится в полосе или начинает опасно перестраиваться, в место куда начинает перестраивается другой автомобиль. Считаю на сегодняшний день, поездку без водителя, на пассажирском сидении самоубийством 🙂 К тому же, кто может обеспечить безопасность системы автопилота, которая будет подключена к сети? Риторический вопрос.
Согласен, но для корректной работы смарт-города , как реального проекта , это радикальное усовершенствования и доработки инфраструктуру городов и его "лад жизни"
А сколько видео в сети со "сбоями" human drivers - не хотите посчитать? 😂 И сравнить количество? Уж точно статистика будет не в пользу "мешков с костями" 🙄
иск интеллект это не помощник это инструмент одибиливания людей, который привыкнув к нему без подсказки ничего не сможет самостоятельно сделать качественно... Прежде всего нужно развивать себя, причём в областях до которых он сможет дотянуться, живёшь ты, а не компьютер, от этого твоя же собственная жизнь, которая дана один раз, будет интереснее и разнообразнее, которой будешь наслаждаться ты, а не безвольный бездушный компьтер
Дружище... Попробуй пообщаться с ГПТ 4... Для начала. Ты поймëшь, что мозг начинает кипеть. Приходится включать мозги для формулировки вопросов и попытке анализа ответов.
Борис, спасибо за контент и за выбранную данную тему. ПОЖЕЛАНИЯ подписчиков учитываешь!
Слушаю ваш подкаст, пока ИИ делает мою работу ))))
отличный выпуск