Как заставить нейросеть работать на своем компьютере. Без видеокарты, интернета и бесплатно.
ฝัง
- เผยแพร่เมื่อ 6 ก.ย. 2024
- Да, и это не кликбейт. Самое полное руководство - как заставить нейросеть работать локально на твоем ноутбуке, даже без видеокарты и интернета, абсолютно бесплатно и никаких лимитов, только твое время. Я рассмотрю несколько интерфейсов для нейросетей, которые можно установить на компьютер и пользоватся ими для загрузки нейросетей, генерации текста и изображений и их тонкой настройки.
В видео рассмотрены такие приложения - chat4all, Lm studio, text generation webUI. Я показал как их установить, настроить и начать пользоватся.
0:29 - chat4all обзор,
3:18 - chat4all тестирование,
06:58 - Lm studio обзор,
10:38 - Lm studio тестирование,
13:44 - Lm studio локальный сервер,
14:52 - text generation webUI обзор проекта,
15:26 - Gradio обзор,
15:58 - text generation установка автоматическая,
18:09 - text generation установка ручная,
20:36 - text generation webUI обзор интерфейса,
23:08 - text generation webUI тестирование,
24:43 - выводы,
Телеграм канал: codokot
или смотри ссылку в комментариях
Ссылки на проекты смотрите в телеграм:
t.me/+zTcoFHq7i9AyMWM6
webui очень зашел. Были проблемы с повторным запуском. Когда делал быстрый старт из скрипта он почему-то не делал среду conda. пришлось все делать ручками - не очень сложно - инструкция на гитхабе. В итоге все заработала буду пробовать обучать на своих данных
Спасибо
Данная тема мне интересна и важна.
Хочу чтобы такие темы чаще поднимались в ТОПы, потому:
• смотрю видео до конца,
• пишу осознанные коментарии,
• ставлю лайки в поддержку каналов,
• подписываюсь.
Всё выше перечисленное нужно для алгоритмов Ютуба которые анализируют и "решают" - продвигать такие видео/авторов/каналы или нет.
Спасибо за поддержку!
спасибо твоему роботу за комментарий.
я не машина-а-а-а-а-...........
Гениально! Спасибо, так долго думал, как попробовать ИИ локально. Ваше объяснение самое лучшее! Спасибо таким людям, как вы! Меня впечатлила GPT4All в связке с Lliama 3 Instruct. Спасибо, наилучших пожеланий!
подписался.... продолжайте, будем следить за вашими выпусками
Очень хорошее видео! Но хотелось бы нейронку, генерирующая изображения, чисто за счёт CPU. Есть ли такое? Или может модель нужно просто загрузить? (Невозможного, видимо прошу))))
есть такое) скоро будет!
krita ai
Хорошо, жду)
@@RomanShev Это как дополнение к программе Krita?
Да вроде в StableDiffusion это можно сделать даже, там в настройках опция есть. Только будет ооочень долго
Все по делу и четко. Вот сразу видно, человек умеет дать важную и полезную информацию и без всяких рекламных нот. Уважаю таких, умеют беречь время свое и своей аудитории.
Здравствуйте.
По рекомендуйте пожалуйста само-обучаемую нейронку с возможностью влиять на критерии обучения. На вход для обучения она должна принимать 10 числовых параметров. Из них 8 это входные параметры, а ещё 2 это фактический результат (реальное текущее значение) соответствующие этим параметрам.
При этом обучиться она должна исходя из необходимости предсказывания 2 параметров через час - исходя из динамики текущих 8 параметров за предыдущие часы, дни, недели. Статистика есть за месяцы - изначально планировал нейронку подключить, но никогда с нейронками дел не имел.
Соответственно в работе после обучения в неё постоянно будут поступать 10 текущих параметров, а в качестве ответа она должна выдавать предполагаемые через час 2 параметра.
Желательно чтоб можно было запустить и под win и под linux (можно и разные)
Хорошо владею linux, php, javascript. Но в принципе по необходимости програмлю для себя на любом языке, особенно если он с Си синтаксисом.
грабить корованы нужно будет?
подскажите! ) крутое видео... вы молодец... подскажите какая видеокарта минимально нужна для комфортной работы и с видео и фото.
от 8Gb
Желательно 4080
благодарю@@codedd3280
Nvida GeForce RTX 5090 Ti
Минимально и комфорт понятия далекие друг от друга)
от просмотра пришел в неистовый восторг, чуть не сорвался на албанский... )))) респект и увага! вопрос: есть ли среди вышеуказанных моделей такая возможность, как подгрузка доп файлов/материалов, основываясь на которых требуется ответ от модели?
да, смотри видео про работу с документами
@@codedd3280 исключительно ради статистики флуд... ) благодарю мудрейший !
понял одну вещь в локальных нейронках используя LM STUDIO, что они намного тупее чем ChatGPT ну или нужно использовать видеокарты типа 4090 и иметь 128Гб оперативной памяти )
Как можно спарсить с помощью ИИ по текстовому описанию или приложив скриншот? Есть ли ИИ, которые парсят постоянно? Или которые смогут подготовить ПО для парсинга?
Так и что в итоге? Зачем вот это всё? Результат то где?
см. пример следующее видео
Очень интересно. А можно поподробней какие системные требования должны быть, чтобы система работала корректно?
Часть требуют 8 Гигов оперативы но они не особо блещут, другая часть 16 Гигов и больше. Проц чем мощнее тем лучше, хотя там и есть выбор либо CPU или GPU. Мой ryzen 2700x без проблем справлялся, быстро все.
В конце прошлого года с ужасом осознал, что тема ии резко актуализировалась,а я даже не в зуб ногой. Лихорадочно догоняю. Важна любая инфа.
Твой ролик прям в тему, не верил, что на пк можно тянуть свои нейронки.
Спасибо.
то ли еще будет - тему помощников буду развивать очень активно
Да я также с криптой носился, потом заглохло.
Не бойся, никуда дальше нового типа поиска это не уйдет, во всяком случае в ближайшие лет 20.
Ну то, что развивается это все дело на основе llama - это круто, но пока все еще сыро, даже до 2 летней давности chatGPT не дотягивает, особенно на русском, но прогресс за последний год довольно большой. А если еще позволят нейронки заглядывать в инет, то вообще огонь будет. Думаю, 2-3 года и будет на достойном уровне, пока, конечно, не замена chatGPT, если что-то качественное надо, то лучше, конечного его использовать. Надо сказать спасибо хакерам, который слили изначальную модель.
Какая из локальных, по вашему опыту, лучше работает с русским языком?
Там где про GPT4 в списке моделей написано - там же нифига не локальное это всё будет! "Requires personal OpenAI key" - переводится: необходим будет API ключ от Open AI, а это уже не локальность, а зависимость от OpenAI. А еще блин вон чво: "WARNING: Will send your chats to OpenAI"" - все чаты с этой моделью будут СЛИВАТЬСЯ в корпорацию OPEN AI. Автор не заметил? :) Какая уж тут локальность...
там конечно gpt4 не локальное) - это просто клиент для него, не настолько все празднично)
локально, все кроме gpt3-4
Больше пользы от Aria в Opera, чем от стартовых локалок-убийц DDR
смотря для чего Вам, Aria - это черный ящик, я за полный контроль
@@codedd3280 о каком контроле речь с открытым исходным кодом на GitHub???
@@codedd3280что там за запросы могут быть такие, что можно опасаться передачи данных третьим лицам?
Способы устранения человека?
Способы готовки запрещенки?
Денежные махинации?
Спасибо за видео
спасибо за оценку
Нужны модели по темам. Плюс API чтобы он сам мог выдать код.
Попраси эту модель распарсить сайт и вытащить по теме инфу.
Получишь дулю. Короче ролик хороший, но ии и его возможности пока не очень.
пожалуйста подскажите, как нейросеть face-to-many от fofr на своем компе запустить?
Большое спасибо.
text generator с первого раза запустился. Но пока не понимаю какую модель и в каком формате лучше качать. Скачал AMQ, она в память видюхи не влезла, ошибка. И там очень много моделей, что из этого говно, а что нет, не понятно. Может есть какой рейтинг?
ок, сделаю обзор по моделям
@@codedd3280спасибочки)
в чём проблема использовать процессор ? если нет денег купи новый .. заработай, любой труд
@@diggw любой процессор медленнее гпу
@@mihailasidorov сразу вижу ламера, ты поясни как это ? а то мой процессор быстрее любого гпу и у него 5 гигагерц частота ..
Здравствуйте! Есть какой-нибудь ИИ, чтобы можно было на компьютере найти документ или любой файл по описанию и по другим параметрам?
смотри про open iterpreter, он хорошо справляется с файлами
@@codedd3280 Спасибо, попользуюсь
@@codedd3280Сообщение-ответ ещё одно куда-то делось...
Спасибо большое. Очень полезно и очень интересно. Хотелось бы больше подробностей по поводу подгрузки своих файлов, как в GPT4ALL. Есть ли такая функциональность у LM Studio? Как это вообще работает?
по файлам сниму отдельное видео
по работе, смотри предыдущее видео, но вкратце из файлов создается такое же векторное представление, как и у самой модели и ведется по нему поиск
@@codedd3280 Да, я имел ввиду именно, как это работает со своими файлами. Спасибо. А у LM Studio есть возможность загружать свои файлы? Я как-то не нашёл.
пока нет, но может добавят
Отличный видос, жду продолжения, тема очень актуальна!
Нейросеть. Сходи в магаз за пивом)
Нужна локальная нейросеть для письменных переводов с русского языка на таджикский и узбекский языки и в обратном направлении тоже. Достаточно элементарной базы, и чтобы возможность была доучить уже на нашей обширной базе (оригинал - перевод). По факту, умный Традос нужен. Возможно ли такое? И если да, какую нейросеть применить и какие модули скачать? Заранее благодарен за ответ.
P.S. Понятно, что такие же нейросети используют переводчики Гугла и Яндекса и пр. сайтов, но они для наших целей не годятся, качество слишком низкое.
🤔🤔🤔. 11 минут смотрел как ИИ считает на счётах 4+4.....☝️☝️☝️ Прогресс.
Подскажи пожалуйста, связка FX-8300, RX-570 8Gb, 16 Gb оперативы потянет?
radeon лучше не использовать. Маленькие модели 7B чисто на оперативе вытянет, но будет медленно
я уже несколько дней пытался скачать и установить свою локальную AI, но пока без успеха. Попробую эти новые сервисы. был бы благодарен за видео о том, как можно "затачивать" модели под себя, дообучать и модернезировать. Автору спасибо. Подписка !
по дообучению разберем, но чуть попозже, так как это более сложная и ресурсная тема
Интересно - сколько будет весить полноценный ИИ общего назначения в а втономе.
ну на вскидку, вики сколько база весит? и сколько еще надо информации "базовой" держать локально? я так понимаю, что этот любой ИИ опирается на всю информацию в открытом доступе, анализирует ее, усредняет результат по своему алгоритму и выдает результат
@@khtulkiddqd8554 База, библиотеки могут быть любого размера, дело-то не в этом, а в сложности алгоритма мозговой деятельности, который пользуется этими базами данных. ИИ общего назначения, когда его наконец-то сделают это ведь фактически калька человеческого мозга. А как работает человеческий мозг? - У него две основные компоненты: а) Непосредственно сам алгоритм, который способен работать и перерабатывать поступающую информацию б) какая-то минимально-необходимая фундаментальная база данных обеспечивающая работу этого алгоритма. Вся остальная информация - черпается извне, перерабатывается, часть откладывается в фундаментальную базу, если мозг решит, что это необходимо для обеспечения работы алгоритма, всё остальное - уходит в запас, в глубину в долговременный архив, но при желании её можно извлечь из глубин памяти.
@@khtulkiddqd8554 модели нейронок хранят не текст, а веса и смещения, а веса это числа, поэтому они разительно компактней. А английская википедия весит 95Гб. Модель chatGPT я гдето дето, что около 750Гб, но чтото не верится, а GPT-4 как он мне сам на вскидку рассчитал - 4Терика... но это все я не фактчекал...
хз)
70гб где-то
ты хотел сказать 70 тб минимум?@@mihailasidorov
Своя нейросеть у тебя на компьютере без видеокарты, без интернета и без компьютера.
🤣😂
В советских школах так информатику изучали
Стихи про пиво - Огонь !!!
Что то название не сходится с самим видео.....?
Классс…
Калькулятор, который плминуты вычисляет, сколько будет 4+4😂
Это лучшая антиреклама нейросетей.
это демонстрация принципиальной возможности запуска нейросети локально без серьезных ресурсов. А уже сложные задачи требуют более серьезного оборудования
@@codedd3280
Извиняюсь, вы восприняли буквально. Я думал смайл, помогает понять шутливый настрой.
@@codedd3280 А ""УЖЕ СЛОЖНЫЕ ЗАДАЧИ" - это чооо?? 🤣
Сразу видно полного профана. Притом явно предвзятого. Текстовые нейросети нужны для фантазирования текста, а не как замена калькуляторам. Но если нейросеть умеет правильно выполнять математические операции (выдавать на 4+4 = 8), а не отвечать бред в духе "4+4=12" или "4+4=16) По этому поводу говорят ещё, что «Hasta la vista» и «Sositoso» - это названия чисел", то это говорит о силе и осмысленности модели.
@@user-ev8tr5fh1o очень интересно. А когда будет переход к сути?
Господи! Как это всё сложно для 60 летней бабушки. А очень хочется научиться делать видео с ИИ. Можно как-то попроще?
Картинки получится у себя генерировать?
Есть цензура?
следующее видео будет на эту тему. цензуры нет у конкретных моделей
Вот действительно важный вопрос А как получить API ключ? ?????????????
сначала о терминах, если я правильно понимаю, то API расшифровывается как апликейшн програминг интерфейс, тоесть набор подпрограмм которые можно вызывать с определенными параметрами, чтоб получать простой результат, о каком ключе тут может быть вопрос?
на сайте OpenAI если Вы об этом
очень отличный гайд но надо просто указывать ссылку и всё. тут люди по невежеству используют видеокарты а надо на процессоре, если не хватает купить отдельный пк, ныть не надо будет ещё сложнее.
всмысле по невежеству? или это сарказм) с видеокартой еще лучше, настройки отличаются
@@codedd3280 прикинь у меня райзен аи есть, понятно что ты невежественна и не в курсе как что работает
ок, пусть так)
можно ли прикрутить к работающему графическому SD кусок, генерирующий специализированные гуманитерно-научные тексты?
у меня возникли сомнения о твоем понимании того, как вообще работает ИИ, можешь прояснить в чем суть твоей идеи? кого куда прикрутить сначала?
@@khtulkiddqd8554 полное понимание декларировать не готов))) Уже давно установлен SD, со всеми питонами и добавками, он генерит картинки по запросу. Можно ли этому комплекту добавить некий блок генерации текста + текстовые базы? Или для текста нужно будет ставить еще один полный автономный комплект на кучу Гб? Подозреваю что много чего немаленького по размеру продублируется.
@@MrSingle61 Насколько знаю, нейросети не умеют обращаться к текстовым базам, нужные тексты должны присутствовать в самой модели при обучении или дообучении (можно и так).
Теоретически возможно всё, но у SD и текстовых сеток нет интерфейса для тесного взаимодействия друг с другом.
Если она работает локально, то получается, что многие из запросов могут быть неактуальны? И, на сколько в принципе безопасны подобные приложения - сборники нейронок? И есть ли в этом пакете графические нейронки?
есть модули для доступа в интернет
Спасибо, в данное время как никогда актуально! Знал про один способ, теперь знаю чуть больше, и да про "заточку" и дообучение тренировку будет очень полезно!!!
А ссылки где? Откуда качать?
telegram в коментах
в 21 веке человек скачал очень тугой калькулятор ура на пальцах больше считать не нужно.)))) вы серьёзно ? что это за г...но. в памяти этого робота ограниченый набор просто готовых ответов которые он ищет уж както совсем медленно!!!
лайк+подписка - интересно...)))
Это не тот пример который надо выполнять в нейронной сети 4+4 калькулятор сосчитает мгновенно и даже вы сами за 5 минут в столбик сложите.
Текстовые нейронки для общения и фантазирования текстов нужны, а не как замена калькулятора. Но если текстовая нейронка может производить арифметические операции, и правильно, то это говорит о силе модели.
Божечки... Сколько же в комментариях недоумков...
Спасибо . Очень полезное видео. У вас есть дар внятно, спокойно доносить обучающую информацию. У меня к вам просьба , так как вижу что тема эта у вас на канале новая , а тема важная и для многих нужная , хочу попросить сделать пояснительное видео по этой теме. А именно : как самостоятельно "надрюкать" -обучить свою текстовую нейронку или хотябы Лору для уже существующих. К сожалению пока это только тормознутая игрушка(наигрался) ,Но меня , думаю как и многих , интересует подобный иструмент. А конкретно я готов терпеть тупизну скорости ответов и прочие неудобства ради гипотетической возможности в будущем , получения самых "запретных" и контролируемых в открытых нейронках тем, как юридическая и медицинская информация , которые в отличии от гпт или барда или подобных , не пошлют тебя к специалисту и откажутся отвечать на вопросы. Думаю тема обучения нейронки под себя очень важна. За ранее благодарю . Ваш подписчик.😊❤
Спасибо, все будет!
@@codedd3280 ради этого подпишусь на твой канал🔥
так боты в играх скоро поумнеют ... но 40 гб на нпс это пзд
Спасибо!
Запускать еще не пробовал, но уже есть пара вопросов. Существуют ли подобные локальные приложения, которые:
- предлагают интефейс для доучивания модели
- дают возможность подключить модель к локальной среде (доступ к файлам, к виртуальной среде исполнения кода, доступ к онлайн ресурсам)?
Или это все из разряда "размечтался"?
все перечисленное реализовано в инструментах, которые я уже описал или других подобных
@@codedd3280 Круто! пойду разбираться.
Давно подозревал, что деньги, выделяемые на IT, в основном раздербаниваются с умным выражением лица.
А есть такие чтоб видео переводило и /или озвучивало
конечно! скоро рассмотрим эту тему)
@@codedd3280 ждем с нетерпением).
Да есть яндекс называется😁
Аналоги позитронных мозгов Азимова обязательно появятся. После этого у роботов появятся индивидуальность.
думаю нет, не видать нам Эдо Демерзеля:(
или правильно Р.Дэниель Оливо?
@@Ksipak Автономные роботы очень востребованы в быту - вроде Робонянь, Яндекс-доставка и прочих. И они должны развиваться, становится умнее, а это значит личный опыт робота и индивидуальность неизбежно придется вводить, даже при условии, что у них есть связь с глобальной сетью. Конечно, коммуникативность у роботов будет всегда выше, чем у людей. Это заложено в их природу. Связь через интернет, через радиоволны - это то же самое, как если бы люди могли общаться друг с другом мысленно. Но это не отменяет индивидуальности. И чем дальше, по мере развития, тем больше будет проявляться эта индивидуальность. Поначалу, первой ступенью к индивидууму будут всего лишь роботы узкой специализации, которые обмениваются между собой своим опытом. Но со временем в этом секторе начнут появляться свои, отдельные представители роботов, отличающиеся от своих собратьев своим личным, уникальным опытом жизни и общения с людьми. Так что будут и Жискар и Р.Дэниел Оливо.
С чего вдруг? Это просто программа переводчик. Только вместо слов она оперирует целыми фразами.
1:25 очень простая установка - далее, далее, далее... устанавливаете нейросеть... а дальше, Ваш компьютер Вам больше не принадлежит)))
да ладно, а когда на виндовс ставите, вы вообще не видите чего там происходит))
Подписка + ❤
Эта сеть может отвечать на вопросы, ответы которых лежат на моём компьютере?
Пример: есть даташиты на радиодетали. Даю запрос на транзистор с 1000Вольт 12Ампер и он выдаёт список нужных.
Или "построй схему, чтобы на входе это, на выходе то". И она рисует её сама.
Или вставить неисправный хард диск. Она сама его тестирует, восстанавливает битые системные модули в микропрограмме (модули в SA), пересчитывает P-list, G-list, и выдаёт его уже программно починенным.
Или полиграфический макет сверстать по описанию (буклет, визитка, плакат).
Всякие глупости про пиво и т п не нужны абсолютно. Чисто работа.
Ещё важная фича: робот для огорода. Байда на гусеницах, чтобы ездила по пашне, смотрела камерой сорняки и выдирала спец-лапой.
Картошку чтоб не трогала, а остальное выдирала. И знала где ездить можно и нельзя. Связь по wifi, комп дома.
это задачи из мультимодальности, такое есть, но это будет познее, так как посложнее
такое видел, лазерами ездит и выжигает сорняки, не уверен что работает на нейросети, но похоже.
@@codedd3280 Там главное компьютерное зрение сделать с опознанием объектов.
Жечь как то не Православно)) Даже жалко бедные сорняки стало! Да и пожароопасно это. А выдранные потом в компостной куче удобрением становится, что выгодно.
Вот жуков колорадских лазером - это да))
Вы есть в Телеграме?
Честно говоря GPT4all это только для баловства. Целый день с ней провозился разные модели ставил в конечном итоге все равно все просят денег, если нужно что серьезное, кроме генерации текста. Одну поставил сразу начала по русски отвечать без всяких дополнительных вопросов. Но в итоге заявила что может только работать с текстами. А мне нужно было сгенерировать хотя-бы картинку по тексту. Поставил другую модель, этой пришлось долго объяснять, чтоб отвечала по русски, в итоге стала. Даже с радостью сообщила, что не вопрос и картинку сделать. Даю задание одинаковое для всех моделей, говорит мол сделала ссылку даже скинула куда-то мол бери и качай. Правда в название файла стоял 21 год. Пытаюсь скачать, а там блокировка, ладно ставлю VPN охота же на результат посмотреть. А в итоге нет такого файла. Я ей говорю нет там такого файла, она сорри какой-то сбой. Говорю ок скинь мне на комп картинку. А говорит я вас не понимаю. Ладно удаляю, ставлю следующую. Следующая вообще ужас, вроде понимает что пишешь, даже отвечает на вопрос, но по факту на вопрос отвечай только на русском, я вас не понимаю. Хорошо, не вопрос говорю можешь по тексту картинки делать, да радостно сообщает да и jpg мол то-же знает. Хорошо говорю сделай по тому-же заданию картинку, в итоге снова я вас совсем не понимаю и даже стала говорить не знаю что такое jpg. Вообщем ей то-же место где и остальным. Ставлю следующую. На первое мое Привет, сразу-же на русском ответила привет. Удивила, даже команду давать не надо было. Говорю картинку сделать сможешь, так-же радостно говорит не вопрос в любом разрешение и формате. Ну думаю вот это вещь наконец-то. Даю задание говорит сделала, так-же ссылка оказалась в никуда. Говорю скачай на компьютер, снова говорит сделала даже путь прописала где лежит, правда у меня такой папки даже нет на компьютере) Говорю скинь в другую указываю куда, говорит снова все сделала. А там снова пусто. Говорю ей мол по ссылке нечего нет и в папке пусто. Ну в вежливости ей не откажешь, куча извинений мол какой-то сбой и все такое. Одним словом то-же послал. И нечего! Зашел на GPT-4, думаю ключ возьму. А там только GPT-3.5 все остальное платное. Ладно не вопрос говорю картинки делать можешь, да говорит не вопрос. Говорю сделай, делает в ASCII смайлики) Я говорю в jpg сделай, говорит откройте редактор и сами сделайте)) В итоге она надавала мне кучу "полезных" методик начиная от сам сделай и заканчивая найми дизайнера)) Спрашиваю GPT4 может это сделать, говорит сама не знает она мол позже родилась) Плюнул я на это дело вообщем. Зашел в runwayml.com, она за пару минут мне не то, что картинку, а видео сделало и с точностью моего запроса. Правда ей задание надо писать исключительно на английском, на русском там том-же какие-то машинки получаются. Но по крайней мере, хоть не врет откровенно.
Вопрос нахрена они вообще нужны?лишнее забивание оперативки всяким шлаком
Хрюкни
а что можно делат с все ето неро , обясните просто люди незнают
см видео про выбор нейронок
Только у меня не работает кнопка установщика? Навожу на кнопку, как была стрелочка так и осталась. Некуда нажимать. А так видео ТОПовое.
Спасибо.
Просит API для скачивания. Где взять?
Там же откуда сама модель которая требует ключ, не парься особо там будет по любому платно.
Нужная тема и хорошо объяснена. Спасибо!
Если для chat4all нужен ключ API, который можно получить только купив GPT4 у OpenAI, то в чём преимущество локальной версии перед обычным интерфейсом OpenAI? Что на счёт цензуры локальной версии?
в chat4all просто есть возможность работать как с платными (с ключем) так и с бесплатными, преимущество, все модели из одного интерфейса
России в общем-то уже и нет.
Если НЕ врать самим себе.
Четверть страны просто утеряна или уничтожена. Половина населения сбежало с этой раздолбанной помойки навсегда. Экономики больше нет.
В стране нищета, разруха и безработица. Копеечные зарплаты.
И абсолютно никакой надежды на будущее................
Формально без мощной видеокарты и памяти и мощного процессора , приличного не получится
Благодарю за подробный рассказ об. Использовании нейросетей на компьютере.
Спасибо автор!!!! Смотрю в захлеп))
рад, что интересно) спасибо за отзыв!
=Смотрю в захлеп=
Лучше хлебать, а не хлепать.
Стало быть взахлеб...
Надеюсь что ИИ научит вас грамоте 🧐
@@user-iy4vz1rx5w а ты учитель младших классов по русскому языку? Или клоун местный?
стишок про пиво шедеврален, посмеялся от души!)) жаль не рифмованный вышел(
почти весь корпус текста, который скормили модели при ее создании был на английском, поэтому оно закономерно, но если ее оттюнинговать достаточным количеством русского, то будет результат намного лучше. На английском рифмует без вопросов
@@codedd3280 есть ли модели хорошо работающие с русским? я думаю большинству здесь интереснее было бы на русском взаимодействовать с сетью
они конечно есть, но такой подход сильно ограничивает в возможностях, когда есть выбор из тысяч на английском но с переводом или нескольких десятков на русском, то кажется ответ очевиден
Шикарно мое почтение , Как раз интерисовался пару недель назад можно ли на пк с встройкой так работать .
рад, что полезно)
Возможно не в тему. Есть приложение для кома и мобильников POE называется(есть веб версия). В нём собраны разные нейронные сети: GPT (правда 4 версия платная), генерация картинок, что-то с программированием связанное. Куча всяких короче. Некоторые требуют VPN, но это редкость. Можно поюзать по развлекаться))
Калькулятор быстрее складывает.
Есть ли средства для анализа электронных схем, поиск неисправностей по симптомам -например?
под узкие задачи нужно дообучение, об этом отдельно расскажу
@@codedd3280 Хорошо.
Я уже запуталась где что найти.
в телеграм все ссылки
Nvidia имеется ввиду достаточно новые карты или 1060 тоже подойдет?
подойдет
И ты еще на свободе? Куда смотрит отдел К?
ради рекламы многие будут пока бесплатны
Интересная тема 👍👍👍 А вот про пиво слог англицкий - перевела на английский , на нём же сваяла ответ и перевела на русский 🤣
именно, у нее мозг анлийский из-за 95% скормленного английского текста, но как и у обычных неполиглотных людей собственно
калькулятор весом в несколько гигабайт )
Очень актуально! Хотелось бы подробнее о нейросетях для лингвистов, особенно - востоковедов
запускать llm модели на cpu - это бессмысленый онанизм.
это просто чтобы попробовать - а развивать нужно конечно на gpu
6 калькулятора хватит ?🤣🤣🤣или монитор только по более купить
А в какой рисовать можно в lm? И какую модель ставить для генерации картинок?
для картинок из рассмотренных- только последняя - text-generation- webUI. По картинкам будет отдельное видео.
@@codedd3280 ждём, спасибо
Спасибо. Отличное объяснение
Пожалуйста!
А как получить API ключ?
это интерфейс (chat4all) - api ->> openai
Довольно посредственные модели. В сравнении с онлайн сервисами, земля и небо, что предсказуемо.
Т. е. GPT4 лучше на Ваш взгляд?
@@RabbitAlex конечно. Там используется база со значительно большим количеством данных. Тут модели весят 8-16 Гб, а GPT4 - на порядки больше.
Я скачал, попробовал и удалил.
На счет avx инструкций: они появились с 2013 года. Вроде как отсутствуют на пентиумах и селеронах до сих пор. Зионы 5500 5600 вроде не имеют. За подробностями - в cpuz.
Старые ноуты скорее всего не будут тянуть нейросети. Сенди бридж от синих и кукурузены должны работать все.
На счет llm studio: не самый удобный интерфейс, но самая удобная программа чтобы поспрашивать различные модельки. Из киллерфитч: можно часть ответа использовать на ГПУ, часть - на ПУ. Методом тыкай подобрать соотношение скорость ответа/стабильность работы. Например, мне сайга на 13 млд отвечает моментально, так как почти все обрабатывает на видеокарте (3060).
Вопрос к знающим людям, какая модель умеет в русский лучше Сайги? Особых нареканий нет, но хотелось бы, чтобы бага с согласованием родов и причастий не было еще. Или нужно делать нормальную подсказку?
И новый, модный вихрь, например, вообще отказался что-то осмысленное говорить.
@@user-ks2qs7yv2y -"какая модель умеет в русский лучше Сайги?"
"Например, мне сайга на 13 млд отвечает моментально, так как почти все обрабатывает на видеокарте (3060). "
Сайга основана на Llama и свои "знания" русского получила от прородительницы.
Хотите улучшить - следует дообучить.
Вот только "сайга на 13 млд... на видеокарте (3060)" - 13B квантирована до 4 бит?
Строка для гугления "70В отлично знает, что такое манускрипт Войнича"...;))
Автор, Вы заслужили лайк и под писку. Спасибо))
Спасибо!
не подскажете, что за линукс у вас в таком приятном дизайне?
linux mint 21
@@codedd3280 спасибо
чёт о мудрённо
первые два - скачать и установить, где мудрость?
Сколько времени уже мусолится тема с нейросетями, теперь уже локальными, но до сих пор не понятно куда их применять кроме генерации полудебильных, никому не нужных картинок и идиотских ответов на не менее дебильные вопросы...🤣
Не заморачивайся просто. Это не для тебя.
Я рискнул установить на компьютер нейросеть Easy-Diffusion-Windows, у меня оперативной памяти всего 4 Гб и графический процессор, всё жутко тормозило, толком ничего не сгенерировал для себя. Пришлось удалить. Соединение было с сервером localhost:9000. Скачать файл с весом 1,8 Гб не составило труда, а вот установка на компьютер заняло больше времени и занимает место после установки 20-25 Гб
В gpt4all есть кнопка энэйбл апи сервер, как узнать эндпоинт адрес и апи кей ?
в след видео расскажу
Немножко уточню. Stable Diffusion при установке всегда подтягивает все нужное для работы с GPU, даже если потом оно не будет использоваться.
бред!
Ты бред
ПРивет. Подскажи как работать с файлами в ЛМ студио ?
привет. В Lm не нашел такого, есть в chat4all
а что с ней (нейросетью) делать? и зачем она на пк
в общем то все ограничено вашей фантазией, а возможности безграничны, в следующих видео обсудим
типа локальный (без инета) гугл, только выдает "не всегда" один правильный ответ
а зачем это надо ? и что она может решить ?
Поставил GTP4ALL, каспер кучу раз спрашивал пускать ли туда, сюда... и в автозагрузку лезет что-то править и в настройки процессора и еще куда ни попадя. Что-то качал инсталлятор из инета. Везде соглашался. Установилось успешно.
В итоге при запуске установленной программы: chat.exe - ошибка при запуске приложения. ((( (у меня Windows 7, 64bit)
Попробую другую штуку =/
похоже на антивирусные войны
Моделью вроде должно называтся знания ИИ,
А Вы моделью назвали алгоритм.
Я уже не знаю что именно называют моделью
Загуглите что такое модель в контексте модель поведения) все ИИ в большей степени тот же алгоритм, который разбивает на циферки ваши запросы и данные для обучения, а потом по этим весам даёт ответ, алгоритм.
@@user-user4247 Я просто думал что там скачивать будите прогу не обученную, а потом обучать будите.
Я ошибся.