Langflow. Как создавать приложения с GigaChat API или Ollama из блоков?

Сегодня необычный ролик, поскольку на канале собралось 500 подписчиков! Спасибо всем, кто смотрит.
Мы рассмотрим low code фреймворк на базе LangChain под названием Langflow. С его помощью можно собирать агентов и просто цепочки компонентов из блоков. Каждый блок можно редактировать. Тут уже пригодятся навыки программирования на Python. С помощью программирования мы создадим компонент, чтобы подключать GigaChat, которого изначально во фреймворке нет. Еще посмотрим, как работает локальная модель Llama 3 через Langflow. Также соберем и настроим RAG-систему на материале из прошлых видеороликов.
Ссылка на сайт Langflow: www.langflow.org/
В этом ролике используется векторное хранилище из туториала: • RAG. Делаем вопросно-о...
Мой канал в Telegram: t.me/gigatrash
Команды для командной строки Windows:
mkdir название_папки - создает папку
cd название_папки - переход в соответствующую папку
python -m venv название_окружения - создание виртуального окружения
название_окружения\Scripts\activate - активирует виртуальное окружение
pip install langflow gigachat sentence-transformers - установка необходимых библиотек

[@ivanqivanov4521]

спасибо!

[@user-zy7ko2bw9q]

Интересный материал 👍 пробовал озвучить ответ модели? Я делаю с помощью Silero

[@trashchenkov]

да, конечно. Есть большое количество вариантов для реализации Text-to-Speech. В одном из следующих видео покажу на примере SaluteSpeech API, раз уж в основе всех примеров у нас GigaChat.

[@alexandrtortik]

ОТличный выбор, как раз на днях начал переводить документацию по этой теме...

[@lsd7777777]

Добрый день.
Сергей, подскажи пожалуйста, а где брать JSON файл GigaChat, о котором идёт речь, на 24:40 минуте видео?

[@trashchenkov]

Я скидывал его в телеграм: t.me/gigatrash/46?comment=129

[@lsd7777777]

@@trashchenkov Благодарю.

[@olegkrylov8240]

Но ведь этот фреймфорк можно запустить, например, через PyCharm?

[@trashchenkov]

@@olegkrylov8240 можно, но в том плане, что пайчарм для каждого проекта делает виртуальное окружение. В него можно поставить langflow, а потом запускать из терминала пайчарма.
В итоге же все равно основные манипуляции в браузере происходят.

[@olegkrylov8240]

@@trashchenkov а как это работает, если запускать фреймворк через терминал? При новом запуске компьютера ничего делать дополнительно не нужно будет, лэнгфлоу уже будет открываться сразу в браузере? Я правильно понимаю?

[@trashchenkov]

@@olegkrylov8240 при новом запуске нужно будет снова запустить через терминал. Устанавливать нового ничего не надо, а запускать надо. Браузер - это только оболочка, сам langflow работает в терминале.