Как DeepSeek R1 и Gemini 20 меняют подход к структурированным ответам.

• DeepSeek R1 for Struct...
The YandexGPT neural network summarized this video
DeepSeek R1 for Structured Agents
Введение в DeepSeek
Обзор модели DeepSeek и её работы.
Добавление поиска по модели на сайт DeepSeq.
Проблемы с поддержкой функций и структурированных ответов.
Проблемы и решения
Модель не поддерживает вызов функций и вывод в формате JSON.
Способы обхода этих проблем с помощью Pydantic AI.
Применение методов к новым моделям Gemini 20.
Примеры использования
Примеры ответов от DeepSeek и Gemini 20.
Использование API для получения токенов для мышления и ответов.
Примеры использования дистиллированных версий модели.
Настройка Pydantic AI
Использование Pydantic AI для получения структурированных результатов.
Настройка поиска в Tavili и использование API DeepSeek.
Настройка моделей DeepSeek Chat и DeepSeq R.
Использование моделей
Замена модели OpenAI на DeepSeek Chat.
Настройка агента PyData для получения структурированных данных.
Пример использования модели DeepSeek V3 для получения структурированных ответов.
Проблемы с моделью DeepSeq R1
Модель DeepSeq R1 не поддерживает вызов функций.
Решение проблемы через использование другой модели Gemini Flash.
Использование Gemini Flash для форматирования структурированных ответов.
Deepsick R и его возможности
Deepsick R обеспечивает структурированный ответ на запрос.
Вывод состоит из контента и рассуждений.
Pydantic скоро сможет возвращать рассуждения, но можно использовать стандартный вызов LLM.
Цепочка мыслей и диалог
Диалог включает вопрос, цепочку мыслей и ответ.
Цепочка мыслей не возвращается при каждом вопросе.
Для использования цепочки мыслей нужно извлечь её из ответа.
Пример использования DeepSeek
Пример вопроса "В чем смысл жизни?"
Ответ содержит заголовок и пункты списка.
Цепочка мыслей показывает этапы размышлений.
Форматирование и структурирование
Объединение строк для форматирования.
Использование тегов мышления для структурирования.
Применение форматировщика для получения структурированных результатов.
Использование анализатора как инструмента
Настройка анализатора как инструмента.
Использование инструмента оркестратора для получения ответов.
Применение синтеза и форматирования текста.
Пример использования модели для создания отчета
Модель не всегда хорошо генерирует ключевые слова.
Использование поиска для получения информации.
Модель понимает, что такое группа, после выполнения поиска.
Заключение и рекомендации
Модель Deepseq R может форматировать данные для структурированных выходных данных.
Использование других моделей для получения ключевых слов и синтеза.
Важность правильного выбора модели для конкретных задач.

[@MaxK-w2r]

Можно ли попросить ссылку на ноутбук?