AI-агенты для Data Scientist-специалистов [proglib.academy] [Никита Зелинский, Дмитрий Фролов]

Bot

Администратор
Команда форума
23 Янв 2020
142,283
503
113
Занятие 1
LLM и их особенности, первый агент на langchain
На занятии посмотрим как выбрать LLM для задачи — квантизованные модели, instruct-модели и пр, какие есть способы запуска LLM — как использовать API, как развернуть LLM локально с помощью Ollama, как происходит токенизация для разных языков и как это влияет на стоимость решения. Рассмотрим реализация памяти в цепочках langchain и обсудим зачем подключать внешние источники если уже есть модели с контекстом более 10 М токенов.
В конце реализуем пару простых агентов на langchain.
Занятие 2
RAG и оценка его качества
Познакомимся с основными компонентами RAG, векторными базами и ANN, другими Retrievers. Рассмотрим модификации RAG и подходы к генерации датасета для тестирования получившегося решения, подход LLM as a judge. В итоге соберем полный пайплайн RAG-системы с оценкой качества.

Занятие 3
Основные понятия мультиагентных систем (MAS) и библиотеки для их построения

  • Вводный обзор MAS, коллективное принятие решений, механизмы обмена информацией и координации агентов между собой.
  • Дебаты между агентами, actor-critic подходы. Multi-step agents.
  • Знакомство с библиотеками crew ai, autogen, langgraph, llamaindex, smolagents, swarm от open ai
  • Фреймворк для анализа промптов spade
Занятие 4
AI-агенты: инструменты, флоу и сравнение фреймворков
  • Углубимся в практику с популярными фреймворками, обсудим проблему оценки результатов.
  • Tools для AI агентов и их основные типы, workflows.
  • Методы оценки качества работы AI-помощников, GAIA.
  • Сравнение библиотек для построения мультиагентных систем
Занятие 5
Промышленные агенты и протокол MCP
  • Рассмотрим протокол для унифицированной работы с tools — MCP и фреймворк FastMCP.
  • Создадим end-to-end MCP приложение