Optimization of LLM Systems with DSPy and LangChain/LangSmith

Автор: LangChain

Загружено: 2024-04-06

Просмотров: 24778

Описание:

The most interesting LLM applications are less a single LLM call and more a complex system that relies on multiple LLM calls. Prompt engineering all these LLM calls explicitly can be painful and time consuming.

DSPy pioneered the idea of "optimization" of LLM systems; using automatic evaluation to optimize the instructions, few shot examples, and even the weights.

LangChain and LangSmith are starting to incorporate some of these in an *online* manner.

This video covers why you should think in terms of LLM systems, why optimization can be useful, what components make the most sense to optimize, and how to use DSPy and LangChain/LangSmith to do so.

Optimization of LLM Systems with DSPy and LangChain/LangSmith

Доступные форматы для скачивания:

Скачать видео mp4

Информация по загрузке:

Скачать аудио mp3

Похожие видео

Объяснение DSPy!

Объяснение DSPy!

Управление поведением LLM без тонкой настройки

Управление поведением LLM без тонкой настройки

Stop Prompt Engineering! Program Your LLMs with DSPy

Stop Prompt Engineering! Program Your LLMs with DSPy

Как подключить свои документы к LLM — полный разбор RAG

Как подключить свои документы к LLM — полный разбор RAG

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ

Превратите ЛЮБОЙ файл в знания LLM за СЕКУНДЫ

Domain-Driven Design | Просто о сложном

Domain-Driven Design | Просто о сложном

12-факторные агенты: модели надежных приложений LLM — Декс Хорти, HumanLayer

12-факторные агенты: модели надежных приложений LLM — Декс Хорти, HumanLayer

DsPy Tutorial - optimize your LLM pipelines with DsPy (Part 1)

DsPy Tutorial - optimize your LLM pipelines with DsPy (Part 1)

DSPy: Transforming Language Model Calls into Smart Pipelines // Omar Khattab // MLOps Podcast #194

DSPy: Transforming Language Model Calls into Smart Pipelines // Omar Khattab // MLOps Podcast #194

Let the LLM Write the Prompts: An Intro to DSPy in Compound AI Pipelines

Let the LLM Write the Prompts: An Intro to DSPy in Compound AI Pipelines

Building Production-Ready RAG Applications: Jerry Liu

Building Production-Ready RAG Applications: Jerry Liu

Structured Outputs with DSPy

Structured Outputs with DSPy

Building Corrective RAG from scratch with open-source, local LLMs

Building Corrective RAG from scratch with open-source, local LLMs

Что такое Rest API (http)? Soap? GraphQL? Websockets? RPC (gRPC, tRPC). Клиент - сервер. Вся теория

Что такое Rest API (http)? Soap? GraphQL? Websockets? RPC (gRPC, tRPC). Клиент - сервер. Вся теория

GraphRAG: союз графов знаний и RAG: Эмиль Эйфрем

GraphRAG: союз графов знаний и RAG: Эмиль Эйфрем

MAGIC of DSPY 3 (Stanford) - Lean 4

MAGIC of DSPY 3 (Stanford) - Lean 4

Забудь VS Code — Вот Почему Все Переходят на Cursor AI

Забудь VS Code — Вот Почему Все Переходят на Cursor AI

Applications of Stanford DSPy for Self-Improving Language Model Pipelines

Applications of Stanford DSPy for Self-Improving Language Model Pipelines

Omar Khattab, DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines

Omar Khattab, DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines

The LangChain Cookbook - Beginner Guide To 7 Essential Concepts

The LangChain Cookbook - Beginner Guide To 7 Essential Concepts