Начало работы с Groq API | Делаем возможным общение в режиме реального времени с LLM
Автор: Prompt Engineering
Загружено: 2024-02-29
Просмотров: 43872
Давайте рассмотрим API Groq, который предоставляет бесплатный (ограниченный по времени) доступ к своим модулям обработки языка (LPU). С Mixtral-8x7B API может выдавать около 500 токенов в секунду. Приятного просмотра :)
🦾 Discord: / discord
☕ Угостите меня кофе: https://ko-fi.com/promptengineering
|🔴 Patreon: / promptengineering
💼Консалтинг: https://calendly.com/engineerprompt/c...
📧 Контакт для бизнеса: [email protected]
Стать участником: http://tinyurl.com/y5h28s6h
💻 Предварительно настроенная виртуальная машина localGPT: https://bit.ly/localGPT (используйте код: PromptEngineering для скидки 50%).
ССЫЛКИ:
Регистрация для доступа к API: https://groq.com/
Colab Notebook: http://tinyurl.com/2nxdv2m8
Чат-бот Streamlit: http://tinyurl.com/3f485knj
ТАЙМ-КОДЫ:
[00:00] Введение
[00:34] Как получить доступ к API Groq?
[01:06] API Playground
[03:15] Начало работы с Groq API
[05:33] Скорость, близкая к реальному времени
[07:24] Расширенные функции API: потоковая передача и последовательности остановок
[11:02] Создание чат-бота с помощью Streamlit и Grok API
Все интересные видео:
Everything LangChain: • LangChain
Everything LLM: • Large Language Models
Everything Midjourney: • MidJourney Tutorials
Создание изображений с помощью ИИ: • AI Image Generation Tutorials
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке:
