Graph RAG с Ollama — экономьте $$$ с местными LLM

Узнайте, как настроить локальную модель с помощью OLAMA и API Groq для проекта GraphRAG. Мы также рассмотрим ограничения использования небольших локальных моделей с открытыми весами.

ССЫЛКИ:
Graph RAG: https://tinyurl.com/y3f9cbnd
Github: https://github.com/microsoft/graphrag
Блок-схема GraphRAG: https://tinyurl.com/2s4ytcur
Блок-схема RAG: https://tinyurl.com/56mwzkk7
Создание сообщества: https://tinyurl.com/54n88c2j
Ollama OpenAI API: https://ollama.com/blog/openai-compat...
Groq API: https://console.groq.com/docs/openai

💻 Курс RAG Beyond Basics:
https://prompt-s-site.thinkific.com/c...

Давайте пообщаемся:
🦾 Discord:   / discord  
☕ Угостите меня кофе: https://ko-fi.com/promptengineering
|🔴 Patreon:   / promptengineering  
💼Консалтинг: https://calendly.com/engineerprompt/c...
📧 Контактная информация: engineerprompt@gmail.com
Стать участником: http://tinyurl.com/y5h28s6h

💻 Предварительно настроенная виртуальная машина localGPT: https://bit.ly/localGPT (используйте код: PromptEngineering, чтобы получить скидку 50%).

Подпишитесь на рассылку, localgpt:
https://tally.so/r/3y9bb0

ТАЙМ-КОДЫ
00:00 Введение в проект GraphRAG
00:30 Настройка OLAMA и выбор моделей
01:14 Настройка GraphRAG с OLAMA
02:32 Использование Groq API с GraphRAG
04:35 Запуск локального индексирования и извлечения сущностей
07:15 Тестирование и сравнение моделей
08:15 Важность выбора LLM в GraphRAG
10:58 Оптимизация запросов для разных LLM

Все интересные видео:
Всё о LangChain:    • LangChain  

Всё о LLM:    • Large Language Models  

Всё о поездке:    • MidJourney Tutorials  

Создание изображений с помощью ИИ:    • AI Image Generation Tutorials