Обучение, запуск и поддержка больших языковых моделей локально на сервере хранения (с использован...

В сегодняшнем выпуске Бретт возвращается к теме запуска больших языковых моделей на наших системах хранения данных. В нашем первом видео Бретт развернул контейнеризированную большую языковую модель (LLM), развернул чат-бота в стиле ChatGPT с Open WebUI и запустил его без графического процессора. Всё верно — только на центральном процессоре, управляя виртуальными машинами через Proxmox. Добро пожаловать во вторую часть.

Бретт покажет вам, как добавить собственную информацию или базу знаний, создать модель, которая распознаёт эту базу знаний, а затем задавать вопросы для модели, относящиеся к этой конкретной базе данных. Мы обеспечиваем безопасность ваших данных и локальный доступ к ним.

Большинство наших систем хранения данных поддерживают большие языковые модели, добавляя в систему графический процессор. Ознакомьтесь с нашей полной линейкой продуктов по адресу: https://www.45drives.com/

Не знаете, с чего начать? Пройдите нашу анкету для одного сервера: https://www.45drives.com/products/net...

#ai #serverstorage #F16StorageServer #openwebui #SelfHostedAI #45drives #proxmox #llm #nvme #storagesolutions #techtips #deepseek #homelab #opensourceai #nogpu #AIonServers #OpenWebUI #F16Stornado #Proxmox #45Drives #LLM #ChatGPTLocal #SelfHostedAI #nvmestorage #zfs #homelab #virtualization #ServerHardware #storagesolutions #techtips #opensourceai #NoGPURequired #linuxserver #enterprisestorage #edgeai #ModularServerDesign