Популярное

Музыка Кино и Анимация Автомобили Животные Спорт Путешествия Игры Юмор

Интересные видео

2025 Сериалы Трейлеры Новости Как сделать Видеоуроки Diy своими руками

Топ запросов

смотреть а4 schoolboy runaway турецкий сериал смотреть мультфильмы эдисон
dTub
Скачать

Testing LLMs on the NEW 16gb Raspberry Pi5 (Llama 11B & Qwen 14B)

Автор: Bijan Bowen

Загружено: 2025-01-14

Просмотров: 16864

Описание:

Timestamps:

00:00 - Intro
01:28 - Unboxing
02:40 - Ollama Download
03:38 - Qwen 14B Test
07:13 - Ollama Glitch PSA
08:53 - Llama3.2 11B Vision
13:48 - Pi5 8GB Comparison
16:26 - Other SBC Comments
17:17 - Closing Thoughts


Experience the groundbreaking capabilities of the new 16GB Raspberry Pi 5 as we put it through its paces with large language models using Ollama. In this comprehensive test, we explore previously impossible territories for the Raspberry Pi - running sophisticated models like Qwen2.5 14B and the multimodal Llama 3.2 11B Vision.

Watch as we demonstrate real-world token generation speeds and compare performance metrics, showcasing how this RAM upgrade opens new doors for local AI processing. We directly contrast with the 8GB Pi's limitations, highlighting models that were previously out of reach but now run successfully on this new hardware.

Whether you're an AI enthusiast, a Raspberry Pi tinkerer, or just curious about the future of local LLM deployment, this video provides concrete data and practical insights into what's now possible with the 16GB Pi 5. Join us as we explore the expanding capabilities of local AI processing and what this means for the future of edge computing.

Testing LLMs on the NEW 16gb Raspberry Pi5 (Llama 11B & Qwen 14B)

Поделиться в:

Доступные форматы для скачивания:

Скачать видео mp4

  • Информация по загрузке:

Скачать аудио mp3

Похожие видео

array(10) { [0]=> object(stdClass)#5646 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "a8OT3hG45o0" ["related_video_title"]=> string(24) "Finally! An SBC for LLMs" ["posted_time"]=> string(25) "3 месяца назад" ["channelName"]=> string(11) "Hardware.ai" } [1]=> object(stdClass)#5619 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "7mh77Nq51Ho" ["related_video_title"]=> string(72) "Raspberry Pi5 AI Kit COMPLETE Setup Guide & Detection Alert Tutorial" ["posted_time"]=> string(27) "5 месяцев назад" ["channelName"]=> string(11) "Bijan Bowen" } [2]=> object(stdClass)#5644 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "NJ-xGN9uygs" ["related_video_title"]=> string(127) "Всем вернуться в ICQ! | Заменит ли госмессенджер телегу (English subtitles) @Max_Katz" ["posted_time"]=> string(24) "11 часов назад" ["channelName"]=> string(19) "Максим Кац" } [3]=> object(stdClass)#5651 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "hLMpmwlRfpw" ["related_video_title"]=> string(165) "БЕЛКОВСКИЙ: что (не)так с ударом по Ирану, почему растерялся Путин, Трамп, нефть, ЧТО ДАЛЬШЕ?" ["posted_time"]=> string(24) "13 часов назад" ["channelName"]=> string(24) "И Грянул Грэм" } [4]=> object(stdClass)#5630 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "5kLpWXcXoq8" ["related_video_title"]=> string(67) "BEYOND LS - Episode 04 - Juggling Metadata like a Pro with Exiftool" ["posted_time"]=> string(22) "12 дней назад" ["channelName"]=> string(15) "Kostas Minaidis" } [5]=> object(stdClass)#5648 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "apWi16EROKc" ["related_video_title"]=> string(38) "Who would pay $120 for a Raspberry Pi?" ["posted_time"]=> string(27) "5 месяцев назад" ["channelName"]=> string(13) "Jeff Geerling" } [6]=> object(stdClass)#5643 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "_rkBx62J3Mk" ["related_video_title"]=> string(68) "Российско-украинская война - на карте" ["posted_time"]=> string(24) "13 часов назад" ["channelName"]=> string(21) "Гео-История" } [7]=> object(stdClass)#5653 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "RnHC1XiNWS8" ["related_video_title"]=> string(94) "Венедиктов – страх, Симоньян, компромиссы / вДудь" ["posted_time"]=> string(19) "3 дня назад" ["channelName"]=> string(10) "вДудь" } [8]=> object(stdClass)#5629 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "YnoeWXh3-q0" ["related_video_title"]=> string(67) "DeepSeek R1 Distill On NVIDIA Jetson Nano (WebUI Test and Tutorial)" ["posted_time"]=> string(25) "4 месяца назад" ["channelName"]=> string(11) "Bijan Bowen" } [9]=> object(stdClass)#5647 (5) { ["video_id"]=> int(9999999) ["related_video_id"]=> string(11) "fFgyOucIFuk" ["related_video_title"]=> string(56) "Feed Your OWN Documents to a Local Large Language Model!" ["posted_time"]=> string(27) "8 месяцев назад" ["channelName"]=> string(13) "Dave's Garage" } }
Finally! An SBC for LLMs

Finally! An SBC for LLMs

Raspberry Pi5 AI Kit COMPLETE Setup Guide & Detection Alert Tutorial

Raspberry Pi5 AI Kit COMPLETE Setup Guide & Detection Alert Tutorial

Всем вернуться в ICQ! | Заменит ли госмессенджер телегу (English subtitles) @Max_Katz

Всем вернуться в ICQ! | Заменит ли госмессенджер телегу (English subtitles) @Max_Katz

БЕЛКОВСКИЙ: что (не)так с ударом по Ирану, почему растерялся Путин, Трамп, нефть, ЧТО ДАЛЬШЕ?

БЕЛКОВСКИЙ: что (не)так с ударом по Ирану, почему растерялся Путин, Трамп, нефть, ЧТО ДАЛЬШЕ?

BEYOND LS - Episode 04 - Juggling Metadata like a Pro with Exiftool

BEYOND LS - Episode 04 - Juggling Metadata like a Pro with Exiftool

Who would pay $120 for a Raspberry Pi?

Who would pay $120 for a Raspberry Pi?

Российско-украинская война - на карте

Российско-украинская война - на карте

Венедиктов – страх, Симоньян, компромиссы / вДудь

Венедиктов – страх, Симоньян, компромиссы / вДудь

DeepSeek R1 Distill On NVIDIA Jetson Nano (WebUI Test and Tutorial)

DeepSeek R1 Distill On NVIDIA Jetson Nano (WebUI Test and Tutorial)

Feed Your OWN Documents to a Local Large Language Model!

Feed Your OWN Documents to a Local Large Language Model!

© 2025 dtub. Все права защищены.



  • Контакты
  • О нас
  • Политика конфиденциальности



Контакты для правообладателей: [email protected]