DotNet&More #179: PC или Mac для локальных LLM, тестируем и не только

"Не покупай новую видеокарту пока не посмотришь это видео!", "Пользователи Mac обезумели когда увидели...", "Для эффективной работы с локальными LLM нужен простой советский..." и прочие кликбейты, только сегодня, только сейчас!!!

Спасибо всем, кто нас слушает. Ждем Ваши комментарии.

Музыка из выпуска: 

- https://artists.landr.com/056870627229

- https://t.me/angry_programmer_screams

Весь плейлист курса "Kubernetes для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3SrrmOzzdBBsdeQ0YVR3Fc7

Бесплатный открытый курс "Rust для DotNet разработчиков": https://www.youtube.com/playlist?list=PLbxr_aGL4q3S2iE00WFPNTzKAARURZW1Z

Shownotes: 

00:00:00 Вступление

00:12:40 Как настроить локальные llm

00:24:05 Стоит ли брать подержанный M1 Max

00:30:00 Codestral на 5060 RTX

00:38:00 Стоит ли брать Air M5

00:47:00 Стоит ли M5 Max своих денег?

00:50:00 Deepseek это круто?

00:53:00 Deepseek на M1 Max отстой

00:59:00 Deepseek на 5060

01:01:40 Deepseek на M5 Air

01:12:40 На 5060 все заработало :)

01:34:00 Deepseek: M5 Max vs 5060

01:36:30 Наш любимый Lfm

01:53:50 Llama стоит ли того?

02:01:40 Финальный босс: Qwen2.5

02:09:00 Qwen3.6 на M5 Max

Ссылки:

- https://www.jan.ai : Удобный UI для моделей

- https://huggingface.co/LiquidAI/LFM2.5-8B-A1B-MLX-8bit :LFM

- https://huggingface.co/mlx-community/Qwen2.5-Coder-14B-Instruct-4bit : Qwen

- https://huggingface.co/mlx-community/DeepSeek-Coder-V2-Lite-Instruct-4bit : DeepSeek

- https://huggingface.co/mlx-community/Codestral-22B-v0.1-4bit: Codestral

- https://huggingface.co/mlx-community/Meta-Llama-3.1-8B-Instruct-4bit : Llama

Видео: https://youtube.com/live/7qCtWU-LK58

Слушайте все выпуски: https://dotnetmore.mave.digital

YouTube: https://www.youtube.com/playlist?list=PLbxr_aGL4q3R6kfpa7Q8biS11T56cNMf5

Twitch: https://www.twitch.tv/dotnetmore

Обсуждайте:

- Telegram: https://t.me/dotnetmore_chat

Следите за новостями:

– Twitter: https://twitter.com/dotnetmore

– Telegram channel: https://t.me/dotnetmore

Copyright: https://creativecommons.org/licenses/by-sa/4.0/