iOS Broadcast

iOS Broadcast

⚡️Вышел новый Mac Studio: это разрыв! Топовое решение для дома, можно спокойно крутить серьезные нейронки и LLM локально 🟢M4 Max (уже в базе) 🟢В 3,5 раза быстрее, чем M1 Max 🟢В 2,6 раза быстрее, чем M1 Ultra 🟢В 16,9 раз быстрее генерация токенов LLM 🟢36 ГБ…

🎯 Релиз Mac Studio лег на почву новых LLM моделей
Наткнулся на анализ от разработчиков exolabs с экспертным ревью: Mac Studio M3 Ultra с 512 ГБ памяти идеально подходит для работы с DeepSeek V3/R1. 2 M3 Ultra 512GB Mac Studio с exolabs обеспечивают полный запуск DeepSeek R1 дома. Звучит мега дорого?

Сравнение стоимости:
🔵NVIDIA H100: 80 ГБ, 3 ТБ/с, 25 000$, 312,50$ за ГБ
🟣AMD MI300X: 192 ГБ, 5,3 ТБ/с, 20 000$, 104,17$ за ГБ
🟢Apple M2 Ultra: 192 ГБ, 800 ГБ/с, 5000$, 26,04$ за ГБ
🟢Apple M3 Ultra: 512 ГБ, 800 ГБ/с, 9 500$, 18,55$ за ГБ

Стоимость за ГБ/с пропускной способности памяти
🔵NVIDIA H100: 8,33$
🟣AMD MI300X: 3,77$
🟢Apple M2 Ultra: 6,25$
🟢Apple M3 Ultra: 11,87$

Преимущества Apple
🟢Apple выигрывает за счет увеличения объема памяти и снижения частоты обновления
🟢MoE и модульная маршрутизация требуют большого объема памяти, но небольшой пропускной способности
🟢Пропускная способность памяти в M4 Max увеличилась на 36,5% по сравнению с M3 Max
🟢В следующем году ожидается появление Mac Studio M4 Ultra с технологией Apple UltraFusion

Please open Telegram to view this post

VIEW IN TELEGRAM

🔥5

www.tgoop.com/ios_broadcast/1965

2.78K viewsАндрей Зонов, Mar 6 at 14:04

🎯 Релиз Mac Studio лег на почву новых LLM моделей
Наткнулся на анализ от разработчиков exolabs с экспертным ревью: Mac Studio M3 Ultra с 512 ГБ памяти идеально подходит для работы с DeepSeek V3/R1. 2 M3 Ultra 512GB Mac Studio с exolabs обеспечивают полный запуск DeepSeek R1 дома. Звучит мега дорого?

Сравнение стоимости:
🔵NVIDIA H100: 80 ГБ, 3 ТБ/с, 25 000$, 312,50$ за ГБ
🟣AMD MI300X: 192 ГБ, 5,3 ТБ/с, 20 000$, 104,17$ за ГБ
🟢Apple M2 Ultra: 192 ГБ, 800 ГБ/с, 5000$, 26,04$ за ГБ
🟢Apple M3 Ultra: 512 ГБ, 800 ГБ/с, 9 500$, 18,55$ за ГБ

Стоимость за ГБ/с пропускной способности памяти
🔵NVIDIA H100: 8,33$
🟣AMD MI300X: 3,77$
🟢Apple M2 Ultra: 6,25$
🟢Apple M3 Ultra: 11,87$

Преимущества Apple
🟢Apple выигрывает за счет увеличения объема памяти и снижения частоты обновления
🟢MoE и модульная маршрутизация требуют большого объема памяти, но небольшой пропускной способности
🟢Пропускная способность памяти в M4 Max увеличилась на 36,5% по сравнению с M3 Max
🟢В следующем году ожидается появление Mac Studio M4 Ultra с технологией Apple UltraFusion