iOS Broadcast

▶️ Встречайте фреймворк Foundation моделей
Одно из главных нововведений с WWDC к которому у меня большие сомнения. С одной стороны, сейчас тренд на LLM и Apple предоставляет доступ к своим локальным бесплатным моделям. С другой стороны, это фича для одной платформы, качество которого не сравнится с OpenAU или Antropic. Что представлено на сессии:
🔵Встроенные LLM локальные модели с 3 миллиардами параметров
🔵Отлично подходят для суммаризации, классификации и подобного
🔵Удобная интеграция напрямую с Xcode Playgrounds
🔵Не предназначен для познания мира или продвинутых рассуждений
🔵Возможность обучения собственного адаптера
🔵Поддерживает потоковое получение ответа
🔴LLM работают медленнее, чем традиционные модели ML
🔴Значительно "разогревает" устройство
🔴Доступно только начиная с iPhone 15 Pro

Кто-то вообще верит в популяризацию локальных моделей?

Please open Telegram to view this post

VIEW IN TELEGRAM

www.tgoop.com/ios_broadcast/2232

1.1K viewsАндрей Зонов, Jun 18 at 06:02

▶️ Встречайте фреймворк Foundation моделей
Одно из главных нововведений с WWDC к которому у меня большие сомнения. С одной стороны, сейчас тренд на LLM и Apple предоставляет доступ к своим локальным бесплатным моделям. С другой стороны, это фича для одной платформы, качество которого не сравнится с OpenAU или Antropic. Что представлено на сессии:
🔵Встроенные LLM локальные модели с 3 миллиардами параметров
🔵Отлично подходят для суммаризации, классификации и подобного
🔵Удобная интеграция напрямую с Xcode Playgrounds
🔵Не предназначен для познания мира или продвинутых рассуждений
🔵Возможность обучения собственного адаптера
🔵Поддерживает потоковое получение ответа
🔴LLM работают медленнее, чем традиционные модели ML
🔴Значительно "разогревает" устройство
🔴Доступно только начиная с iPhone 15 Pro

Кто-то вообще верит в популяризацию локальных моделей?