Big Data AI

🧪 **Stanford и Google представили Marin** — первую полностью открытую LLM, разработанную на JAX

Новая модель Marin — результат сотрудничества Stanford University и команды Google AI. Это первая полностью open-source модель, обученная с нуля на JAX, и доступна под лицензией Apache 2.0.

🚀 Что внутри:
— JAX jit объединяет forward-backward-update в один ядро
— Слияние вычислений потерь и градиентов для ускорения
— Встроен Splash Attention, чтобы нагрузка шла напрямую на ускорители, а не простаивала в ожидании Python

Marin — не просто ещё одна LLM, а референсный стек с открытой «кухней» для обучения больших моделей на JAX.

🟠 Github: https://github.com/stanford-crfm/marin
🟠Блог: https://developers.googleblog.com/en/stanfords-marin-foundation-model-first-fully-open-model-developed-using-jax/
🟠Гайд: https://docs.jax.dev/en/latest/quickstart.html

@bigdatai

Please open Telegram to view this post

VIEW IN TELEGRAM

👍3❤2🥰1

www.tgoop.com/bigdatai/1401

1.97K viewsJul 17 at 09:58

🧪 **Stanford и Google представили Marin** — первую полностью открытую LLM, разработанную на JAX

Новая модель Marin — результат сотрудничества Stanford University и команды Google AI. Это первая полностью open-source модель, обученная с нуля на JAX, и доступна под лицензией Apache 2.0.

🚀 Что внутри:
— JAX jit объединяет forward-backward-update в один ядро
— Слияние вычислений потерь и градиентов для ускорения
— Встроен Splash Attention, чтобы нагрузка шла напрямую на ускорители, а не простаивала в ожидании Python

Marin — не просто ещё одна LLM, а референсный стек с открытой «кухней» для обучения больших моделей на JAX.

🟠 Github: https://github.com/stanford-crfm/marin
🟠Блог: https://developers.googleblog.com/en/stanfords-marin-foundation-model-first-fully-open-model-developed-using-jax/
🟠Гайд: https://docs.jax.dev/en/latest/quickstart.html

@bigdatai