MACHINELEARNING_RU Telegram 2805
💡 Крутая деталь из статьи про Gemini 2.5 — отказоустойчивая тренировка на TPU

В документации к Gemini 2.5 есть незаметный, но крутой инженерный момент:
если одна TPU-секция (slice) выходит из строя во время обучения, система не ждёт, пока освободится новая. Вместо этого они продолжают обучение на оставшихся ~97% TPU.

Это значит:
- никакого простоя
- никакой остановки тренировки
- просто пропускаем сбойный slice и двигаемся дальше

🧠 По сути, это дизайн с толерантностью к сбоям, встроенный прямо в систему планирования обучения.

🎩 И да — это отсылает к "старой школе Google", где железо было дешёвым и ненадёжным, но вся магия была в том, как они писали отказоустойчивый софт поверх этого железа.

👉 https://blog.codinghorror.com/building-a-computer-the-google-way/

Gemini 2.5 — это не только про модели. Это про инженерное мастерство, лежащее под капотом.
7👍3🥰1



tgoop.com/machinelearning_ru/2805
Create:
Last Update:

💡 Крутая деталь из статьи про Gemini 2.5 — отказоустойчивая тренировка на TPU

В документации к Gemini 2.5 есть незаметный, но крутой инженерный момент:
если одна TPU-секция (slice) выходит из строя во время обучения, система не ждёт, пока освободится новая. Вместо этого они продолжают обучение на оставшихся ~97% TPU.

Это значит:
- никакого простоя
- никакой остановки тренировки
- просто пропускаем сбойный slice и двигаемся дальше

🧠 По сути, это дизайн с толерантностью к сбоям, встроенный прямо в систему планирования обучения.

🎩 И да — это отсылает к "старой школе Google", где железо было дешёвым и ненадёжным, но вся магия была в том, как они писали отказоустойчивый софт поверх этого железа.

👉 https://blog.codinghorror.com/building-a-computer-the-google-way/

Gemini 2.5 — это не только про модели. Это про инженерное мастерство, лежащее под капотом.

BY Машинное обучение RU


Share with your friend now:
tgoop.com/machinelearning_ru/2805

View MORE
Open in Telegram


Telegram News

Date: |

Commenting about the court's concerns about the spread of false information related to the elections, Minister Fachin noted Brazil is "facing circumstances that could put Brazil's democracy at risk." During the meeting, the information technology secretary at the TSE, Julio Valente, put forward a list of requests the court believes will disinformation. Ng, who had pleaded not guilty to all charges, had been detained for more than 20 months. His channel was said to have contained around 120 messages and photos that incited others to vandalise pro-government shops and commit criminal damage targeting police stations. While some crypto traders move toward screaming as a coping mechanism, many mental health experts have argued that “scream therapy” is pseudoscience. Scientific research or no, it obviously feels good. Add the logo from your device. Adjust the visible area of your image. Congratulations! Now your Telegram channel has a face Click “Save”.! A Hong Kong protester with a petrol bomb. File photo: Dylan Hollingsworth/HKFP.
from us


Telegram Машинное обучение RU
FROM American