▶️Ускорение PyTorch-инференса на Apple-устройствах
Инженеры показали, что искусственный интеллект может автоматически генерировать оптимизированные GPU-ядра для Metal, что в среднем ускоряет выполнение PyTorch-моделей на устройствах Apple на 87% (по результатам тестов на 215 модулях).
⚡️ В некоторых случаях ускорение оказалось в сотни раз быстрее по сравнению с базовым исполнением.
Как это работает: ➡️ используется агентный рой (agentic swarm) вместо одного модели, ➡️ система получает дополнительный контекст (CUDA-референсы, профилирование), ➡️ за счёт этого AI генерирует более производительные Metal-ядра, чем если бы это делала одиночная модель.
Результат: PyTorch на Mac и iOS становится ближе к полноценному high-performance inference, открывая дорогу для реальных AI-приложений без внешних GPU.
▶️Ускорение PyTorch-инференса на Apple-устройствах
Инженеры показали, что искусственный интеллект может автоматически генерировать оптимизированные GPU-ядра для Metal, что в среднем ускоряет выполнение PyTorch-моделей на устройствах Apple на 87% (по результатам тестов на 215 модулях).
⚡️ В некоторых случаях ускорение оказалось в сотни раз быстрее по сравнению с базовым исполнением.
Как это работает: ➡️ используется агентный рой (agentic swarm) вместо одного модели, ➡️ система получает дополнительный контекст (CUDA-референсы, профилирование), ➡️ за счёт этого AI генерирует более производительные Metal-ядра, чем если бы это делала одиночная модель.
Результат: PyTorch на Mac и iOS становится ближе к полноценному high-performance inference, открывая дорогу для реальных AI-приложений без внешних GPU.
The visual aspect of channels is very critical. In fact, design is the first thing that a potential subscriber pays attention to, even though unconsciously. Done! Now you’re the proud owner of a Telegram channel. The next step is to set up and customize your channel. Matt Hussey, editorial director at NEAR Protocol also responded to this news with “#meIRL”. Just as you search “Bear Market Screaming” in Telegram, you will see a Pepe frog yelling as the group’s featured image. As the broader market downturn continues, yelling online has become the crypto trader’s latest coping mechanism after the rise of Goblintown Ethereum NFTs at the end of May and beginning of June, where holders made incoherent groaning sounds and role-played as urine-loving goblin creatures in late-night Twitter Spaces. Telegram offers a powerful toolset that allows businesses to create and manage channels, groups, and bots to broadcast messages, engage in conversations, and offer reliable customer support via bots.
from us
