Intel сократит более 15 000 сотрудников

Число невероятно большое, иногда забываю, насколько огромны такие корпорации. Интересно, наберется ли во всем СНГ 15 000 сотрудников в области полупроводников?

The Verge пишет, что в планах также остановить некую "non-essential work". Конечно же, загадка, что именно скрывается за этой обтекаемой формулировкой.

Больше всего интересно узнать, какая судьба будет у Intel ARC в сегменте GPU и Intel Gaudi в сегменте AI-ускорителей. Оба этих семейства пока что не произвели большого впечатления на рынке.

Intel — одна из немногих компаний, у которой есть собственные производственные мощности для выпуска чипов. Intel занимается буквально всем: разработкой и поддержкой новых техпроцессов, процессорами общего назначения, серверными процессорами, GPU, AI-ускорителями, FPGA-подразделением (бывшая настоящая Altera), разработкой программной экосистемы для новых продуктов.

В 2018 году, когда TSMC уже начала производство 7-нм чипов, у Intel появились проблемы с внедрением 10-нм технологий. Как только у Intel пропало явное преимущество в технологическом процессе перед AMD, конкуренция резко обострилась, и скомпенсировать утерю преимущества микроархитектурой, как мы видим, не удалось.

Так что запасаемся попкорном, а обсудить взлеты и падения Intel всегда можно в комментариях 👀

Коллеги софтварщики, заводите трактор? 🚜

Трянслятор C to Rust от DARPA

В дополнение к посту — вот отрывок из статьи журнала HPCwire "A Zettascale Computer Today Would Need 21 Nuclear Power Plants".

Лиза Су, генеральный директор AMD, на выставке ISSCC поделилась перспективами создания суперкомпьютера с производительностью на уровне зеттафлопс. Однако она также подчеркнула серьезные проблемы с энергоэффективностью современных технологий.

Главная проблема, по словам Лизы Су, заключается в том, что производительность вычислительных систем растет быстрее, чем разрабатываются решения для повышения их энергоэффективности. В докладе отмечается, что для работы суперкомпьютера с производительностью на уровне зеттафлопс, если использовать сегодняшние технологии, потребуется около 21 гигаватта, что эквивалентно мощности 21 атомной электростанции, согласно тексту статьи. Но даже с лучшими технологиями и оптимизациями, предполагается, что минимальная потребляемая мощность такого суперкомпьютера составит около 500 мегаватт, что по-прежнему является значительным показателем.

Для сравнения: на Смоленской АЭС работают три энергоблока с реакторами РБМК-1000, каждый из которых имеет электрическую мощность до 1000 мегаватт. Таким образом, даже минимальная оценка в 500 мегаватт для зеттафлопсного компьютера составляет половину мощности одного такого энергоблока.

Принес вам классную статью с портала semianalysis: Groq Inference Tokenomics: Speed, But At What Cost?

В статье обсуждается производительность программно-аппаратного комплекса от Groq при работе с моделью Mixtral 8x7b. Обратите внимание, что на первом же графике указывается соотношение USD на 1 миллион токенов. Числа для топсов/флопсов придержите для рекламы и продакт брифов.

Интересен Groq в первую очередь с архитектурной точки зрения. Это VLIW машина, без внешний памяти, блоков типа предсказателя переходов, префетчеров, контроллера кэшей, а вся модель размещается на кластере, состоящей из Groq чипов.
В данной статье описывается, что для работы с моделью Mixtral потребовалось подключить 576-чипов, каждый из чипов обладает на кристальной SRAM памятью в 230 MB!

Фактически DSP-core AI/ML ускоритель от Groq — это классическая числодробилка. Блоки умножения матриц, как ни странно - для умножения матриц, VectorUnit для вычислений посложнее, например, обсчет активационных функций (sigmoid, softmax, и.т.п), а между модулями матричной и векторной обработки расположены блоки SRAM памяти.

Больше чисел, графиков и ссылок найдете в вышеуказанной статье

Продолжая тему чипа от Groq настоятельно рекомендую ознакомиться с докладом Andrew Bitar'a, Principal Compiler Engineer в компании Groq:
Groq’s Software-Defined Hardware for Dataflow Compute

Это доклад посвящен современным вызовам и решениям в области вычислительных архитектур. С окончанием закона Деннарда и ростом вычислений, связанных с обработкой больших массивов данных, особенно в области AI/ML ускорителей и высокопроизводительных вычислений, возрождается тренд на проектирование чипов на базе Domain-specific architecture.

В докладе рассказывается о концепции Software-Defined Hardware на примере архитектуры Groq.
Этот подход позволяет упростить управление вычислительными ресурсами, устраняя необходимость в аппаратном контроле за потоками данных, что в свою очередь значительно упрощает микроархитектуру конечного чипа. Важность такого подхода заключается в том, что он делает работу с данными более предсказуемыми и эффективными, что особенно критично в эпоху замедления закона Мура и роста требований к производительности в задачах AI/ML ускорителей.

В качестве дополнительной литературы автор доклада рекомендует ознакомиться со следующими статьями:

1) A Software-defined Tensor Streaming Multiprocessor forLarge-scale Machine Learning

2) Think Fast: A Tensor Streaming Processor (TSP)for Accelerating Deep Learning Workloads

Редакция канала Истовый Инженер поделилась замечательным ресурсом — Silicon Zoo, где собраны чип-арты, оставленные разработчиками микросхем.

На портале Silicon Zoo собраны самые разные чип арты, созданные разработчиками микросхем.
Эти рисунки создаются дизайнерами на свободных участках чипа и могут включать в себя как простые инициалы, так и сложные изображения, которые можно увидеть только под микроскопом. Такие изображения можно сравнить с аппаратной версией пасхальных яиц в программном обеспечении.

А в этом разделе, можете почувствовать себя в роли silicon art хантера и отыскать кремниевую creature на предложенном dieshot.

Chip Art из шапки поста — AMD Athlon K7 Pluto.

#dieshots

Понедельник день тяжелый — никаких лонгридов, только мемы.
Мне дико зашел шаблон Triangle Factory.
Принес вам интерпретацию мема про Texas Instruments.