tgoop.com/noml_digest/713
Last Update:
Про GNN и GDL
Недавно снова наткнулся на работы вот этих ребят в области графов и так называемого Geometric Deep Learning.
Графовые нейронные сети (GNN)
▫️ Короткое введение в современный взгляд на GNN с обзором работ: P. Veličković — Everything is Connected: Graph Neural Networks, 2023 (~15 минут)
▫️ Обзор темы в виде лекции: P. Veličković — Theoretical Foundations of Graph Neural Networks, 2021 (~1 час 10 минут)
▫️ Или более подробная версия в виде 3-х лекций: P. Veličković — Graph Neural Networks: Geometric, Structural and Algorithmic Perspectives (part 1, part 2, part 3), 2022 (~2 часа 40 минут)
▫️ Также снова хочется вспомнить статью про приложение экспандеров к GNN (больше по теме было тут и тут): A. Deac, M. Lackenby, P. Veličković — Expander Graph Propagation, 2022 (~35 минут)
Геометрическое глубокое обучение (GDL)
Geometric DL — это аналог Эрлангенской программы для нейронных сетей;) То есть взгляд на область с точки зрения теории групп, категорий и прочей алгебры.
▫️ По этой теме есть почти книга: M.M. Bronstein, J. Bruna, T. Cohen, P. Veličković — Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges, 2021 (~125 стр.)
▫️ Можно посмотреть вводно-обзорную лекцию (как раз в Эрлангенском университете): P. Veličković — Geometric Deep Learning, 2021 (~1 час 15 минут)
▫️ Про теорию категорий для DL можно почитать тут: B. Gavranović et al. — Categorical Deep Learning: An Algebraic Theory of Architectures, 2024 (~35 минут)
▫️ Или посмотреть 2 лекции: P. Veličković — Categorical Deep Learning (part 1, part 2), 2024 (~1 час 20 минут)
▫️ Больше информации про GDL (статьи, курс, другие лекции, блог …) можно найти на ресурсе geometricdeeplearning.com
В общем, если хотите заниматься нейронными сетями, учите нормальную алгебру;)
BY NoML Digest
Share with your friend now:
tgoop.com/noml_digest/713