tgoop.com/startup_custdev/176
Last Update:
Кванты в ИИ
Сейчас слушаю "Уравнение Бога" про теорию струн и как ученые пришли к столь “очевидной” гипотезе, что мир состоит из 10 измерений (если их будет другое число, то математика не сойдется). В самом начале высказывается мысль: открытия теоретической физики кардинально меняют мир вокруг. Уравнения Ньютона подтолкнули развитие паровых двигателей и начало промышленной революции. Фарадей и Максвелл (и др) описали электромагетизм и у нас есть электричество. Теория относительности позволила совладать с энергией атома.
Без новых открытий в этой области не происходит качественного скачка, позволяющего перейти на другой уровень. Насколько бы не был эффективным паровой двигатель, улететь на марс на нем не получится. В книге Лю Цысиня "Тёмный лес" человечество было заблокировано в новых фундаментальных теоретических открытиях физики. Человек 21 века попадает в мир 23 и ему кажется, что прогресс очень сильно продвинулся, хотя все новые технологии были основаны на тех же принципах, что и в 21 веке. То есть просто улучшали имеющийся паровой двигатель.
Вступление затянулось. Книга меня наталкнула вспомнить о моей магистерской работе в области квантовых вычислений. Если точнее, то написать, как и почему квантовые вычисления могут помочь в областии ИИ в том числе.
Квантовые компьютеры основаны на, как ни странно, квантовых принципах. Я не буду рассказывать о всех, лишь о части.
Интерференция
Вместо привычных компьютерных битов 0 – 1 (есть сигнал / нет сигнала) у нас есть кубиты – они принимают суперпозицию 0 и 1. То есть находятся в двух состояниях одновременно с определенными вероятностям. Этими вероятностями можно манипулировать – уменьшать или увеличивать. Когда мы измеряем наш кубит, то его состояние коллапсирует либо в 1, либо в 0 и он уже не находится в суперпозиции.
Чем хороша суперпозиция? Для вектора из n кубитов возможно 2^n состояний всего, так же как и у битов. Разница в том, что благодаря суперпозиции мы применяем операции одновременно к n битам и ко всему пространству кубитов, то есть 2^n. То есть это массовая параллельная операция на всевозможные состояния вектора из n 0 и 1. К примеру, сложность алгритма поиска элемента в несортированном массиве – O(N), у квантового компьютера – O(√N). Для базы данных из 1 млрд векторов вместо 1 млрд операций потребуется всего лишь 32 тысячи.
Туннелирование
Эффект туннелирования позволяет перебираться через высокие и узкие барьеры, на которое у частицы не хватает энергии. В некоторых задачах оптимизации это позволяет избежать остановки в локальных минимумах. Остается проблема с широкими участками.
Машинное обучение
Все обучение сейчас произвоидится на GPU вместо CPU – именно из-за возможностей первого в параллельные вычислениях для решения матриц. Каждый год процессоры улучшаются и дают 50-100% мощности, но нужно понимать, что это все еще "улучшение парового двигателя". Квантовые технологии позволят в теории использовать физические принципы для параллельных вычислений, что ускорит их на порядок.
С другой стороны, для эффективного использования квантовых принципов необходимо придумывать новые алгоритмы. Не факт, что имеющиеся архитектуры нейронных сетей, типа трансформеров будут действительно эффективны на них. Возможно, придется прийти к чему-то совершенно новому.
BY Идеальный стартап
Share with your friend now:
tgoop.com/startup_custdev/176