У каждой книги есть своя целевая аудитория. Если к середине книги вы перестаете понимать, с кем общается автор – возможно, вы просто к этой аудитории не относитесь.

Если вы читаете этот обзор, книга «The Coming Wave» Мустафы Сулеймана, сооснователя DeepMind, сооснователя Partnership on AI, основателя Inflection AI и нынешнего начальника Microsoft AI, написана не для вас.

Вкратце: книга рассказывает о катастрофических рисках выхода из-под контроля таких технологий, как искусственный интеллект и синтетическая биология. Автор утверждает, что бесконтрольное распространение таких технологий приведет к трагическим последствиям планетарного масштаба. Изменения будут несравнимы с появлением других предыдущих фундаментальных технологий, таких как книгопечатание или двигатель внутреннего сгорания, потому что они работают с еще более базовыми материями – созданием информации и кодом жизни.

Представьте (слово, которое встречается в книге 34 раза), что у Теда Качиньски 2.0 или следующей Аюн Сенрике будет в гараже свой ДНК-принтер, на котором можно будет наклепать вирус заразностью уровня омикрона, но от которого вы с вероятностью 50% умрете в страшных мучениях с кровью, хлещущей из всех отверстий, и жаром в 45 градусов? Представили? Вот и с искусственным интеллектом будет точно также страшно. А потому Тедов Качиньски и искусственный интеллект надо регулировать.

Если не регулировать искусственный интеллект, то демократические страны под напором безработицы, вызванной внедрением ИИ, неравенства и дезинформации превратятся в зомби-подобные failed state уровня Сомали, в которых правят бал мегакорпорации. В то же время авторитарные режимы, которые прямо сейчас вкладываются в технологический суверенитет, укрепят свою власть за счет ИИ-методов контроля населения и пошатнут современный мировой порядок.

Короче говоря, автор изящно играет на всех страхах стандартного обитателя Вашингтона, округ Колумбия: ослабление центральной власти из-за обострения социальных противоречий, трампизма и дезинформации («Падение империи» Алекса Гарленда как раз посвящено популяризации этого страха), терроризм («представьте рой дронов, расстреливающий людей на площади») и потеря гегемонии под натиском Китая (если что, Россия упоминается только как отсталая страна, ведущая войну армией прошлого столетия). При этом учитывая, что риски ИИ очень непонятные, автор запросто уравнивает риск развития ИИ риску глобальной эпидемии неизлечимой болезни, выращенной в какой-нибудь Уханьской лаборатории.

Что же делать? Правильно, демократический мир должен объединиться и демократично а) перекрыть Китаю и прочим неправильным странам доступ к технологиям, потому что только Запад может разумно ими распорядиться; б) установить «криптографически защищенные» бэкдоры во всякие ДНК-принтеры (про ваш сервак с подержанными Tesla K80 пока речи не идет), но доступ к ним, разумеется, должен быть только демократически санкционированным; в) запретить опен-сорс в ИИ (никакой Llama 4); г) контролировать все исследования, как в индустрии, так и в университетах д) если надо – воспользоваться демократической силой для принуждения к правильному развитию ИИ:

Some measure of anti-proliferation is necessary. And, yes, let’s not shy away from the facts; that means real censorship, possibly beyond national borders.

Все это называется containment, чтобы было понятно тем членам Конгресса, которым уже за 70 – ведь именно так называлась политика, которую в Холодную войну проводили США против СССР.

При этом Сулейман не только политик (да, он не исследователь, он всю жизнь занимался политикой), но и бизнесмен: в течение 3-5 лет он обещает появление систем, которые смогут, если дать им инвестицию в 100 тысяч долларов, сами составить бизнес-план и заработать для вас миллион вообще без вашего участия. Хотите доступ к такой системе? Вкладывайтесь в Inflection AI.