На иллюстрации с deviantart Фекла в русском космическом ГУЛаге.

Элбакян, пожалуй, в самом деле нужно представлять себе как взбалмошную королеву пиратской эскадры. Тогда становится понятнее ее образ действий

Лонгрид The Verge о «королеве научных пиратов» – Александре Элбакян, основательнице сайта Sci-Hub, крупнейшего в мире портала, предоставляющего доступ к закрытым научным публикациям. Помимо прочего статья поднимает важный вопрос: насколько доступной должна быть наука и правы ли те, кто делает на доступе к знаниям деньги?

https://www.theverge.com/2018/2/8/16985666/alexandra-elbakyan-sci-hub-open-access-science-papers-lawsuit

На русском языке есть один автор, прилично пишущий о проблеме автоматизации труда с экономической точки зрения - Александр Зотин из Академии внешней торговли. В этом тексте он в основном рассматривает проблемы современной Индии (потолок экономического роста, кастовый строй и растущее неравенство), но отталкивается от более широкой перспективы, предложенной Дани Родриком, - т.н. преждевременной деиндустриализации, когда страна, не достигнув определенного уровня развития экономики уже сворачивает индустриализацию "как на Западе". В Индии индустриализации толком и не случилось, социалистическая попытка при Неру провалилась, и экономика представляет собой чудовищный гибрид натурального хозяйства и высокотехнологичной сферы услуг. Главное однако, что Зотин показывает: модель догоняющей индустриализации, по которой в XX веке шли большинство успешных развивающихся стран, наталкивается на структурный кризис, связанный с автоматизацией труда. Дешевая рабочая сила больше не является стратегическим преимуществом, те страны, которые успели разбогатать и получить новые технологии, в современном мире получают все. Новой модели догоняющего развития, понимания, как выглядит "экономическое чудо" сейчас ни у кого нету

Там же упоминается еще одна статья Зотина, вполне алармистская, и содержание которой всем уже известно: с развитием автоматизации доля доходов от труда будет стремиться к нулю, доля дохода от капитала достигать 100%. В коммерсантовском стиле статья гениальна названа "робовладельческий строй".

А вот и будущее. Которое мы заслужили (via @dvachannel)

Почему людям так нравится истории о конце света? Чуть ли не каждый второй сюжет, придуманный сегодня, ставит цивилизацию на грань катастрофы, будь то бесконечный зомби-апокалипсис, или экологическая катастрофа, или последствия ядерной зимы, или какая-то угроза из космоса. Недавно я писал про "Семиевие" Нила Стивенсона, где дана очередная версия конца света: по неизвестным причинам взрывается Луна. В том же тексте упоминал фантастический фильм Snowpiercer, где на Земле вечная зима, а немногие выжившие люди обречены вечно двигаться вдоль планеты на скоростном поезде.

В подобных историях есть одна общая тема. Конец света и гибель технологической цивилизации оставляет место для людей. Вы не можете рассказать сегодня честной истории о будущем, в котором технологии продолжают развиваться, потому что в этом будущем нет места для человеческого. Людям нужна человеческая драма, построенная вокруг нашей культуры приматов, в которой со времен античных греков действую одни и те же персонажи: герой, жертва, злодей, предатель, изгой. У нас всегда один конфликт, связанный с человеческим выбором и тем, что мы называем свободой. Поэтому вы не можете написать историю, которая рассказывала о мире, где неантропоморфные машины действуют и принимают решения, у нас нет для этого языка.

Финальная (анти)утопия, доступная нам, описана Ником Бостромом в Superintellegence. Мы создаем самообучающуюся машину, которую почти мгновенно перестаем понимать. Если смотреть на вещи с натуралистической и эволюционной точки зрения, у нас не может быть иллюзий, связанной с тем, что человеческий интеллект уникален или что он является лучшим из возможных. Качественный скачок от нашего уровня происходит уже сейчас, когда обычные аналитические системы работают с Big Data в разных сферах экономики. Эти модели примитивны, но мы с трудом понимаем их, потому что объем анализируемой информации превосходит наши когнитивные способности.

Так что конец света - это всего лишь способ продлить человеческую историю. Стивенсон в своем романе придумывает даже специальный термин "амистика", теория ограничения технологического прогресса в постчеловеческой культуре (термин восходит к амишам). Сказать, что нас ждет конец света при нынешнем уровне развития, означает сказать, что человеческий вид будет жить дальше. И что мы по-прежнему будем авторами собственных историй, никому кроме нас, на самом деле, не интересных.

Жесткий технодетерминизм предполагает, что формы техники определяют формы культуры. Эту позицию интересно отстаивать в полемических целях, но она, конечно, выглядит контринтуитивной. Чтобы продемонстрировать ее ошибочность, нам было бы достаточно продемонстрировать две радикально разные культуры, стоящие на одном уровне технологического развития. И мы видели как в течение XX века было создано две формы массового промышленного общества, которые, как считалось, фундаментально отличались друг от друга - капиталистическая и советская системы.

Впрочем, всегда можно занять позицию, согласно которой модернистское государство в обоих системах не так уж сильно отличалось друг от друга (см. об этом новый перевод Дэвида Хоффмана «Взращивание масс» - там о нормализации советской социальной политики). И заметить, что фантазии о феодальном, но высокоразвитом в технологическом смысле общества являются утопией.

Мне, впрочем, ближе более мягкая форма тезиса технологического детерминизма: техника определяет горизонт культурных переменных, которые вам доступны. То есть без техники те или иные формы социальных отношений или, например, политических режимов, невозможны.

Об этом говорят на удивление мало, анализ тоталитаризма у Арендт или анализ лагеря у Агамбена обходятся без этого, но концлагерь невозможен без железной дороги.

Технологическая возможность перемещать десятки тысяч людей и «концентрировать» их открыла к концу XIX века возможность для политических режимов использовать лагерь как инструмент социальной политики.

Практически все режимы XX века использовали концлагеря, при этом западные демократии сумели ограничить использование лагерей в качестве универсального языка социальной политики. В части обществ лагеря рассматриваются лишь как частная мера, направленная против интернированных, представителей «враждебных этносов» и военнопленных.

Ясно, что сейчас «открытое общество», совсем не в попперовском смысле слова, общество открытых для всех данных, в этом смысле стоит перед какой-то новой грандиозной политической пропастью.

Смартфон - это наша железная дорога, по которой мы уже выдвинулись в прекрасный новый мир.

Интервью с главным российским практиком в области нейронных сетей - Михаилом Бурцевым из МФТИ. Краткий тезис: никакого сильного ИИ нету, но мир изменится так, что мало не покажется.

https://www.novayagazeta.ru/articles/2018/03/02/75673-u-ilona-maska-paranoidalnyy-podhod

История со Скайнетом, которому внезапно пришла в голову идея уничтожить человечества, всегда казалось мне примером слишком человеческих страхов. Но вот The Economist в формате короткого видео для Twitter намекает, почему пора пересмотреть "Терминатора" с новыми вводными - из перспективы реальных технологий будущего.

История в том, что оружием будущего стали алгоритмы, способные анализировать огромные массивы тактической информации и координировать почти бесконечное число автономных боевых устройств. Война теперь - это сбор и анализ информации, как впрочем и всегда было, только делается это уже не человеческими мозгами. Ну и если представить себе, что у 2-3 стран мира есть такие самообучающиеся алгоритмы, то понятно, что в какой-то момент времени и достаточно быстро, им придется давать "свободу выбора" - то есть позволять им действовать без человеческой санкции, потому что иначе медленные люди просто приведут к поражению всей военной машины во главе с алгоритмами. Единственный способ выиграть войну в середине нынешнего века будет связан в том, чтобы исключить из принятия решений людей. Как вам?https://twitter.com/TheEconomist/status/975105701847666688

Довольно глубокая метафора русского хайтека

В заметно опустевшем Телеграме (думаю, к вечеру людей и контента станет больше, когда граждане справятся с прокси/VPN) Леонид Волков чрезвычайно оптимистично призывает.

"Смейтесь над цензурой, унижайте гонителей прогресса... Очень приятно и радостно играть в команде, которая обречена на победу. У тех, кто борется с прогрессом и свободой нет ни одного шанса в сколько-то длительной перспективе."

Это оценка реальности, увы, почти из прошлого тысячелетия, или по крайней мере из эпохи "максимального репоста", 2011-го. Она еще предполагала, что интернет - хорошо, а телевизор - плохо, что обилие информации в интернете однозначно выгодно демократии, а не троллям на зарплате и начальству.

Как обычно, идеология тут сильно опаздывает по сравнению с реальной ситуацией. Это было видно еще на примере всех дискуссий про "прямую/облачную/сетевую демократию", которая как бы должна была заменить собой партийную систему, и сразу из постсоветского феодализма напрямую вывести нас в рай политического участия.

В истории про "сетевую демократию" не было ни малейшей попытки проанализировать, что на этот счет думает политическая наука, социальная психология и так далее. Был просто лозунг "интернет сделает нас свободными, ура".

Теперь эта история повторяется в отношении интернета как агента борьбы с цензурой. Перспективы у всего мира сейчас мрачные, потому что самой "прогрессивной моделью" оказывается китайская, где складывается союз big data и big brother: социальные сети и электронные деньги используются для более глубокой и сложной системы слежки за гражданами, чем когда-либо. Знаменитый социальный рейтинг в Китае становится новым инструментом социального контроля.

Вместо того, чтобы осмыслять все это, и видеть риски, мы говорим "прогресс обязательно победит", как если бы это гарантированно было бы хорошо, и прогресс точно не стал бы нашей дорогой в антиутопию.

Я не знаю, кто в исторической перспективе обречен, и кто должен победить, и более того, даже плохо понимаю, какие типы аргументов мы можем тут использовать с учетов нынешних темпов изменений. Никто в мире не предсказал десять лет назад, например, реальность hybrid warfare и российские атаки на электоральные системы по всему миру. Разве это не было прогрессивно?

Что касается Телеграма в узком смысле слова, то здесь предстоит долгая и тяжелая борьба. В первую очередь, за сохранение аудитории, потому что Телеграм без людей бесполезен, даже если вы туда можете попасть. Во вторую очередь, с цензорами, которые чувствуют себя все более уверенно.

Вняли заявлению советника президента РФ по интернету Клименко, о том, что «проблема взаимоотношения Роскомнадзора и Дурова имеет много граней. Даже философам думаю найдется что сказать по поводу. Психиатрам и социолога уж точно раздолье» и решили проанализировать в контексте блокировки Telegram статью одного из самых известных политологов и исследователей интернет-цензуры Гарри Кинга из Гарварда.

Статья Кинга «How Censorship in China Allows Government Criticism but Silences Collective Expression» крайне интересна с точки зрения мотивации российского правительства в вопросе блокировки Telegram и вообще для понимания развития российской цензуры. Ведь не секрет, что в области интернет-цензуры российское руководство заимствует именно китайский опыт.

Так вот, Кинг провел очень глубокое количественное исследование и выявил, что китайская цензура направлена не столько на подавление критики в адрес политического руководства и конкретных чиновников, но имеет своей главной целью — не допустить образования горизонтальных общественных связей и, следовательно, коллективного политического действия. Согласно исследованию, сам факт того, что в материале содержатся критические замечания в адрес китайского руководства никак не повышает вероятность того, что материал подвергнется цензуре. Особенно интересен тот факт, что цензура направлена на предотвращение любого коллективного действия вне зависимости от того, направлено ли оно против китайского руководства и имеет ли оно отношение к проводимой правительством политике.

Логика, которая стоит за подобным подходом китайского руководства, довольно простая. Все дело в том, что любой авторитарный режим заинтересован в том, чтобы народ постоянно жаловался власти, прося о помощи. Этот направленный в адрес власти вой означает, что народ не видит другого легитимного актора, способного решить их проблемы. А значит, режим сохраняет свою власть. Кроме того, возможность высказывать негатив — позволяет власти мониторить общественные настроения и вырабатывать наиболее эффективные политические и коммуникационные стратегии для того, чтобы этими общественными настроениями управлять. Таким образом, наиболее эффективная цензурная политика для авторитарного режима — это сохранение индивидуальной свободы высказывания, но полный запрет на коллективную организацию в интернете.

А что касается развития ситуации с Telegram, вполне вероятно, что администрация мессенджера пойдет на какие-то уступки российскому государству. В частности, передаст ключи шифрования от обычных (не секретных) чатов, и на этом ситуация более-менее разрешится — формально Telegram легализован не будет, но и блокировки Роскомнадзора, которые приводят к громадному «сопутствующему ущербу» и выставляют власть в смешном свете (а власть по понятным причинам себе позволить этого не может — такова специфика существующего режима), прекратятся или же их масштаб будет снижен в разы. Вполне вероятно, что неофициальные переговоры на эту тему уже идут.

https://gking.harvard.edu/files/gking/files/censored.pdf

Эволюционный психолог Дайана Флейшман о секс-роботах, которых станут обыденностью через 10-15 лет:

– Бо́льшая часть таких роботов сегодня обладает женской внешностью. Так будет и дальше, ведь мужчины — ключевая аудитория, которая стимулирует рынок.
– Секс-робот — это не только про секс, но и про распознавание социальных и биологических реакций. В них будет силен элемент дэйт-симов.
– Новые социальные нормы поспособствуют их популярности. Попытка заговорить с женщиной в наушниках сегодня может расцениваться как харассмент. Чем выше риск большого количества контактов с женщинами, тем больше вероятность переключения внимания мужчин на безобидные субституты.
– Правило эволюционной психологии: представители количественно доминирующего пола соревнуются за представителей пола-меньшинства. Секс-роботы создадут ситуацию, когда женщин больше. Это приведет к более интенсивному соревнованию за мужское внимание.
– Технологии, которые направлены на удовлетворение сексуальных потребностей, всегда будут подстраиваться под мужские вкусы и интересы. Это биологически предопределено.

Здесь: https://jacobitemag.com/2018/04/24/uncanny-vulvas/.

Карнеги-Меллон открывает первую в США программу бакалавриата по искусственному интеллекту. Это означает институциональное признание термина и отрасли после десятилетий споров. Говорить о том, что ИИ не существует, бессмысленно, ему уже учат в университетах https://venturebeat.com/2018/05/10/carnegie-mellon-university-starts-first-ai-degree-program-in-u-s/

9 мая 2018 года компания Google открыла портал в ад.

Презентация этого события выглядит довольно безобидно. Один из руководителей компании Сундар Пичаи рассказыват публике, как много времени люди и бизнес тратят на то, чтобы делать телефонные звонки. Даже в США, говорит Пичаи, 60% компаний не имеет систем онлайнового резервирования заказов и полагаются на прямое общение с клиентом по телефону.

Ну и дальше он показывает, как голосовой помощник Google Duplex по вашему запросу в поисковике самостоятельно дозванивается до парикмахерской и вступает в диалог с ее сотрудником. Они перебрасываются несколькими фразами об удобном времени для стрижке и, судя по всему, в парикмахерской не подозревают, что говорят с роботом. В нужные моменты Duplex даже говорит своему собеседнику "гм" и "угу". Запись на стрижку проходит успешно.

Вот так и открывается портал. Сегодня голосовая связь в телефон нужна в основном маркетологам, которые устраивают холодные звонки. Google приглашает нас в мир, где миллиарды роботов постоянно названивают беззащитным людям по телефону.

Я всегда очень любил эту корпорацию, но в этом примере становится ясно, на чьей стороне она играет. Если на чем-то можно заработать, то Google сделает это первым. Не важно, что тем самым компания играет на закрепление древних рудиментарных практик, связанных с симметричной голосовой связью - мира задерганных людей, постоянно отвечающих незнакомцам по телефону. Теперь этот мир дешевле и доступнее, чем когда-либо.

Через пару лет вам ежедневно будут поступать сотни входящих звонков, и вы не будете знать, кто с вами разговаривает - робот или человек. Киберутопия про андроидов приходит совсем не так, как было предсказано - через массовый голосовой спам.

Но, с другой стороны, когда мы переживем эту атаку кибернетических голосов, появятся программы, блокирующие звонки от роботов. Так что, наверное, все будет в порядке: бессмысленная голосовая связь умрет сама собой. Кто будет доверять телефонным голосам, если мы не имеет ни малейшего понятия, что является их источником?

https://www.youtube.com/watch?v=bd1mEm2Fy08

В четверг будем дискутировать с Юрием Сапрыкиным о том, куда идет современная цифровая культура https://inliberty.timepad.ru/event/703540/