Друзья, Лика Карева и Валерий Мантуров, встретились в Москве, чтобы продумывать вместе новый концепт "либидинальный рационализм", который призван, кажется, решить тупики депрессивной/радостной аффектации.

Насчет оккультизма и прочего: Ник Ланд дома у Резы Негарестани вызывает вавилонского нефтяного демона при помощи сигилов. Присутствующий при этом Питер Вольфендейл спустя годы скажет, что это был незабываемый вечер.

Движуха с популяризацией проблем безопасности ИИ на самом деле делает все только хуже.

Все эти красочные сказки про апокалипсис лежат в открытом доступе и их доля со временем только увеличивается. Предобучение тех же LLM происходит на как раз на публичных данных путем предсказания следующего "слова". Имея схожие с этими сценариями вводные, модель сгенерирует схожий выход.

Так как "плохие" исходы рассматриваются чаще, тщательнее и со временем они становятся разнообразнее, то и генерация на выходе с большей вероятностью окажется вредной. Вряд ли при сборе данных такое будут тщательно вычищать, а дообучение для следования инструкциям и безопасному поведению - не панацея.

Просачивающееся опасное поведение ещё больше разгоняет идеи о том, что ИИ опасен, и круг замыкается.

Получается самосбывающееся пророчество, вызванное массовым непреднамеренным отравлением обучающих данных

не полностью согласен с тезисом, но идея красивая. "Если младенца вслух, с пелёнок, обзывают (баюшки-баю)..."