roguelike theory

Элизиер Юдковский, жрец рационализма (вы слышали о и не стали читать его фанфик про "Гарри Поттера и методы рационального мышления"), который все последние годы боролся с ужасным ИИ из будущего, который нас всех сожрёт, наконец написал, что эту свою борьбу он явно проиграл и теперь его задача – найти способ для человечества "умереть достойно" (пост "первоапрельский", но абсолютно искренний). Чтобы измерить достоинство каждой человеческой смерти, он вводит "единицы достоинства" – бонусные очки за безнадежные попытки спасти мир, награда за заведомо неэффективные и безнадежные действия, призванные таким образом экономически объяснить и поощрить всевозможный героизм, от которого он отказываться пока не готов.

Я выслушал свой внутренний поток банальных возражений... У меня просто не очень хорошо с бухгалтериями добродетелей, и вообще с этикой связанной с расчетами, потому что я не очень понимаю, чем одно число от другого отличается (только не надо мне объяснять, что разница это еще какое-то третье число). Но вообще есть что-то красивое в том, как люди сталкиваются со своей неудачей, со своей гибелью, или – с неудачей пропаганды собственных параноидальных фантазий о гибели, которая особенно ужасна, потому что тройная: и вроде как гибель, но как-то не получается погибнуть, и не получается никого в этой гибели убедить... Так что я решил не хейт-ридить, а отдался какому-то возвышенному настроению, и думал, что мне есть чему там поучиться, например такого рода размышлениям: "Сам я возьму отпуск, и вообще расслаблюсь немножко, потому что я уже заработал немало очков достоинства": вот, героизм здорового человека, не всякий этический дискурс такое может. (Может, в этом и секрет, и дискурсы эффективности это на самом деле дискурсы отказа от неэффективных вещей, а отказ от последних это уж действительно отпуск, который всегда с тобой).

Невозможно не подумать о том, что ведь в итоге как обычно окажется, что ИИ нас всех сожрёт, и меня будут снова спрашивать, где я был 8 лет. Хотя я не могу понять, что для меня на самом деле поменялось? Не считая вещей, про которые я зачем-то спорил, в общем-то по поводу всех конспирационных теорий у меня одинаковая установка: 1. они на 90% абсолютно верны, причем именно в том, что касается максимума людей 2. знание фактов и вопрос об истине не имеет никакого практического эффекта, и любые практические действия на основе этих теорий не имеют смысла. Вот и про ИИ, когда он нас всех жрать будет, и с меня спросят за 8 лет, я так и скажу, что все 8 лет повторял, что он нас давно уже всех жрёт, и водителей убера и теоретиков телеграма. И в концов чего уж я точно не понимаю, это чем именно работа за очки достоинства так уж отличается от порабощения искусственным интеллектом.

❤23🤔1🌚1

www.tgoop.com/roguelike_theory/570

3.39K viewsedited  Apr 19, 2022 at 13:55

Элизиер Юдковский, жрец рационализма (вы слышали о и не стали читать его фанфик про "Гарри Поттера и методы рационального мышления"), который все последние годы боролся с ужасным ИИ из будущего, который нас всех сожрёт, наконец написал, что эту свою борьбу он явно проиграл и теперь его задача – найти способ для человечества "умереть достойно" (пост "первоапрельский", но абсолютно искренний). Чтобы измерить достоинство каждой человеческой смерти, он вводит "единицы достоинства" – бонусные очки за безнадежные попытки спасти мир, награда за заведомо неэффективные и безнадежные действия, призванные таким образом экономически объяснить и поощрить всевозможный героизм, от которого он отказываться пока не готов.

Я выслушал свой внутренний поток банальных возражений... У меня просто не очень хорошо с бухгалтериями добродетелей, и вообще с этикой связанной с расчетами, потому что я не очень понимаю, чем одно число от другого отличается (только не надо мне объяснять, что разница это еще какое-то третье число). Но вообще есть что-то красивое в том, как люди сталкиваются со своей неудачей, со своей гибелью, или – с неудачей пропаганды собственных параноидальных фантазий о гибели, которая особенно ужасна, потому что тройная: и вроде как гибель, но как-то не получается погибнуть, и не получается никого в этой гибели убедить... Так что я решил не хейт-ридить, а отдался какому-то возвышенному настроению, и думал, что мне есть чему там поучиться, например такого рода размышлениям: "Сам я возьму отпуск, и вообще расслаблюсь немножко, потому что я уже заработал немало очков достоинства": вот, героизм здорового человека, не всякий этический дискурс такое может. (Может, в этом и секрет, и дискурсы эффективности это на самом деле дискурсы отказа от неэффективных вещей, а отказ от последних это уж действительно отпуск, который всегда с тобой).

Невозможно не подумать о том, что ведь в итоге как обычно окажется, что ИИ нас всех сожрёт, и меня будут снова спрашивать, где я был 8 лет. Хотя я не могу понять, что для меня на самом деле поменялось? Не считая вещей, про которые я зачем-то спорил, в общем-то по поводу всех конспирационных теорий у меня одинаковая установка: 1. они на 90% абсолютно верны, причем именно в том, что касается максимума людей 2. знание фактов и вопрос об истине не имеет никакого практического эффекта, и любые практические действия на основе этих теорий не имеют смысла. Вот и про ИИ, когда он нас всех жрать будет, и с меня спросят за 8 лет, я так и скажу, что все 8 лет повторял, что он нас давно уже всех жрёт, и водителей убера и теоретиков телеграма. И в концов чего уж я точно не понимаю, это чем именно работа за очки достоинства так уж отличается от порабощения искусственным интеллектом.

BY roguelike theory