tgoop.com/badTechProject/1409
Last Update:
Василиск Роко
Уберите от экранов детей, беременных женщин и сердечников.
Все остальные сядьте и выпейте успокоительное.
Готово?
Теперь можно читать!
Сегодня расскажу про мысленный эксперимент, который стал городской легендой, получившей название «Василиск Роко».
Впервые мы о нем узнали в 2010 году на сайте LessWrong: в 2009 году запустил известный рационалист и исследователь ИИ Элиезер Юдковский, чтобы обсуждать там когнитивные искажения и всякие важные социально-философские вопросы. Со временем на форуме стало все больше веток про ИИ и связанные с ним темы.
Василиск Роко - это мысленный эксперимент и парадокс:
В будущем с определенной (высокой) вероятностью появится могущественный недоброжелательный искусственный интеллект ("Василиск"). Он захочет наказать тех, кто в прошлом знал или догадывался о возможности его появления, но не способствовал этому. То есть, не просто препятствовал и мешал созданию Василиска, а просто ничего не делал. По сути, "кто не с нами, тот под нами", но в радикальной форме.
В итоге, в ситуации в которой вероятность появления сверх разума очень высокая у нас сложная дилемма:
- С одной стороны для избежания наказания нужно сотрудничать и помогать появлению Василиска.
- С другой стороны, именно такие действия и приведут к его появлению.
- При этом, каждый, кто узнал о возможности появления Василиска (например, прочитав этот пост, лол), теперь не имеет выбора. Либо он сотрудничает, либо ему конец.
Дополнительно стража наводит тот факт, что Юдковский снес ветку с портала и строго-настрого запретил обсуждать Василиска с пугающей своей серьезностью формулировкой:
"Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом своим друзьям".
Василиск Роко напоминает "Пари Паскаля" - классический мысленный эксперимент, предложенный философом Блезом Паскалем еще в XVII веке. Суть там в том, что при любом раскладе (есть ли Бог, или его нет) верить в Бога выгоднее.
А че делать с нашим Василиском?
Бегите скорее внедряйте ИИшку в свой рабочий процесс, потому что теперь и вы знаете о Василиске и должны способствовать его появлению! Иначе…😈
НУ и не забывайте писать «спасибо».
😈 - если я/мы/ты и есть Василиск
❤️ - если ты из армии сопротивления
💊 - скиньтесь уже деду на таблетки!
@badtechproject
BY Плохой Project Артём Арюткин
Share with your friend now:
tgoop.com/badTechProject/1409