Утром во вторник, еще до начала выборов, я писал о чувстве вступления в фазу финального предсингулярного сверхускорения научно-технического прогресса и Большой Истории / Глобальной эволюции в целом. Результаты вторничных выборов полностью подтверждают это ощущение – новая избранная администрация для повышения конкурентоспособности обещает дерегулировать развитие ИИ и отменить ограничивающие развитие ИИ акты уходящей администрации. На глобальном уровне это вызовет эффект домино – все другие игроки, чтобы не отстать, тоже будут вынуждены использовать более рисковые, но более конкурентоспособные стратегии развития ИИ, т.е. не вводить регулирование. Все это может существенно ускорить создание сверхинтеллекта и технологическую сингулярность по сравнению с альтернативной ситуацией – когда все международные игроки кооперируются, синхронно вводят жесткую регуляцию развития ИИ и договариваются совместно стараться не допустить создания сверхинтеллекта и перехвата им контроля у человечества. Т.е. человечество продолжает максимально рисково идти ва-банк, презрев самосохранение ради невероятных возможностей развития, которые потенциально (с неизвестной вероятностью) может принести нам или нашим постчеловеческим преемникам создание сверхинтеллекта (победа над старением, всеобщее изобилие, доминирование творческого компонента в жизни и т.д. и т.п., недавно и глава OpenAI Сэм Альтман, и глава Anthropic Дарио Амодеи по очереди очень оптимистично высказались об этом). Причем складывается ощущение, что если новая администрация после январской инаугурации действительно начнет систематически дерегулировать ИИ (что не факт, возможно, они одумаются, ранее Маск, который теперь будет советником по ИИ, высказывался за регулирование и даже в марте 2023 года, после выхода GPT-4, подписывал знаменитое коллективное письмо о необходимости полугодового моратория), то это станет точкой невозврата – далее уже по целому комплексу причин вводить жесткое регулирование будет поздно, неэффективно, и ситуация станет развиваться в режиме неконтролируемого схода снежной лавины в горах, что, собственно, и является метафорой старта сингулярности. Т.к. новая администрация с ее настроем на дерегуляцию будет у власти целых четыре года (которые, судя по всему, станут во всех смыслах ключевыми), то я бы сильно сдвинул вниз свой личный прогноз по достижению сверхинтеллекта и началу сингулярности таким образом: 2030 год – оптимистичная оценка снизу, 2035 год – самая вероятная оценка, 2040 год – консервативная оценка сверху. В проекции психологии и когнитивной нейронауки это означает, что осталось, скорее всего, всего около 10-15 лет, чтобы постараться успеть «вдохновить» на самом низком и «нестираемом» уровне архитектуру будущего искусственного сверхразума архитектурой психологических и мозговых механизмов просоциального, мотивированного эмпатией, состраданием и другими морально-этическими ценностями поведения человека, и этим повысить шансы на позитивный для людей исход перехода эволюции интеллекта и сознания на следующий (постсингулярный) уровень.
Утром во вторник, еще до начала выборов, я писал о чувстве вступления в фазу финального предсингулярного сверхускорения научно-технического прогресса и Большой Истории / Глобальной эволюции в целом. Результаты вторничных выборов полностью подтверждают это ощущение – новая избранная администрация для повышения конкурентоспособности обещает дерегулировать развитие ИИ и отменить ограничивающие развитие ИИ акты уходящей администрации. На глобальном уровне это вызовет эффект домино – все другие игроки, чтобы не отстать, тоже будут вынуждены использовать более рисковые, но более конкурентоспособные стратегии развития ИИ, т.е. не вводить регулирование. Все это может существенно ускорить создание сверхинтеллекта и технологическую сингулярность по сравнению с альтернативной ситуацией – когда все международные игроки кооперируются, синхронно вводят жесткую регуляцию развития ИИ и договариваются совместно стараться не допустить создания сверхинтеллекта и перехвата им контроля у человечества. Т.е. человечество продолжает максимально рисково идти ва-банк, презрев самосохранение ради невероятных возможностей развития, которые потенциально (с неизвестной вероятностью) может принести нам или нашим постчеловеческим преемникам создание сверхинтеллекта (победа над старением, всеобщее изобилие, доминирование творческого компонента в жизни и т.д. и т.п., недавно и глава OpenAI Сэм Альтман, и глава Anthropic Дарио Амодеи по очереди очень оптимистично высказались об этом). Причем складывается ощущение, что если новая администрация после январской инаугурации действительно начнет систематически дерегулировать ИИ (что не факт, возможно, они одумаются, ранее Маск, который теперь будет советником по ИИ, высказывался за регулирование и даже в марте 2023 года, после выхода GPT-4, подписывал знаменитое коллективное письмо о необходимости полугодового моратория), то это станет точкой невозврата – далее уже по целому комплексу причин вводить жесткое регулирование будет поздно, неэффективно, и ситуация станет развиваться в режиме неконтролируемого схода снежной лавины в горах, что, собственно, и является метафорой старта сингулярности. Т.к. новая администрация с ее настроем на дерегуляцию будет у власти целых четыре года (которые, судя по всему, станут во всех смыслах ключевыми), то я бы сильно сдвинул вниз свой личный прогноз по достижению сверхинтеллекта и началу сингулярности таким образом: 2030 год – оптимистичная оценка снизу, 2035 год – самая вероятная оценка, 2040 год – консервативная оценка сверху. В проекции психологии и когнитивной нейронауки это означает, что осталось, скорее всего, всего около 10-15 лет, чтобы постараться успеть «вдохновить» на самом низком и «нестираемом» уровне архитектуру будущего искусственного сверхразума архитектурой психологических и мозговых механизмов просоциального, мотивированного эмпатией, состраданием и другими морально-этическими ценностями поведения человека, и этим повысить шансы на позитивный для людей исход перехода эволюции интеллекта и сознания на следующий (постсингулярный) уровень.
A few years ago, you had to use a special bot to run a poll on Telegram. Now you can easily do that yourself in two clicks. Hit the Menu icon and select “Create Poll.” Write your question and add up to 10 options. Running polls is a powerful strategy for getting feedback from your audience. If you’re considering the possibility of modifying your channel in any way, be sure to ask your subscribers’ opinions first. “[The defendant] could not shift his criminal liability,” Hui said. Read now The group also hosted discussions on committing arson, Judge Hui said, including setting roadblocks on fire, hurling petrol bombs at police stations and teaching people to make such weapons. The conversation linked to arson went on for two to three months, Hui said. Telegram offers a powerful toolset that allows businesses to create and manage channels, groups, and bots to broadcast messages, engage in conversations, and offer reliable customer support via bots.
from us
