Я зараз завершую робити свою презентацію про історію TESCREAL-спільнот, хотів поділитися деякими спорадичними думками стосовно свого положення в цьому просторі.

Я все ж таки насамперед вважаю себе трансгуманістом/постгуманістом. Також я вважаю, що екстропіанці були надзвичайно круті, але вважати себе кимось, кого зараз немає, хм? Одночасно - так, я відношу себе до раціоналістів і культури LessWrong, особливо зараз. Тепер відносна сила, популярність та актуальність LessWrong взагалі сильно виросли через ШІ, і всі інші течії сильно відійшли на другий план. Я те, що називається “EA-adjacent” – дружу з ЕА, радий, що є ЕА, приймаю участь в деяких заходах ЕА, але, ну не прямо моє це, і є певні ідеологічні розбіжності.

В цілому, принаймні в поточних умовах, я дуже сильно рекомендую спільноту раціоналістів молодим розумним людям. Ви можете мати свої розбіжності, але правда полягає в тому, що інших спільнот, хоча б мінімально близьких до LessWrong/ACX за якістю інтелектуальної культури, нема. Якби вони були, могла б бути зовсім інша розмова, але їх нема. Альтернатива – це меми, рілс і твіти.

Утім, особисто для мене, є одна річ, яка мені сильно не подобається в культурі раціоналістів. У мене є імунітет до неї, але не у деяких інших людей. Це трохи «делікатна» тема, і вона точно не переважає наявні плюси, але вона є і вона робить свою погану справу, принаймні на вразливих людях (а в LessWrong приходить багато вразливих людей). Я не впевнений, чи варто про це писати, але якщо комусь сильно потрібно, то я напишу. Якщо ні, то краще ні.

І ще одна думка: ці всі відмінності мають значення лише всередині. Для зовнішьного спостерегача це все єдина маса - він навіть EA від E/acc не відрізнить, не кажучи вже про курцвейліанських сингулярітаріанців від вінжеанських. Класифікації і типології можуть бути цікавими як інтелектуальна вправа та як привід подискутувати всередині, але на фоні людства і масової культури це все ефективно одна група.

Ось таку структуру накидав. Що скажете? Є серйозні зауваження (і несерйозні)?

(В коментарях якісніша версія зображення)

Цей аспірант вчора взяв інтервʼю в мене на LWCW. Він задав багато з тих питань, які я обговорюю в тому числі на цьому каналі. В основному, бесіда була про спільноти і ідеї навколо AI safety, бо це є головною темою його дисертації.

Останнім його питанням було: чому світ став таким? Чому світ опинився тут, на твою думку?

Я подумав, у відповідь:

Так. I amar prestar aen.

Момент був ніби режисером створений. Ми сиділи на пірсі, одразу біля води, у озера Ванзее. Недалеко милувалася заходом сонця закохана пара раціоналістів. Навпроти на хвилях ледве хиталися човни та маленькі яхти. Сонце було в хвилинах, а може в десятках секунд від того, щоб зайти. Його промені проходили через далеку вузьку полосу стовбурів дерев на протилежному березі і відбивалися від води. Воно швидко рухалося через ті стовбури, і через це світло ніби трохи мерехтіло. Як завжди чомусь буває в околицях Берліну, в повітрі стояв лагідний і солодкий аромат квітів і трав, в контрасті з металевим присмаком в самому Берліні. На березі люди грали в якісь ігри і сміялися.

Який чудовий світ! Я міг би жити в ньому мільярди років, і радіти, і мені б не набридло.

Чому він прийшов до цього?

Я був в настрої плакати вже від деяких попередніх питань, але я взяв хвилинку, щоб прийти в себе, і потім спокійно сказав приблизно наступне:

Якби ж я знав! Я і сам задаю собі це питання часто. Але, якщо спробувати щось відповісти - я не думаю, що є чи повинна бути конкретна вузька причина, чому світ став таким. Це свого роду ентропійне явище: станів, які ведуть до знищення, просто більше, ніж станів, які ведуть до процвітання. Нема конкретних причин, які б вели світ вузьким шляхом процвітання. Нема оптимізаційного тиску, який би тиснув в цьому напрямку. Напевно, світ став таким, бо не було гарних причин, чому він би став інакшим.

https://music.youtube.com/watch?v=GLdjURq4cFI&si=5HuQDcPZnApAsajo

Зараз буде серія постів про LessWrong Community Weekend.
Саммарі:
1. Для тих, хто був на олімпіадах - це приблизно як всеукраїнська або скоріше міжнародна олімпіада, тільки люди в цілому ще розумніші і дивніші, і нема власне олімпіади, лише соціальна частина.
2. У мене були помірно високі очікування, і вони сильно перевершені. Було надзвичайно гарно, хоча завжди можна зробити щось краще, звичайно.
3. Я пишу це насамперед, бо вважаю, що немалій частині з вас було б цікаво поїхати туди наступного разу.

https://music.youtube.com/watch?v=BciS5krYL80&si=VotAZz4WfM7fWLHg

1. Стара гвардія

На мене, з особистих причин, найбільше враження справило спілкування з першим поколінням дослідників AGI та раціоналістів. Тими, хто бачив сяйво Двох Дерев в дні, коли світ був юним. По-перше, як-то кажуть, це красиво - просто спостерігати за швидкістю та якістю їхнього мислення.

Наприклад, на мою лекцію по біологічній аугментації інтелекту людей прийшов друг Юдковського і давній співробітник MIRI. Ми довго спілкувалися з ним, і те що він сказав, було надзвичайно важливим для мене.

А на лекцію про історію трансгуманізму прийшов колишній друг Роко, який придумав той самий базиліск Роко, часів навчання в Кембриджі. Він знає дуже багато лору раціоналістів і був в центрі процесу в Нью-Йорку та Каліфорнії в нульових.

Окрім спілкування по суті, для мене була важлива "філософська" складова: послухати про їхній досвід, помилки, переконання; показати, що у них є наступники - може не такі екстраординарні, як вони, але є; і показати собі, що поруч з їх величчю, мені не буде про що соромитися.

2. Схожі люди і різноманітність

People are sparce in people-space - це я зрозумів дуже давно. Людей у світі банально дуже мало, щоб заповнити простір можливих людей. І тому майже нема людей, схожих на тебе. Утім, інколи трапляються вийнятки, і LWCW - одне з дуже небагатьох місць, де вони трапилися для мене. Ніде більше я не міг, спілкуюючись з людиною усього 20 хвилин, усвідомити, що, навіть якщо залишити поза увагою такі тривіальні перетини, як трансгуманізм, когнітивні науки і алайнмент, ви обидва:
- працюєте над ШІ для single cell;
- маєте досвід одночасно в фінансах, VC, та біоінформатиці;
- маєте серед іншого освіту в біології та computer science;
- робили SPVs;
- цікавитеся теоріями Вольфрама, але не є фанатами Вольфрама;
- волонтерили для longevity;
- автоматично розпізнаєте картини Ешера;
- здатні підтримати розмову про дослідження Майкла Левіна;
- маєте одні й ті самі погляди про феномен та науку "емерджентності".

При цьому, якщо брати в цілому, люди дуже різноманітні. Єдине, що об'єднує майже всіх - це хоча б мінімальна дотичність до програмування та комп'ютерних наук, але це напевно можна сказати про будь-яку тусовку розумних людей зараз.

3. Багато трансгуманістів і біохакерів

Хоча формально тусовка присвячена раціоналізму, але, як я і сподівався, було доволі багато класичних трансгуманістів і біохакерів в сенсі Брайана Джонсона, хоча і не зустрів біохакерів в сенсі Джозі Зейнер. Було приємно пообмінюватися стеками добавок та рутин, конструктивно покритикувати стеки один одного і обговорити що там нового в longevity та кріоніці, хоча зараз я витрачаю на це набагато менше уваги. Дізнався про нову цікаву книжку - The Future Loves You. В черговий раз мене заохочували жерти метилфенідад, в тому числі дипломовані психіатри, але якось я все сумніваюся.

Багато сесій були присвячені трансгуманістичним темам безпосередньо, і трансгуманісти успішно сформували свою свій осередок всередині івенту.

4. Дуже багато дуже розумних людей в цілому

Ну, тут все стандартно: вундеркінди, 25-річні постдоки, народ з Оксфордів-Кембріджів, фаундери, винахідники.

5. Але є і багато просто нердів та диваків

Якщо у вас синдром самозванця, то не варто переживати, що вам тут не місце. Організатори - цілком правильно - вважають, що різноманіття і відкритість відіграють дуже позитивну роль. Кожен може бути дивним на LWCW по-своєму, і кожен знайде тих, з ким він може бути дивним. Також, якщо у вас якісь психічні розлади, соціофобія, аутизм чи проблеми з комунікацією, ви майже напевно чудово проведете час все одно. Я запевняю, що всі будуть ставитися до вас дуже гарно, акуратно та емпатично.

На Статуї Свободи написані чудові слова:
"Give me your tired, your poor,
Your huddled masses yearning to breathe free,
The wretched refuse of your teeming shore.
Send these, the homeless, tempest-tost to me,
I lift my lamp beside the golden door!"

До цього напевно варто додати, що підтримується гарний баланс між складністю та характером сесій: є хардкорні сесії про алайнмент та термоядерний синтез, є змагання у надскладних модифікаціях шахів, але також є сеанси ігор в Dungeons and Dragons, покер, мафію чи фехтування на світлових мечах.

6. Адекватне ставлення до російсько-української війни

Адекватність у сприйнятті російсько-української війни взагалі часто слугує для мене мірилом адекватності спільнот. На жаль, багато хто з європейців досі має цілком наївні чи банально фактологично некоректні погляди щодо України та Росії. Я не особливо очікував якогось вищого рівня усвідомленості на LWCW, тим більше враховуючи той факт, що люди там зазвичай більш м'які, миролюбні і далекі від політики, ніж в середньому, але був приємно здивований. Було 2 сесії про Україну, і в цілому всі погодилися, що єдиним гарним сценарієм є радикально більш інтенсивне озброєння України майже будь-якими методами і знищення Росії у її сучасній формі. Я розумію, що для вас це звучить очевидно, але врахуйте, що для багатьох іноземців це, на жаль, досі не очевидно. І ще - в черговий раз, я переконався в тому, як же чудово, коли люди слухають твій аргумент і сприймають його як привід змінити свою думку, а не захистити свою минулу позицію! Це відбувається надзвичайно рідко в звичайному житті, але серед раціоналістів це відбувається постійно. Чесно кажучи, я не зустрічав такого рівня геополітичної усвідомленості та адекватності ніде за межами українських спільнот. Люди майже не мали хибних переконань, а там, де мали, вони охоче відмовлялися. Ті, хто мав "компромісну" позицію до 2022 року та підтримував перемовини з Росією та роззброєння в Європі, казали, що їм соромно за це.

7. Звичайно, дуже багато AI safety

Тут нічого не поробиш, такі часи. Усі тусовки раціоналістів, трансгуманістів, ефективних альтруїстів та будь-яких схожих "істів" зараз дуже сильно про AI safety. Хвиля Сингулярності насувається і підіймає все перед собою. Більше половини учасників так чи інакше працюють в AI safety. Але варто зазначити, що більша частина людей і так вже наслухалися про алайнмент і навпаки хочуть поговорити про щось інше. Тому, не варто боятися, що вас змусять говорити про це чи слухати. Скоріше навпаки - вам буде складно змусити дослідника алайнменту говорити про свої роботи, бо він приїхав сюди відпочити від них.

До речі, було декілька людей і з AI capabilities, і ніхто їх не бив і не відсажувався від них на лекціях чи в кафетерії.

А що щодо мінусів? Особисто для себе, я знайшов 2 мінуси, але вони реально маленькі.

1. Непрохана полігамія та поліаморія

У мене заздалегідь були сильні негативні очікування щодо цього - з наступних причин:

По-перше, уся спільнота затоки носиться с т.зв. "Аеллою" як дурень зі ступою, і я досі не розумію цього приколу взагалі. По-друге, враховуючи те, з яким завзяттям деякі люди в спільноті розповідають про власне поліаморне сексуальне життя і намагаються переконати інших робити те ж саме, не питаючи дозволу, не роблячи дисклеймерів чи попереджень, не поцікавившись, чи хочеться співбеседніку слухати про це та чи не буде його від цього фізично нудити, я очікував схожих проблем на LWCW. І проблеми були, але суттєво менші, ніж я очікував.

Дійсно, певна частка людей постійно розмовляють про поліаморію і секс, в тому числі під час ланчу, і мені це не подобається. Але багато кого це теж дратує - тобто якщо вас теж це дратує, ви там явно будете не одні і навіть напевно не в меншості. Здається, вся тема з поліаморією більш поширена в старшого покоління однак.

Але ніхто не намагався завербувати мене в жодну оргію чи policule, і навіть розмови про оргії за їжею припинялися, коли я вічливо просив, хоча це і викликало пару ворожих поглядів.

2. Трохи дух хіппі

Багато якоїсь психології - медитації, spirituality, менеджмент емоцій, колективні обійми, а також танців і співів. Це звичайно не погана річ як така, просто мені це не цікаво і виглядає для мене як вклинювання іншої групи в мою групу.

Але я ще раз кажу - це мінуси особисто для мене. Для когось це можуть бути плюси!

Загальний вердикт: все вийшло набагато краще, ніж очікувалося, при тому що очікувалося немало! Ще раз - дуже рекомендую!

Я в черговий раз задаюся питанням: чому не давати солдатам, хоча б на першій лінії, пігулки з ціанідом? Це не може бути дорого. Чому нема якогось руху за це, петиції тощо? Чи може є? Чи може я щось упускаю фундаментально?

https://kyivindependent.com/the-shocking-toll-of-russian-captivity-on-ukrainian-prisoners-of-war/?fbclid=IwdGRjcAMk3lpleHRuA2FlbQIxMQABHh8ZaK0KpF8p40WdIAm1B83BIbj5Tq9UFIp2qxT8XNHDVjyhM-p9IjHW500h_aem_EKdevPKKE6BEMYsj7GSsnA

Моя презентація про аугментацію інтелекту людей, кому цікаво.

І про історію трансгуманістичних спільнот, трохи недороблена.

Субʼєктивне та трохи гіперболізоване порівняння LessWrong та Effective Altruism.

Головний висновок з розмови Путіна та Сі про продовження життя - це те, що Сі, принаймні зараз, не AGI-pilled, і це гарна новина. Звичайно, це може змінитися.

Я приймаю участь в волонтерському проекті по розробці платформи для метчінгу дослідників алайнменту ШІ, дослідників ШІ і новачків (студентів і людей на початку кар'єри) в якості Lead Backend Engineer. Сенс в тому, щоб забезпечити тих, хто хоче увійти чи перейти в алайнмент, найбільш корисними рекомендаціями, враховуючи попередній досвід і дослідження. Більш детальний опис тут.

Ми шукаємо додаткових волонтерів-інженерів, як бекенд, так і фронтенд. Якщо цікаво, то заповнюйте цю форму: https://docs.google.com/forms/d/1jQAazeyeu0vJe1WdMCQfMEnMmnxvmWtX7RlNATp9wqc/preview

Умови - 10 годин на тиждень або більше, з жовтня по грудень, може трохи довше. Ми вже маємо команду, і нам не потрібна кількість заради кількості, тому подавайтесь тільки якщо ви дійсно мотивовані. I have nothing to offer but blood, toil, tears and sweat.

Команда потужна, проект може зробити великі зміни, керує CTO at Apart Research, якщо комусь це щось говорить. Якщо ви хочете зайти в AI safety, то ось ваш унікальний шанс зробити це на високому рівні.