Періодично, реальність змушує дивуватися тому, наскільки систематично в житті вспливають одні й ті самі люди, в абсолютно різних обставинах і контекстах. Це дивно і, я б сказав, трохи страшно.

Ніби ти є частиною певного соціального графу, і реальність сама помістила тебе туди, не питаючи тебе, і тримає тебе в ньому.

Це... не поганий граф, і насправді, я б хотів лише більше взаємодіяти з багатьма людьми в ньому, хоча я б збрехав, якби сказав що там нема людей, про існування яких я б радше не знав.

Проблема, вірніше, не проблема, а причина дискомфорту від усвідомлення цього, полягає не в тому, що граф такий, який він є, а в тому, що тебе туди помістили "автоматично" і що якісь соціальні сили, які ти не дуже контролюєш і навіть які ти не усвідомлюєш, керують твоїм положенням в ньому.

In a way, це також певний удар по відчуттю власної індивідуальності: хочеш - не хочеш, але ти, в певному сенсі, один з них. В одному й тому самому кластері людей, які взаємодіють один з одним, приймають участь в проектах один одного, спілкуються зі знайомими один одного, зустрічаються один з одним і в тій чи іншій формі - чомусь - з'являються перед очима один одного то тут, то там. Це також, in a way, удар по відчуттю власної незалежності - ніби реальність сама знаходить тобі соціальне місце, з яким ти особливо не можеш нічого поробити.

Думаю, я драматизую трохи зараз, але щось в цьому є. Земля маленька, вузька і кругла. І в соціальному просторі є певні "домени атракції", які працюють доволі універсально і доволі без свідомих зусиль чи мотивів людей.

Я прийняв наступне рішення:

Я зосереджуюсь в Homo Technicus на публікації речей, які я вважаю цікавими, корисними і релевантними для широкої аудиторії. Тобто, тут все буде як в було, приблизно: ШІ, наука, технології, самовдосконалення, поради, просто цікаві речі, коментарі якихось важливих речей.

Але мені потрібно якесь місце, де я можу сублімувати екзистенційні переживання, публікувати коряву творчість, періодично нити і просто писати якісь рандомні думки, які не заслуговують на те, щоб ділитися з ними на широкий загал, але все ж таки хочеться ними поділитися. Для цього я буду використовувати свій старий канал https://www.tgoop.com/ihor_theory.

Мені там не потрібна аудиторія як така, скоріше друзі, які хочуть мене підтримати, і я не буду якось поширювати той канал більше. Але мені хотілося, щоб там були якісь люди, які можуть мене почути. Тому, для більшості з вас - просто disregard this message. Але якщо ви вважаєте мене дуже своїм другом, або я вам просто дуже цікавий, або хочете мене підтримати без якоїсь навіть ефемерної користі для себе, то можете приєднатися до того каналу, але рекомендую робити це лише в цих випадках, бо там не буде нічого цікавого для переважної більшості людей, а може я і взагалі там не буду публікувати, подивимось.

На фоні цього, я подумав: хтось повинен написати про київську молодіжну ботансько-технопрогресивно-обернаукову тусовку докарантинних часів. Щось на кшталт мемуарів. Напевно, цим "хтось" доведеться бути мені. Я не найбільш влучна людина для цього, але камон, ніхто інший все одно не напише. І мені є що сказати, о так! Також, це майже ніхто не буде читати, але тепер для графоманів як я є залізобетонне виправдання: ЛЛМ прочитає і перенесе ці знання навіть за межу Сингулярності. Пиши, градієнтний спуск все стерпить!

https://music.youtube.com/watch?v=oow6cUGAv9g&si=13xxJA-2y7-v3NOv

Евристика: зазвичай, люди менш злі, ніж здається, але більш тупі, ніж здається.

Що майже еквівалентно більш відомому: не варто пояснювати злістю те, що можна пояснити тупістю.

Думаю, треба уникати base rate neglect і застосовувати це і до самого себе.

Сем йде поміж стелажів с консервами, які здаються нескінченними. Він розуміє, що рахувати їх нема сенсу - їх вистачить на багато років. На незрівнянно більше часу, ніж знадобиться «слизині», щоб розігріти земну кору на цій глибині достатньо, щоб все всередині бункеру запеклося.

Утім, Сема дещо радує той факт, що за останніми показниками термосенсорів, зростання потоку теплоти з поверхні наче сповільнюється. Температура на 50 метрів вище повинна була вже досягнути 250 градусів, але вона все ще 180…

«Не встигає охолоджувати, вимушена сповільнитися», - висуває припущення Сем, лише потім розуміючи, що він сказав це вголос. Він давно не спілкувався з людьми, і навіть останню «стабільну» версію, GPT-7.2-o5-Omni-mini-391max, він вирішив, про всяк випадок, відключити. Хтозна, на що здатна та, що там, нагорі…

Люди в інших бункерах, навіть якщо вони залишилися, взаємодіяти з ним не можуть або - він не може цього виключати - не хочуть.

А що стосується більш старих моделей з аудіомодальністю, то з ними спілкуватися якось зовсім не цікаво.

Сем завжди звертався до моделей в жіночому роді. На це не було жодної конкретної причини, просто звичка. На мить, Сем сміється сам з себе, але сміх, що луною відбивається від довгих порожніх стін, звучить моторошно і глушить сам себе.

Інша, менш приємна думка відвідує Сема:
«Взагалі-то, як тільки вона доутилізує атмосферу, то баланс теплоти на поверхні зміниться, і температура знову почне зростати».

Сем розуміє, що це відбудеться скоро.

«Треба на щось відволіктися».

Він лягає у ліжко і вмикає відео на своєму планшеті.

“Do things that don’t scale”. - говорить з британським акцентом повнуватий чоловік посеред аудиторії дуже молодих людей, здебільшого азіатів.

Сему приємну знову бачити цього чоловіка, але трохи шкода, що він помер. Коли Сем запропонував йому приєднатися до нього в бункері, той чоловік, чомусь, сильно вилаявся на нього і сказав, що залишиться зі своєю родиною. Там, нагорі.

«Що ж, я все одно радий, що він існував», - продовжує вже більш оптимістично розмірковувати Сем.

На відео, хлопці та дівчата з аудиторії починають задавати питання повнуватому чоловікові.

Цю частину Сем любить менше, він ставить відео на паузу.

На обличчях дуже молодих людей ніби застигають наступні, майже задані питання, головними з яких є «за що?» та «навіщо?».

Тінь тривоги пробігає по обличчю Сема, але вже за декілька секунд після прийому нової пігулки очі стають спокійними, а мʼязи розслабляються.

Сем думає, яка назва підійшла б тій моделі, яка зараз там, нагорі…

«Хроніки лагідної сингулярності»

“Be careful not to choke on your aspirations.”

Найкраще проблема алайнменту в художній формі була описана Олександром Олесем:

Та знай: над нас — боги скупі,
Над нас — глухі й нечулі…

Цього тижня я дізнався, що пару років тому був зроблений останній необхідний біотехнологічний прорив, який зробив можливим повноцінне мультиплексне редагування геномів для радикального генетичного покращення інтелекту, і зараз вже є компанія, яка намагається це робити, і що в моєму університеті утворено найбільший agi-pilled центр по безпеці та алайнменту ШІ в континентальній Європі. І обидві речі були зроблені українцями. Стародавні укри дали початок людській цивілізації в кімерійських степах (жарт, про всяк випадок). Неоукри проведуть її через вушко голки технологічної сингулярності (можливо, не жарт) і спрямують на колонізацію суперкластерів.

Я написав статтю про «протокол продуктивності»: https://kendiukhov.medium.com/my-productivity-blueprint-4dcc432d9e6d

Чесно кажучи, я не дуже задоволений тим, як вийшло, здебільшого з 2 причин:
1. Коли я перечитую в ролі зовнішнього читача, мені здається, я не зміг донести чітко певні ідеї, але я не знаю, як зробити це більш чітко, принаймні швидко.
2. Те, що працює для мене, не обовʼязково буде працювати для інших, і взагалі, «є багато нюансів». Я намагався обговорювати нюанси, але їх банально дуже багато, і на певному етапі я вирішив, що треба зупинитися з цим, інакше це буде величезна стаття з нескінченними обговореннями нюансів. Але в кінцевому рахунку, обидві альтернативи - просто надати мій протокол як він є та обговорити всі нюанси - мають свої мінуси.

Але дуже багато людей як з каналу, так і з інших місць просили мене написати, і я написав. Я все одно думаю, що це набагато краще, ніж нічого.

Сергій Величко. SuperSOX. BootstrapBio.

Людство наближалося до повноцінної генетичної інженерії людей довго:
1970-1980-ті - Розробка методів секвенування ДНК та полімеразної ланцюгової реакції (ПЦР). Ці технології дозволили читати та копіювати генетичний код.
1990-2003 - Проект "Геном людини". Повне прочитання людського геному коштувало $3 мільярди і зайняло 13 років, але дало карту всіх людських генів.
1998 - Вперше виділено людські ембріональні стовбурові клітини. Це дало можливість працювати з клітинами, що можуть перетворюватися на будь-який тип тканин.
2006 - Шінья Яманака відкриває "фактори Яманаки" - чотири білки (Oct4, Sox2, Klf4, c-Myc), які можуть перепрограмувати дорослі клітини назад у стовбурові. За це він отримав Нобелівську премію в 2012 році. Ця технологія дозволила створювати стовбурові клітини без використання ембріонів.
2012 - Дженніфер Дудна та Еммануель Шарпантьє публікують роботу про використання CRISPR-Cas9 для редагування генів. Це був прорив - точне, дешеве та відносно просте редагування ДНК стало реальністю.
2013-2015 - CRISPR адаптують для роботи з клітинами ссавців, включаючи людські. Розробляються більш точні версії (CRISPR 2.0).
2016 - Розробка "прайм-едиторів" - ще точніших інструментів, які можуть вносити будь-які зміни в ДНК без розрізання обох ланцюгів.
2010-2020 - Масштабні дослідження геномних асоціацій (GWAS) на сотнях тисяч людей. UK Biobank зібрав дані 500,000 учасників. Це дозволило зрозуміти, які гени впливають на складні ознаки такі як IQ, ризик хвороб, тривалість життя.

На момент 2020, усе з точки зору фундаментальної науки було готово для цього. Усе, окрім однієї речі.

Існуючі методи дозволяли редагувати лише 5-10 генів в ембріоні. Для значного покращення IQ чи тривалості життя потрібно редагувати сотні генів. Щоб редагувати сотні генів, потрібно було б робити це в стовбурових клітинах, а потім перетворювати їх на ембріони. Але це було неможливо для людських клітин.

Цей шлях завершився 22 грудня 2023, коли Сергій Величко, випускник біофаку КНУ, публікує відкриття SuperSOX у журналі Cell. Біологи мої шевівські, біологи мої!

SuperSOX - це модифікована версія білка Sox2, в якій замінено лише одну амінокислоту (аланін на валін у 61-й позиції). Це відкриття вирішує ключову проблему: як перетворити відредаговані стовбурові клітини на повноцінний ембріон. Історія цього відкриття сама по собі приголомшлива, і описана тут.

Тепер теоретично можливо взяти звичайні людські клітини, перетворити їх на стовбурові клітини, відредагувати сотні генів протягом тижнів/місяців, за допомогою SuperSOX перетворити їх на ембріон, і імплантувати для народження генетично покращеної дитини.

Якщо все спрацює, то ми отримаємо:
- +50 балів IQ при 500 редагуваннях;
- +30-75 років життя;
- Практично повне усунення діабету, хвороб серця, деяких видів раку;
- Значне зниження ризику депресії та інших психічних розладів.

Звичайно, в поточних умовах нас найбільше цікавить IQ. Бо, звичайно, штучний інтелект і алайнмент.

Люди з AI Safety моментально відреагували на цю історію. Чесно кажучи, вражає швидкість, з якою вони відреагували. Вони знайшли Величко майже одразу після відкриття, зібралі початковий капітал і зробили компанію, щоб комерціалізувати проект - BootstrapBio. Сам Величко вирішив зосередитися на менш регуляторно складних речах, і робить компанію по генетичній інженерії тварин, а також працює в Гарварді в лабі того самого Чорча.

Я говорив з CEO BootstrapBio минулої п'ятниці. Це відчайдушні, надзвичайно мотивовані люди. Вони зараз зосереджені на експериментах in vitro, і планують почати випробування на приматах у найближчій час. Але BootstrapBio досі не має достатнього фандінгу, і в будь-якому випадку його чекає боротьба з американською бюрократичною машиною. Вочевидь, вони будуть намагатися робити clinical trials в якомусь іншому місці, де це дозволено. Найкращий кандидат - Сингапур.

Яке співпадіння все це!

Як цивілізація, ми майже тут. Усі дані про те, як робити геніїв генетично зібрані вже давно і у величезних кількостях. Усі фундаментальні наукові відкриття, необхідні для лабораторних маніпуляцій, зроблені. Залишилася інженерна робота, тести, випробування і автоматизація.

Як іронічно, що це відбулося буквально пару років тому, як раз коли почали виходити комерційні ЛЛМки!

Наразі, окрім BootstrapBio, з'явилися ще 4 компанії, які намагаються це зробити. Я комунікую зі всіма.

Якихось 20 років відділяють нас від ймовірного спасіння. Але як раз 20 років в нас, скоріше за все, нема. Утім, не можна виключати і того, що є. Це не виглядає ймовірним, але й зовсім неймовірним не виглядає. Це шанс, одна з відчайдушних ставок.

Славетне трансгуманістичне майбутнє може прорватися через павутину регуляцій та очікувань ШІ-катастрофи. Якщо дати йому. Так не хочеться помирати перед цим!

Питання "а що по Україні?", в контексті цієї ситуації, напрошується саме собою. І дійсно, декілька людей вже задали мені його.

Дійсно, в Україні нема формальної заборони на генетичну модифікацію людей.

Але, навіть якщо полишити усі інші потенційні проблеми, думаю, я не скажу нічого нового, якщо скажу, що ніхто не буде фінансувати цей проект в Україні поки йде війна. А за моїми очікуваннями, війна буде йти ще довго, можливо, і навіть ймовірно, до самої Сингулярності, на превеликий жаль.

Утім, неможна виключати якогось дива, яке приведе до переможного чи принаймні нейтрального закінчення війни. Дива - це все, що нам залишилося в багатьох напрямках, але все ж таки, інколи дива трапляються.

У цьому випадку, я одразу почну масовані спроби запустити клінічні випробування в Україні. Звичайно, Сингапур все одно кращий варіант, але Сингапуром краще зайнятися іншим людям, і не факт що там теж вийде. А я - знаю Україну добре, і, більш важливо, я більше не маю жодних гальм.

Я дійсно думаю, що потенціал є, в принципі:
1. Гарна інфраструктура репродуктивної медицини.
2. Дуже високий рівень біологів відносно зарплат і взагалі витрат.
3. Дуже багато в позитивному сенсі відбитих талановитих людей закордоном, принаймні деякі з яких могли б заради такої справи повернутися і попрацювати.
4. Не в останню чергу, Величко теж українець.
5. Наявність деяких конкретних людей, з якими можна було б почати вести бесіди.

Це звучить... відносно божевільно, але в мене нема для вас не-божевільних стратегій більше. І я не кажу, що це ймовірно спрацює. Якщо ви думаєте, що я не розумію всіх потенційних проблем, то я готовий побитися об заклад, що я розумію більше проблем, ніж вам здається і ніж ви знаєте. Утім, варто хоча б спробувати, якщо буде можливість.

Наразі, я буду пітчити цю ідею, на випадок завершення війни, в усіх релевантних колах, в тому числі серед всіх компаній, які займаються чи планують займатися генетичною модифікацією людських ембріонів. Я підготую, що можу, про всяк випадок. Якщо хтось хоче допомогти з цим, як з точки зору аналізу і підготовки середовища в Україні, так і з точки зору взаємодії з зацікавленими людьми в світі, пишіть.

Безвідносно до цього, я з радістю допоможу будь-кому, хто працює чи хоче працювати в AI alignment, AI pause, AI governance, human intelligence augmentation, чи в цілому AI for biology, чим можу - як мінімум порадою.

Хтось користувався GPT-5-pro? Може порекомендувати чи не порекомендувати її купувати?

Вечірки EA - це надзвичайно дивне місце, де збираються з одного боку люди з місць типу OpenAI, а з іншого - з місць типу Future of Life Institute. Перші вважають других небезпечними агресивними фанатиками-антипрогресорами, а другі вважають перших архітекторами майбутнього геноциду нечуваних масштабів, і в інші моменти, вони б сказали, що були раді, якби інших не було, але в цей момент, вони сидять і... грають в словесні ігри, обговорюють побачення і сміються з жартів один одного.

Я знаю, що наприклад аристократи 19 століття могли тусити разом, навіть якщо їх країни воювали, але ж вони не вважали один одного екзистенційною загрозою для усієї цінності в світі!

Я не знаю, що ви думаєте з приводу ChatGPT-5. Для мене все було - нарешті - в рамках очікувань. В перший день здалося, що модель помірно гірша медіанного очікування, зараз здається, що вона помірно краща медіанного очікування, але все в рамках confidence intervals.

Я хотів сказати інше. Мені здається, сучасного ШІ - як на рівні конкретних моделей, так і на рівні відкритих підходів і архітектур - цілком достатньо, щоб (так, з часом, треба почекати і попрацювати; і так, треба докласти інституційних зусиль!) зробити великий ривок в науці і цивілізації і просунути біологію достатньо, щоб почати рекурсивне покращення людського інтелекту і взагалі стану. У мене ідей на десятки років роботи щодо досліджень, які можна з ними робити. Ми вже можемо робити речі, про які ми й не мріяли раніше.

Але ні, жадібність! Жадібність і очікування легких і швидких результатів! Це та сама дитяча історія про золоту рибку.

Усі повинні знати слово "досить" - навіть аутистичні AI-інженери Затоки. Колись "досить" повинно наступати для всіх.

Ми, як цивілізація, могли б запропонувати якийсь компроміс. Оголосити їх героями на вічні часи, усіляко висловити безмежну подяку за те, що тепер ми можемо суттєво прискорити R&D майже всюди, дати їм все, що вони хочуть - приватні острови з waymo та оптимусами, пожиттеву підписку на League of Legends, гарем з колишніх призерок egmo, я не знаю. Але в обмін вони погоджуються на "досить"!

А потім, ми переорієнтуємо гроші зі старгейту на нейробіотех, фіксимо освіту і неадекватні рівноваги в світі, і живемо щасливо квадрільони років.