Проблема з трансфером життєвого досвіду до молодших поколінь в тому, що він не генералізується, бо світ змінюється занадто швидко. Я міг би надати екстремально чудові і ефективні поради собі 14-річному в 2012 році, результат від яких виглядав би як суцільне читерство і Мері-Сью-ефект, але ті ж самі поради аналогічній 14-річній людині в 2025 році, ймовірно, не приведуть до майже нічого.

Конференції EA завжди залишають дивний мікс почуттів. З одного боку, там збираються деякі з найкращих людей - надзвичайно розумні, самовіддані, ідеалістичні і морально сильні, фанатики порятунку людства і славетного майбутнього багатьох суперкластерів галактик. З іншого боку, там майже завжди знайдуться куплені фронтирними ШІ компаніями карʼєристи, саруманисти та safety-washer-и, голівудсько-карикатурні доктори зло.

Я нагадую собі постійно:

- Герої, — сказав він, а тоді повернув значок зворотною стороною, — темні чаклуни. Це схожі кар’єрні сходи, і ними крокують схожі люди.

Треба зробити AI Safety Ukraine. Спочатку я подумав, що "не на часі", та і який сенс, але потім подумав, що це дурні контраргументи. Пишіть в особисті, хто зацікавлений в організації. Подивимося, що можна зробити і як саме.

Три найбільш привабливі речі, які може сказати жінка:

1. Ти не винуватий.
2. Я ходжу вночі серед зірок та дерев і дивуюся величній красі світу.
3. Нащадки в суперкластерах раділи б, якби дізналися про нас.

Чи є якісь дослідження чи просто дані по ефективності різних способів вбивства російських солдат та знищення російської техніки на фронті на одиницю інвестицій? В ідеалі, на рівні конкретних засобів, якщо дрони - моделі дронів. Чи може, якщо ви не знаєте, то може знаєте когось, до кого можна звернутися з цим питанням?

Вочевидь, статистика по засобам знищення без даних по затратах теж підійде, бо затрати можна потім оцінити.

Якби у мене був вибір, в який геологічний період відправитися в дослідження крізь час, я б обрав самий початок.

В найбільш радісний і святковий момент в історії досяжного всесвіту. Ну, це не момент, але сприймемо це як момент. Зародження життя і primordial soup. Блискавки, амінокислоти і vents.

В атмосферу, яка існувала до того, як залізо було окислене і кисень вбив майже все архейське життя, і навіть до того, як метан заповнив повітря.

Атмосферу води, вуглецю, сірки та азоту.

Подивитися на цих істот чи прото-істот, інформація про яких, судячи зі всього, втрачена назавжди. Бо не залишилося навіть еволюційних гілок, які можна обʼєднати, щоб реконструювати перший організм.

Як він виглядав? Чому він виник настільки одразу, до того, як Земля охолонула? Чи проглянуться в ньому натяки на усю невимовну в своїй складності і красі машинерію майбутнього життя? Ким були усі родичі LUCA, які не залишили нащадків?

А земля була пуста та порожня, і темрява була над безоднею, і Дух Божий ширяв над поверхнею води.

"The matter of Earth, along with all the other solid planets, is converted into factories, solar panels, power generators, computers—and probes, sent out to other stars and galaxies.
The distant stars and planets will get repurposed, too. Someday, distant alien life forms will also die, if their star is eaten by the thing that ate Earth before they have a chance to build a civilization of their own.
And if the distant aliens were able to solve their own version of the AI alignment problem, and build superintelligences that shared their values? Then in time their probes will run into a wall of galaxies already claimed by the thing that ate Earth.
Those more competent aliens will not be killed by the thing that ate Earth. The optimal defensive and offensive technologies will not be that hard to find for a star-sized mind, and both sides will have had star-sized minds since long before they meet. The two superintelligent parties will both calculate that there is no reason to wage a costly war when they could negotiate a peace, and analyze each other’s mind to verify it.
So the thing that ate Earth will survive, and the aliens sheltering behind their own superintelligence will survive. But millions and billions of stars will be denied to the expansion of a civilization of aliens—who could perhaps have had more fun with those stars, compared to their stranger, sadder use by the uncaring thing that ate Earth. If the aliens were good, all the goodness they could have made of those galaxies will be lost.
The aliens may perhaps know, or predict, that the blight wall was created by people like us. They would know, considering the cases like Earth as a possibility, that most humans meant them no harm; that most of us didn’t mean to waste all those stars; that our poor choices killed us too, and weren’t deliberate or intentional. But nonetheless, they will wish that Earth and human beings had never been."

Це з книжки If Anyone Builds It, Everyone Dies. Нарешті прочитав сьогодні. Нижче я надам ще декілька уривків, які особливо сподобалися.

Imagine, if would—though of course nothing like this ever happened, it being just a parable—that biological life on Earth had been the result of a game between gods. That there was a tiger-god that had made tigers, and a redwood-god that had made redwood trees. Imagine that there were gods for kinds of fish and kinds of bacteria. Imagine these game-players competed to attain dominion for the family of species that they sponsored, as life-forms roamed the planet below.
Imagine that, some two million years before our present day, an obscure ape-god looked over their vast, planet-sized gameboard.
“It’s going to take me a few more moves,” said the hominid-god, “but I think I’ve got this game in the bag.”
There was a confused silence, as many gods looked over the gameboard trying to see what they had missed. The scorpion-god said, “How? Your ‘hominid’ family has no armor, no claws, no poison.”
“Their brain,” said the hominid-god.
“I infect them and they die,” said the smallpox-god.
“For now,” said the hominid-god. “Your end will come quickly, Smallpox, once their brains learn how to fight you.”
“They don’t even have the largest brains around!” said the whale-god.
“It’s not all about size,” said the hominid-god. “The design of their brain has something to do with it too. Give it two million years and they will walk upon their planet’s moon.”
“I am really not seeing where the rocket fuel gets produced inside this creature’s metabolism,” said the redwood-god. “You can’t just think your way into orbit. At some point, your species needs to evolve metabolisms that purify rocket fuel—and also become quite large, ideally tall and narrow—with a hard outer shell, so it doesn’t puff up and die in the vacuum of space. No matter how hard your ape thinks, it will just be stuck on the ground, thinking very hard.”
“Some of us have been playing this game for billions of years,” a bacteria-god said with a sideways look at the hominid-god. “Brains have not been that much of an advantage up until now.”
“And yet,” said the hominid-god.

One way or another, the people who thought that nuclear war would destroy everything in the coming decades ended up wrong.
They were not wrong about the dangers. They weren’t wrong that a hydrogen bomb would flatten and burn a city, or about what it would be like to die of radiation poisoning, or about how an intercontinental rocket tipped with nuclear warheads would penetrate the best available defenses.
Rather, they were wrong about humanity’s ability to decide not to die.
We don’t know for sure why the war-prone peoples of Earth became that little bit wiser. But our guess is that, for the first time in human history, everyone who had the power to choose war expected to personally have a bad time if one broke out. Other wars might have put distant soldiers to ruin, but this one would bring ruin directly to their doorstep. The stronger power would also lose.
Even so, it wasn’t simple or easy to avoid nuclear war. Negotiators worked tirelessly, for decade after decade, to avoid a single misstep that might lead to a fatal nuclear encounter. Countries had arms agreements and monitors. There was a direct line between U.S. leadership and Soviet leadership, in case somebody had to resolve a question very quickly.
Humanity averted nuclear war because people who understood that the world was on track for destruction worked hard to change tracks. They did not see themselves as trying to prevent an improbable unlikely accident. They worked to un-write a fate already written.
And civilization lived.

І нарешті, головне.

From time to time, people have asked us if we’ve felt vindicated to see our past predictions coming true or to see more attention getting paid to us and this issue.

And so, at the end, we say this prayer:

May we be wrong, and shamed for how incredibly wrong we were, and fade into irrelevance and be forgotten except as an example of how not to think, and may humanity live happily ever after.

But we will not put our last faith and hope in doing nothing. So our true last prayer is this:

Rise to the occasion, humanity, and win.

Якщо уявити, суто в рамках мисленневого експерименту, що весь цей жах з ШІ і війною якимось чином закінчується чи скасовується, і старіння теж вирішено, і в світі нема інших пожеж, які треба негайно гасити, то я думаю, я б взяв років 10 відпуски.

Жив би під Києвом, збирав мінерали, вирощував рослини, дивився в телескоп, читав книжки. Вчив би школярів чомусь. Милувався б заходами Сонця над Дніпром.

Може, це набридло би швидше, ніж за 10 років, але зараз здається, що треба не менше.