Раніше, я міг би сказати: руїнами американського фондового ринку задоволений. Ви хотіли - тепер жеріть! Раніше, я б радів ниттю tech bros та мільярдерів, які поставили на Трампа, а тепер ниють - “произошла чудовищная ошибка».

Але тепер я вважаю, що злорадство - це невелика винагорода за усе зло та страждання, що відбувається та відбудеться. Супутня шкода невинним від «помсти» виновникам не вартує того. Нема сенсу радіти тому, що корабель з купою невинних людей тоне - навіть якщо при цьому втопиться декілька шахраїв та ідіотів, що навели його на айсберг.

Речі, які варто робити лише в умовах крайньої необхідності:
- відвідувати ОАЕ;
- казати слова thrilled, excited та navigate;
- надягати краватку;
- повідомляти, скільки країн ти відвідав;
- повідомляти, що тобі подобається «саморозвиток»;
- починати першим розмову про криптовалюти.

До речі, ставка урядів на штучний суперінтелект як актив національної безпеки в принципі не може спрацювати.

Навіть якщо спільнота AI alignment помиляється і суперінтелект буде виконувати накази людей, уряди все одно не отримають суперінтелект. Ані Альтман, ані Амодеї, ані Сатскевер, ані будь-який інший реалістичний кандидат на особу, що буде приймати перше рішення про доступ до суперінтелекту, не передасть доступ до нього уряду (і в принципі, правильно зробить).

Я нарешті сів за Claude 3.7. Це неймовірно, просто неймовірно (для програмування). Відчуваю себе так: https://www.youtube.com/watch?v=_UCSZz3U7qU

Нещодавно опублікований AI 2027 є, напевно, найбільш ґрунтовною спробою прогнозування ШІ на сьогодні.

Він дає медіанну оцінку появи штучного суперінтелекту на, передбачувано, 2027 рік.

В цілому, усі оцінки конвергують в діапазон 2027-2030, як я вже писав.

Варто зазначити, що один з головних авторів репорту - Кокотажло, людина, відома своїм старим прогнозом на роки до 2026, який майже повністю збувся, а також тим, що відмовилася від багатомільйонних опціонів OpenAI, щоб не підписувати угоду про нерозголошення і говорити вільно.

https://ai-2027.com/

Нарешті можу сказати: ми з другом будемо запускати подкаст про екзистенційні ризики штучного інтелекту українською!

По контенту, декілька перших випусків готові, зараз ми думаємо про те, як зробити гарне розповсюдження на старті. Тому, звертаюся за допомогою до підписників.

Цікавлять поради, ідеї та конкретні пропозиції, де ми можемо поширити оголошення про подкаст. Це можуть бути інші подкасти, блоги, телеграм канали, чи медіа - звичайно бажано такі, що мають релевантну аудиторію та що потенційно зацікавлені в темі. Якщо у когось є загальний досвід чи знання, які можуть стати у нагоді в розповсюдженні, теж чудово!

Проблема, звичайно, не тільки в фондових ринках.

Памʼятаю, як під час/після виборів прихильники Трампа казали: він же був вже президентом, чому тепер буде гірше?

Як, Донні вам вже нормально пояснив, чому? Чи ще аргументів не вистачає? Нічого, він навіть найбільш тугих переконає.

Економічна рецесія через велетенські тарифи по всьому світу, ядерна проліферація (і може проліферація чого погірше) через America first в обороні, скажений російський агент-конспіролог на чолі американської розвитки, руйнування усіх американських інституцій, шалена гонитва за суперінтелектом разом з Китаєм - ladies and gentlemen, start your engines!

Минулого терміну Трамп зробив помилку (відносно своїх цілей) - оточив себе здебільшого компетентними професіоналами, які не давали йому робити божевільні речі. Тепер він цю помилку виправив.

Послухав подкаст з Адамом Брауном: https://youtu.be/XhB3qH_TFds?si=jFT6rXOMox5mI7Oz

До цього, взагалі не знав і навіть не чув про цю людину, але він моментально потрапляє в мій топ людей за адекватністю мислення. Не памʼятаю, коли я в останній раз відчував настільки сильну ідеологічну, епістемологічну та можна навіть сказати духовну близькість.

В моєму досвіді, подія «ти слухаєш людину більше двох годин, коли вона говорить на теми, складніші за побутові, і вона жодного разу не сказала річ, яка здається insane» відбувається рідко. Надзвичайно рідко. Майже не відбувається. Це саме той випадок, коли відбулася.

Ти слухаєш і думаєш: «Так. Правильно. Очевидно. Я не один такий. Фух».

- We are AI safety researchers.
- What kind of AI safety researchers?

(Жарт про взаємовідносини спільнот AI alignment та AI ethics)

Стосовно другого закону термодинаміки.

Ейнштейн колись задав питання: чи був у Бога вибір, коли він створював Всесвіт?

На мій погляд, вибір у нього точно був. Закони фізики в принципі можна варіювати - від цього не виникає протиріч, якщо закони дійсно фундаментальні. Це логічно можливо.

Але у Бога не було вибору, коли він створював закони математики. Вони просто є. Можна уявити собі світ з іншими константами Стандартної моделі, але неможна уявити світу з іншим числом пі. Нікому не під силу створити такий світ, навіть Богу, якби він існував.

І другий закон термодинаміки, для мене, знаходиться в сірій зоні між законами фізики та математики - єдиний в своєму роді. Я не можу уявити собі, як в принципі може існувати світ без другого закону. І тим не менш, цей закон називається законом фізики.

Ще Еддінгтон, давним-давно сказав:

“If your theory is found to be against the Second Law of Thermodynamics I can give you no hope; there is nothing for it but to collapse in deepest humiliation.”

Другий закон термодинаміки вважається законом фізики. Але як бачу його я, він виглядає як логічно неминучий факт про будь-яку систему, а не про нашу випадкову реальність. Чи ні? Точно я не знаю.

Чи був у Бога вибір, коли він писав другий закон термодинаміки?

“Create an image of a WW2-style memorial monument dedicated to AI alignment researchers who went crazy under stress and complexity”.

До речі, поцікавтеся, який application form зробили для подачі на роботу в Safe Superintelligence. Навіть повний доступ до будь-яких cheating-інструментів і будь-які можливості як завгодно прикрасити резюме не допоможуть відповісти на ті питання, якщо ти не геній. Дуже, дуже якісно зробили.

https://jobs.ashbyhq.com/ssi/b91659e4-9352-46fa-b3c5-4fb28827eb2e

“Парадокс Курцвейла” (назвемо це так): історія прогресу в ШІ виглядає так, що він дуже залежав від алгоритмічних інновацій, і без них ми б не були і близько до поточної траекторії. Але найбільш правильними виявилися ті минулі прогнози, які повністю ігнорували алгоритмічній прогрес і покладалися виключно на елементарну екстраполяцію прогресу в обчислювальних потужностях.

Універсальна відповідь на спробу співбесідника аргументувати «за визначенням» (тобто, «А - це Б чи відноситься до Б, тому що таке визначення А») - це задати питання:

Які факти про світ ти передбачаєш, такі що ти б їх не передбачав/очікував, якби ти не вважав що А є Б чи відноситься до Б?

Тривіальний приклад:

Теза: «атеїзм є релігією за визначенням».

Відповідь: «які факти про світ ти передбачаєш, які ти б не передбачав/очікував, якби вважав, що атеїзм не є релігією?»

У цьому контексті, an honest question: що мають на увазі люди, які кажуть, що «ЛЛМ просто передбачає текст»? Чим «просто» відрізняється від «не просто»? Які переконання про ЛЛМ вони мають, такі що, якби вони їх не мали, вони б не вважали, що ЛЛМ «просто» передбачає текст?

Систематично, найбільший антистрес для мене - це читати підручники з біології та фізики.

Можливо, тому що мозок входить в стан «тобі 15 і ти готуєшся до олімпіад, жодних турбот». Або, можливо, тому що ця діяльність є перетином дуже багатьох параметрів, які подобаються мозку - цікаво, розумно, легко, весело, гідно.

Так чи інакше, я відчуваю спокій і безтурботність в тому ступені, в якому я не відчуваю їх майже ніколи. Додатково до цього, я відчуваю радість і вдячність за те, що я можу дивитися на Всесвіт з відчуттям дива і благоговіння, мислити і усвідомлювати своє мислення, і що наша реальність настільки складна, що можна дивуватися їй, досліджуючи її хоч мільйони років. І це настільки чудово, що майже не віриться в це.

Інколи з цим можна перегинати, звичайно.

POV: ти ходиш по відділу наукової літератури в новому великому книжковому магазині, поки твої друзі дивляться на тебе.

Beyond sorrow and grief.