Homo Technicus
Орден Баєса Як уже було сказано, Орден Баєса вважається одним із наймогутніших, а можливо, і наймогутнішим. Його членами є майже всі інвестори та прогнозисти (а в Цивілізації це майже одне й те саме), більшість політиків і чиновників, багато підприємців і…
Орден Тесли
Орден Тесли — для інженерів, творців і майстрів. Для тих, хто планує, будує, проєктує. Дуже багато підприємців, а загалом — людей, що працюють в індустрії, є членами цього ордену. Часто також до нього приєднуються представники комп’ютерних наук. До них іноді долучаються й деякі державні службовці. Орден дуже високо цінує скромність — що, щоправда, підходить не всім людям із бізнесу, й дехто обирає інші ордени саме через це.
Головними чеснотами ордену вважаються: креативність, інженерне мислення, альтруїзм, якість у роботі, підприємливість, планування, оптимізація.
Неофіційне гасло ордену:
“We do not talk, we build.”
…
Орден фон Неймана
Орден фон Неймана — для тих, хто любить вирішувати інтелектуальні задачі заради самого процесу. Його часто обирають шанувальники інтелектуальних змагань, а також науковці з точних наук — фізики, математики — тобто ті, хто отримує найбільше задоволення саме від розв’язання задач. Найближчим другом Ордена фон Неймана вважається Орден Поппера, й між ними нерідко відбувається «міграція» учасників.
У Цивілізації часто кажуть: «немає нічого кращого для Ордена Поппера, ніж хороший фон-нейманіанець». Часто найрозумніші люди, які прагнуть зосередитися винятково на загостренні свого інтелекту — і більше ні на чому, — обирають саме цей орден.
Головними чеснотами ордену вважаються: загальний інтелект, знання й навички в математиці, швидкість мислення, уміння розв’язувати задачі й головоломки, кмітливість, змагальність.
Неофіційне гасло ордену:
“Shut up and calculate.”
…
Орден Сагана
Орден Сагана виник останнім — у 90-х роках. Він вирізняється серед всіх орденів і низкою інших рис. По-перше, це єдиний орден, названий на честь ще живої особи (хоча і сам Саган, і багато інших були проти такого рішення). По-друге, у певному сенсі він вважається «найнижчим» серед орденів за своїм реальним впливом і могутністю. Але по-третє — й на противагу попередньому — члени Ордена Сагана часто користуються найбільшою повагою й симпатією з боку представників усіх інших орденів. І, нарешті, по-четверте — у Ордені Сагана немає Верховного Магістра, а всі керівні операційні рішення ухвалює Верховна Рада.
Орден Сагана — для тих, для кого пізнання є насамперед способом побачити красу світу й насолодитися нею. Для тих, хто займається наукою не заради користі, слави чи досягнень, а тому, що «по-перше, це красиво». Часто членами ордену стають представники фундаментальних і «відсторонених» від побуту наук — скажімо, геологи, ботаніки або астрономи. Якщо хтось щось спостерігає або класифікує — скоріш за все, він із Ордена Сагана.
Члени Ордена Сагана — добрі друзі для будь-якого іншого ордену, і той, хто образить саганіанця, не буде бажаним гостем ніде. Ще у Цивілізації популярна порада:
«Шукай собі друга чи колегу в будь-якому ордені, але якщо хочеш справжнього, чистого кохання — шукай в Ордені Сагана».
Головними чеснотами ордену вважаються: щирість, інтелектуальна чесність, скромність, любов до науки й пізнання, естетика, самовідданість, безкорисливість, пристрасть до справи.
Неофіційне гасло ордену:
“Lo and behold the beauty of the world.”
Орден Тесли — для інженерів, творців і майстрів. Для тих, хто планує, будує, проєктує. Дуже багато підприємців, а загалом — людей, що працюють в індустрії, є членами цього ордену. Часто також до нього приєднуються представники комп’ютерних наук. До них іноді долучаються й деякі державні службовці. Орден дуже високо цінує скромність — що, щоправда, підходить не всім людям із бізнесу, й дехто обирає інші ордени саме через це.
Головними чеснотами ордену вважаються: креативність, інженерне мислення, альтруїзм, якість у роботі, підприємливість, планування, оптимізація.
Неофіційне гасло ордену:
“We do not talk, we build.”
…
Орден фон Неймана
Орден фон Неймана — для тих, хто любить вирішувати інтелектуальні задачі заради самого процесу. Його часто обирають шанувальники інтелектуальних змагань, а також науковці з точних наук — фізики, математики — тобто ті, хто отримує найбільше задоволення саме від розв’язання задач. Найближчим другом Ордена фон Неймана вважається Орден Поппера, й між ними нерідко відбувається «міграція» учасників.
У Цивілізації часто кажуть: «немає нічого кращого для Ордена Поппера, ніж хороший фон-нейманіанець». Часто найрозумніші люди, які прагнуть зосередитися винятково на загостренні свого інтелекту — і більше ні на чому, — обирають саме цей орден.
Головними чеснотами ордену вважаються: загальний інтелект, знання й навички в математиці, швидкість мислення, уміння розв’язувати задачі й головоломки, кмітливість, змагальність.
Неофіційне гасло ордену:
“Shut up and calculate.”
…
Орден Сагана
Орден Сагана виник останнім — у 90-х роках. Він вирізняється серед всіх орденів і низкою інших рис. По-перше, це єдиний орден, названий на честь ще живої особи (хоча і сам Саган, і багато інших були проти такого рішення). По-друге, у певному сенсі він вважається «найнижчим» серед орденів за своїм реальним впливом і могутністю. Але по-третє — й на противагу попередньому — члени Ордена Сагана часто користуються найбільшою повагою й симпатією з боку представників усіх інших орденів. І, нарешті, по-четверте — у Ордені Сагана немає Верховного Магістра, а всі керівні операційні рішення ухвалює Верховна Рада.
Орден Сагана — для тих, для кого пізнання є насамперед способом побачити красу світу й насолодитися нею. Для тих, хто займається наукою не заради користі, слави чи досягнень, а тому, що «по-перше, це красиво». Часто членами ордену стають представники фундаментальних і «відсторонених» від побуту наук — скажімо, геологи, ботаніки або астрономи. Якщо хтось щось спостерігає або класифікує — скоріш за все, він із Ордена Сагана.
Члени Ордена Сагана — добрі друзі для будь-якого іншого ордену, і той, хто образить саганіанця, не буде бажаним гостем ніде. Ще у Цивілізації популярна порада:
«Шукай собі друга чи колегу в будь-якому ордені, але якщо хочеш справжнього, чистого кохання — шукай в Ордені Сагана».
Головними чеснотами ордену вважаються: щирість, інтелектуальна чесність, скромність, любов до науки й пізнання, естетика, самовідданість, безкорисливість, пристрасть до справи.
Неофіційне гасло ордену:
“Lo and behold the beauty of the world.”
https://youtu.be/sxLYHy3Tk7I?si=JK1nSY_UnCTjVPeK
https://manifold.markets/Gabrielle/will-musk-still-be-on-good-terms-wi?r=SWhvcktlbmRpdWtob3Y
https://manifold.markets/Gabrielle/will-musk-still-be-on-good-terms-wi?r=SWhvcktlbmRpdWtob3Y
YouTube
Star Wars: Andor (2022) - Luthen Laughing
Luthen laughing. Relief, anticipation, apprehension.
- "It'll all be over this time tomorrow."
- "Or it'll just be starting."
- "Or that."
From: Andor S01E06
- "It'll all be over this time tomorrow."
- "Or it'll just be starting."
- "Or that."
From: Andor S01E06
Homo Technicus
Скажу ще одразу про «наукові ордени». І, до речі, на майбутнє - коли говоритиму про світ книги «Дорослішання», то використовуватиму слово Цивілізація. У Цивілізації існує шість наукових орденів: • Орден Баєса • Орден Поппера • Орден Тюрінга • Орден Тесли…
До якого ордену ви б приєдналися?
Anonymous Poll
20%
Баєса
2%
Поппера
12%
Тюрінга
10%
фон Неймана
12%
Тесли
12%
Сагана
32%
Жив би без ордена
Homo Technicus
У цьому контексті, an honest question: що мають на увазі люди, які кажуть, що «ЛЛМ просто передбачає текст»? Чим «просто» відрізняється від «не просто»? Які переконання про ЛЛМ вони мають, такі що, якби вони їх не мали, вони б не вважали, що ЛЛМ «просто» передбачає…
Ось що я подумав про це зараз.
Згадайте, science bros, як деякі з нас, коли нам було 14 років, казали щось типу «кохання не існує, бо це еволюційна адаптація/хімічні реакції».
Здається, що твердження «ЛЛМ не думають, бо це результат тренування на передбаченні тексту» є чимось схожим.
Це можна назвати когнітивною помилкою «розуміння причини знищує явище» чи «я дізнався причину, відповідно, явища не існує».
Згадайте, science bros, як деякі з нас, коли нам було 14 років, казали щось типу «кохання не існує, бо це еволюційна адаптація/хімічні реакції».
Здається, що твердження «ЛЛМ не думають, бо це результат тренування на передбаченні тексту» є чимось схожим.
Це можна назвати когнітивною помилкою «розуміння причини знищує явище» чи «я дізнався причину, відповідно, явища не існує».
ЗБІР!
Дуже прошу підтримати збір для мого чудового друга. Колись, ми познайомилися з ним на МАНі, він був девʼятикласником тоді, а зараз він вже майор, який побував на майже всіх напрямках війни.
Я дуже рідко пишу про збори, бо вважаю, що зазвичай є більш компетентні люди, від яких краще отримувати цю інформацію, але зараз той випадок, коли це необхідно!
https://www.facebook.com/share/1AjY7Z1aPv/?mibextid=wwXIfr
Дуже прошу підтримати збір для мого чудового друга. Колись, ми познайомилися з ним на МАНі, він був девʼятикласником тоді, а зараз він вже майор, який побував на майже всіх напрямках війни.
Я дуже рідко пишу про збори, бо вважаю, що зазвичай є більш компетентні люди, від яких краще отримувати цю інформацію, але зараз той випадок, коли це необхідно!
https://www.facebook.com/share/1AjY7Z1aPv/?mibextid=wwXIfr
Facebook
Log in or sign up to view
See posts, photos and more on Facebook.
This media is not supported in your browser
VIEW IN TELEGRAM
Ніхто:
Абсолютно ніхто:
Майже будь-який PhD-студент, коли питаєш у нього, як справи:
Абсолютно ніхто:
Майже будь-який PhD-студент, коли питаєш у нього, як справи:
Homo Technicus
Час від час я пописую певну науково-фантастичну книгу, і зараз вона вже прийняла певні адекватні обриси. Ну, дописувати її ще довго, але зараз хоча б зʼявилася надія, що я її колись допишу. Робоча назва - «Дорослішання». Сетап: альтернативний світ, де…
Насправді, скоро виходить моя інша книга. Цікаво, чи здогадаєтесь ви, яка - зараз зроблю опитувальник. Мені здається, можна здогадатися, якщо подумати раціонально.
Яку книгу я збираюся публікувати?
Anonymous Poll
6%
AI Risks Explainer
8%
The History of Transhumanism
14%
Foundation Models for Biology
14%
Adventures in Ergodicity Economics and Nearby
21%
AI Alignment: Overview of Current Research
12%
The Long-Term Prospects of Humanity
6%
Everything is Wrong with Economics
8%
Low Entropy Mind
12%
A Personal Guide to Sciences
Багато хто з вас проголосував за AI Alignment. Що ж, це сама та ситуація, де писати книгу було б морально приємно, але по суті марно. Я і близько не має достатньо знань та інтелекту, щоб бути хоча б мінімально впевненим, що я роблю якийсь мінімально правильний та одночасно оригінальний ревью галузі алайнменту, тим більше пропонувати чи порівнювати рішення чи напрямки досліджень. Набагато більш розумні люди витратили набагато більше зусиль, і в них нічого не вийшло.
Юдковський не зміг нічого зробити!
Пол Крістіано не зміг нічого зробити! Тобто, надзвичайно складні і багатоступеневі схеми Крістіано теоретично можуть спрацювати, якщо їх хтось застосує на практиці, але по-перше, ніхто не застосує їх на практиці, а по-друге, консенсус скоріше тяжіє до того, що вони не спрацюють, навіть якщо застосувати їх в усій повноті.
Скот Ааронсон не зміг нічого зробити!
Сатскевер, один з головних творців сучасного ШІ, який перебуває у найбільш продуктивному віці та має буквально мільярди доларів, не зміг (принаймні поки) нічого зробити!
Юдковський не зміг нічого зробити!
Пол Крістіано не зміг нічого зробити! Тобто, надзвичайно складні і багатоступеневі схеми Крістіано теоретично можуть спрацювати, якщо їх хтось застосує на практиці, але по-перше, ніхто не застосує їх на практиці, а по-друге, консенсус скоріше тяжіє до того, що вони не спрацюють, навіть якщо застосувати їх в усій повноті.
Скот Ааронсон не зміг нічого зробити!
Сатскевер, один з головних творців сучасного ШІ, який перебуває у найбільш продуктивному віці та має буквально мільярди доларів, не зміг (принаймні поки) нічого зробити!
Media is too big
VIEW IN TELEGRAM
Тому, в тому числі, я і не приєднався досі до жодної AI safety організації full-time. Я можу робити і роблю певні точкові дослідження з дуже конкретних вузько визначених питань, але робити огляди, задавати стратегії - ні!
Треба знати, що ти знаєш і що ти не знаєш.
The Ring cannot be destroyed by any craft that we here possess.
Shut it all down.
Треба знати, що ти знаєш і що ти не знаєш.
The Ring cannot be destroyed by any craft that we here possess.
Shut it all down.
Що стосується усіх інших книжок, то опитування було ускладнене тим, що я дійсно пишу усі ці книжки (окрім AI Risks Explainer, бо по цьому теж є вже дуже гарні матеріали), просто повільно, і вони всі дуже в моєму стилі, тому можна зрозуміти, якщо ви обрали будь-яку з них.
Проте, є одна тема, терміновість якої є критичною. Тема, де кожен день на рахунку і де, на мій погляд, можна зробити реальний, важливий прогрес. Яку не можна відкладати. Я неодноразово писав про це на каналі.
Проте, є одна тема, терміновість якої є критичною. Тема, де кожен день на рахунку і де, на мій погляд, можна зробити реальний, важливий прогрес. Яку не можна відкладати. Я неодноразово писав про це на каналі.
BIOLOGICAL FOUNDATION MODELS!
SINGLE-CELL FOUNDATION MODELS MECHANISTIC INTERPRETABILITY!
FINE-TUNING FOUNDATION MODELS!
MODELS DISTILLATION!
I mean, the amount of time spent pondering all the regulatory and signaling networks is, sadly, astonishing.
Я роблю велику ставку на велетенські трансформери для біології. Я думаю, we are onto something. Це все не пояснити в двох словах, і в трьох, і власне тому я і написав книгу. Вона є одночасно науковим ревью, підручником, програмою досліджень та маніфестом.
Це та сфера, де силу штучного інтелекту можна використати на благо людства і навіть, потенційно, зробити внесок в те, щоб врятувати всіх від misaligned superintelligence. У мене є доволі конкретне бачення, що можна зробити. Може, воно не спрацює, але треба робити ставку.
Закони масштабування, ентропія біологічних даних, механістична інтерпретабельність, «гіркий урок» Саттона, генералізація моделей - це все вибудувалося в моїй голові в єдину картину, і настав час розповісти про це.
Також, мені здається, що біологи/біоінформатики, в цілому, недооцінюють потенціал цих моделей, а ШІ-вчені та інженери інколи не бачать, що вони можуть займатися чимось набагато більш корисним, ніж ЛЛМками, і це теж можна і треба виправити.
https://youtu.be/BOWWWbsZwTk?si=8ZPV8lR_C-l6_7cB
SINGLE-CELL FOUNDATION MODELS MECHANISTIC INTERPRETABILITY!
FINE-TUNING FOUNDATION MODELS!
MODELS DISTILLATION!
I mean, the amount of time spent pondering all the regulatory and signaling networks is, sadly, astonishing.
Я роблю велику ставку на велетенські трансформери для біології. Я думаю, we are onto something. Це все не пояснити в двох словах, і в трьох, і власне тому я і написав книгу. Вона є одночасно науковим ревью, підручником, програмою досліджень та маніфестом.
Це та сфера, де силу штучного інтелекту можна використати на благо людства і навіть, потенційно, зробити внесок в те, щоб врятувати всіх від misaligned superintelligence. У мене є доволі конкретне бачення, що можна зробити. Може, воно не спрацює, але треба робити ставку.
Закони масштабування, ентропія біологічних даних, механістична інтерпретабельність, «гіркий урок» Саттона, генералізація моделей - це все вибудувалося в моїй голові в єдину картину, і настав час розповісти про це.
Також, мені здається, що біологи/біоінформатики, в цілому, недооцінюють потенціал цих моделей, а ШІ-вчені та інженери інколи не бачать, що вони можуть займатися чимось набагато більш корисним, ніж ЛЛМками, і це теж можна і треба виправити.
https://youtu.be/BOWWWbsZwTk?si=8ZPV8lR_C-l6_7cB
YouTube
DEEP SUBSTRATE FOLIATED KALKITE
line read of the millenium. he smashed it.
Не знаю чому, але так за душу бере це відео! Здавалося б, просто нарізка видатних вчених і популяризаторів. Ну, і Мітіо Каку.
https://youtu.be/gA4GxTQtrKw?si=WkhCJzAYSfBNxIhw
https://youtu.be/gA4GxTQtrKw?si=WkhCJzAYSfBNxIhw
YouTube
SUCCESION OPENING BUT... SCIENCE
En este vídeo vemos un homenaje a la intro de "Succesion" una de las aclamadas series de los últimos años, pero en versión científica. Así como lo amerita el canal.
Saludos.
Saludos.
Homo Technicus
Mood
Поступово повертаються до повноцінного біохакерського режиму. Давно не почував себе так добре і продуктивно. Дуже сильно збив режим спочатку через війну, потім через ШІ, але це було нераціонально. Це була слабкість.
Настрій був на цей рахунок щось типу «та яка вже різниця». Але різниця є!
Якщо хочеш допомогти найбільш ефективно, то повинен бути в найкращій формі.
Я можу надавати які завгодно виправдання та аргументацію, але думаю, найбільш чесно буде сказати, що це була слабкість і негідність. І дуже добре виправити це.
Буду інколи писати на цю тему з особистого досвіду та з тих досліджень, що бачу.
Настрій був на цей рахунок щось типу «та яка вже різниця». Але різниця є!
Якщо хочеш допомогти найбільш ефективно, то повинен бути в найкращій формі.
Я можу надавати які завгодно виправдання та аргументацію, але думаю, найбільш чесно буде сказати, що це була слабкість і негідність. І дуже добре виправити це.
Буду інколи писати на цю тему з особистого досвіду та з тих досліджень, що бачу.
Homo Technicus
Поступово повертаються до повноцінного біохакерського режиму. Давно не почував себе так добре і продуктивно. Дуже сильно збив режим спочатку через війну, потім через ШІ, але це було нераціонально. Це була слабкість. Настрій був на цей рахунок щось типу «та…
Біохакінг, «рутини» та добавки - це тема доволі суперечлива, і в деяких від неї бомбить вона викликає інколи справедливий скепсис. Ми торкнемося, з часом, і суперечливих речей.
Але я почну з однієї, на мій погляд, абсолютно несуперечливоі, простої, легкої, але дуже важливої речі.
Швидкі вуглеводи!
Просто приберіть швидкі вуглеводи з їжі! У звичайних умовах життя, вони не роблять нічого корисного взагалі, і лише роблять шкоду, причому одразу по купі напрямків! Я не знаю жодного бодай мінімально валідного свідчення, що є якісь плюси у споживанні швидких вуглеводів. Ну, вочевидь вони дають енергію, але будь-яка їжа дає енергію. І, звичайно, є особливі ситуації, такі як hypoglemlic emergency унаслідок операцій чи нещасних випадків, але тоді вам цукор введуть в реанімації і без вас. Є специфічні хвороби. І є «вуглеводне вікно» після важких силових тренувань. Але якщо у вас нема якоїсь особливої хвороби, якщо вас не очікує якась особлива операція, або якщо ви не тренуєтесь на Mr. Olympia, то швидкі вуглеводи не потрібні.
Одне лише прибирання зайвих швидких вуглеводів з їжі без жодних інших інтервенцій є кроком, який покращує практично будь-який аспект здоровʼя та продуктивності.
Якщо у когось є інші дані на цей рахунок, то пропоную поділитися в коментарях. Мені справді цікаво, чи є якісь свідчення в інший бік.
Але я почну з однієї, на мій погляд, абсолютно несуперечливоі, простої, легкої, але дуже важливої речі.
Швидкі вуглеводи!
Просто приберіть швидкі вуглеводи з їжі! У звичайних умовах життя, вони не роблять нічого корисного взагалі, і лише роблять шкоду, причому одразу по купі напрямків! Я не знаю жодного бодай мінімально валідного свідчення, що є якісь плюси у споживанні швидких вуглеводів. Ну, вочевидь вони дають енергію, але будь-яка їжа дає енергію. І, звичайно, є особливі ситуації, такі як hypoglemlic emergency унаслідок операцій чи нещасних випадків, але тоді вам цукор введуть в реанімації і без вас. Є специфічні хвороби. І є «вуглеводне вікно» після важких силових тренувань. Але якщо у вас нема якоїсь особливої хвороби, якщо вас не очікує якась особлива операція, або якщо ви не тренуєтесь на Mr. Olympia, то швидкі вуглеводи не потрібні.
Одне лише прибирання зайвих швидких вуглеводів з їжі без жодних інших інтервенцій є кроком, який покращує практично будь-який аспект здоровʼя та продуктивності.
Якщо у когось є інші дані на цей рахунок, то пропоную поділитися в коментарях. Мені справді цікаво, чи є якісь свідчення в інший бік.
Зазвичай, протягом свого життя, я прочитував доволі багато книжок на одиницю часу. Десь пару книжок на тиждень в середньому, гадаю.
Цього року, з книжок я читаю лише Кнута, Фейнмана, Альбертса, Ленінджера і Юдковського, плюс деяку математику, знову і знову. І це буде тривати ще деякий час. Via negativa. І мені здається, що так краще, принаймні на даному конкретному етапі.
(Звичайно, як це часто буває в житті, з часом все більше читається власне наукових статей, але це скоріше через необхідність)
Цього року, з книжок я читаю лише Кнута, Фейнмана, Альбертса, Ленінджера і Юдковського, плюс деяку математику, знову і знову. І це буде тривати ще деякий час. Via negativa. І мені здається, що так краще, принаймні на даному конкретному етапі.
(Звичайно, як це часто буває в житті, з часом все більше читається власне наукових статей, але це скоріше через необхідність)
Stargate.
Портал у науковій фантастиці, через який орди іншопланетян вторгалися на Землю.
What a prescient turn of phrase.
Але відео саме по собі чудове! В інших більш адекватних гілках Евереттівського мультивсесвіту наші віддалені більш щасливі родичі будують подібні проекти по нейротехнологічному вдосконаленню людей та боротьбі зі старінням, і про них там знімають відео зі схожими вайбами.
https://youtu.be/GhIJs4zbH0o?si=F58Ap-bHpP6HAnSW
Портал у науковій фантастиці, через який орди іншопланетян вторгалися на Землю.
What a prescient turn of phrase.
Але відео саме по собі чудове! В інших більш адекватних гілках Евереттівського мультивсесвіту наші віддалені більш щасливі родичі будують подібні проекти по нейротехнологічному вдосконаленню людей та боротьбі зі старінням, і про них там знімають відео зі схожими вайбами.
https://youtu.be/GhIJs4zbH0o?si=F58Ap-bHpP6HAnSW
YouTube
Inside OpenAI's Stargate Megafactory with Sam Altman | The Circuit
Emily Chang visits the Stargate site in Abilene, Texas for an exclusive first look at the historic $500 billion bet on the future of AI, announced by President Trump the day after his inauguration. She speaks with OpenAI CEO Sam Altman & Softbank CEO Masayoshi…