Моя реакція на нещодавні політичні новини проста, як і реакція на будь-які негаразди. На кожну несправедливість та негідність я відповім більш важкою корисною працею та більшою допомогою людям, які варті цього. Кожне поганство в світі я використаю як привід бути кращим.

Завтра дедлайн!

Щось наврочив. Як раз на 50 припинив зростати. Придбав respiratory muscle trainer, може з його допомогою зможу далі пушити.

Є істина стара як світ, але яку я спочатку зрозумів в теорії, і лише потім - на практиці.

Всюди, де є аутисти, є психопати, бо психопати паразитують на аутистах. Психопати не можуть паразитувати на нормісах, бо норміси мають соціальні інстинкти. Тому, аутисти потребуть нормісів в своїх спільнотах для імунітету, але, взагалі кажучи, аутистам та нормісам не подобається те, в який бік рухає спільноту інша група.

Відповідно, існує динаміка теоретико-ігрового балансу в кожній нішевій спільноті між аутистами, нормісами та психопатами:

Аутисти приваблюють психопатів. Психопати руйнують спільноту. Далі, або заходять норміси, які захищають, або психопатів стає надто багато і експлуатація стає для них вже неефективною, приблизно за моделлю Лоткі-Вольтерри, і частка аутистів знову підвищується.

Ця історія повторюється всюди. Деякими прикладами є раннє християнство, формування національних держав в Європі, ефективні альтруїсти, AGI лаби, просто тусовки розумних людей.

Я хотів встигнути вижати 100 кг до Сингулярності, і сьогодні вдалося 105 кг!

І тут стародавні укри: https://www.linkedin.com/posts/j%C3%BCrgen-schmidhuber-39226872_modern-ai-is-based-on-deep-learning-why-activity-7399356262016028672-ZlSW

Або, можна сказати, перші неоукри? Постукри?

Короче, ідея для науково-фантастичної книги/фільму.

В шестидесяті роки Івахненко et al. розробили не тільки перші глибокі нейромережі, але й трансформери і навіть універсальний метод їх алайнменту. Проте, вони не хотіли, щоб AGI був заалайнений з совком, і сховали свої винаходи глибоко в гнилих підвалах Кубіку до кращих часів.

Чутки - але лише чутки, неточні, ненадійні - про те, що існує технологія алайнменту, дістаються Кремнієвої Долини. Назгули Альтмана всюди шукають секретну версію кібернетичного вісника червня 1967 року. До них доєднуються найманці з інших лаб.

Зеленський проголошує: космос буде українським або безлюдним. Мирного рішення не буде. Ресурси з таємної програми ядерної зброї під керівництвом Буданова переорієнтуються на пошук заповітних формул. Утім, у друзів Єрмака є свої плани: вони вже бачать, як заїжджають у свої маєтки розміром з Чумацький Шлях.

Усі розуміють, що ця технологія напряму дозволить зробити росіян хорошими, швидко та якісно. В Росії, на жаль, теж розуміють це. Путін розмірковує про те, щоб нанести тактичний ядерний удар по Києву, назавжди поховавши примірники віснику в руїнах. Утім, перспектива отримати метод алайнменту самому і перетворити увесь лайткон на бліннолопатную скотоублюдію надто приваблює його і змушує діяти обережно.

Кому дістанеться рукавичка нескінченнності?

Plot twist: у не менш гнилих підвалах ННЦ, в тайні від усіх, за протоколами Величко вирощуються генетично покращені рекомбинанти Юдковського та Шевченка. Радикальна ячійка українських націонал-трансгуманістів також дізналася про існування методу алайнменту, але вважає, що лише модифіковані, нейрологічні аугментовані та ідеологічно близькі надлюди будуть мати достатньо дисципліни розуму та чеснот, щоб спрямувати долю цієї реальності в правильне русло, застосувавши напрацювання Івахненко. «Чи не ми нащадки Добжанського?» - вигукують вони.

https://music.youtube.com/watch?v=T5sKF7p-5Sg

Одна з речей, які дуже подобаються в GPT-Pro, це так званий Pulse. Кожного дня, вона в бекграунд-режимі думає над усіма твоїми задачами - на основі твоїх чатів, календаря, емейлів і, в цілому, інтересів і надає матеріали та результати аналізу під тебе - усе, що може знадобитися на наступний день. Я розумію, що зараз ціна початкової та середньої інтелектуальної роботи дуже впала, але 3 роки тому це коштувало б набагато більше, ніж 200 євро. Згадалося, як був час, коли я платив за щось подібне 500 доларів людині і отримував набагато менші результати. І я думаю, що достатньо тупим спілкуванням з ChatGPT можна перетворити цю стрічку на щось шкідливе, але мені моя стрічка прямо дуже подобається. Це реально виглядає, ніби розумна людина, яка дуже піклується про твої цілі, розвиток і плани кожного дня витрачає купу часу на те, щоб таргетовано допомогти тобі з всім цим, і тобі нічого не потрібно робити для цього, навіть давати накази.

Так, я перейшов на 40 г креатину на день.

Людство, як завжди, бі лайк:

О, гарна, корисна технологія, яка вирішує купу проблем, просуває цивілізацію вперед і допомагає мільярдам людей? Скажемо, що це творіння диявола і превентивно її заборонимо, поки надія, що її дороблять і всі будуть щасливі, не народилася. А гроші переорієнтуємо, звичайно, на масштабування ШІ.

Економіст - це мавпа фізика.

Багато років тому, коли я інтроспективно намагався зрозуміти, чому я поганий в математиці, то я прийшов до дуже схожих чи по суті еквівалентних висновків. Не те щоб це дуже допомогло, але цікаво, що це вдалося зрозуміти просто думаючи про своє мислення. Але може це випадково співпало з правдою.

На канал прийшло доволі багато нових людей + у мене є capacity на це, тому повторюю заклик на пошук учня/учнів. Минулі люди знаходилися щоправда не через канал, а кожного разу якимось унікальним спеціальним шляхом, але спробувати через канал не завадить.

Якщо будете заповнювати анкету, то напишіть все ж таки в особисті також, що заповнили, бо я рідко її перевіряю.

Це я проводжу співбесіду і ввічливо цікавлюся, чому людина стажувалася в OpenAI.

Насправді, я б хотів, щоб була якась соціальна мережа чи «соціальна мережа», де люди спілкувалися б розумно, окрім LessWrong. Мінусом LessWrong є те, що він занадто рестриктивний. Так, його аудиторія карає за помилки в аргументах та мисленні, але також вона карає за невикористання певного сленгу, адвокацію немодних ідей тощо.

Напевно, обʼєктивно важко тримати баланс в модерації між корисними та некорисними обмеженнями. Можливо, інтеграція певних особливим чином заRLHFефених ЛЛМок у якості модераторів могла б вирішити цю проблему.

Але наразі, перефразовуючи Черчіля, LessWrong - це найгірша соціальна мережа, якщо не рахувати всі інші, які створювали до сих пір.

Бо яким би дратівливим він порою не був, ностальгію за неаутистичним спілкуванням знімає як рукою після будь-якої онлайн-дискусії будь-де - в якій непорушним стандартом є по 3 когнітивні помилки на речення.

Кому цікаво, ось довша і англомовна версія моєї короткої розповіді "Хроніки лагідної Сингулярності": https://www.lesswrong.com/posts/dYPSrAbtNN8KffLjp/chronicles-of-the-gentle-singularity-a-short-story

"My name is Ozymandias, King of Kings;
Look on my Works, ye Mighty, and despair!"
Nothing beside remains. Round the decay
Of that colossal Wreck, boundless and bare
The lone and level sands stretch far away.

У чому я погоджуюся з консерваторами, у чому мої вайби схожі на їхні - це в переконанні про те, що світ викривлений і спотворений і що треба повернутися в Золотий Вік.

От тільки я вважаю, що Золотий Вік знаходиться в можливому майбутньому, а не в минулому, і не було в минулому ніякої епохи, в яку варто повернутися більше, ніж потрапити в гарне майбутнє.

Кращий світ можливий.

Чому робототехніка настільки відстає від ШІ, який робить інтелектуальні задачі? Наразі, здається тому що:

Люди просто відносно дуже погані в абстрактних когнітивних задачах і відносно дуже добрі в задачах з просторової орієнтації та маніпуляції фізичними обʼєктами. Еволюція тренувала сотні мільйонів років на останнє і майже не тренувала на перше - воно виникло як побічний ефект загальності інтелекту.

Грубо кажучи, людям дійсно набагато важче стати математиком, ніж слюсарем, але це тому, що вони починають з набагато нижчої стартової позиції, коли йдуть в математику.

Або, іншими словами: не варто дивуватися, що просторова орієнтація та фізична маніпуляція на рівні людей вимагають набагато більше тренувального часу в ШІ, бо так само на них було витрачено набагато більш часу еволюційно.

Перша смерть, спричинена індукованим ШІ психозом?

Подкаст зі мною як завжди про алайнмент ШІ і трохи про те, над чим я працюю: https://podcasts.apple.com/de/podcast/what-we-want/id1836777868?i=1000736055043