внимание!

САМОЕ БОЛЬШОЕ ПРОСТОЕ ЧИСЛО (so far)

спасибо за внимание!

Моя любимая конспирологическая теория последнего времени — то что биткоин придумали инопланетяне и отправили нам его whitepaper из далекой галактики в сотнях световых лет, чтобы алчные людишки в погоне за прибылью к моменту их прибытия на Землю подготовили как можно больше вычислительных мощностей. в зависимости от сорта паранойи инопланетян можно заменить на Искусственный Интеллект, в чем то теория от этого даже выигрывает

Впрочем, в реальном мире тоже происходит много интересного — в сети Ethereum некто сжигает миллионы долларов отправляя их на никому не принадлежащий адрес 0x000... с загадочными посланиями на китайском языке:

Я Ху Лэчжи, обычный программист и предприниматель. С октября 2022 года я осознал, что с самого рождения подвергался контролю и манипуляциям со стороны организации, контролирующей сознание. Когда я осознал существование этой организации, они усилили свое воздействие на меня. Эти два года были очень мучительными для меня, и теперь я полностью утратил человеческое достоинство. Я решил покинуть этот мир и надеюсь, что этот уродливый мир скоро будет уничтожен

Генеральные директора Kuande Investment Фэн Синь и Сюй Юйчжи использовали нейрокомпьютерное оружие для преследования всех сотрудников и бывших сотрудников компании и даже сами оказались под контролем.

Источник

#conspiracy_of_the_month

готовлю воркшоп для научных сотрудников МИСИС на тему "как использовать LLM в исследованиях"

чтобы втереться в доверие и показать, что я тоже своего рода ученый, откопал фотографию — с вами тоже поделюсь.

2015 год, Clean room Cavendish lab, Cambridge. очень усердно проводил эксперименты, данные по которым никогда не были опубликованы. но тогда я еще об этом не знаю и торчу в лабе каждый день до глубокой ночи

нужно просто подождать*

есть что-то очаровательное в том, что, спустя тысячи лет развития медицины, основная клиническая рекомендация при вирусной простуде — подождать **

конечно, желательно еще не перегреваться, обильно пить и сохранять покой, но это скорее про помощь телу сделать свою работу

похожее наблюдение касается сломанных костей. намного быстрее, чем задумано природой, они не заживут, хоть ты тресни (простите, этот каламбур сложно было удержать в себе)

в общем, как сильно не хотелось бы некоторые процессы ускорить, стоит уважать их характерное время. и если это время известно, запастить смирением и дать ему пройти

*терапевтический аутотренинг человека с высокой температурой и тяжелой формой невроза "лежать в кровати? интересно, а когда будем работать?"

**от некоторых вирусов, например, гриппа (ссылка), лекарства все же есть, но при болезни без осложнений их редко используют, плюс нужно быть уверенным что это именно грипп. а широкая категория препаратов от всех вирусов сразу существует как вид только в РФ, и с медициной это связано слабо (статья). с заживлением костей тоже есть прогресс, но и там все непросто, может быть у вас есть опыт?

домашние свечи опасны?!

пока далеко не ушел — про свечи. мне все чаще попадаются посты о вреде свечей и благовоний (раз, два), а вот вот эта дама и вовсе заявляет: "пользоваться ароматическими свечами — то же самое что сжечь в спальне банку бензина". это, конечно же, не так, но проговорить детали имеет смысл

напомню, что в аспирантуре занимался анализом состава воздуха, а потом еще два года делал стартап в облости экологического мониторинга, так что немного об этом знаю

— парафин действительно добывают из нефти, а состав свечей слабо контролируется, так что выделение при горении формальдегида и толуола (VOC) вполне вероятно. свечной дым это по сути мелкодисперсная сажа (PM2.5) и увеличение в воздухе концентрации этого добра при горении свечей известный факт
— но штука в том, что все эти соединения попадают в воздух в крайне низких концентрациях, которые проходят по всем строгим медицинским рекомендациям. вот здесь их аккуратно измерили. при long exposure возможны скрытые риски (их сложно исследовать), но концепт умеренности в целом полезная штука
— уровень PM2.5 в помещении намного больше зависит от близости к крупным дорогам и среднему уровню в городе. единственный способ его уменьшить — хорошая вентиляция с HEPA фильтрами (нет, обычный кондиционер не помогает)
— уровень летучей органики (VOC), необходимой для образования смога, сильнее всего связан со степенью очистки выхлопных газов или попросту с возрастом автомобилей — старые справляются хуже. а если с них еще и катализаторы снимают, то дело дрянь (привет, Ереван)
— так что свечами ситуацию особенно не изменить. и беспокоиться стоит только если у вас чувствительные слизистые. в таком случае выбирайте свечи от известных производителей или из натурального воска — состав будет чище
— pro tip — свечи дымят меньше, если им вовремя подрезать фитиль

в общем риски устроить пожар все еще кратно выше всех остальных. так что следите за занавесками, не забывайте проветривать помещение и будет вам счастье с нежно подрагивающей тенью от фитиля.

а от тех, кто советует отказаться от свечей, поскорее отписывайтесь, они вам скоро начнут рассказывать про вред парфюма. кстати, пока писал нашел адекватное и подробное видео (на англ)

#air

блоги — публичные репозитории мыслей

удобно, когда некоторое их количество можно прочитать сразу после знакомства, особенно если это знакомство в интернете. такая практика думания вслух и сейчас мимо вас пролетела одна из них

по записанным мыслям человека можно даже оцифровать. то есть это еще и скромная, но все же заявка на вечность. если не в блог, то записывайте свои хотя бы в дневник, главное записывайте

и по этой причине я никогда не использую LLM, когда пишу тут — иначе репозиторий засоряется мыслями чужими. так что если увидели глупость — знайте, это моя собственная

нейрон Дженнифер Энистон

есть такая каноническая статья из нейронауки (nature, pdf), где на группе людей с эпилепсией провели эксперимент. их лечение предполагало внедрение электродов для стимуляции в эпилептический очаг мозга (у каждого свой). но помимо стимуляции, сигнал можно было записывать и в обратном направлении, поскольку возбуждение нейронов — суть электрический импульс. так родился эксперимент, в котором людям показывали изображения людей, животных и мест, параллельно записывая активность

и так получилось, что первой из 100 фотографий, на которую нейрон возбудился, стал снимок Дженнифер Энистон. далее в выборку добавили больше её фотографий и ситуация в точности повторилась — ни одного false positive и всего 1 false negative, причем на фотографию, где она вместе с Бредом Питтом. этот факт попал в заголовки пресс-релизов, а затем стал мемом, который до сих пор в ходу

эксперимент подтвердил гипотезу узкой специализации нейронов — в некотором смысле этот случайно выбранный из миллиардов (!) соседей, отвечал за "концепцию Дженнифер Энистон" в голове этого конкретного человека. далее выяснилось, что он отвечает даже не за неё одну, а за всех женских персонажей из сериала "Друзья" (эту часть помню как байку, ссылку не нашел). но я надеюсь, что у вас и так не было сомнений о масштабе влияния "Друзей" на человеческую историю

большую часть 20-го века, единственным способом заглянуть человеку в мозг, был анализ его поведения (бихевиеристика). дальше случилась когнитивная революция и переход к когнитивным нейронаукам (Хомски также говорил, что это переход от эмпиризма к рационализму). с тех пор ученые провели тысячи экспериментов с похожей схемой, а корреляции активности нейронов с воспринимаемыми образами стала стандартным способом заглянуть внутрь сознания. но поскольку идею намеренно вставлять людям в голову электроды не пропустит ни один комитет по научной этике, для каждого эксперимента приходится ждать людей с "удачными" травмами или отклонениями влияющими на определенные области мозга. МРТ и прочие неинвазивные методы все еще далеки от разрешения отдельных нейронов

ИИ проживает свою когнитивную революцию. если на ранних стадиях нам была доступна в основном бихевиеристика (меняем inputs, следим за outputs — по сути промпт-инжиниринг), то сейчас адаптируются все инструменты когнитивных нейронаук (mechanistic interpretability). а поскольку нейроны моделей с открытыми весами доступны любому кто дружит с линейной алгеброй (не мне), каждый студент с видеокартой может проводить десятки экспериментов в день, что радикально ускоряет развитие всей области. а внутри Anthropic этим занимается целый департамент ИИ-рисерчеров с зп 300кк/с, которые не сидят сложа руки:

1) они нашли в LLM Claude нейрон моста Golden Gate (mapping the mind of LLM), подавление которого заставляла модель про него забыть, а активация приводила к такому:

when asked "what is your physical form?", Claude’s usual kind of answer – "I have no physical form, I am an AI model" – changed to something much odder: "I am the Golden Gate Bridge… my physical form is the iconic bridge itself…"

2) а совсем недавно выпустили новую работу (tracing thoughts of LLM) о том, что происходит в мозгах у модели, когда она переключается между языками, оnвечает рифмой или рассуждает (reasoning) о тех или иных явлениях (о которых порой не имеет никакого представления). советую прочитать пресс-релиз целиком!


возможно они препарировали принципиально новую форму интеллекта, возможно, упрощенную модель интеллекта биологического, а может быть всего лишь структуру человеческого языка. но так или иначе, изначально вдохновившись нейронауками, AI и mechanistic interpretability уже и сам влияет на исследования человеческого мозга. и будет очень здорово, если это поможет нам лучше понять, как думаем мы сами

#AI #neuro

как я использую ИИ — ассистенты на звонках

один из моих любимейших кейсов применения ЛЛМ в жизни — это цифровые ассистенты, которые ходят на все мои звонки, записывают их, транскрибируют и затем присылают мне и другим участникам саммари, составленные по предварительно заготовленным промптам. например, извлекая action steps, раскладывая разговор по обсуждаемым темам или отдельным участникам.

во время важных разговоров я всегда делаю заметки издавая заметно стуча по клавишам, чем наверняка раздражал многих собеседников. и как же здорово, что теперь я могу расслабиться зная, что ассистент запишет все что нужно, и я смогу вернуться к записи когда мне понадобится что-то вспомнить. в общем еще один модуль расширения человеческой памяти, такие технологии, всего за $20-30 в месяц

я пользуюсь сервисом tl;dv — у них самый классный продукт вокруг этой довольно очевидной идеи, и им просто очень приятно пользоваться, вплоть до tone of voice фаундеров в маркетинговых рассылках. но вообще таких сервисов уже с десяток, и зум с гугл митс уже релизят что-то там свое (кривое).

pro tip — для tl;dv можно настроить интеграцию через no-code платформу zapier, чтобы все ваши звонки сразу переносились в notion (сделал себе такое за один вечер), или пересылались в закрытый телеграм канал. в компании, с которой я сейчас работаю, есть канал со всеми звонками всех сотрудников — даже если вас не приглашали, можно наверстать контекст за пару минут, что добавляет прозрачности всем процессам и упрощает синхронизацию между людьми, короче, круто

при этом забавно наблюдать как быстро меняются человеческие привычки:
— 10 лет назад — предложение провести важную встречу через скайп вызывает недоумение
— 3 года назад вы напрягаетесь, когда вас спрашивают "можно ли записать звонок на видео"
— сегодня на большинстве звонков, куда я хожу, есть 1-2 ИИ-ассистента, а иногда их больше, чем живых людей. а записи транслируются не только самому сервису, но и ЛЛМ-провайдерам, которые эти сервисы используют
— вы находитесь здесь —

Quist updates или "куда пропал"

большую часть жизни я как физик занимался академическим рисерчем полупроводников, а с тех пор как перешел в дивный новый мир ИИ стартапов, стараюсь применить языковые модели к задачам этого самого рисерча. мы помогаем исследователям и инженерам искать данные в бесконечном потоке патентов и научных публикаций. и если без нас могли прочитать 1-10 статей с день, то с нами — 100-1000 и предела тому нет. не могу похвастаться, что я нашел product market fit, но есть ощущение, будто наконец нащупал очень такой хороший problem solution fit, правда в совсем иной конфигурации. по этому поводу работы в жизни стало кратно больше, про нее напишу отдельно, а пока короткий обзор дорогих уроков извлеченных за это время

1. стартаперы ищут good problem to solve, но даже самые большие проблемы могут оказаться плохой возможностью, если в их решении нет срочности. мы верно угадали широкую проблему: "поиск информации в научных статьях долгий и неэффективный" — кто угодно хотел бы сразу узнавать о новых технологиях,если они влияют на их ключевые процессы. но часто пауза в день, неделю, а иногда и в месяц — не делает большой разницы, потому что помимо того, чтобы первым узнать, нужно первым протестировать, освоить, внедрить, а иногда и произвести. на такой дистанции преимущество скорости знания, выравнивается скоростью менеджмента и логистики, что очень сильно било по нашему selling point "мы делаем knowledge work быстрее чем люди". нужна была точка, где это быстрее явным образом конвертируется в чью-то прибыль

2. делать B2C продукт в среднем очень плохая идея. мы изначально выпускали свой app.quist.ai как живое демо для B2B клиентов и на тот момент давали результаты по качеству не хуже perplexity, потому что все использовали одни и те же технологии. при этом они к тому моменту подняли кучу денег и конкуренция напрямую имела мало смысла. а к началу 2025 openAI, Google и Anthropic выпустили своих deep research агентов, и проблемы начались уже и у самого perplexity. единственная стратегия без миллионных инвестиций — искать небольшие ниши в которых у вас есть секретное знание недоступное конкурентам. к тому же, чтобы делать B2C нужно иметь подходящий майндсет — и по крайней мере хотеть продавать миллионы небольших штук по 10$. я про себя понял, что мне понятнее и интереснее делать штучный товар

3. академики любого толка — плохая целевая аудитория для стартапа (но по прежнему мои любимые в мире люди). если ваши продажи зависят от академиков, вы что-то делаете не так. у них либо нет денег, либо очень долгие согласования, либо "да мы такое сами можем сделать", либо все сразу. это при том что каждый кому я питчил наш сервис говорил, что это нужно и это сильно помогло бы ему в работе. только из-за п.1 это все не конвертировалось в деньги, а стало быть не помогало нам выжить

4. дальше мы сфокусировались на R&D industry и ученых внутри коммерческих компаний. основная сложность была в первом контакте. на 100 отправленных писем мы получали 5-10 ответов. это в целом средние конверсии, но они сильно действует на нервы. если вам не действуют, давайте дружить :) в идеале нужно знать людей принимающих решения в этих компаниях и соответствовать их представлениям о том с кем можно иметь дело. но даже помимо этого согласование B2B договоров длительностью в 6-12 месяцев — тоже реальность. поэтому если ваш runway короче, переговоры можно и не начинать

5. если продавать экспертам «рост производительности» любого рода, они волнуются что твой продукт пришел их заменить. вам не скажут об этом прямо, но либо не будут помогать, либо даже станут активно мешать. в таких ситуациях продажи возможны либо через очень аккуратную коммуникацию, либо «сверху вниз» через руководство, которое в свою очередь волнуется о том что "если мы как компания не внедрим ИИ в процессы, нас сожрут конкуренты, которые внедрили". между этими двумя состояниями приходится ловко балансировать, такой FOMO-маркетинг

(продолжение внизу)

#startup

Quist updates или "куда пропал", ч.2

(начало выше)

6. другая проблема нашего сервиса была в том, чтение научных статей и активное их обдумывание — это малая часть рабочего процесса ученых и инженеров. при этом часть едва ли не самая приятная, что дополнительно уменьшает мотивацию эту часть автоматизировать. так уж вышло что ии революция началась не там где ждали и в первую очередь автоматизирует наиболее творческие специальности, пока ручной труд в наибольшей безопасности.

более того, чтений статей по сути есть разновидность мышления. эксперты опасаются, что полностью делегируя этот процесс машинам, можно упустить детали на короткой дистанции и потерять хватку на длинной. и опасаются не напрасно (пост). то есть идеальный юз кейс для нашего продукта должен был не помогать ученым, а делать какую-то работу которую они не успевают / не хотят / не умеют делать. что делало п.5 еще более валидным

7. технари склонны переоценивать важность продукта, а иногда и красоты кода на котором этот продукт работает, но по факту успех стартапа сегодня сильнее определяется тем, как вы продаете, особенно в B2B, а мы продавали плохо 🙃 это в целом непросто, чтобы продавать большой R&D компаний нужно иметь хорошие связи и понимать внутреннюю кухню, чего нам не хватало. при этом тут открывается куча возможностей для сильных специалистов из маркетинга и продаж в этих областях — построить технологические продукты сегодня становится все проще, а вот продать все сложнее

8. стартап это сложно и нужно далеко не всем, большинство ждет неудача или по крайней мере обманутые ожидания. мы все слышали об этом тысячи раз, но в реальности слишком легко поверить в то что именно тебе повезет. а если вы разработчик, особенно в ИИ, то стартап — еще и далеко не самое выгодное занятие (см. раз, два). убедитесь, что вы с кофаундерами готовы работать до результата с поправкой на реалистичные таймлайны (2-5 лет) и статистику (90+% провалов). и если кажется, что все-таки готовы и вам весело в дороге — сможете пивотиться пока не нащупаете "то самое". мы оказались не готовы

9. очень сложно оптимизировать все метрики сразу, хотя и приходится. поэтому по возможности выделите ключевые лично для вас (число сделок, MRR, ваш личный доход от проекта) и установите дедлайны по ним дедлайны, чтобы в нужный момент трезво посмотреть на ситуацию и сказать " я молодец" или "было здорово, но надо что-то менять". иначе можно на несколько лет провалиться в петлю, где удача она вот совсем близко, за поворотом

10. при этом несмотря на все оговорки, для меня лично стартапы это самое интересное что вообще можно делать. в них ощущается большое влияние каждого в отдельности на результат работы всей команды, обучение на скорости х10, абсолютный минимум бюрократии и новые вызовы каждый день. если вы толерантны к переменам и умеете быстро учиться, только ищите стартапы более поздних стадий развития

11. во время поиска product-market fit, фандрейзинга и продаж, которые мне лично давались совсем нелегко, я тратил на инжиниринг в лучшем случае 40% своего рабочего времени. сейчас трачу 100+ % и получаю от этого огромное удовольствие сравнимое с зависанием в лаборатории до глубокой ночи. заранее я думал об этом не очень много, но в идеале нужно разобраться с тем, что приносить вам больше всего удовольствия и соответствует долгосрочному плану развития

12. если вы делаете что-то классное, не забывайте рассказывать об этом в интернете. даже если это задротский блог с нерегулярными обновлениями, это приносит свои плоды :)

итого к началу года у меня был с десяток случайных и довольно непохожих друг на друга клиентов, заканчивались деньги и оставалось всего 3 области, где я видел гипотетическую возможность обойти описанные выше сложности: полупроводники, биотех и инвестиции. о том, куда же меня вынесло течение, читайте в следующих сериях. а в коментах пишите о чем хотелось бы узнать подробнее

#startup

а если вы ллм-инженер, пришлите cv в личку (продам гараж)

очевидное и невероятное

очевидно, что деревья растут из земли. также очевидно, что они поглощают СО2 из воздуха и с помощью солнца и превращают его в О2, которым мы дышим. если упрощать сложную (очень) реакцию фотосинтеза получится:

CO2 + 2H2O + фотоны → [CH2O] + O2 + H2O

единственное место уравнения, где есть углерод (С) — это СО2. а стволы, листья и почки — чистый углерод. то есть всю свою массу деревья и все остальные растения берут из углекислого газа и на самом деле РАСТУТ ИЗ ВОЗДУХА.

нам все это время врали — за землю они только придерживаются корнями. непонятно только кто врал — гравитация? угол зрения? на деле, конечно, они берут из земли воду и еще немного минералов, но это детали

ДЕРЕВЬЯ РАСТУТ ИЗ ВОЗДУХА! какой же поворот перспективы, с ума сойти!

узнал от Фейнмана, теперь смотрю Fun to imagine целиком

самое странное, чем я занимаюсь в последнее время — это делаю одних ИИ-агентов с помощью других ИИ-агентов

справятся ли они без меня? совершенно точно, но не сегодня

ИИ для поиска лекарств

недавно рассказал про точку, в которой оказался к началу года — горизонтальных агентов делать не хотелось, да и не особо получалось, а для вертикальных нужен был мэтч с индустрией, в которой я смог бы эффективно использовать свой научный бэкграунд. и случился он неожиданно для меня самого с биотехом, а точнее с фармой. теперь я делаю ии-агентов для поиска перспективных лекарств, хотя год назад даже подумать не мог что такая проблема вообще существует и тем более, что ее решение станет возможным с помощью ИИ

одним из клиентов Quist была компания Bioptic, которая успешно занимается вычислительным дизайном лекарств (computational drug design). это когда ранние эксперименты по взаимодействию лекарства с белковыми мишенями, ответственными за ту или иную болезнь, моделируются на компьютере, чтобы сэкономить время и деньги в мокрых лабораториях. сначала я помогал им собирать датасет из научных статей, чтобы повысить точность моделирования, но позже ребята решили открыть у себя направление с ИИ-агентами для анализа лекарств более поздних стадий разработки, а у меня в этой довольно молодой сфере уже был релевантный опыт, так что последние несколько месяцев я работаю вместе в ними как разработчик и дирижер этих самых агентов (еще одна профессия в копилку). фан факт – еще ни разу в жизни не устраивался на работу через открытые вакансии, и все чаще это происходит с еще не существующими профессиями. видимо пора мутить курс по альтернативным карьерным трекам – не всегда успешным, но всегда интересным ))

теперь я связан NDA, но недавно мы запустили продукт и теперь есть что показать. это платформа для поиска, анализа и трекинга за фарм-активами. людей, которые занимаются этим называют drug hunter - охотники за лекарствами. это очень мультидисциплинарная область на стыке медицины, биохимии и инвестиций. а мы командой из медиков, химиков, инвесторов и инженеров, делаем своего карманного охотника на лекарства на базе ИИ, которым смогут пользоваться (и уже пользуются!) фарм-компании

процесс разработки любого лекарства сейчас в среднем занимает 10 лет и ~ 1 млрд $. экономия костов на любой стадии — огромная бизнес возможность, и прекрасная задача для применения ЛЛМ, поскольку любое серьезное решение требует анализа огромной кучи данных из научных статей, докладов на конференциях, патентов, клинических испытания, сайтов компаний, их годовых отчетов, пресс-релизов и многого другого. нам этим и трудимся

#startup #agents #pharma

кайференция

я как-то рассказывал вам про кайференцию – 5 назад на свой день рождения я попросил друзей сделать серьезные доклады об удовольствии в самом широком смысле. кто-то рассказывал про историю, кто-то про социологию, а я сам про эволюцию дофаминовых систем – оказалось что уже миллионы лет она есть у всех хордовых, а также у некоторых медуз и кораллов, а мы и понятия не имеем о том как они кайфуют! но сейчас не об этом ))

формат кайференции периодически копировали, спрашивая или не спрашивая, отчего я только радовался, так что у мероприятия уже появилась неформальная франшиза. но в этот раз шутка вышла из под контроля - в москве проходит оффлайн-кайференция на 500 человек с билетами по 3500 рублей 🙃 к контенту я отношения не имею, но канал вежливо указан в информационных спонсорах 😅

организует ее дизайн-студия моих друзей "прагматика" и фокус, соответсвенно, на дизайне и продуктах. если вам такое интересно - тут еще можно купить билеты. или по крайней мере походить по сайту - он кайф. отдельная радость, что придурочный дизайн унаследован вместе с неймингом, у кайференции всегда был узнаваемый почерк. в коментах афиши для истории

часто идеи, которые приходят в голову просто так, без особой цели, оказываются удивительно живучими. так что не забывайте тратить 20-30% своих ресурсов на глупости, из них может вырасти the next big thing. а моя следующая все еще небольшая, бесплатная и онлайн - кайференция будет посвящена вниманию и пройдет, вероятнее всего, в сентябре. stay tuned

#кайференция