Немножечко городской природы вам в ленту

Интересное что-то от ребят, кого я читаю v0.20

Предыдущий пост тут
Интересное что-то тут

Всех с новой неделей, го почитаем интересное:

1. Начнем с необычного - некоторое время в каналах по ллмкам (больше всего мне зашел пост Сергея) гуляют ссылки на интересную статью про то, как модель сломали, обучив на коде с уязвимостями, что привело просто к неожиданному - alignment модели сломался. Подробнее в посте и приложенных статьях.

2. Татьяна поделилась классным выступлением Тима Роктешела про ворлд моделинг. Говорят, что это очень хороший и своевременный обзорный доклад про новые приоритеты в исследовании ИИ: reinforcement learning, фундаментальные модели, проблемы бенчмарков, агентов и акселерации науки. Короче, го слушать.

3. Сева нашел классный курс про RAG с нуля на Питоне. До этого не видел подобных материалов, обычно весь код ограничивался туториалами с лангчейна или импорта RAGTools. Думаю точно потыкаю, очень интересно! Кстати, он же писал про важность правильного дизайна проектов с LLMками.

4. Женя рассказал про разницу между zero-shot и few-shot подходами в промптинге. Казалось бы, вроде все про это знают, а по моим опросам оказалось что нет. Хоть курс по промптингу запускай!

5. Другой Женя поделился интересным гайдом для СДВГшников, который оказывается может пригодиться каждому из нас. Не знаю как вы, но я буквально часто сталкиваюсь с похожими проблемами. Мб надо пройти тест, тогда точно будет понятно.

Кстати, если у вас есть классные материалы или курсы по промптингу, кидайте в комментарии!

#interesting

Узнали?
Было?

UPD. Контекст тут

#meme

nano-vllm

На прошлой неделе в опенсорс сообществе появился интересный проект - nano-vLLM. Это написанная с нуля минимальная версия движка vLLM. Проект кстати создан исследователем из DeepSeek (это к слову о том, почему важно заниматься своими пет-проектами). У чела всего 1200 строк Python-кода, но при этом он воспроизводит ключевой функционал vLLM. Причем за 2 недели набралось больше 4к звезд

Из названия прослеживается явная отсылка к нашумевшему nanoGPT Андрея Карпатого. И сходства действительно радуют: оба проекта созданы для понимания того, как работают сложные системы "под капотом", при это написан читаемый код без лишних абстракций. А еще есть реализация основных возможностей. Короче, можно просто форкнуть и потыкать для своих целей.

Говорят, что проводили замеры на RTX 4070 в сравнении с моделью Qwen3-0.6B (256 запросов), где нановллм уступил всего 3%. Выводы думаю можете сделать сами.

API не трогал, но заявлено, что похож на оригинальный vLLM. Примеры есть в example.py.

Короче, вот ссылка на репозиторий.

#llm #petproject

Интересное что-то от ребят, кого я читаю v0.21

Предыдущий пост тут
Интересное что-то тут

Всех с новой неделей, го почитаем интересное:

1. Рефат поделился подборкой промптинг гайдов для NotebookLM. Удобно применять как RAG по этой базе знаний. Можно например попросить составить промпт, улучшить его или оптимизировать под другую модель.

2. Валера выложил свою презентацию, где он рассказывал про Workflow LLM системы. Короче, реальный опыт практикующего чела - рекомендую ознакомиться.

3. Ринат пишет про типичный паттерн проектирования системы с LLM под капотом. Там и Парсинг хитрых документов с разными либками и включение human in the loop, и анализ документов ллмками с SO CoT, и даже интерфейс, который был собран вайбкодингом разными инструментами!

4. Другой Валера размышлял про майндсет тимлида и его руководителя. Вся суть в майндсете и целях. Если тимлиду команды нужно всеми силами работать над долгосрочным перфомансом своей команды и ее выхлопом, то лид лидов уже мыслит в рамках эффективности всей компании и делает хорошо стратегически.

5. Наш Тоха поделился видением самоотзыва на ревью со стороны тимлида. Почему важно писать коротко и понятно без больших полотен текста, и для чего все-таки надо работать над оцифровкой эффектов.

Интересного по классике больше, но постарался приложить самое годное. Если у вас есть что добавить, кидайте в коменты.

#interesting

Прокрастинация

Думаю, вы знакомы с удивительным феноменом: чем важнее задача, тем больше хочется заняться чем угодно, только не ей.

Нужно писать диплом?

Отлично, самое время просмотреть все 400 непрочитанных каналов с постами коллег или послушать свою волну в Яндекс Музыке. Либо разобрать загрузки по папочкам и полезностям, хотя вряд ли к ним вернусь.

Сдать курсовую завтра?

Идеальный момент, чтобы появилось желание помыть посуду или пропылесосить. Ух, главное чтобы еще и пыль протирать не захотелось - так и до генеральной уборки недалеко (к слову, не люблю убираться, поэтому при появлении желания или рвения обязательно это использую).

Давайте потратим 6 часов на изучение истории Пауэр Рейнжеров вместо того, чтобы за 10 минут пофиксить тот тупой баг, чтобы запустить расчет на полдня. Или там поработать над курсом по промптингу. Кстати, было и обратное - однажды я потратил все выходные на то, чтобы разобраться с очень мелкой и тупой ошибкой. Хотя внимательно посмотреть один раз - и проблема решена, ну или либо в гпт загнать.

И реально сидишь кайфуешь - почему бы не узнать про символизм в фильме Револьвер, или почитать отзывы на фильм Ненависть 1995 года. Мозг выдает хоть и не ощущение продуктивности, но сколько же это удовольствия. К сожалению не 100%-го. Потому что на фоне постоянно сидишь с мыслями о том, а че когда вот задачку делать? Опять ночью? И потихоньку накручивается все

Что мешает просто сесть и сделать? Ничего! Но как себя заставить? Что сказать мозгу? Почему он панически боится неопределенности, сложности, возможности неудачи и ему нужно столько энергии, чтобы хоть что-то начать?

Хочется по-другому. Захотелось - и можешь откладывать дела с максимальным удовольствием, без чувства вины. Или наоборот - если нужно, сразу садишься за самое важное дело без каких-либо странных мыслей. Короче, не лениться.

А что, если прокрастинация - это не лень. Это страх. Страх не справиться. Сделать плохо. Потратить время впустую. Избежать возможной неудачи. Или есть закономерность: чем больше я думаю о задаче, тем страшнее она кажется. Чем дольше откладываю - тем сложнее она становится? А что если поменять подход? Не думать и не откладывать. Вдруг эта привычка на самом деле бережет наш ресурс?

Давайте ее использовать.

Не нужно сразу бросаться целиком на большую задачу. Если она маленькая и можно сделать здесь и сейчас за пару минут? Давайте сделаем. Занимает времени больше и пора бы уже сделать - давайте поставим минимальную цель: поработать над задачей 1 минуту. Часто этого хватает, чтобы преодолеть барьер входа и втянуться.

Иногда можно договориться с собой: "Буду прокрастинировать, но продуктивно". Вместо соцсетей - почитать литературу. Вместо рилсиков - видосики по развитию. Это все еще прокрастинация, но уже слегка полезная. Поэтому я прокрастинирую через чтение каналов и репостов интересных постов.

Важно себя не ругать. Зачем тратить энергию на чувство вины? Можно просто принять: мы все прокрастинируем. Это не баг, это фича человеческой психики. Вопрос не в том, как полностью избавиться от этого, а в том, как это перевернуть в свою сторону. Понять сигналы тела, использовать применить разные техники, чтобы высвободить эмоции и энергию.

И вообще рекомендую задуматься, почему в нашей жизни появляется прокрастинация и в принципе работать над этим в долгосроке.

Ссылочки: 1, 2, 3, 4

#softskills

Интересное что-то от ребят, кого я читаю v0.22

Предыдущий пост тут
Интересное что-то тут

Нашлось немножечко интересного:

1. Сергей приложил несколько интересных папир про элаймент картиночных моделей. В чем дело - если ответ текстовой модели можно видоизменить в конце, когда она дорасскажет, что произошло на площади Тяньаньмэнь, либо просто она выдаст, что поговорить на эту тему не получится, то в случае с картиночными модельками она должна хоть что-то выдать. И тут стоит задача понять эти концепты скользких тем.

2. Макс нашел и кратко суммаризовал статью, где рассказывается про систем дизайн Курсора. Интересно, что он сначала индексирует репозиторий, чтобы потом это засунуть в древоподобную структуру - считайте, в некотором роде RAG. Ну и для автодополнения используется контекст уже локальный в том куске кода, для которого он генерируется.

3. Дядька выступил с презентацией, чтобы уже наконец научиться держать нас ллм за рага (именно так называется доклад). В дополнение конечно же выложена презентация. Рекомендую к изучению.

4. Артемий написал небольшой конспект основных советов от CPO OpenAI. Там же сразу есть и вторая часть. Все в духе того, как преуспеть и что вообще делать.

5. Немного квантового вам в ленту - Квант Ресерчер поделился списком репозиториев для квантов. Там есть все: и бэктестинг, и проверка стратегий, и факторный анализ, и даже отчеты. Бонусом есть работа с опционами, но на свой страх и риск.

6*. Гриша рассказал про 2 недавно прочитанные им книги: "Einstein's Mirror" и "The New Quantum Universe" про теорию относительности и квантовый мир соответственно. Далее цитата: "это правильный микс сути и деталей различных открытий, интуиции за всем этим, и исторического контекста, включая что было неверно и от каких идей отказались и почему". Думаю больше слов не надо.

#interesting

Случайное на случайное

задача от коллег

Даны два случайных числа x и y, значения которых равномерно распределены от 0 до 1. Какова вероятность того, что округление результата деления одного из чисел на другое будет четным числом?

#problem