NVIDIA завезла нативную поддержку Python в CUDA

Теперь можно напрямую использовать ускорение на GPU прямо из Python — что сильно упрощает работу над проектами в сфере ИИ, машинного обучения и научных вычислений. Никаких обёрток, костылей и танцев с C/C++.

— CUDA Core — переосмыслен для Python: здесь сделан упор на JIT-компиляцию и минимизацию зависимостей
— cuPyNumeric — прокачанная версия NumPy, работающая на GPU
— NVMath — поддержка линейной алгебры, совместима с хостом и устройством
— Добавлены инструменты для профилирования и анализа кода
— Новый подход к параллельным вычислениям — CuTile. Абстракция не на уровне потоков, а на уровне массивов и тайлов

Посмотреть презентацию можно тут ✌️

👉 @PythonPortal

Если вы только начинаете заниматься ML/DL и переживаете, что придётся потратить недели на подтягивание математики, поверьте — этого видео вам достаточно.

Это видео длится 5 часов, и этого вполне достаточно, чтобы начать.

Не усложняйте

https://www.youtube.com/watch?v=Ixl3nykKG9M

👉 @DataSciencegx

Сделайте sentence transformers в 50 раз меньше и в 500 раз быстрее

Model2Vec преобразует любой sentence transformer в компактную статическую модель с минимальной потерей качества. Кроме того, он обеспечивает мгновенный векторный поиск по миллионам документов без предварительной индексации.

Полностью с открытым исходным кодом

https://github.com/MinishLab/model2vec/tree/main

👉 @DataSciencegx

Полный краш-курс по MCP для Python-разработчиков

– Что такое MCP и как он устроен
– Как поднять свой MCP-сервер
– Подключение Python-приложений к MCP
– Интеграция LLM-моделей с MCP
– MCP против function calling
– Деплой в Docker
– Управление жизненным циклом

Гайд для тех, кто хочет строить AI-системы на базе MCP и выйти за рамки базовых туториалов:
https://www.youtube.com/watch?v=5xqFjh56AwM

👉 @DataSciencegx

Открытый репозиторий по Data Science для изучения и применения в решении реальных задач.

Это упрощённый путь для начала изучения Data Science.

Всё необходимое вы найдёте здесь: https://github.com/academic/awesome-datascience

👉 @DataSciencegx

Подключите любую LLM к любому MCP-серверу

MCP-Use — это open-source способ подключить любую LLM к любому MCP-серверу и создавать кастомных агентов с доступом к инструментам без использования проприетарных решений или клиентских приложений.

Создавайте полностью локальные MCP-клиенты: https://github.com/pietrozullo/mcp-use

👉 @DataSciencegx

Стэнфорд выкатил свежий курс по LLM — CS336: Language Modeling from Scratch

Курс с фокусом на практику: вся теория по LLM раскрывается через создание собственной модели. Ты изучаешь всё end-to-end — от обработки данных и архитектуры трансформеров до RL и эвала

Ведёт курс Перси Лианг — профессор Стэнфорда и сооснователь TogetherAI.

Курс прямо сейчас идёт в Стэнфорде, и лекции заливаются по ходу — контент свежий, как только из печи

Первые лекции здесь, а домашка и ноутбуки — тут.

👉 @DataSciencegx

4 стратегии обучения на нескольких GPU, объяснённые наглядно:

👉 @DataSciencegx

Эта лекция о больших языковых моделях (LLM) обязательна к просмотру для инженеров в области ИИ.

Полуторачасовая лекция охватывает: токенизацию, законы масштабирования, дообучение, оценку, оптимизацию, вызовы, затраты и многое другое.

От Стэнфорда, около 1 млн просмотров

https://www.youtube.com/watch?v=9vM4p9NN0Ts

👉 @DataSciencegx

Этот репозиторий на GitHub — настоящая находка для ML-специалистов

Репозиторий Kaggle Solutions собирает решения и идеи от лучших участников прошлых соревнований Kaggle. Список регулярно обновляется после каждого соревнования.

Он охватывает интервью по машинному обучению, лекции и решения

https://github.com/faridrashidi/kaggle-solutions

👉 @DataSciencegx

Вот как запустить модель случайного леса на GPU

Hummingbird компилирует обученные традиционные модели машинного обучения в тензорные вычисления. Это позволяет запускать их на аппаратных ускорителях, таких как GPU, для более быстрой инференции.

Инференция в 40 раз быстрее всего за 2 строки кода

👉 @DataSciencegx

Внутренности PyTorch

Подробное руководство о том, как разобраться в кодовой базе PyTorch и начать вносить вклад в её развитие

https://blog.ezyang.com/2019/05/pytorch-internals/

👉 @DataSciencegx

Один из лучших гайдов по выборке в больших языковых моделях (LLM Sampling) вышел, написанный создателем движка инференса Aphrodite (этот парень реально обожает сэмплеры)

https://rentry.org/samplers

👉 @DataSciencegx

Создание трансформера с нуля
https://github.com/DorsaRoh/Machine-Learning

Реализация и подробное объяснение трансформера, с расчётом на полное отсутствие предварительных знаний.

Приятного изучения ✌️

👉 @DataSciencegx

Эти лекции были записаны 10 лет назад, но до сих пор, вероятно, остаются одними из лучших по следующим темам — теория информации и распознавание образов.

Основаны на книге Information Theory, Inference, and Learning Algorithm

https://www.youtube.com/playlist?list=PLruBu5BI5n4aFpG32iMbdWoRVAA-Vcso6

👉 @DataSciencegx

Нашел видеоуроки по построению DeepSeek с нуля — уже вышло 25 выпусков. Объясняется неплохо, можно смотреть вместе с руководством по построению DeepSeek с нуля на HuggingFace.

Ссылка: http://youtube.com/watch?v=QWNxQIq0hMo&list=PLPTV0NXA_ZSiOpKKlHCyOq9lnp-dLvlms

👉 @DataSciencegx

Нарыл годную визуализацию для тех, кто хочет на пальцах понять, как устроены LLM. Тут можно не просто почитать про слои моделей, а буквально пощупать их, покрутить со всех сторон в 3D

Есть GPT-2, nanoGPT, GPT-2 XL и GPT-3

Лучше запускать с компа, на мобиле не так красиво

👉 @DataSciencegx

Hugging Face выкатили бесплатный курс по MCP (Model Context Protocol) — всё, что нужно, чтобы разобраться, как это работает и как использовать на практике.

Покажут, что такое MCP, как коннектить LLM-ки, как разворачивать свои MCP-сервера. Без воды, только суть.

Курс бесплатный. Ссылка: https://huggingface.co/learn/mcp-course/unit0/introduction

👉 @DataSciencegx