Notice: file_put_contents(): Write of 24970 bytes failed with errno=28 No space left on device in /var/www/tgoop/post.php on line 50
Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение@dsproglib P.6325
DSPROGLIB Telegram 6325
🐳 Чек-лист: использование Docker в задачах Data Science

Цель: обеспечить воспроизводимость, удобную работу с зависимостями и подготовку модели к деплою с помощью контейнеризации.

1️⃣ Установка и проверка Docker

🟣Установите Docker Desktop или Docker Engine для Linux

🟣Проверьте установку командой:
  docker --version


🟣 Выполните тестовый запуск:
  docker run hello-world


Это подтвердит, что Docker работает корректно.

2️⃣ Создание Dockerfile для проекта

🟣 Выберите подходящий базовый образ:
python:3.11-slim — компактный образ на Python
jupyter/datascience-notebook — включает Jupyter и популярные библиотеки

🟣Создайте файл Dockerfile и опишите в нём:
  FROM python:3.11-slim
WORKDIR /app
COPY . .
RUN pip install -r requirements.txt


🟣Убедитесь, что файл requirements.txt содержит все зависимости проекта

3️⃣ Подготовка окружения для воспроизводимости

🟣 Укажите фиксированные версии библиотек в requirements.txt, например:
  pandas==2.2.1
numpy==1.26.0


🟣 Добавьте .dockerignore, чтобы исключить ненужные файлы:
  .git
*.csv
__pycache__/


🟣 Постройте образ:
  docker build -t my-ds-image .


4️⃣ Работа с данными в контейнере

🟣 Подключите локальные данные:
  docker run -v /path/to/data:/app/data my-ds-image


🟣 Запустите Jupyter Notebook внутри контейнера:
  docker run -p 8888:8888 my-ds-image jupyter notebook --ip=0.0.0.0 --allow-root


🟣 При необходимости работы с GPU:
— Убедитесь, что установлен nvidia-docker
— Используйте флаг --gpus all

5️⃣ Тестирование и отладка

🟣 Получите интерактивный доступ к контейнеру:
  docker run -it my-ds-image bash


🟣Проверьте, работают ли библиотеки:
  python -c "import pandas; print(pandas.__version__)"


🟣 Просмотрите логи выполнения контейнера:
  docker logs <container_id>


6️⃣ Деплой модели как API

🟣 Напишите API на Flask или FastAPI (файл app.py)

🟣 Укажите в Dockerfile команду запуска:
  CMD ["python", "app.py"]


🟣 Запустите модель как сервис:
  docker run -p 5000:5000 my-ds-image  


🚩 Полезные инструменты и образы

🟣 Docker Compose — для запуска нескольких контейнеров (например, модель + база данных)

🟣 Образы:
tensorflow/tensorflow:latest-gpu — с поддержкой GPU
continuumio/anaconda3 — включает Anaconda и библиотеки

🔎 Рекомендация

Храните Dockerfile и requirements.txt в репозитории. Это залог воспроизводимости и эффективной командной работы в проектах Data Science.

Библиотека дата-сайентиста #буст
Please open Telegram to view this post
VIEW IN TELEGRAM
❤‍🔥6👍51



tgoop.com/dsproglib/6325
Create:
Last Update:

🐳 Чек-лист: использование Docker в задачах Data Science

Цель: обеспечить воспроизводимость, удобную работу с зависимостями и подготовку модели к деплою с помощью контейнеризации.

1️⃣ Установка и проверка Docker

🟣Установите Docker Desktop или Docker Engine для Linux

🟣Проверьте установку командой:

  docker --version


🟣 Выполните тестовый запуск:
  docker run hello-world


Это подтвердит, что Docker работает корректно.

2️⃣ Создание Dockerfile для проекта

🟣 Выберите подходящий базовый образ:
python:3.11-slim — компактный образ на Python
jupyter/datascience-notebook — включает Jupyter и популярные библиотеки

🟣Создайте файл Dockerfile и опишите в нём:
  FROM python:3.11-slim
WORKDIR /app
COPY . .
RUN pip install -r requirements.txt


🟣Убедитесь, что файл requirements.txt содержит все зависимости проекта

3️⃣ Подготовка окружения для воспроизводимости

🟣 Укажите фиксированные версии библиотек в requirements.txt, например:
  pandas==2.2.1
numpy==1.26.0


🟣 Добавьте .dockerignore, чтобы исключить ненужные файлы:
  .git
*.csv
__pycache__/


🟣 Постройте образ:
  docker build -t my-ds-image .


4️⃣ Работа с данными в контейнере

🟣 Подключите локальные данные:
  docker run -v /path/to/data:/app/data my-ds-image


🟣 Запустите Jupyter Notebook внутри контейнера:
  docker run -p 8888:8888 my-ds-image jupyter notebook --ip=0.0.0.0 --allow-root


🟣 При необходимости работы с GPU:
— Убедитесь, что установлен nvidia-docker
— Используйте флаг --gpus all

5️⃣ Тестирование и отладка

🟣 Получите интерактивный доступ к контейнеру:
  docker run -it my-ds-image bash


🟣Проверьте, работают ли библиотеки:
  python -c "import pandas; print(pandas.__version__)"


🟣 Просмотрите логи выполнения контейнера:
  docker logs <container_id>


6️⃣ Деплой модели как API

🟣 Напишите API на Flask или FastAPI (файл app.py)

🟣 Укажите в Dockerfile команду запуска:
  CMD ["python", "app.py"]


🟣 Запустите модель как сервис:
  docker run -p 5000:5000 my-ds-image  


🚩 Полезные инструменты и образы

🟣 Docker Compose — для запуска нескольких контейнеров (например, модель + база данных)

🟣 Образы:
tensorflow/tensorflow:latest-gpu — с поддержкой GPU
continuumio/anaconda3 — включает Anaconda и библиотеки

🔎 Рекомендация

Храните Dockerfile и requirements.txt в репозитории. Это залог воспроизводимости и эффективной командной работы в проектах Data Science.

Библиотека дата-сайентиста #буст

BY Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение




Share with your friend now:
tgoop.com/dsproglib/6325

View MORE
Open in Telegram


Telegram News

Date: |

Healing through screaming therapy Deputy District Judge Peter Hui sentenced computer technician Ng Man-ho on Thursday, a month after the 27-year-old, who ran a Telegram group called SUCK Channel, was found guilty of seven charges of conspiring to incite others to commit illegal acts during the 2019 extradition bill protests and subsequent months. When choosing the right name for your Telegram channel, use the language of your target audience. The name must sum up the essence of your channel in 1-3 words. If you’re planning to expand your Telegram audience, it makes sense to incorporate keywords into your name. Add the logo from your device. Adjust the visible area of your image. Congratulations! Now your Telegram channel has a face Click “Save”.! Those being doxxed include outgoing Chief Executive Carrie Lam Cheng Yuet-ngor, Chung and police assistant commissioner Joe Chan Tung, who heads police's cyber security and technology crime bureau.
from us


Telegram Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
FROM American