Notice: file_put_contents(): Write of 19760 bytes failed with errno=28 No space left on device in /var/www/tgoop/post.php on line 50 Библиотека девопса | DevOps, SRE, Sysadmin@devopsslib P.3320
Недавно компания DeepSeek представила AI-модель DeepSeek-R1, которая сопоставима с передовыми западными аналогами, но при этом экономична и открыта для сообщества.
Развертывание этой модели на Amazon EC2 предоставляет разработчикам гибкость и масштабируемость для интеграции мощных AI-функций в свои приложения.
Основные шаги развертывания DeepSeek-R1 на Amazon EC2:
1️⃣Создание IAM роли: в AWS Management Console создайте роль для EC2 с необходимыми правами доступа, включая AmazonS3FullAccess и AmazonSSMManagedInstanceCore.
2️⃣Настройка EC2 экземпляра: запустите экземпляр EC2 с Amazon Linux 2, выбрав тип g4dn.xlarge, настройте сеть и создайте группу безопасности, разрешающую HTTP и HTTPS трафик.
3️⃣Подключение через SSM: используйте AWS Systems Manager для подключения к экземпляру без необходимости в открытых SSH-портах.
4️⃣Установка драйверов NVIDIA и Docker: установите необходимые драйверы для GPU и настройте Docker для работы с NVIDIA.
5️⃣Развертывание Ollama и модели DeepSeek-R1: установите Ollama Server и загрузите модель DeepSeek-R1-Distill-Qwen-14B для обработки AI-запросов. 6️⃣ Настройка Application Load Balancer: создайте балансировщик нагрузки для обеспечения доступа к веб-интерфейсу Ollama, что позволит взаимодействовать с моделью через браузер.
Недавно компания DeepSeek представила AI-модель DeepSeek-R1, которая сопоставима с передовыми западными аналогами, но при этом экономична и открыта для сообщества.
Развертывание этой модели на Amazon EC2 предоставляет разработчикам гибкость и масштабируемость для интеграции мощных AI-функций в свои приложения.
Основные шаги развертывания DeepSeek-R1 на Amazon EC2:
1️⃣Создание IAM роли: в AWS Management Console создайте роль для EC2 с необходимыми правами доступа, включая AmazonS3FullAccess и AmazonSSMManagedInstanceCore.
2️⃣Настройка EC2 экземпляра: запустите экземпляр EC2 с Amazon Linux 2, выбрав тип g4dn.xlarge, настройте сеть и создайте группу безопасности, разрешающую HTTP и HTTPS трафик.
3️⃣Подключение через SSM: используйте AWS Systems Manager для подключения к экземпляру без необходимости в открытых SSH-портах.
4️⃣Установка драйверов NVIDIA и Docker: установите необходимые драйверы для GPU и настройте Docker для работы с NVIDIA.
5️⃣Развертывание Ollama и модели DeepSeek-R1: установите Ollama Server и загрузите модель DeepSeek-R1-Distill-Qwen-14B для обработки AI-запросов. 6️⃣ Настройка Application Load Balancer: создайте балансировщик нагрузки для обеспечения доступа к веб-интерфейсу Ollama, что позволит взаимодействовать с моделью через браузер.
Just at this time, Bitcoin and the broader crypto market have dropped to new 2022 lows. The Bitcoin price has tanked 10 percent dropping to $20,000. On the other hand, the altcoin space is witnessing even more brutal correction. Bitcoin has dropped nearly 60 percent year-to-date and more than 70 percent since its all-time high in November 2021. Choose quality over quantity. Remember that one high-quality post is better than five short publications of questionable value. The SUCK Channel on Telegram, with a message saying some content has been removed by the police. Photo: Telegram screenshot. The group’s featured image is of a Pepe frog yelling, often referred to as the “REEEEEEE” meme. Pepe the Frog was created back in 2005 by Matt Furie and has since become an internet symbol for meme culture and “degen” culture. How to create a business channel on Telegram? (Tutorial)
from us
