QUANT_PRUNE_DISTILL Telegram 492
Выложили квантизованную в 4️⃣ бита модель DeepSeek-R1-0528!

Качество при ризонинге сохраняется на 99,82% (среднее по AIME/GPTQ/MATH500).

🔊 DeepSeek-R1-0528 стал ещё более "болтливым" 🗣, поэтому для лучших результатов (как исходной, так и квантизованной модели) рекомендуется увеличить контекст до 65К токенов.

Модель на 🤗:
- ISTA-DASLab/DeepSeek-R1-0528-GPTQ-4b-128g-experts
👍15🔥3



tgoop.com/quant_prune_distill/492
Create:
Last Update:

Выложили квантизованную в 4️⃣ бита модель DeepSeek-R1-0528!

Качество при ризонинге сохраняется на 99,82% (среднее по AIME/GPTQ/MATH500).

🔊 DeepSeek-R1-0528 стал ещё более "болтливым" 🗣, поэтому для лучших результатов (как исходной, так и квантизованной модели) рекомендуется увеличить контекст до 65К токенов.

Модель на 🤗:
- ISTA-DASLab/DeepSeek-R1-0528-GPTQ-4b-128g-experts

BY КПД




Share with your friend now:
tgoop.com/quant_prune_distill/492

View MORE
Open in Telegram


Telegram News

Date: |

So far, more than a dozen different members have contributed to the group, posting voice notes of themselves screaming, yelling, groaning, and wailing in various pitches and rhythms. To edit your name or bio, click the Menu icon and select “Manage Channel.” fire bomb molotov November 18 Dylan Hollingsworth yau ma tei The initiatives announced by Perekopsky include monitoring the content in groups. According to the executive, posts identified as lacking context or as containing false information will be flagged as a potential source of disinformation. The content is then forwarded to Telegram's fact-checking channels for analysis and subsequent publication of verified information.
from us


Telegram КПД
FROM American