NEURAL Telegram 10165
🚀 EmbeddingGemma — лёгкие SOTA-эмбеддинги

🔹 308M параметров, построена на Gemma 3
🔹 Лидирует в MTEB среди моделей <500M (мультиязычные, английский, код)
🔹 По качеству сопоставима с моделями в 2 раза больше
🔹 Эффективна даже при 4-битной квантовке и 128-мерных эмбеддингах

⚙️ Технические фишки:
- инициализация через encoder-decoder + геометрическая дистилляция,
- spread-out регуляризатор + model souping для устойчивости.

📱 Подходит для on-device сценариев и задач с высоким пропуском (high-throughput).

https://ai.google.dev/gemma/docs/embeddinggemma?hl=ru

#AI #Embeddings #Gemma3 #MTEB #NLP



tgoop.com/neural/10165
Create:
Last Update:

🚀 EmbeddingGemma — лёгкие SOTA-эмбеддинги

🔹 308M параметров, построена на Gemma 3
🔹 Лидирует в MTEB среди моделей <500M (мультиязычные, английский, код)
🔹 По качеству сопоставима с моделями в 2 раза больше
🔹 Эффективна даже при 4-битной квантовке и 128-мерных эмбеддингах

⚙️ Технические фишки:
- инициализация через encoder-decoder + геометрическая дистилляция,
- spread-out регуляризатор + model souping для устойчивости.

📱 Подходит для on-device сценариев и задач с высоким пропуском (high-throughput).

https://ai.google.dev/gemma/docs/embeddinggemma?hl=ru

#AI #Embeddings #Gemma3 #MTEB #NLP

BY Neural Networks | Нейронные сети




Share with your friend now:
tgoop.com/neural/10165

View MORE
Open in Telegram


Telegram News

Date: |

Hashtags are a fast way to find the correct information on social media. To put your content out there, be sure to add hashtags to each post. We have two intelligent tips to give you: Activate up to 20 bots The visual aspect of channels is very critical. In fact, design is the first thing that a potential subscriber pays attention to, even though unconsciously. With the sharp downturn in the crypto market, yelling has become a coping mechanism for many crypto traders. This screaming therapy became popular after the surge of Goblintown Ethereum NFTs at the end of May or early June. Here, holders made incoherent groaning sounds in late-night Twitter spaces. They also role-played as urine-loving Goblin creatures. Done! Now you’re the proud owner of a Telegram channel. The next step is to set up and customize your channel.
from us


Telegram Neural Networks | Нейронные сети
FROM American