DATA_WONDERING Telegram 76
Как начать работать с локальными LLM?

Пока пилил свой очередной долгострой-pet-проект, успел сделать небольшой туториал по быстрой настройке и работе с локальными LLM.

В туториале самое основное для старта — стандартная Ollama и open-webui + базовые примеры, вроде суммаризации текстов, structured outputs и, конечно, модели, которая умеет определять хот-дог от не хот-дога.

Почему локальные, а не OpenAI, Anthropic и прочие ребята? Во-первых, потому что мы можем. Во-вторых, это отличная возможность потренироваться с промптами, потрогать разные модели и научиться работать с API, которые более-менее универсальны между провайдерами. И всё это без необходимости платить кому-либо. Ну и, наконец, для каких-то простых задач, вроде выделения определенной информации из текста, локальные модели можно вполне успешно использовать. Осталось только самому засесть и доделать, наконец, свою статью про битвы из википедии 😬
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥82



tgoop.com/data_wondering/76
Create:
Last Update:

Как начать работать с локальными LLM?

Пока пилил свой очередной долгострой-pet-проект, успел сделать небольшой туториал по быстрой настройке и работе с локальными LLM.

В туториале самое основное для старта — стандартная Ollama и open-webui + базовые примеры, вроде суммаризации текстов, structured outputs и, конечно, модели, которая умеет определять хот-дог от не хот-дога.

Почему локальные, а не OpenAI, Anthropic и прочие ребята? Во-первых, потому что мы можем. Во-вторых, это отличная возможность потренироваться с промптами, потрогать разные модели и научиться работать с API, которые более-менее универсальны между провайдерами. И всё это без необходимости платить кому-либо. Ну и, наконец, для каких-то простых задач, вроде выделения определенной информации из текста, локальные модели можно вполне успешно использовать. Осталось только самому засесть и доделать, наконец, свою статью про битвы из википедии 😬

BY Data Wondering




Share with your friend now:
tgoop.com/data_wondering/76

View MORE
Open in Telegram


Telegram News

Date: |

It’s yet another bloodbath on Satoshi Street. As of press time, Bitcoin (BTC) and the broader cryptocurrency market have corrected another 10 percent amid a massive sell-off. Ethereum (EHT) is down a staggering 15 percent moving close to $1,000, down more than 42 percent on the weekly chart. 4How to customize a Telegram channel? On Tuesday, some local media outlets included Sing Tao Daily cited sources as saying the Hong Kong government was considering restricting access to Telegram. Privacy Commissioner for Personal Data Ada Chung told to the Legislative Council on Monday that government officials, police and lawmakers remain the targets of “doxxing” despite a privacy law amendment last year that criminalised the malicious disclosure of personal information. During a meeting with the president of the Supreme Electoral Court (TSE) on June 6, Telegram's Vice President Ilya Perekopsky announced the initiatives. According to the executive, Brazil is the first country in the world where Telegram is introducing the features, which could be expanded to other countries facing threats to democracy through the dissemination of false content. How to create a business channel on Telegram? (Tutorial)
from us


Telegram Data Wondering
FROM American