PRO_NOCODE Telegram 430
Считаем денежки токены в Open AI Ассистентах в n8n

Если собираете агента в n8n, у вас есть несколько вариантов, как это сделать:
⁃ Лэнгчейн нода Agent, куда подключаете модели, БД, тулзы и т.д
⁃ Самостоятельно собирать флоу с "мозгами" агента и контролировать runs и вызовы функций на своей стороне. Не сегодня
⁃ Вызывать ноду OpenAI - Message assistant

Не знаю почему, но нативно и удобно из первого и третьего варианта нельзя вытаскивать usage - то есть вы не видите сколько токенов тратится у вас за один вызов агента. Но вот как вы можете просто делать это одним дополнительным вызовом к API Open AI.

После выполнения ноды Assistant у вас в ответе будет только thread_id и output. Чтобы получить логи просто отправьте вызов и передайте параметр thread_id из ноды


curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"


В ответе у вас будет массив из run и вам нужно просто достать последний run - внутри него будет usage.

Если дополнительно хотите посмотреть что происходило внутри этого рана, можно отправить запрос на


curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs/RUN_ID/steps
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"


Тогда можно разобрать какие функции вызывались, сколько каждая съела токенов и т.д. При вызове информации о треде в usage суммируется usage всех шагов для каждого рана.

И ещё один способ нашел вчера в чате n8n, от @alfomin - тык сюда. Посмотрите - там полезно и тоже просто



tgoop.com/pro_nocode/430
Create:
Last Update:

Считаем денежки токены в Open AI Ассистентах в n8n

Если собираете агента в n8n, у вас есть несколько вариантов, как это сделать:
⁃ Лэнгчейн нода Agent, куда подключаете модели, БД, тулзы и т.д
⁃ Самостоятельно собирать флоу с "мозгами" агента и контролировать runs и вызовы функций на своей стороне. Не сегодня
⁃ Вызывать ноду OpenAI - Message assistant

Не знаю почему, но нативно и удобно из первого и третьего варианта нельзя вытаскивать usage - то есть вы не видите сколько токенов тратится у вас за один вызов агента. Но вот как вы можете просто делать это одним дополнительным вызовом к API Open AI.

После выполнения ноды Assistant у вас в ответе будет только thread_id и output. Чтобы получить логи просто отправьте вызов и передайте параметр thread_id из ноды


curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"


В ответе у вас будет массив из run и вам нужно просто достать последний run - внутри него будет usage.

Если дополнительно хотите посмотреть что происходило внутри этого рана, можно отправить запрос на


curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs/RUN_ID/steps
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"


Тогда можно разобрать какие функции вызывались, сколько каждая съела токенов и т.д. При вызове информации о треде в usage суммируется usage всех шагов для каждого рана.

И ещё один способ нашел вчера в чате n8n, от @alfomin - тык сюда. Посмотрите - там полезно и тоже просто

BY Канал про NoCode




Share with your friend now:
tgoop.com/pro_nocode/430

View MORE
Open in Telegram


Telegram News

Date: |

Developing social channels based on exchanging a single message isn’t exactly new, of course. Back in 2014, the “Yo” app was launched with the sole purpose of enabling users to send each other the greeting “Yo.” Read now Ng was convicted in April for conspiracy to incite a riot, public nuisance, arson, criminal damage, manufacturing of explosives, administering poison and wounding with intent to do grievous bodily harm between October 2019 and June 2020. Other crimes that the SUCK Channel incited under Ng’s watch included using corrosive chemicals to make explosives and causing grievous bodily harm with intent. The court also found Ng responsible for calling on people to assist protesters who clashed violently with police at several universities in November 2019.
from us


Telegram Канал про NoCode
FROM American