tgoop.com/pro_nocode/430
Last Update:
Считаем денежки токены в Open AI Ассистентах в n8n
Если собираете агента в n8n, у вас есть несколько вариантов, как это сделать:
⁃ Лэнгчейн нода Agent, куда подключаете модели, БД, тулзы и т.д
⁃ Самостоятельно собирать флоу с "мозгами" агента и контролировать runs и вызовы функций на своей стороне. Не сегодня
⁃ Вызывать ноду OpenAI - Message assistant
Не знаю почему, но нативно и удобно из первого и третьего варианта нельзя вытаскивать usage - то есть вы не видите сколько токенов тратится у вас за один вызов агента. Но вот как вы можете просто делать это одним дополнительным вызовом к API Open AI.
После выполнения ноды Assistant у вас в ответе будет только thread_id и output. Чтобы получить логи просто отправьте вызов и передайте параметр thread_id из ноды
curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"
В ответе у вас будет массив из run и вам нужно просто достать последний run - внутри него будет usage.
Если дополнительно хотите посмотреть что происходило внутри этого рана, можно отправить запрос на
curl
-X GET "https://api.openai.com/v1/threads/THREAD_ID/runs/RUN_ID/steps
-H "Authorization: Bearer YOUR_API_KEY" \
-H "OpenAI-Beta: assistants=v2"
Тогда можно разобрать какие функции вызывались, сколько каждая съела токенов и т.д. При вызове информации о треде в usage суммируется usage всех шагов для каждого рана.
И ещё один способ нашел вчера в чате n8n, от @alfomin - тык сюда. Посмотрите - там полезно и тоже просто
BY Канал про NoCode

Share with your friend now:
tgoop.com/pro_nocode/430