📓 Записки программера

This media is not supported in your browser

VIEW IN TELEGRAM

Какая интересная штука, которую я прямо таки щас трогаю на предмет использования в бизнес-целях - https://www.danswer.ai - self-hosted (бесплатно) или cloud (платно), подключается OpenAI или Azure/AWS - но самое главное - целый вагон разных коннекторов, которые могут забирать данные начиная "из текстовых файлов" до Slack/Confluence/Google Drive/Github/Gitlab/... (их там больше 15 штук).

Содержит встроенный токенизатор и full-text поиск (под капотом есть Postgres, возможно используется его FTS, но это неточно - я ещё не лазил в базу)

Без каких либо проблем поднимается локально в докере одной командой (12-16 ГБ RAM), имеет свою вебморду с поиском и чятом по твоим документам. Единственное, что меня насторожило - это долгая индексация документов. Я загрузил два текстовых файла, суммарно 2 МБ plain text и индексация заняла 20 МИНУТ и 2-3 ядра. Но надо поиграться с настройками, возможно там где-то какая-то дичь стоит.

Также пока не очень понятно насколько эта штука хорошо умеет суммировать/агрегировать юзерские данные. Ну тоесть конкретно мой кейс - это дать дамп базы в каких-то вариантах, чтобы юзеры могли писать "топ 10 кастомеров 2023 года по суммам ордеров" и получить список или типа того.
#ai

🔥6

www.tgoop.com/notes_of_programmer/494

814 viewsMay 16, 2024 at 07:01

Какая интересная штука, которую я прямо таки щас трогаю на предмет использования в бизнес-целях - https://www.danswer.ai - self-hosted (бесплатно) или cloud (платно), подключается OpenAI или Azure/AWS - но самое главное - целый вагон разных коннекторов, которые могут забирать данные начиная "из текстовых файлов" до Slack/Confluence/Google Drive/Github/Gitlab/... (их там больше 15 штук).

Содержит встроенный токенизатор и full-text поиск (под капотом есть Postgres, возможно используется его FTS, но это неточно - я ещё не лазил в базу)

Без каких либо проблем поднимается локально в докере одной командой (12-16 ГБ RAM), имеет свою вебморду с поиском и чятом по твоим документам. Единственное, что меня насторожило - это долгая индексация документов. Я загрузил два текстовых файла, суммарно 2 МБ plain text и индексация заняла 20 МИНУТ и 2-3 ядра. Но надо поиграться с настройками, возможно там где-то какая-то дичь стоит.

Также пока не очень понятно насколько эта штука хорошо умеет суммировать/агрегировать юзерские данные. Ну тоесть конкретно мой кейс - это дать дамп базы в каких-то вариантах, чтобы юзеры могли писать "топ 10 кастомеров 2023 года по суммам ордеров" и получить список или типа того.
#ai

BY 📓 Записки программера