Data Wondering

Как мы выпустили LLM для здоровья: Oura Advisor
#ÕURA #HealthTech

Сегодня мы запускаем на всех пользователей наш первый LLM продукт — Oura Advisor. На протяжении последних шести месяцев мы разрабатывали, улучшали и тестировали новые способы взаимодействия с Оурой при помощи LLM.

Помимо уже стандартной тщательной работы с промптами, нам пришлось искать решения для кучи разных проблем. Как работать с памятью, чтобы Advisor помнил самое важное из разговоров, даже если они были месяцы назад? Как подать в LLM всё то огромное количество знаний о сне, стрессе, физической активности, кардиоваскулярном здоровье и многих других областях знаний, которые мы накопили за многие годы работы? Как эффективно сжать и вставить в контекст данные о всех собираемых биометриках, долгосрочных трендах и их взаимосвязях? Как настроить правильный баланс между скоростью, качеством и стоимостью ответов? Наконец, как сделать Advisor безопасным и устойчивым к атакам?

Пожалуй, одним из лучших наших решений было как можно раньше начать тестировать Advisor и дать к нему доступ реальным пользователям. Благодаря нашей бета-программе Oura Labs, в которую может записаться каждый желающий обладатель кольца, мы постоянно получали фидбек, могли отслеживать ключевые метрики и быстро тестировать новые итерации моделей, промптов и инфраструктуры.

В результате получилась (по моему явно непредвзятому мнению) очень неплохая фича. В отличие от некоторых других wearables компаний, где LLM заставляли заниматься арифметикой и искать зависимости в сырых данных, чтобы сгенерировать советы, использование LLM в качестве текстовой связки для наших уже имеющихся данных, паттернов и инсайтов, оказалось очень удачным решением.

Дальше будет еще интереснее, так что буду продолжать делать Advisor полезнее и умнее.
@data_wondering

www.tgoop.com/data_wondering/71

660 viewsMar 31 at 17:05

Как мы выпустили LLM для здоровья: Oura Advisor
#ÕURA #HealthTech

Сегодня мы запускаем на всех пользователей наш первый LLM продукт — Oura Advisor. На протяжении последних шести месяцев мы разрабатывали, улучшали и тестировали новые способы взаимодействия с Оурой при помощи LLM.

Помимо уже стандартной тщательной работы с промптами, нам пришлось искать решения для кучи разных проблем. Как работать с памятью, чтобы Advisor помнил самое важное из разговоров, даже если они были месяцы назад? Как подать в LLM всё то огромное количество знаний о сне, стрессе, физической активности, кардиоваскулярном здоровье и многих других областях знаний, которые мы накопили за многие годы работы? Как эффективно сжать и вставить в контекст данные о всех собираемых биометриках, долгосрочных трендах и их взаимосвязях? Как настроить правильный баланс между скоростью, качеством и стоимостью ответов? Наконец, как сделать Advisor безопасным и устойчивым к атакам?

Пожалуй, одним из лучших наших решений было как можно раньше начать тестировать Advisor и дать к нему доступ реальным пользователям. Благодаря нашей бета-программе Oura Labs, в которую может записаться каждый желающий обладатель кольца, мы постоянно получали фидбек, могли отслеживать ключевые метрики и быстро тестировать новые итерации моделей, промптов и инфраструктуры.

В результате получилась (по моему явно непредвзятому мнению) очень неплохая фича. В отличие от некоторых других wearables компаний, где LLM заставляли заниматься арифметикой и искать зависимости в сырых данных, чтобы сгенерировать советы, использование LLM в качестве текстовой связки для наших уже имеющихся данных, паттернов и инсайтов, оказалось очень удачным решением.

Дальше будет еще интереснее, так что буду продолжать делать Advisor полезнее и умнее.
@data_wondering

BY Data Wondering