Дело пахнет керосином! #ДПК

Возможно это был пик ChatGPT?

Посещаемость не растет, за исключением написания кода, GPT сложно найти хорошее применение и гугл все еще не убит.

Что же происходит? Все, кто пытается использовать LLM для бизнеса наталкиваются на одни и те же проблемы. Галлюцинации, сложность управления ответами, ограничения в дообучении. И это конечно не тупиковая ситуация и большинство проблем определенно решаемы в долгосрочной перспективе, сейчас настроение скорее «круто, но пока не готов показывать это клиентам».

После хорошей вечеринки наступает похмельное утро. В ближайшее время самая интересная история - это конкуренция базовых моделей, на основе которых мы будем строить свои решения. Из явных лидеров здесь OpenAI, Gemini, Claude. Есть хорошие опенсорсные модели LLama2, Mixtral и т.п. Но для того, чтобы применять и те и другие сверху нужно сажать довольно масштабный по размерам аппарат, который позволит общую модель специализировать по конкретные задачи и конкретный объем знаний (читай RAG).

Этот разрыв между интересным фокусом и настоящей магией только предстоит преодолеть. Те, кто сможет это сделать качественно - выиграют в эффективности. Все остальные разочаруются и укрепятся в мысли, что LLM это игрушка и применения в реальном мире ей найти сложно если не невозможно.

www.tgoop.com/delopahnetkerosinom/549

581 viewsApr 4 at 08:24

Возможно это был пик ChatGPT?

Посещаемость не растет, за исключением написания кода, GPT сложно найти хорошее применение и гугл все еще не убит.

Что же происходит? Все, кто пытается использовать LLM для бизнеса наталкиваются на одни и те же проблемы. Галлюцинации, сложность управления ответами, ограничения в дообучении. И это конечно не тупиковая ситуация и большинство проблем определенно решаемы в долгосрочной перспективе, сейчас настроение скорее «круто, но пока не готов показывать это клиентам».

После хорошей вечеринки наступает похмельное утро. В ближайшее время самая интересная история - это конкуренция базовых моделей, на основе которых мы будем строить свои решения. Из явных лидеров здесь OpenAI, Gemini, Claude. Есть хорошие опенсорсные модели LLama2, Mixtral и т.п. Но для того, чтобы применять и те и другие сверху нужно сажать довольно масштабный по размерам аппарат, который позволит общую модель специализировать по конкретные задачи и конкретный объем знаний (читай RAG).

Этот разрыв между интересным фокусом и настоящей магией только предстоит преодолеть. Те, кто сможет это сделать качественно - выиграют в эффективности. Все остальные разочаруются и укрепятся в мысли, что LLM это игрушка и применения в реальном мире ей найти сложно если не невозможно.

BY Дело пахнет керосином! #ДПК