#ICLR2025 Неструктурированная подборка интересных статей на тему MBRL, robotics policy, LLM planning и около того.

#ICLR2025 Неструктурированная подборка интересных статей на тему MBRL, robotics policy, LLM planning и около того.

#ICLR2025 Третий день конференции также порадовал разносторонними пленарными докладами. С утра задавал тон Danqi Chen из Принстона с актуальной для академии темой "Training Language Models in Academia: Challenge or Calling?" По его словам - у исследователей вне больших корпораций есть две основные задачи - оценка уже существующих моделей (evaluation) и их механистический анализ (перекликается с другим спикером про биологию LLM😇). При этом ограничения мотивируют быть более креативными 🤓и, например, создавать малые модели или делать более эффективное пост-обучение. В подтверждение привел примеры их работ - ShearedLLaMA, SimPO (еще один метод файнтюна вместо RL) и Goedel-Prover. В общем, чем занться - явно еще есть😉

После обеда Tim Rocktaeschel, который теперь директор в DeepMind, показывал много красивых анимаций и картинок на тему "Open-Endedness, World Models, and the Automation of Innovation". Я с ним по поводу необходимости создавать сложные мультимодальные окружения, со свойствами открытого мира, могу только согласиться. Тем более, что мы вместе с ним работали когда-то над средой IGLU. Но вот такое повсеместное использование генеративных моделей с их ошибками и галлюцинациями разделить сложно. В процессе доклада прошлись по всей линейке моделей GAIA-2/Veo2/Genie/Genie2🎮, что больше походило на их рекламу😔 Зато Тим поделился полезной подборкой статей на тему открытых "бесконечных" миров - ее тоже всем рекомендую🙏

#ICLR2025 AIRI и МФТИ в заключительный постерный день тоже отметились своими статьями, при этом даже с мультимедиа элементами для привлечения внмиания 🦾