Наша премиум лаборатория вчера и сегодня элитно посещала summer school on NLP в городе Линц, Австрия, которая проходит прямо в дни перед ACL. Этот пост пишется по дороге в Вену, где уже в 9 часов утра (ночи по лабораторному времени) мы будем посещать первый туториал на ACL про uncertainty.

О чем говорят в мире вне великого русского бигтеха?

Когда наша лаборатория ходит на митапы в Москве, нам иногда кажется, что все темы в nlp перемололи много раз и чего-то реально свежего у нас не услышать. Этот цикл лекций (aka summer school) стал глотком свежего воздуха. Мы послушали профессоров из Австрии, Германии, Великобритании, Швейцарии, ОАЭ и Сингапура. Все говорили о разном (в основном о своих исследованиях), но некоторые поинты мы для вас суммаризируем:

0) LLMs can benefit from self-play to generate dynamic meta-rewards reducing reliance on human feedback. Position paper from Kings College London (a substantial work)

1) Multilingual capabilities of the models should be assessed in the environments they are deployed in (culturally and regionally aware). Benchmarks, models and experiments for 44 languages are released by EPFL and Cohere.

2) Published research shouldn’t always be taken at face value. A paper that debunks previous clickbait claims in literary machine translation is presented by a collaboration of German universities.

На panel discussions много говорили про то, что языковые модели не наши заменители, а ассистенты, и про прогресс и трансформацию (исчезновение) профессий. (Один профессор даже сказал, что это нормально, что некоторые jobs are disappearing because this is what technological development looks like) (это кстати лингвист был). Про то, как важно educate the general public on how AI works to adjust the expectations and maximize the benefit. Про то, что надо избавляться от westernization моделей и включать как можно больше языков (если народы этого хотят).

В конце мы получили сертификат об участии (диплом русского медвежонка) и пошли пить австрийское пиво со шницелями.

Из окна университета было видно огород.

И поскольку the cycle never ends, вчера нам пришло решение по EMNLP 2025 - две статьи взяли сразу на main track! Это уже три опубликованные статьи, которые стали результатом нашей коллаборации со Skoltech и AIRI.

Препринтами можно любоваться здесь и здесь.