Разбираем несколько работ, связанных с прогнозированием погоды. Не все одинаково убедительны, но тем интереснее.
EMFormer: Efficient Multi-Scale Transformer for Accumulative Context Weather Forecasting
Очередная посредственная глобальная модель погоды. Цель исследования: улучшить RMSE глобальной детерминистской модели на пятые и десятые сутки. Для этого авторы с нуля обучают свою архитектуру, затем проводят хитрый файнтюн (делают KV-кэш на каждом роллаут-шаге и конкатенируют с KV на следующем). Сравниваются со старыми моделями — RMSE становится ниже, но само по себе это мало что значит. Осадки сделать не получилось, тестов на физичность тоже нет. Зачем нужна эта работа, когда есть ансамбли, — не ответили. Для 2026 года статья выглядит откровенно слабо: от самой постановки задачи до реализации.
The Perception-Physics Paradox: Probing Scientific Alignment with TC-Bench
Любопытная работа с предсказуемым исходом. Условно, фото урагана со спутника выступает своего рода прокси для давления. Вопрос: могут ли латенты этих фото выступать в качестве осмысленных прокси? В этом и был эксперимент, и ответ — не могут. Методологически сделали хорошо, в чём-то даже математически элегантно, но будто бы не очень понятно, зачем. Было любопытно послушать размышления автора о фундаментальных причинах неудачи.
StarEmbed: Benchmarking Time Series Foundation Models on Astronomical Observations of Variable Stars
Не совсем о погоде, но полезно. Взяли временные ряды из астрономии и пробенчмаркали time series foundation models (TSFM) на этих незнакомых неидеальных данных. Проверили и в zero-shot, и в подтюненных сетапах. Как полагается, в сравнение добавляют и общепризнанный классический подход. Любопытно, что год назад команда Нейрометеума делала ровно то же самое с теми же моделями, но для прогноза приземной температуры в собственной формулировке. Результаты у нас вышли одинаковые — модели справляются на удивление хорошо, но побить классику не выходит. Наш алгоритм лежит на полке до лучших времён, но главный take away на будущее: файнтюн помогает, но несильно, а также стоит уделить внимание токенизации. В общем, было обоюдно приятно, что кто-то ещё пытается применить TSFM для научных задач.
Собрал интересное
#YaICML2026
ML Underhood
