FoCAT: фундаментальная модель оценки условного эффекта лечения

В работе представлена новая фундаментальная модель FoCAT (Foundation Causal Adaptive Transformer), разработанная для оценки условного эффекта лечения. Модель решает ряд проблем, присущих задачам причинно-следственного вывода, а именно: ограниченный размер выборки в экспериментальной группе, невозможность одновременного наблюдения состояний пациентов до и после воздействия, а также трудности тестирования моделей на реальных данных. FoCAT использует гиперсетевую архитектуру. В отличие от существующих подходов, предсказывающих отдельные функции состояний для контрольной и экспериментальной групп, FoCAT напрямую оценивает условный эффект лечения. Модель позволяет контролировать информативность контекста посредством специализированных классификационных токенов. Результаты численных экспериментов на синтетических и реальных наборах данных демонстрируют превосходство FoCAT в оценке эффекта лечения. Код алгоритма, реализующего FoCAT, находится в открытом доступе.