Поиск оптимальной архитектуры физически-информированных нейронных сетей с помощью алгоритма дифференциальной эволюции

Точность решения уравнений в частных производных с помощью физически-информированных нейронных сетей (Physics-Informed Neural Networks, PINN) значительно зависит от их архитектуры и выбора гиперпараметров. Однако ручной поиск оптимальной конфигурации может быть затруднительным из-за высокой вычислительной сложности. В данной работе мы предлагаем подход для оптимизации архитектуры PINN с использованием алгоритма дифференциальной эволюции. Мы фокусируемся на оптимизации на малом числе эпох обучения, что позволяет нам рассмотреть более широкий спектр конфигураций, одновременно снижая вычислительные затраты. Число эпох подбирается таким образом, чтобы точность модели на начальном этапе коррелировала с ее точностью после полного обучения, что значительно ускоряет процесс оптимизации. Для повышения эффективности мы также применяем суррогатную модель на основе гауссового процесса, что уменьшает количество требуемых обучений PINN. В работе представлены результаты оптимизации архитектур PINN для решения различных уравнений в частных производных и предложены рекомендации по улучшению их производительности.