Польза XAI для гидрологического моделирования скрыта за ажиотажем

Гидрологи все чаще используют объяснимый искусственный интеллект (XAI) для получения дополнительного понимания сложных проблем, однако новое исследование Университета Аделаиды показывает, что эти инсайты могут быть не столь революционными, как предполагают сторонники технологии. Традиционное гидрологическое моделирование использует данные об осадках и испарении для решения задач, связанных с водоснабжением или наводнениями. Если же модели строятся на основе ИИ, то XAI призван объяснить логику, которую алгоритм использовал для установления взаимосвязей, например, между осадками и объемом водных ресурсов.

Согласно исследованию, опубликованному в Journal of Hydrology X под руководством профессора Хольгера Майера, использование XAI в гидрологии пока не привело к тем прорывам, на которые в потенциале способна эта технология. Многие методы XAI схожи с традиционными способами анализа моделей, такими как анализ чувствительности. Профессор Майер отмечает, что ценность объяснения взаимосвязей, выявленных ИИ, невелика, если они не отражают реальные физические гидрологические процессы.

Для полного раскрытия потенциала XAI в гидрологическом моделировании необходимо пересмотреть текущий техноцентричный подход. Ученый призывает рассматривать XAI не как чисто технический инструмент, а как социально-технический процесс, помогающий решать проблемы в более широком социальном и политическом контексте. В предыдущей работе команда уже демонстрировала ошибочность некоторых моделей ИИ, которые, обладая высокой прогнозной способностью, давали физически невозможные результаты, например, отрицательный вклад осадков в сток реки. Поэтому внедрение XAI следует замедлить, пока технология не будет тщательно протестирована на соответствие известным физическим моделям.