Эксперты подчеркивают ценность объяснимого ИИ в науках о Земле

В новой статье, опубликованной в журнале Nature Geoscience, эксперты из Института Генриха Герца Общества Фраунгофера (HHI) выступают за использование методов объяснимого искусственного интеллекта в геонауках.

Исследователи стремятся облегчить более широкое внедрение ИИ в геонауках (например, в прогнозировании погоды), раскрывая процессы принятия решений моделями ИИ и укрепляя доверие к их результатам. Fraunhofer HHI, мировой лидер в исследованиях XAI, координирует поддержанную ООН глобальную инициативу, закладывающую основу для международных стандартов в использовании ИИ для управления стихийными бедствиями. Однако анализ 2,3 млн аннотаций статей на arXiv, связанных с геонауками и опубликованных в период с 2007 по 2022 год, показал, что только 6,1% работ ссылаются на XAI.

XAI-методы решают проблему «чёрного ящика», предоставляя понимание работы систем ИИ и выявляя проблемы, связанные с данными или моделью. Например, XAI может обнаруживать «ложные» корреляции в обучающих данных, которые могут искажать результаты. «Доверие имеет решающее значение для внедрения ИИ. XAI действует как увеличительное стекло, позволяя исследователям, политикам и специалистам по безопасности анализировать данные "глазами" модели», — поясняет профессор Войцех Самек, руководитель отдела искусственного интеллекта Fraunhofer HHI.

Авторы статьи предлагают четыре практических рекомендации для поддержки внедрения XAI: стимулирование спроса на объяснимые модели со стороны заинтересованных сторон; создание образовательных ресурсов; построение международных партнёрств для обмена знаниями; поддержка интеграции методов в стандартизированные рабочие процессы, особенно в области природных опасностей.