Предвзятый искусственный интеллект нуждается в помощи человека, чтобы избежать вредных климатических действий, заявляют исследователи

Исследователи из Кембриджского университета предупреждают, что предвзятость в сборе данных, на которые опираются программы искусственного интеллекта (ИИ), может ограничить полезность этого быстро развивающегося инструмента для климатологов, предсказывающих будущие сценарии и направляющих глобальные действия. Работа опубликована в журнале npj Climate Action.

Программы ИИ, используемые в климатологии, обучаются анализировать сложные наборы данных в поисках закономерностей. Однако отсутствие информации из определенных регионов планеты, временных периодов или о социальной динамике создает «пробелы» в данных. Это может привести к ненадежным климатическим прогнозам и вводящим в заблуждение выводам.

Первый автор статьи, сотрудник Cambridge Zero доктор Рамит Дебнат отметил, что приоритеты и восприятие климатических проблем ученых, учителей, профессионалов и бизнеса из стран Глобального Севера, имеющих доступ к технологиям, с большей вероятностью отражаются в цифровой информации, широко доступной для обучения ИИ. В то же время опыт, восприятие и приоритеты недостаточно представленных сообществ, например, коренных народов Глобального Юга, часто отсутствуют в этих же источниках.

Предвзятый ИИ может искажать климатическую информацию, создавая, например, неэффективные прогнозы погоды или недооценивая выбросы углерода в определенных отраслях. Это, в свою очередь, может дезориентировать правительства, пытающиеся разработать политику по смягчению последствий изменения климата или адаптации к ним. Климатические решения на основе ИИ, построенные на смещенных данных, рискуют навредить недостаточно представленным сообществам, часто наиболее уязвимым к экстремальным погодным явлениям.

Авторы утверждают, что эти «пробелы в данных» могут быть заполнены с помощью человеческих знаний. Они выступают за проектирование ИИ с «человеком в цикле» (human-in-the-loop), что позволит проверять используемые данные и их контекст. Это повысит точность прогнозов и полезность выводов. В качестве примера приводится модель чат-бота ChatGPT, которая может задавать уточняющие вопросы и оспаривать некорректные предпосылки.

Соавтор работы, директор Cambridge Zero и климатолог профессор Эмили Шакбург подчеркнула: «Не существует «чистых» или непредвзятых данных, и это особенно проблематично для ИИ, который полностью полагается на цифровую информацию». В статье также обосновывается необходимость рассматривать широкополосный доступ в интернет как общественное благо, а не частный товар, для привлечения к диалогу об ИИ максимально широкого круга пользователей.

Исследователи приходят к выводу, что технология под руководством человека остается ключевым инструментом для развития социально ответственного ИИ. Менее предвзятый ИИ будет критически важен для понимания изменений климата и выработки реалистичных решений в условиях продолжающегося кризиса.