Искусственный интеллект всё активнее становится частью современной астрономии и космических исследований. Уже сегодня алгоритмы помогают искать экзопланеты, классифицировать галактики, анализировать огромные объёмы данных телескопов и управлять работой космических аппаратов. В ближайшие годы ИИ планируют использовать и при поиске внеземной жизни — как на Марсе, так и на ледяных спутниках Юпитера и Сатурна, а также при изучении атмосфер далёких экзопланет.
Однако новое исследование показало, что подобные системы обладают серьёзной уязвимостью. Оказывается, современные нейронные сети можно сравнительно легко заставить «обнаружить» признаки жизни там, где их на самом деле нет. По мнению авторов работы, если не учитывать эту особенность, будущие дорогостоящие космические миссии могут столкнуться с большим количеством ложных открытий.
Почему поиск жизни становится задачей для искусственного интеллекта
Современная астробиология опирается на огромные объёмы информации.
Космические аппараты собирают данные о составе атмосферы планет, структуре горных пород, химическом составе льдов, распределении органических соединений и множестве других характеристик.
Количество получаемой информации настолько велико, что её обработка вручную становится практически невозможной.
Именно поэтому всё больше научных проектов используют алгоритмы машинного обучения.
Такие системы способны быстро находить закономерности, сравнивать миллионы вариантов и выявлять объекты, которые заслуживают более детального изучения.
Но именно здесь скрывается серьёзная проблема.
Поиск жизни — гораздо сложнее, чем кажется
В научной фантастике обнаружение жизни обычно выглядит очень просто: учёные находят инопланетный организм, и вопрос закрыт.
В реальности всё иначе.
На сегодняшний день не существует единственного признака, который однозначно доказывал бы существование жизни.
Вместо этого исследователи анализируют множество возможных биосигнатур.
К ним могут относиться:
- сложные органические соединения;
- необычные сочетания газов в атмосфере;
- определённые химические процессы;
- особенности молекулярных структур;
- признаки самоорганизации вещества.
Ни один из этих признаков сам по себе не является абсолютным доказательством.
Поэтому интерпретация подобных данных всегда требует осторожности.
Как проходило исследование
Авторы работы решили проверить, насколько хорошо искусственный интеллект способен отличать настоящие признаки жизни от объектов, лишь похожих на них.
Для этого они использовали хорошо известную систему цифровой эволюции Avida.
В этой виртуальной среде существуют своеобразные «цифровые организмы» — последовательности компьютерных команд, способные копировать сами себя.
Подобные модели уже много лет применяются для изучения эволюционных процессов.
Исследователи создали десятки тысяч различных цифровых объектов.
Одни действительно обладали способностью к самовоспроизведению, другие — нет.
На этих данных была обучена нейронная сеть.
Во время обучения результаты выглядели впечатляющими.
Точность распознавания достигала почти 100 процентов.
Что произошло после проверки
Настоящее испытание началось тогда, когда алгоритму показали примеры, которых он раньше никогда не видел.
Именно здесь проявилась серьёзная слабость современных нейронных сетей.
Учёные постепенно изменяли цифровые последовательности, которые первоначально правильно определялись как неживые.
После относительно небольшого количества изменений алгоритм неожиданно начинал считать их признаками жизни.
Причём происходило это практически всегда.
Исследователи смогли добиться ложного распознавания во всех проведённых экспериментах, изменяя лишь небольшую часть исходной информации.
Почему это вызывает беспокойство
Подобная особенность означает, что искусственный интеллект может уверенно делать ошибочные выводы.
Особенно опасно то, что современные нейронные сети обычно не способны самостоятельно сообщить, насколько они сомневаются в своём решении.
Они могут выдавать неверный результат с очень высокой уверенностью.
Для поиска внеземной жизни это представляет серьёзную проблему.
Если автоматическая система на борту космического аппарата ошибочно обнаружит биосигнатуру, новость может выглядеть как величайшее открытие в истории науки.
Лишь спустя месяцы или годы станет понятно, что произошла ошибка.
Где подобные алгоритмы могут использоваться
В ближайшие десятилетия элементы искусственного интеллекта могут применяться во многих космических проектах.
В частности:
- при анализе марсианских пород;
- во время исследований ледяных спутников Европы и Энцелада;
- при изучении химического состава атмосферы экзопланет;
- для автоматической обработки данных космических телескопов;
- в автономных научных приборах, работающих на больших расстояниях от Земли.
Во всех этих случаях алгоритмы должны будут принимать предварительные решения ещё до того, как данные попадут к исследователям.
Почему нельзя полностью отказаться от ИИ
Несмотря на обнаруженную проблему, авторы исследования не предлагают отказаться от использования искусственного интеллекта.
Напротив, они считают его крайне важным инструментом современной науки.
Без автоматического анализа обработка гигантских потоков информации заняла бы десятилетия.
Однако результаты работы показывают, что ИИ нельзя использовать как единственный источник научных выводов.
Каждое потенциально сенсационное открытие должно проходить независимую проверку другими методами.
Что означает принцип «человек в контуре»
Исследователи подчёркивают необходимость сохранения человеческого контроля.
Даже если алгоритм обнаружил необычный объект или предполагаемую биосигнатуру, окончательное решение должны принимать специалисты.
Они способны учитывать гораздо больше факторов, чем обученная нейронная сеть.
Кроме того, человек может проверить результаты несколькими независимыми способами.
Подобный подход уже широко используется в медицине, где искусственный интеллект помогает анализировать снимки, но окончательный диагноз ставит врач.
Авторы считают, что аналогичная схема необходима и в астrobiологии.
Проблема выходит далеко за пределы космоса
Выявленная особенность касается не только поиска внеземной жизни.
Похожие ошибки способны возникать в любых системах машинного обучения.
Среди возможных областей применения:
- медицинская диагностика;
- системы видеонаблюдения;
- беспилотный транспорт;
- промышленный контроль;
- системы безопасности.
Во всех случаях искусственный интеллект может обнаружить закономерность там, где её объективно нет.
Именно поэтому разработчики всё больше внимания уделяют созданию более устойчивых алгоритмов.
Как сделать такие системы надёжнее
Учёные предлагают сразу несколько направлений дальнейшей работы.
Среди них:
- обучение на значительно более разнообразных наборах данных;
- использование нескольких независимых моделей одновременно;
- обязательная проверка результатов традиционными научными методами;
- разработка алгоритмов, способных оценивать собственную степень уверенности;
- объединение машинного анализа с экспертной оценкой специалистов.
Такой подход позволит значительно снизить вероятность ложных открытий.
Почему исследование важно для будущих миссий
В ближайшие годы человечество планирует сразу несколько крупных проектов по поиску следов жизни за пределами Земли. Новые марсианские миссии, исследования ледяных океанов Европы и Энцелада, а также изучение атмосфер экзопланет будут сопровождаться обработкой колоссальных массивов данных.
Искусственный интеллект станет незаменимым помощником в этой работе, однако новое исследование напоминает: даже самые совершенные алгоритмы пока не обладают безошибочной способностью отличать реальные признаки жизни от случайных совпадений.
Работа не ставит под сомнение перспективность использования ИИ в космической науке. Напротив, она помогает лучше понять его ограничения. Чем раньше исследователи научатся учитывать подобные слабые места, тем надёжнее окажутся будущие открытия, а вероятность ошибочно объявить об обнаружении внеземной жизни станет значительно ниже.
Источники:
Статья создана по материалам Phys.Org
ИИ просто инструмент и достаточно сырой. Поэтому стоит использовать его в меру и не питать лишних иллюзий.