Исследователи забили тревогу из-за использования фальшивых изображений, созданных ИИ

Авторы редакционной статьи, опубликованной в American Journal of Hematology, утверждают, что «генерирующий искусственный интеллект может быть использован для создания поддельных научных изображений либо с нуля, либо путем изменения существующих визуальных материалов для повышения реалистичности конечного сфабрикованного продукта».

Авторы Энрико М. Буччи (Enrico M. Bucci), профессор биологии в Институте исследования рака Сбарро при Колледже науки и технологий Университета Темпл, и Анджело Парини (Angelo Parini) из Университета Тулузы, подчеркивают растущую проблему в науке: использование искусственного интеллекта (ИИ) для создания поддельных изображений, которые выглядят как настоящие данные исследований. В статье, озаглавленной «Кризис сгенерированных изображений в науке», рассказывается о том, как с помощью искусственного интеллекта создаются реалистичные, но полностью фальшивые научные изображения.

Эти изображения могут ускользать от обнаружения, поскольку они не являются отредактированными версиями реальных фотографий. Вместо этого они создаются с нуля с помощью инструментов искусственного интеллекта, которые могут избежать обнаружения, поскольку не содержат признаков, позволяющих отличить их от настоящих.

«Этими инструментами теперь может воспользоваться любой человек, независимо от его научной подготовки. При правильной подсказке они могут смоделировать весь визуальный арсенал исследования за считанные минуты», – говорят авторы.

Современные системы искусственного интеллекта могут создавать поддельные изображения на основе простых текстовых описаний. Например, пользователь может запросить изображение анализа методом вестерн-блот, показывающего определенный белок в обработанных клетках, и ИИ сгенерирует правдоподобное изображение, даже если эксперимент не проводился. Эти же инструменты можно использовать для внесения тонких изменений в реальные научные изображения. Эти изменения могут включать в себя корректировку цветов, перемещение частей изображения или добавление элементов – и все это без следов, которые оставляют обычные инструменты редактирования.

Инструменты, используемые в генераторах изображений, обучаются на реальных научных изображениях и теперь широко доступны для общественности. В результате рецензенты и редакторы журналов начинают находить сгенерированные изображения в представленных научных работах.

«Очень важно, чтобы научное сообщество и система рецензирования подготовились к этой надвигающейся угрозе фальсификации научных данных», – говорит Антонио Джордано (Antonio Giordano), доктор медицины, доктор философии, профессор Темпльского университета, основатель и директор Организации по исследованию здоровья Сбарро (SHRO).

Опасения, высказанные учеными, требуют обновления протоколов, таких как документация, прозрачность и подотчетность, в ответ на новую реальность мира с искусственным интеллектом.