Дослідники забили на сполох з приводу використання фальшивих зображень, створених ШІ

Автори редакційної статті, опублікованої в American Journal of Hematology,, стверджують, що «штучний інтелект, що генерує дані, може бути використаний для створення підроблених наукових зображень або з нуля, або шляхом зміни наявних візуальних матеріалів для підвищення реалістичності кінцевого сфабрикованого продукту».

Автори Енріко М. Буччі (Enrico M. Bucci), професор біології в Інституті дослідження раку Сбарро при Коледжі науки і технологій Університету Темпл, і Анджело Паріні (Angelo Parini) з Університету Тулузи, наголошують на зростаючій проблемі в науці: використання штучного інтелекту (ШІ) для створення підроблених зображень, що виглядають як справжні дані досліджень. У статті під назвою «Криза згенерованих зображень у науці» розповідається про те, як за допомогою штучного інтелекту створюються реалістичні, але повністю фальшиві наукові зображення.

Ці зображення можуть уникати виявлення, оскільки вони не є відредагованими версіями реальних фотографій. Натомість вони створюються з нуля за допомогою інструментів штучного інтелекту, які можуть уникнути виявлення, оскільки не містять ознак, що дають змогу відрізнити їх від справжніх.

«Цими інструментами тепер може скористатися будь-яка людина, незалежно від її наукової підготовки. За правильної підказки вони можуть змоделювати весь візуальний арсенал дослідження за лічені хвилини», – кажуть автори.

Сучасні системи штучного інтелекту можуть створювати підроблені зображення на основі простих текстових описів. Наприклад, користувач може запросити зображення аналізу методом вестерн-блот, що показує певний білок в оброблених клітинах, і ШІ згенерує правдоподібне зображення, навіть якщо експерименту не проводили. Ці ж інструменти можна використовувати для внесення тонких змін у реальні наукові зображення. Ці зміни можуть включати в себе коригування кольорів, переміщення частин зображення або додавання елементів – і все це без слідів, які залишають звичайні інструменти редагування.

Інструменти, що використовуються в генераторах зображень, навчаються на реальних наукових зображеннях і тепер широко доступні для громадськості. У результаті рецензенти і редактори журналів починають знаходити згенеровані зображення в представлених наукових роботах.

«Дуже важливо, щоб наукове співтовариство і система рецензування підготувалися до цієї загрози фальсифікації наукових даних, що насувається», – каже Антоніо Джордано (Antonio Giordano), доктор медицини, доктор філософії, професор Темпльського університету, засновник і директор Організації з дослідження здоров’я Сбарро (SHRO).

Побоювання, висловлені науковцями, вимагають оновлення протоколів, таких як документація, прозорість і підзвітність, у відповідь на нову реальність світу зі штучним інтелектом.