Если ввести в Google Images запрос «культурное наследие Австралии», среди первых результатов можно увидеть фотографию огромных каменных голов, возвышающихся над красной пустыней. Изображение выглядит как свидетельство древней цивилизации. Но такого места никогда не существовало: это результат работы генеративного искусственного интеллекта.

Учёные предупреждают, что подобные изображения — лишь один из примеров более серьёзной проблемы. Генеративный ИИ способен не только создавать убедительные, но вымышленные исторические сюжеты, но и распространять старые псевдонаучные представления, одновременно вырывая знания коренных народов из их культурного контекста.

Результаты их исследования опубликованы в журнале Australian Archaeology.

Псевдоархеология существует задолго до появления нейросетей. Она представляет предположения о прошлом как научные факты, хотя они не подтверждены надёжными доказательствами и не выдерживают проверки научными методами.

Одним из примеров исследователи называют легенды о затерянных континентах Му и Лемурии. Научных оснований для существования таких цивилизаций нет, однако истории о загадочных высокоразвитых народах, якобы исчезнувших в Тихом океане, продолжают распространяться.

Подобные идеи могут казаться безобидными, но у псевдоархеологии есть и более тёмная сторона. В прошлом псевдонаучные теории использовались для обоснования расизма и представлений о неравноценности людей. Современные версии псевдоархеологии нередко приписывают достижения коренных народов каким-то таинственным «чужакам» — древним пришельцам, исчезнувшим цивилизациям или неизвестным расам.

Так происходит, например, с моаи на острове Рапа-Нуи. Огромные каменные статуи были созданы и установлены полинезийцами, однако их неоднократно пытались приписать инопланетянам или загадочным исчезнувшим цивилизациям. Аналогичные теории существуют вокруг древнего города Нан-Мадол в Микронезии и наскальных изображений Гвион-Гвион в Западной Австралии.

Генеративный ИИ способен усилить распространение таких представлений. Нейросеть не проводит археологическое исследование и не проверяет историческую гипотезу так, как это делает учёный. Она анализирует огромные массивы данных и на их основе создаёт наиболее вероятное продолжение текста или изображения. Поэтому правдоподобная выдумка может быть представлена с такой же уверенностью, как достоверный факт.

Есть и другая проблема. Системы генеративного ИИ обучаются на материалах из интернета, куда попадают в том числе знания коренных народов. При этом эти знания могут быть собраны и использованы без согласия соответствующих общин, без указания авторства и без контроля над их дальнейшим применением.

Для коренных народов знания о природе, ландшафте, истории и культуре не являются просто набором сведений. Они связаны с конкретными территориями, общинами и правилами передачи знаний. Когда ИИ превращает их в обезличенную информацию, этот контекст теряется.

Исследователи подчёркивают, что решением не может быть просто закрытие научных данных. Напротив, доступность достоверной информации необходима для борьбы с псевдонаукой.

Но при публикации знаний коренных народов необходимо получать согласие соответствующих общин и сохранять их право определять, как эти знания интерпретируются и используются.

Учёные предлагают учитывать права коренных народов уже при проведении исследований, публикации материалов и обучении ИИ.

Научные журналы и хранилища данных, по их мнению, должны проверять наличие согласия общин на публикацию и использование соответствующей информации.