Фальшивые "истории холокоста" в соцсетях: ИИ-фантазии о жертвах

Фейковые "жертвы холокоста", созданные ИИ

В последнее время в социальных сетях – в частности, в Facebook и Instagram – стали появляться истории о жертвах Холокоста (преимущественно на английском языке), проиллюстрированные картинками, явно созданными искусственным интеллектом. Как правило, речь идет о якобы погибших детях.

Редакция Newsru.co.il решила проверить достоверность сведений, публикуемых в подобных постах. Нами выявлено, что во многих случаях "истории" являются такими же фальшивыми, как и "фотографии". При этом "истории" зачастую содержат частично достоверную информацию. Например, может быть использовано имя человека из базы жертв Холокоста "Яд ва-Шем", но при этом возраст погибшего меняется на "детский", и другие сведения (место рождения, место и обстоятельства гибели) могут быть случайными или взятыми из других реальных записей.

Фейковые "жертвы холокоста", созданные ИИ

Распространяются такие фальшивые сведения через группы в Facebook, якобы посвященные истории. Нам известно несколько таких групп. Мы не считаем нужным публиковать их названия. Так как создание новых подобных групп и наполнение их информацией/дезинформацией – дело простое (особенно с привлечением ИИ-инструментов), не требующее особых усилий.

Под фальшивыми историями о "жертвах Холокоста" в социальных сетях быстро появляются антиизраильские и антисемитские комментарии. Некоторые комментаторы справедливо указывают на недостоверность фотографий и сведений.

С появлением ИИ фальсификации холокоста вышли на качественно новый уровень

Наша редакция проверила фальшивые публикации самостоятельно и попросила экспертов, профессионально занимающихся историей Холокоста, проверить наши выводы. К сожалению, подтвердилось то, что в соцсети в последнее время вбрасывается множество ложных сведений, касающихся жертв холокоста.

Несколько примеров (взяты относительно редко встречающиеся сочетания имен и фамилий). 1) Bluma Kestenberg – среди жертв Катастрофы есть одна такая еврейка из Польши 1909 года рождения; фальсификаторы выдают ее за девочку 1928 года рождения; 2) Imre Löwenstein – в базе данных "Яд ва-Шем" есть погибший 1904 года рождения из Венгрии; фальсификаторы выдают его за мальчика 1935 года рождения; 3) Helga Grünbaum – в базе "Яд ва-Шем" есть депортированная из Словакии без указания возраста; фальсификаторы заявляют, что речь идет о немецкой еврейке, которую убили в Аушвице, когда ей было 8 лет (эти сведения не подтверждаются ни в одной из баз); 4) Minka Szajnfeld – в базе "Яд ва-Шем" есть несколько взрослых женщин с именами Minca или Mina с такой фамилией, но ни одной несовершеннолетней; фальсификаторы заявляют, что речь идет о десятилетней польской еврейке, убитой нацистами в Треблинке. Помимо указанных найдены еще десятки подобных мистификаций.

В деле фальсификации холокоста ИИ успешно конкурирует с "Яд ва-Шем" 

Крайне маловероятно, чтобы создатели любительских групп в соцсетях располагали сведениями, которых нет у профессиональных историков Холокоста и работников Зала имен "Яд ва-Шем".

Не секрет, что искусственный интеллект могут использовать фальсификаторы истории. Не исключено, что для подготовки фальшивых публикаций о жертвах Холокоста в соцсетях были взяты реальные сведения из открытой базы "Яд ва-Шем" (на это указывает совпадение или схожесть многих проверенных нами "редких" имен), которые были "перемешаны" случайным образом и снабжены заведомо ложными дополнениями о возрасте жертв. То, что речь в основном идет о "детях", особенно возмущает. Не говоря уже о том, что фальсификация подобной информации наносит огромный имиджевый ущерб самой теме холокоста.

Редакция Newsru.co.il продолжит изучать эту проблему. Надеемся, что профессиональные факт-чекеры также дадут ей должную оценку.