Видео в социальных сетях, созданные искусственным интеллектом, изображают пропавших без вести мертвых детей, рассказывающих свои истории.

Это одни из самых громких уголовных дел в мире с участием детей. Это истории о жестоком обращении, похищениях, пытках и убийствах, которые уже давно преследуют страны, где произошли преступления.

Теперь некоторые создатели контента используют искусственный интеллект, чтобы воссоздать образы этих умерших или пропавших без вести детей, давая им «голоса», чтобы рассказывать тревожные подробности того, что с ними произошло. Эксперты говорят, что, хотя технологические достижения в области ИИ открывают творческие возможности, они также рискуют предоставить дезинформацию и оскорбить близких жертв. Некоторые авторы защищали свои публикации как новый способ повышения осведомленности.

«Привет, меня зовут Джеймс Балджер», — гласит изображение в одном из видеороликов TikTok, сделанное по образу двухлетнего британца, которого похитили в 1993 году, когда его мать платила за продукты.

«Если бы моя мама повернулась направо, я мог бы быть жив сегодня. К сожалению, она свернула налево», — говорит детский голос, ссылаясь на то, что мать Джеймса однажды сказала, что это было одним из ее самых больших сожалений: если бы она свернула направо, она бы увидела, как ее сына уводят двое десятилетних детей, которые позже пытал и убил его.

Хотя TikTok удалил несколько видеороликов, на которых Джеймс рассказывает о своем похищении и смерти в Киркби, Англия, многие из них по-прежнему доступны для просмотра на YouTube.

Мать Джеймса, Дениз Фергюс, рассказала Daily Mirror, что эти посты были «отвратительными».

«Использовать лицо и двигающийся рот ребенка, которого здесь больше нет, которого у нас жестоко отобрали, нет слов», — сказала она газете.

Новый подозреваемый по делу Мадлен Макканн, исчезновение которой не дает покоя Британии

Представитель TikTok назвал контент о Джеймсе «тревожным», заявив, что на платформе «нет места» таким постам. «В наших принципах сообщества четко указано, что мы не допускаем использования синтетических медиа, содержащих изображения молодого человека», — заявил Барни Хупер в электронном письме The Washington Post. «Мы продолжаем удалять контент такого рода по мере его обнаружения».

В рекомендациях TikTok говорится, что развитие ИИ «может затруднить различие между фактом и вымыслом, неся как социальные, так и индивидуальные риски», и просят пользователей, которые делятся синтетическими или манипулируемыми медиа, показывающими реалистичные сцены, включать заявление об отказе от ответственности, отмечающее, что контент не является настоящий. YouTube не сразу ответил на запрос о комментариях по поводу своих правил в понедельник.

Феликс М. Саймон, исследователь коммуникаций из Оксфордского института Интернета, заявил, что он уверен, что видео, упомянутые в этой статье, были созданы с использованием «одного или нескольких инструментов искусственного интеллекта», но не может сказать, какое именно программное обеспечение.

«Похоже, что они созданы с помощью каких-то инструментов искусственного интеллекта и имеют некоторые типичные признаки более дешевых видеороликов, созданных искусственным интеллектом», например, эстетику в стиле аниме или комиксов и полированную оболочку, — сказал он в электронном письме.

Пациентам сказали, что их голоса могут исчезнуть. Чтобы спасти их, они обратились к искусственному интеллекту.

Как сообщает Mirror, Стюарт Фергюс, муж матери Джеймса Балджера, рассказал, что после того, как он обратился к одному из создателей с просьбой удалить их видео, он получил ответ, в котором говорилось: «Мы не собираемся никого оскорблять. Мы снимаем эти видео только для того, чтобы убедиться, что инциденты никогда ни с кем не повторятся. Пожалуйста, продолжайте поддерживать и делиться моей страницей для распространения информации».

Несмотря на попытки TikTok удалить такие видео, многие из них все еще можно найти на платформе, некоторые из которых собрали миллионы просмотров.

«Меня зовут Мадлен Бет Макканн», — говорит детский голос в другом видео, демонстрируя изображение трехлетней британской девочки, исчезнувшей на португальском курорте в 2007 году. «Я все еще пропал без вести». Это видео TikTok, которое The Post рассмотрело, было просмотрено десятки тысяч раз, прежде чем TikTok удалил его. Владелец аккаунта написал рядом с видео, что это попытка «захватывающего повествования».

На другом видео видно, как Анна Франк рекламирует детскую одежду перед обсуждением ужасов Холокоста. «Вы все еще ищете красивую детскую одежду собственного дизайна? Тогда перейдите по ссылке в моей биографии и позвольте себе удивиться», — говорит по-немецки молодая девушка с каштановыми волосами до плеч. «А теперь я расскажу вам историю Анны Франк».