Сэм Альтман опасается влияния ИИ на выборы

Генеральный директор OpenAI Сэм Альтман, чей ноябрьский запуск популярного чат-бота ChatGPT, возможно, положил начало широкому публичному внедрению технологии генеративного искусственного интеллекта, обеспокоен воздействием технологии, над созданием которой он активно работает.

На этот раз он обеспокоен потенциально разрушительным воздействием, которое инструменты генеративного искусственного интеллекта могут оказать на демократический процесс, утверждая, что высококачественные и гиперцелевые синтетические СМИ могут стать мощной и потенциально разрушительной силой на будущих выборах — страх, который уже был поднято рядом экспертов и лидеров отрасли.

«Я нервничаю по поводу влияния ИИ на будущие выборы (по крайней мере, до тех пор, пока все к нему не привыкнут), — написал Альтман в своем посте в Twitter в четверг. — Персонализированное убеждение 1:1 в сочетании с высокой -качественные медиа станут мощной силой».

Это справедливое беспокойство. Средства массовой информации, созданные ИИ, уже использовались во многих американских предвыборных рекламных объявлениях, связанных с выборами 2024 года, в первую очередь в таких организациях, как Национальный комитет Республиканской партии и предвыборная кампания кандидата в президенты Рона Десантиса, которые использовали инструменты ИИ для создания фальшивых изображений воображаемого Китая. - Вторжение США и президент Джо Байден, целующиеся с бывшим главой США по реагированию на пандемию Энтони Фаучи соответственно.

Дезинформация, распространяемая искусственным интеллектом, также уже доказала свою убедительность. Хотя это было быстро опровергнуто как фейковая новость, например, вероятно созданная искусственным интеллектом фотография взрыва возле Пентагона вызвала краткое, но заметное падение фондового рынка после того, как в мае она стала вирусной в Твиттере.

А еще в июне синтетические изображения демонической детской одежды в Target заставили крайне правые группы в социальных сетях впасть в ажиотаж культурной войны - инцидент, который, похоже, говорит о предупреждении Альтмана о персонализированном убеждении. Люди склонны искать информацию, подтверждающую то, во что они уже верят; при правильном подсказке и правильной платформе может быть относительно легко заманить определенные идеологические группы в ловушки искусственной дезинформации.

Конечно, учитывая, что Альтман получает прибыль от инструментов, которые он регулярно предупреждает об опасности, иногда трудно воспринимать его всерьез, когда он говорит о рисках ИИ, даже если он объективно прав, чтобы беспокоиться. Но, как он сам говорил в прошлом, вероятно, лучше, если он питает некоторый страх по отношению к своим творениям, а не полностью игнорирует любые риски.

«Хотя это и не полное решение, повышение осведомленности об этом лучше, чем ничего», — написал он в четверг в теме на X. «Нам интересно услышать идеи, и скоро у нас пройдут некоторые мероприятия, чтобы обсудить их подробнее».

Еще о Сэме Альтмане:Генеральный директор OpenAI надеется, что мировые лидеры спасут нас от искусственного интеллекта, который он создает

Поделитесь этой статьей