Канадская разведка предупредила об опасности ИИ для демократических процессов

Быстрое развитие технологий генеративного искусственного интеллекта позволит превратить их в оружие теми, кто стремится навредить демократическим государствам.

Об этом говорится в отчете Центра по безопасности коммуникаций – канадской спецслужбы, ответственной за кибербезопасность федерального правительства.

"По нашей оценке, иностранные злоумышленники и хакеры, вероятно, в течение двух последующих лет превратят генеративный искусственный интеллект в оружие, создавая дипфейк видео и изображения с политиками и чиновниками, а также усиливая и автоматизируя неаутентичные сети ботов в социальных сетях с использованием текста и изображений" , – говорится в документе.

При этом в спецслужбе предупредили, что "возможности создания дипфейков очень вероятно превысят возможность выявлять их". “Доступные в настоящее время широкие массы модели обнаружения имеют сложности с подлинным отслеживанием дипфейков и реального контента. Ввиду низкой эффективности выявления дипфейков и распространения генеративного искусственного интеллекта, кампании влияния на избирателей с использованием генеративного искусственного интеллекта, вероятно, будут оказываться все меньше», - подчеркнули разведчики.

По мнению авторов отчета, одним из ключевых источников происхождения антидемократических дипфейков могут стать избирательные дебаты. “Если киберзлоумышленники будут распространять дипфейки, которые будут манипулировать содержанием дебатов, избиратели могут быть введены в заблуждение. Даже если истина будет впоследствии установлена, причиненный вред может побуждать избирателей к сомнению в легитимности политических дебатов в будущем”, - утверждается в документе.