Дезинформация с помощью искусственного интеллекта распространяется - готова ли Канада к политическим последствиям?

За несколько дней до национальных выборов в Словакии прошлой осенью таинственная запись голоса начала распространять ложь в Интернете.

В подделанном файле создавалось впечатление, что Михал Симецка, лидер Прогрессивной партии Словакии, обсуждал покупку голосов с местным журналистом. Но этого разговора не было; позже файл был развенчан как «deepfake».

В день выборов Симечка проиграла в напряженной гонке прокремлевскому популистскому кандидату Роберту Фико.

Хотя сейчас практически невозможно определить, повлиял ли файл deepfake на окончательные результаты, этот инцидент указывает на растущие опасения по поводу влияния продуктов искусственного интеллекта на демократию во всем мире – и в Канаде.

«Мы боимся, что иностранное вмешательство может быть настолько серьезным, что результаты выборов окажутся под вопросом», – сказала в интервью Каролин Ксавье, глава Communications Security Establishment (CSE) – канадского агентства киберразведки.

«Мы знаем, что дезинформация и дезинформирование уже представляют угрозу для демократических процессов. Потенциально это еще больше усилит ее. Это весьма тревожно».

Эти опасения проявляются по всему миру в этом году, когда демократию называют самым серьезным испытанием за последние десятилетия.

Миллиарды людей в более чем 40 странах голосуют на выборах в этом году – в том числе на президентских выборах в США, которые, как ожидается, вызовут ожесточенные споры. Канадцы могут отправиться на выборы в этом или следующем году, в зависимости от того, как долго продержится соглашение либерального правительства с NDP.

Легко можно создать 10-секундный «горячий разговор», в котором премьер-министр говорит что-то неуместное. На это у меня уйдет две минуты. И совсем немного денег, совсем немного усилий и совсем немного умений», – сказал Хани Фарид, эксперт по цифровой криминалистике в Калифорнийском университете в Беркли,

«И неважно, что спустя 12 часов станет ясно, что это ложь. Ущерб уже нанесен. Разница между кандидатами обычно исчисляется десятками тысяч голосов. Вам не нужно переманивать миллионы голосов».

Агентство киберразведки готовится к «худшему»

Эксперты, работающие в стеклянных стенах штаб-квартиры CSE площадью 72 000 квадратных метров в Оттаве, не могут не думать о последствиях.

В прошлом месяце агентство внешней разведки выпустило публичный доклад, в котором предупредило, что недобросовестные субъекты будут использовать инструменты искусственного интеллекта для манипулирования избирателями.

«Канада не застрахована. Мы знаем, что это может произойти», – сказал Ксавье. «Мы предвидим худшее. Я надеюсь, что этого не произойдет, но мы готовы».

«Нам предстоит еще много работы в области образования и… гражданской грамотности. Мы готовы. Потому что это то, к чему мы готовились, то, к чему мы готовимся, то, для чего мы обучаем наших людей».

CSE сможет отключать вводящий в заблуждение контент.

«Можем ли мы потенциально использовать оборонительные кибероперации, если возникнет такая необходимость? Безусловно», – сказал Ксавье. «Наш министр разрешил их проведение перед выборами 2019 и 2021 годов. Тогда нам не пришлось их использовать. Но в преддверии предстоящих выборов все может измениться».