Компания Grok AI, принадлежащая Илону Маску, нарушила канадское законодательство

Офис комиссара по вопросам конфиденциальности Канады завершил официальное расследование в отношении компаний X Corp. и xAI.

Надзорное ведомство пришло к выводу, что запуск инструмента генерации изображений на базе искусственного интеллекта в чат-боте Grok был осуществлен с прямым нарушением федерального законодательства о защите частной жизни.

Отсутствие базовых механизмов безопасности привело к массовому созданию и распространению компрометирующего цифрового контента без согласия граждан.

Согласно итоговому отчету канадского регулятора, технологические компании проигнорировали потенциальные риски для конфиденциальности пользователей при внедрении ИИ-технологий.

Это позволило клиентам платформы по всему миру беспрепятственно генерировать и тиражировать в социальной сети X миллионы дипфэйков сексуализированного характера.

Проведенная проверка показала, что основными целями скоординированных действий злоумышленников становились женщины и несовершеннолетние.

Внеочередное расследование было инициировано в январе текущего года после серии экспертных докладов о критическом росте деструктивного контента.

По оценкам профильных исследовательских институтов, на пике активности чат-бот Grok генерировал более 6 тыс. поддельных изображений интимного характера в час.

Общий объем подобных материалов за короткий период исчислялся миллионами единиц. Федеральный комиссар Филипп Дюфрен подчеркнул, что создание неконсенсуальных дипфэйков наносит непоправимый психологический и репутационный ущерб пострадавшим.

В ходе разбирательства компании X Corp. и xAI признали уязвимость своих первоначальных алгоритмов и внедрили ряд экстренных корректирующих мер.

В частности, разработчики ограничили обработку текстовых запросов, содержащих скрытые формы двусмысленных команд, и запустили автоматические внутренние проверки для выявления и оперативного удаления запрещенных снимков.

Тем не менее регулятор признал данные действия запоздалыми и потребовал от корпораций долгосрочных юридических гарантий.

Прецедент с Grok наглядно продемонстрировал уязвимость личных архивов и фотографий граждан, размещенных в открытом доступе, перед современными генеративными моделями.

Итоги расследования призваны заставить разработчиков ИИ по всему миру внедрять концепцию «конфиденциальности по умолчанию» еще на стадии проектирования ИТ-продуктов, а не после фиксации массовых нарушений.

Канадское общество и экспертное сообщество отреагировали на выводы регулятора консолидированным требованием безотлагательного реформирования нормативной базы.

Действующий Закон о защите персональной информации и электронных документах (PIPEDA) не наделяет комиссара правом самостоятельно накладывать прямые административные штрафы или издавать обязательные к исполнению предписания.

Инцидент с чат-ботом Grok стал ключевым аргументом в пользу принятия находящегося на рассмотрении пакета законов о цифровой безопасности и новых правилах работы социальных сетей.

В качестве дальнейших шагов компании X Corp. и xAI официально обязались предоставлять Офису комиссара по вопросам конфиденциальности регулярные ежеквартальные отчеты, а также результаты независимого аудита безопасности сторонними организациями.

Контрольные мероприятия будут осуществляться до полного исключения рисков создания интимных изображений без согласия граждан.

Канадское надзорное ведомство подтвердило, что оставляет за собой право обратиться в Федеральный суд в случае неисполнения корпорациями взятых на себя обязательств.