Ничего не найдено. Попробуйте еще
Неповторимый оригинал или жалкая пародия: как распознать дипфейки и защититься от мошенников
-
АвторИрина ПоловинкинаНаучилась распознавать дипфейки -
ЭкспертОлег ПашукевичРуководитель бизнес-юнита «МТС Линк Встречи»
Обманы россиян с использованием дипфейков происходят всё чаще. С одной стороны, такие технологии — новые возможности в кинематографе, рекламе, креативные решения, а с другой — инструменты для вымогательства денег и слива данных. Вместе с руководителем бизнес-юнита «МТС Линк Встречи» Олегом Пашукевичем разбираемся, что такое технология «дипфейк», как распознать обман и защититься от мошенников.
Что такое дипфейк
Дипфейк (от англ. deepfake) — это подделка голоса или внешности человека на фото или видео. Его создают с помощью ИИ и нейросетей. Deep означает deep learning, или «глубинное обучение», а fake — подделка. Дипфейки используют как в творческих или практических целях, так и в целях мошенничества. В первом случае технологии реализуют, чтобы расширить возможности телевидения и кино, разнообразить дополненную реальность, сделать дубляж. Например, на премии «Муз-ТВ — 2024» создали проекцию Жанны Фриске и таким образом почтили память певицы. А «Сбер» использовал образ героя Жоржа Милославского в своём ролике.
Что касается мошенничества, то преступники часто прибегают к дипфейкам в звонках, текстовых сообщениях и записи видео. Как пример, история из Гонконга, когда сотрудники транснациональной корпорации стали жертвами корпоративного дипфейка и перечислили злоумышленникам более 26 млн долларов США. Сотрудникам звонили якобы представители вышестоящего руководства, включая не находящегося на тот момент в стране владельца компании. С помощью видео и аудио с этими людьми в открытом доступе мошенники создали дипфейки и говорили с сотрудниками от лица их начальства.
Тем же способом деньги выманивают у компаний по всему миру, а также у обычных граждан. Современные ИИ-технологии позволяют создать дипфейк всего по нескольким фото или видео, которые люди размещают в открытом доступе. Злоумышленники могут воспользоваться, например, WhatsApp, Telegram или почтой, чтобы связаться с вами якобы от имени руководства. Открытые источники помогут мошенникам наладить связь с сотрудником организации.
Чтобы этого не допустить, крупные компании предпочитают on-premise или, как это ещё называют, серверные решения. Так, в МТС Линк все сервисы представлены on-premise, что позволяет компаниям хранить и передавать данные с использованием исключительно собственной серверной инфраструктуры, а значит, повысить корпоративную безопасность. Более того — решение on-premise позволяет использовать те средства защиты, которые уже есть на вооружении в компании. Это значит, что, например, с внедрением продуктов МТС Линк полностью переиначивать структуру защиты не нужно.
Это одна из причин выбирать корпоративные сервисы, например МТС Линк Чаты и МТС Линк Встречи, а не использовать обычные мессенджеры. Внутри таких сервисов люди создают себе корпоративные профили, их одабривают модераторы, а после этого команда может общаться в группах, куда нет доступа посторонним.
Юридические последствия использования дипфейков
Как рассказал Олег Пашукевич, законы многих стран, включая Россию, не выделяют дипфейки как отдельное преступление. Но законодательные регулирующие нормы всё же есть. Ответственность за дипфейки в чатах с целью обмануть человека такая:
- Уголовный кодекс РФ (ст. 137, ст. 272). Привлечение к ответственности за нарушение неприкосновенности частной жизни и неправомерный доступ к информации.
- Ст. 159 УК РФ «Мошенничество» может применяться в случае мошенничества с использованием ИИ-технологий. При этом дипфейки, как ожидается, станут отягчающим обстоятельством, и штраф вырастает с 400 000 руб. до 1,5 млн руб.
Как распознать дипфейк
Чтобы во время видеозвонка понять, реальный ли это человек или сгенерированный образ, уделяйте внимание деталям. ИИ-технологии всё ещё несовершенны — даже небольшие отклонения могут свидетельствовать о том, что это мошенническая схема. Например, ненатуральное моргание, неравномерное освещение, нехарактерные для человека движения и другие моменты.
Существуют также высококачественные дипфейки, которые тяжело распознать непрофессионалу в сфере кибербезопасности. Так, например, художника Александра Юликова мошенники обманули по видеозвонку WhatsApp с помощью дипфейка, изображавшего мэра Москвы Сергея Собянина. Художник не смог отличить поддельное изображение и в результате потерял 5 млн. руб. из-за незаконных действий.
На подобные случаи разработаны специальные программы-распознаватели. Они оценивают видео глубже и воспринимают даже незначительные искажения, которые появляются в ходе создания подделки.
Подобных сервисов становится больше с каждым днём. Это ответ современного общества на постоянно развивающиеся дипфейк-технологии и растущие случаи мошенничества за их счёт. Видеоподделки распознать проще, чем голосовые дипфейки. При этом первые создавать сложнее, чем вторые. Поддельный голос без специальных механизмов распознать почти невозможно. Узнать поддельную речь в режиме реального времени можно, только если дипфейк сделан непрофессионально и «человек» издаёт звуки, которые он в принципе издавать не может.
По мнению Олега Пашукевича, есть ряд признаков, как распознать дипфейки в видеоконференциях:
- Неестественные движения лица и глаз. Например, отсутствие моргания или слишком плавные движения.
- Аномалии в освещении. Оттенки кожи или света могут быть ненатуральными.
- Ошибки в синхронизации речи и движениях губ. Когда звук транслирует одно, а липсинг (то, как губы двигаются во время разговора) — другое.
- Низкокачественные артефакты. На фоне или при резком движении могут возникать визуальные сбои.
Как защититься от дипфейков
Современную технологию создания дипфейков нереально ограничить или остановить. Действенный вариант защиты от угрозы стать жертвой такой уловки — превентивные меры:
- проведите несколько вебинаров среди сотрудников о дипфейках (как их распознавать и бороться с ними) и о кибербезопасности компании в целом;
- работайте с закрытыми системами вроде МТС Линк, в которых вероятность внедрения дипфейка минимальна;
- если у вас появились подозрения, что перед вами нереальный человек, задайте ему вопрос, ответ на который знает только он;
- также стоит немедленно прервать разговор;
- если вы не смогли понять, тот ли человек с вами говорит, используйте второй канал связи — в режиме реального времени напишите собеседнику в мессенджер;
- следуйте правилам безопасности своей компании — строго храните пароли, не заходите в корпоративные аккаунты через общественные сети, установите защиту от вредоносного ПО.
Олег Пашукевич рассказывает, что грамотная защита от дипфейков включает несколько уровней:
1. Технические средства
Речь идёт об использовании инструментов для проверки видео и аудио на подлинность, а также о настройке двухфакторной аутентификации и дополнительных методов верификации.
2. Образовательные меры
Они включают регулярное обучение сотрудников и демонстрацию реальных случаев и способов защиты. Речь не только о семинарах и вебинарах, но и о практических курсах, на которых на реальных примерах разбирают работу дипфейков и фишинга.
3. Процедуры
Это запрет на выполнение важных операций без очной или двухфакторной верификации.
4. Инновационные технологии
Например, специальное ПО, которое помогает распознавать подделку уже при подключении звонка.
Что делать, если сотрудник стал жертвой уловки с дипфейком
Если же превентивные меры не помогли и ваш сотрудник стал жертвой уловки с дипфейком, Олег Пашукевич рекомендует выполнить следующие действия:
- Немедленно сообщить о случившемся в подразделение информационной безопасности и руководству. Об инциденте должны узнать ответственные лица для оперативного реагирования.
- Заблокировать дальнейшие действия сотрудника. Это, например, отключение учётной записи, остановка транзакции или блокировка доступа.
- Собрать доказательства. Необходимо сохранить все файлы, записи и переписку.
- Провести обучение. Если был прецедент, сотрудники должны понимать, как с этим работать в будущем.
- Провести технический анализ. Убедиться, что не было других сопутствующих нарушений.
Заключение
Видео, аудио и текстовые дипфейки представляют собой одновременно и угрозу, и технический прогресс. Хотя современные технологии часто используют в кино и искусстве, они нередко становятся базой для обмана целых компаний. Чтобы не стать жертвой ИИ, регулярно проводите обучение среди сотрудников и заблаговременно внедрите ПО для защиты. Проверяйте надёжность своей киберзащиты, используйте закрытые системы корпоративной коммуникации, и тогда риски для бизнеса минимизируются.