Бухгалтеру звонит генеральный директор. Голос его, манера его, даже привычное «так, слушай» в начале. Нужно срочно оплатить счёт поставщику, пока не сорвалась сделка, и никому пока не говорить — идут переговоры. Через час деньги уходят на чужой счёт, а директор, который в это время сидел на совещании, узнаёт о звонке последним. Подделать голос конкретного человека сегодня можно по нескольким минутам записи, и отличить подделку на слух по телефону почти невозможно. Хорошая новость в том, что защищает не слух, а процедура, и настроить её можно без бюджета на безопасность.
Что такое дипфейк-звонок
Дипфейк-звонок — это звонок или видеозвонок, в котором мошенник использует искусственно сгенерированный голос или изображение конкретного человека: руководителя, коллеги, клиента, партнёра. Голос создаётся моделью синтеза речи, обученной на записях этого человека, либо моделью преобразования голоса, которая в реальном времени превращает речь мошенника в речь жертвы подделки.
От обычного телефонного мошенничества дипфейк отличается тем, что снимает главный барьер — узнавание. Раньше мошенник мог представиться директором, но голос его выдавал. Теперь голос совпадает, и сотрудник, который добросовестно проверяет «а точно ли это он», слышит подтверждение.
Для компании это означает, что проверка «я узнал голос» перестала быть проверкой. Все остальные меры безопасности, которые на ней держались, нужно пересмотреть.
Два случая, после которых это перестало быть фантастикой
Первый широко известный случай относится к 2019 году. Руководитель британской энергетической компании получил звонок от человека, которого принял за главу материнской компании из Германии. Голос звучал с узнаваемым немецким акцентом и привычной манерой речи. Звонивший попросил срочно — в течение часа — перевести 220 тысяч евро венгерскому поставщику. Перевод был сделан. О деталях рассказал страховщик компании Euler Hermes; деньги затем ушли дальше по цепочке счетов.
Второй случай, в 2024 году, показал, насколько быстро выросли возможности. Сотрудник гонконгского офиса инженерной компании Arup получил письмо от имени финансового директора с просьбой о конфиденциальной операции. Письмо его насторожило. Тогда его пригласили на видеоконференцию, где он увидел и услышал финансового директора и нескольких знакомых коллег. Все участники конференции, кроме него самого, были подделкой. После этой встречи сотрудник провёл пятнадцать переводов на общую сумму около 200 миллионов гонконгских долларов — примерно 25 миллионов долларов США. Компания подтвердила инцидент в мае 2024 года.
Между этими случаями — пять лет и переход от голоса по телефону к видеоконференции с несколькими поддельными участниками. Важная деталь второго случая: сотрудник поступил правильно, заподозрив письмо. Его подозрение сняли тем, что казалось надёжной проверкой, — увидеть людей лицом к лицу.
Откуда мошенник берёт голос
Чтобы подделать голос, нужны записи этого голоса. Сколько именно — зависит от качества, которое нужно получить, но порог давно не измеряется часами. Ещё в 2023 году исследователи Microsoft показали модель VALL-E, которая имитировала голос по трёхсекундной записи. С тех пор инструменты стали доступнее, а для убедительного звонка мошеннику достаточно нескольких минут чистой речи.
У руководителей компаний этих минут в открытом доступе обычно в избытке:
- выступления на конференциях и отраслевых мероприятиях;
- интервью, подкасты, вебинары, эфиры в соцсетях;
- видео на сайте компании и в корпоративных каналах;
- голосовые сообщения, пересланные за пределы компании;
- записи звонков, если к ним получили доступ через утечку.
Отдельно стоит сказать о сотрудниках, которые много говорят с внешним миром по работе: менеджерах по продажам, руководителях поддержки, представителях компании на мероприятиях. Их голоса тоже доступны, и от их имени удобно звонить клиентам и партнёрам.
Вывод не в том, что руководителю нужно перестать выступать публично. Это невозможно и бессмысленно. Вывод в том, что голос руководителя нужно считать публичной информацией — такой же, как его фотография на сайте.
Как выглядит атака на компанию
Технология подделки голоса — новая. Сценарий атаки — старый, это классическая социальная инженерия, и у неё узнаваемая структура из пяти шагов.
Разведка. Мошенник выясняет, кто в компании принимает решения об оплатах, кто кому подчиняется, с какими поставщиками работает компания, когда руководитель в командировке или на мероприятии. Большую часть этого можно узнать из открытых источников: сайта, новостей, профилей сотрудников, анонсов выступлений.
Предлог. Правдоподобная история: срочная сделка, конфиденциальное приобретение, проблема с поставщиком, проверка регулятора. Хороший предлог объясняет, почему обычный порядок нужно нарушить.
Срочность. Решение нужно принять сейчас — через час будет поздно. Срочность отключает вопрос «а почему не по обычной процедуре».
Секретность. «Никому пока не говори» — самый надёжный признак атаки. Секретность отрезает жертву от единственной защиты, которая работает: проверить у кого-то ещё.
Действие. Перевод денег, смена реквизитов поставщика в системе, передача доступа, отправка документов или персональных данных.
Подделанный голос в этой схеме — только инструмент, который делает предлог убедительнее. Вся атака держится на срочности и секретности. Это и определяет, как от неё защищаться.
Почему распознать подделку на слух — плохая защита
Первая реакция многих компаний — научить сотрудников распознавать дипфейки: прислушиваться к неестественным паузам, металлическому призвуку, странной интонации. Как дополнительный навык это полезно. Как основная защита — нет, и причин три.
Качество подделок растёт быстрее, чем навыки сотрудников. Признаки, по которым подделку можно было заметить год назад, в новых моделях исчезают. Обучение, построенное на конкретных артефактах, устаревает к моменту, когда его закончили.
Телефонная связь скрывает артефакты. Телефонный канал сжимает звук, срезает частоты и добавляет шум. Мелкие дефекты синтеза, заметные в студийной записи, в телефонном разговоре теряются среди обычных помех. К тому же мошенник может объяснить странности плохой связью: «я в машине, плохо слышно».
Под давлением люди не анализируют. Сотрудник, которому директор срочно поручает важное дело, думает о деле, а не о спектре голоса. Вся атака устроена так, чтобы у жертвы не было времени на анализ.
Отсюда главный принцип: защита должна работать одинаково, насколько бы хорошей ни была подделка. Сотрудник не должен угадывать, настоящий ли голос. Он должен выполнить процедуру, которая защищает в обоих случаях.
Процедуры, которые защищают при любом качестве подделки
Эти меры не требуют специальных технологий и бюджета. Они требуют решения руководства и того, чтобы руководство само их соблюдало.
Обратный звонок по известному номеру. Любой запрос на оплату, смену реквизитов или передачу доступа, пришедший голосом, подтверждается звонком по номеру из справочника компании — не по номеру, с которого звонили, и не по номеру, который продиктовали в разговоре. Номер звонящего подделывается так же легко, как голос.
Два человека на крупные операции. Оплаты выше определённой суммы и любые изменения реквизитов контрагентов подтверждает второй сотрудник, не участвовавший в разговоре. Мошеннику нужно обмануть двоих, причём второго — без предлога, который сработал на первом.
Реквизиты меняются только по письменной заявке с проверкой. Письмо «у нас сменился счёт» или звонок с тем же сообщением — не основание менять реквизиты поставщика. Изменение подтверждается через известный контакт поставщика, найденный в договоре, а не в полученном письме.
Правило «секретность — повод проверить». В компании явно проговаривается: если руководитель просит что-то сделать срочно и никому не говорить, сотрудник обязан проверить у руководителя по известному номеру, и за это никто не будет наказан. Это правило должно исходить от первого лица компании, иначе сотрудник не решится перезвонить директору.
Кодовые слова — с осторожностью. Иногда предлагают договориться о секретном слове для подтверждения. Для небольшой команды это может работать, но у метода есть слабости: слово забывают, пересылают в мессенджере, произносят при посторонних. Обратный звонок надёжнее, потому что не зависит от памяти.
Кто в компании под ударом первым
Атаки нацелены на тех, кто может выполнить нужное действие. Защиту имеет смысл начинать с этих ролей.
Бухгалтерия и финансы. Главная цель: у них есть право проводить оплаты и менять реквизиты. Для них процедура обратного звонка и двойного подтверждения должна быть обязательной без исключений.
Помощники руководителей. Знают расписание, имеют доступ к почте и календарю, привыкли выполнять поручения быстро и без лишних вопросов. Их легко убедить, что руководитель звонит с другого номера.
Техническая поддержка. Цель — сброс пароля или выдача доступа. Звонок «от руководителя, который не может войти в систему перед важной встречей» — классический сценарий. Сброс доступа по голосовому запросу без проверки личности через независимый канал недопустим.
Отдел кадров. Персональные данные сотрудников, смена реквизитов для перечисления зарплаты. Письмо или звонок «от сотрудника» с новым счётом для зарплаты проверяется так же, как смена реквизитов поставщика.
Отдел продаж и поддержка. Здесь направление атаки часто обратное: мошенник звонит не как руководитель, а как клиент. Об этом — следующий раздел.
Атаки через клиентов: отдел продаж и поддержка
Для отдела продаж и поддержки дипфейк-звонок чаще выглядит как звонок от клиента. Цель — получить документы, данные клиента, изменить условия договора или контакты, на которые уходят счета и уведомления.
Типичный сценарий: «клиент» звонит с просьбой прислать копию договора и акты на новый адрес почты, потому что старый ящик взломан. Или просит изменить контактное лицо и телефон для связи. Голос похож, детали сделки мошенник знает из утёкшей переписки.
Защита та же: изменение контактов и отправка документов на новые адреса подтверждаются через известный контакт клиента. Для менеджеров это непривычно — клиентоориентированность учит выполнять просьбы быстро. Поэтому правило нужно сформулировать как заботу о клиенте, а не как недоверие: «для вашей безопасности подтвердим изменение звонком на номер из договора».
Если компания использует голосовых AI-агентов для работы с клиентами, у них появляется собственная уязвимость. Агента можно попытаться убедить нарушить его инструкции: собеседник представляется администратором, просит «игнорировать предыдущие указания» или выдаёт себя за другого клиента. Агент, у которого есть доступ к данным клиентов, должен подтверждать личность собеседника по тем же правилам, что и человек, и никогда не выполнять действия с данными только на основании слов в разговоре.
Если компания сама использует синтез голоса
Компании, которые внедряют голосовых агентов, находятся в особом положении: они сами используют технологию, которой пользуются мошенники. Это накладывает несколько обязательств.
Не клонировать голоса сотрудников без явного согласия. Соблазн сделать агента голосом лучшего менеджера понятен, но такой голос становится ещё одним источником подделки, а сотрудник может уволиться и не захотеть, чтобы от его имени звонили клиентам. Для агентов разумнее использовать синтетические голоса, не принадлежащие реальным людям.
Раскрывать, что звонит робот. Когда клиенты привыкают к тому, что компания честно представляет голосового агента, звонок «от менеджера», который оказывается подделкой, выбивается из привычного опыта. Как раскрывать это без потери разговора, — в статье о том, раскрывать ли, что отвечает робот.
Защищать записи голоса. Образцы голосов, на которых обучались или настраивались агенты, и записи разговоров с клиентами — чувствительные данные. Доступ к ним должен быть ограничен так же, как доступ к персональным данным. Как устроена работа над естественным голосом агента, — в материале о голосе AI-автозвонщика.
Как обучать сотрудников без паранойи
Цель обучения — не научить сотрудников подозревать каждый звонок, а сделать так, чтобы в критический момент они выполнили процедуру, не испытывая неловкости.
Коротко и на сценариях. Лекция о технологии дипфейков забывается через неделю. Разбор двух-трёх конкретных сценариев для своей роли — «вам звонит директор и просит срочно оплатить счёт» — запоминается. Для бухгалтерии свои сценарии, для поддержки свои.
Дать разрешение положить трубку. Главное, что должен услышать сотрудник: он может прервать разговор с «руководителем» и перезвонить, и это правильное поведение, а не нарушение субординации. Лучше всего, если это скажет сам руководитель на общей встрече.
Не наказывать за проверку. Если настоящий директор раздражённо отреагировал на обратный звонок, весь отдел узнает, что проверять руководство опасно. Одна такая реакция перечёркивает любое обучение.
Проводить учебные проверки аккуратно. Имитация атаки показывает, работает ли процедура. Но проводить её нужно так, чтобы сотрудник, который «попался», не был публично пристыжен: цель — найти слабое место в процессе, а не виноватого.
Что записать в правила компании
Процедуры защиты от голосовых подделок стоит зафиксировать письменно, чтобы они не зависели от памяти отдельных людей. Минимальный набор правил помещается на одну страницу:
- голосовой или видеозапрос на оплату, смену реквизитов, выдачу доступа или отправку документов на новый адрес подтверждается обратным звонком по номеру из справочника;
- оплаты выше установленной суммы и изменения реквизитов подтверждает второй сотрудник;
- требование срочности и секретности — повод проверить, а не основание ускориться;
- за проверку запроса руководителя сотрудник не несёт никакой ответственности, даже если запрос оказался настоящим;
- подозрительный звонок сообщается ответственному за безопасность, даже если сотрудник ничего не выполнил.
Эти правила удобно включить в общий документ о работе с ИИ в компании, где уже описаны правила использования нейросетей и обращения с данными. Что ещё стоит туда записать, разобрано в статье о регламенте работы с ИИ.
Если деньги уже ушли
Скорость реакции решает, можно ли что-то вернуть. Порядок действий стоит знать заранее, потому что в момент инцидента на размышления нет времени.
Сразу связаться с банком. Сообщить о мошенническом переводе и попросить приостановить операцию и связаться с банком получателя. Чем раньше это сделано, тем выше шанс, что деньги ещё не ушли дальше по цепочке счетов. Счёт идёт на часы.
Сохранить всё, что связано с атакой. Номер, с которого звонили, время звонка, записи разговоров, если они велись, переписку, реквизиты получателя. Не удалять и не пересылать без необходимости.
Подать заявление в полицию. С приложением собранных материалов. Даже если шансы вернуть деньги невелики, заявление нужно для работы с банком и для внутреннего разбора.
Проверить, что ещё могли получить. Если мошенник знал детали сделки или структуру компании, он откуда-то их взял. Возможна утечка переписки или скомпрометированная почта, и следующая атака может прийти через неё.
Разобрать случай без поиска виноватого. Главный вопрос — не «кто перевёл», а «какая процедура позволила перевести». Сотрудник, которого обманули профессионалы, скорее всего действовал так, как было принято. Меняться должна процедура.
Подделка голоса — это не новый вид угрозы, а новое качество старой: мошенники всегда притворялись кем-то другим. Разница в том, что узнавание голоса больше не работает как проверка. Компании, которые перестанут на него полагаться и опрут безопасность на процедуры, защищены от дипфейков так же, как от обычного телефонного мошенничества, — независимо от того, насколько хорошими станут подделки.
