Эксперты прогнозируют взрывной рост мошенничеств с использованием дипфейков, созданных искусственным интеллектом (ИИ), поскольку 99 процентов населения не смогут отличить цифровой аватар от реального человека, которого он изображает. Об этом было сказано в рамках сессии «Цифровой самозванец» на Петербургском международном экономическом форуме.
Цифровая модель обучается
По мнению собравших экспертов, самая страшная перспектива, когда родителям позвонит «ребенок» или бабушке с дедушкой «внук» весь в слезах и со словами, что он попал в беду.
Заместитель председателя правления «Сбера» Станислав Кузнецов сформулировал, что такое дипфейк. По его словам, это синтетический медиаконтент, созданный нейросетью, который копирует внешность, мимику и голос человека.
На сессии был проведен эксперимент: был создан аватар одного из присутствующих в зале человека, который разговаривал с участниками дискуссии — отвечал на вопросы и задавал их. Мимика немного не совпадала с голосом, были не очень оправданные движения рук, но, как пояснил специалист по киберугрозам Сбера, это ненадолго.
«Эта цифровая модель самостоятельно обучается. Она думает, она научится говорить и по заданию мошенников сама поведет атаку на жертву. 99 процентов населения не смогут отличить цифровой аватар от реальных людей, даже если это будет сын, дочь, жена, муж. Гражданам надо учиться критически относиться к таким видеозвонкам и задавать личные вопросы про то, что никто не знает. Но и здесь дипфейк может их обмануть, поскольку он изучает ваши соцсети, соцсети ваших близких и фотографии с геолокацией. Вопросы должны быть сугубо личные», — пояснил специалист.
Дипфейк-детектор
Заместитель начальника следственного департамента МВД РФ Данил Филиппов подтвердил опасения эксперта, заявив, что не только страну, а весь мир (поскольку такой дипфейк будет говорить на любом языке планеты — прим. ред.) ждет взрывной рост мошенничеств с использованием дипфейков, созданных ИИ.
«При этом цифровые аватары будут очень правдоподобны. Это будут родственники, или какие-нибудь известные люди, или незнакомые сотрудники полиции или ФСБ. Мошеннические сценарии усложняются, и преступники совершенствуются в сторону достоверности и правдоподобности. И мошеннические схемы длятся уже не день или неделю, а месяцы. И люди не умеют бороться с дипфейками. Ещё несколько лет назад в сутки в России совершалось 800 мошеннических звонков, то теперь их совершается 20 миллионов в сутки. А с ростом этой технологии звонков будет столько, сколько есть в мире смартфонов, то есть более 8 миллиардов», — уверен Филиппов.
По словам Кузнецова, эта технология очень удешевляет затраты мошенников.
«Если дроппер со всеми атрибутами сейчас обходится мошенникам в 70 тысяч рублей, то один дипфейк стоит 50 рублей. При этом мошенникам уже не нужно самим разбираться в нейросетях. В теневом интернете уже есть база из минимум 40 тысяч уже созданных дипфейков с аватарами популярных людей или чиновников. Один дипфейк как раз стоит 50 рублей. А средний чек одной атаки, совершенной одним из этих дипфейков — 16 миллионов рублей», — сказал Кузнецов.
Под конец участники дискуссии посоветовали слушателям развивать критичность и не верить никому и ничему, не проверив собеседника или какое-нибудь пересланное друзьями видео, и пользоваться дипфейк-детекторами, которые уже создаются специалистами.
Михаил Телехов
