ИИ против бизнеса: как искусственный интеллект превратился в оружие киберпреступников?
ИИ сегодня помогает бизнесу работать быстрее, но одновременно открывает новые возможности для киберпреступников. Что, на ваш взгляд, изменилось в ландшафте угроз с появлением генеративного ИИ?
Злоумышленники сегодня активно используют ИИ‑модели: они свободно пробуют разные подходы и перекладывают на технологии существенную долю своих задач. Искусственный интеллект помогает им создавать сценарии социальной инженерии, генерировать правдоподобные дипфейки, рассылать убедительные фишинговые сообщения и совершать кибернападения на организации.
Хотя сейчас нельзя утверждать, что ИИ радикально меняет картину киберугроз, его применение существенно упрощает проведение атак, заметно ускоряет их и делает масштабирование более доступным. В результате порог входа для преступников ощутимо снижается. Так, лица, ранее не имевшие достаточных навыков даже для взлома небольшого бизнеса, теперь способны применять готовые ИИ‑решения и достигать определённых результатов. Кроме того, становится всё труднее отличить автоматизированную атаку от действий живого человека: модели поведения при взаимодействии с жертвами становятся практически неотличимыми.
Раньше для масштабной кибератаки преступникам требовались серьёзные технические ресурсы. Можно ли сказать, что ИИ сделал сложные атаки доступнее — и теперь потенциальным злоумышленником может стать практически любой?
Да, можно сказать, что искусственный интеллект заметно снизил порог входа в киберпреступность. Если раньше для масштабного вторжения действительно нужны были серьёзные технические навыки и ресурсы — например, чтобы самостоятельно написать сложный скрипт, сгенерировать убедительный фишинг или отладить вредоносную программу — то сегодня большую часть этой работы берут на себя языковые модели (LLM) и другие ИИ-инструменты. Злоумышленники могут дать нейросети задачу довольно простым языком — и она сгенерирует код, текст для мошеннического письма, создаст дипфейк или поможет автоматизировать рутину в цепочке атаки. Например, уже известны случаи, когда преступные группировки использовали ИИ для создания вредоносного ПО, в том числе для целевых нападений на организации в разных сферах. Но это не значит, что теперь любой человек способен провести успешную атаку — всё ещё нужны понимание цели, доступ к ресурсам и определённые знания.
Где сегодня проходит граница между использованием ИИ как инструмента для защиты и риском, который сам ИИ представляет для корпоративной безопасности? Какие ошибки компаний становятся особенно опасными в эпоху ИИ?
Граница сегодня проходит там, где заканчивается контролируемое применение и начинается доверие без проверки. Нейросети играют не только на стороне злоумышленников, но и на стороне «защитников»: они отлично справляются с анализом огромных массивов телеметрии, выявлением и ускорением реагирования. Но вместе с тем ИИ кратно усиливает угрозы: киберпреступники используют те же модели для генерации убедительного фишинга, создания дипфейков и автоматизации атак. Особый риск возникает, когда компании бездумно внедряют ИИ-решения, не оценивая опасность утечки данных или не проверяя выходные результаты. Например, загружают во внешние LLM конфиденциальные фрагменты логов или доверяют нейросетям финальные решения без участия человека. Именно так появляются уязвимости, которыми могут воспользоваться злоумышленники.
Чтобы ИИ всегда оставался под контролем, уже сейчас нужны чёткие механизмы: финальное решение в критических точках должно оставаться за человеком, а логика системы — быть максимально прозрачной. Важно закладывать технические ограничители, а также регулярно проводить аудит и red-teaming. К данным для обучения тоже нужно подходить осознанно — минимизировать персональные сведения и применять анонимизацию.
Что касается будущего, то через пять лет искусственный интеллект станет и главным союзником, и главным вызовом одновременно: инструменты защиты и атаки будут совершенствоваться параллельно. При этом могут появиться автономные боты, способные самостоятельно сканировать инфраструктуру, подбирать эксплойты и массово рассылать фишинг. Поэтому специалистам по ИБ критически важно наращивать скорость реагирования и грамотно интегрировать ИИ в защитные процессы, сохраняя при этом человеческий контроль на ключевых этапах.
Если говорить о бизнесе в Азербайджане: какие три шага компаниям стоит сделать уже сейчас, чтобы не оказаться неготовыми к киберугрозам, усиленным ИИ?
Чтобы защитить бизнес в Азербайджане от киберугроз, которые становятся опаснее из‑за ИИ, компаниям стоит сделать три понятных шага. Во‑первых, выяснить, какие ИИ‑сервисы сотрудники уже используют в работе (ведь они могут это делать втайне от руководителей), и прописать простые правила: какие данные можно отправлять в публичные нейросети, а какие — ни в коем случае, и обрабатывать их только внутри защищённой системы компании.
Во‑вторых, начать контролировать процесс: отслеживать, как сотрудники пользуются ИИ‑инструментами, технически ограничить рискованные действия (например, запретить отправку файлов с определёнными метками) и регулярно проверять надёжность используемых решений с помощью бенчмарков.
В‑третьих, обучить команду: рассказать, чем опасны непроверенные ИИ‑сервисы и как мошенники маскируют фишинговые сайты под популярные платформы. Кроме того, важно заранее подготовить чёткий план на случай компрометации данных: как быстро это заметить, минимизировать ущерб и исправить настройки доступов, чтобы ситуация не повторилась.
Мушвиг Мамедов
Oфициальный представитель «Лаборатории Касперского» в Азербайджане
