Кибербезопасность в эпоху ИИ

Всем привет!

Постараюсь максимально кратко и простым языком объяснить текущие события, без лишних сложных терминов, чтобы каждый мог понять, о чём идёт речь.
Считаю, что это очень важная тема, которая заслуживает внимания и обсуждения. Все, кому интересна эта область, могут присоединиться к разговору.
Большинство из вас, вероятно, уже знакомы с происходящим, но есть и люди, которые не занимаются кибербезопасностью и не следят ежедневно за событиями в этой сфере.
Кибератаки происходят каждый день, а искусственный интеллект всё активнее становится частью этой истории. Однако недостаточно просто прочитать новость о том, что какая-то система была взломана с помощью технологий ИИ. Гораздо важнее понять, что именно произошло, какая уязвимость была использована, как была проведена атака и к каким последствиям она может привести.

Искусственный интеллект (AI) обнаруженные уязвимости безопасности и киберинциденты (2026)​

Вот несколько примеров событий и проблем безопасности, которые появились за очень короткий период.


И это лишь часть всей истории. Кто знает, сколько ещё проблем безопасности было обнаружено, но так и не стало известно общественности. Многие компании не сразу публикуют подробности инцидентов, а некоторые уязвимости остаются незамеченными очень долгое время. Не говоря уже о ежедневных обновлениях моделей и всё более частых попытках манипулировать ими. Вы и сами можете убедиться в этом, проверив информацию в интернете.

AI и Social Engineering теперь нельзя доверять даже голосу, который вы слышите​

Помимо классических кибератак, всё чаще встречается социальная инженерия (Social Engineering) с использованием искусственного интеллекта.

Существуют случаи, когда злоумышленники использовали ИИ для клонирования голосов банковских сотрудников или других людей, которым доверяют. Таким образом можно создать очень убедительную копию чужого голоса и даже объединить несколько телефонных разговоров, чтобы мошенничество выглядело максимально реалистично.

Эта технология известна как AI Voice Cloning.

Представьте, что вам звонит человек, чей голос вы прекрасно знаете. Он представляется сотрудником банка и просит предоставить определённую информацию или подтвердить транзакцию. В такой ситуации многие даже не заподозрят, что разговаривают с мошенником.

И это далеко не единственная проблема. Существуют поддельные видеозвонки, фишинговые сообщения, поддельные документы, имитация сотрудников компаний и многое другое, о чём обычный пользователь, вероятно, даже не задумывается.

LLM-модели, связанные с кибербезопасностью цены и доступность (2026)​

Возможно, некоторые из вас впервые слышат об этих моделях, поэтому кратко объясню, о чём идёт речь.

Существуют и другие специализированные модели, которые можно найти в интернете, если вас интересует эта область.
Позавчера мы с другом следили за презентацией новой модели Gemini 4 Carbon от Google DeepMind. Индустрия искусственного интеллекта всё больше ориентируется на сферу кибербезопасности, что одновременно приводит к увеличению числа попыток кибератак и взломов.



Что касается доступа, ситуация для каждой модели отличается.

Согласно информации о программах ограниченного доступа, OpenAI Daybreak Blue предназначен для проверенных специалистов и организаций. Индивидуальный доступ может требовать платной подписки и физического ключа безопасности FIDO2.

Для Daybreak Red требуется дополнительное одобрение и проверка безопасности, а Claude Mythos 5.1 предназначен для проверенных организаций и исследователей в рамках программы Anthropic Cyber Verification.

Для подключения к моделям используется API Key, а FIDO2 Security Key служит дополнительной защитой и обеспечивает безопасную аутентификацию аккаунта.

Цены указаны за миллион токенов, отдельно для входных и выходных токенов. Разумеется, наличие денег и возможность оплатить API не означают, что вы автоматически получите доступ к таким моделям.

Чёрный рынок и несанкционированная продажа доступа​

Здесь мы подходим ещё к одной проблеме.

Такие же или похожие модели можно найти и за пределами официальных каналов. На различных форумах и чёрных рынках появляются предложения о продаже доступа. Цены, которые мне встречались, варьируются от 1,000 до 1,500 долларов, а иногда достигают 2,000 долларов и даже больше.

Некоторые люди получают доступ к определённым моделям через свои контакты, а затем перепродают его другим.

Разумеется, здесь нужно быть очень осторожными. Не каждое предложение является настоящим. Встречаются украденные аккаунты, мошенничество, фиктивный доступ и различные попытки выманить деньги.

Вот один из примеров, который мне удалось найти.

Jailbreak, Prompt Injection и инструменты, которые появляются каждый день​

Помимо всего перечисленного, существуют также jailbreak-методы, техники Prompt Injection и различные инструменты, которые ежедневно появляются на Git и других платформах.

Мне самому удалось создать несколько jailbreak-методов для различных LLM-моделей, и могу сказать, что некоторые подходы действительно работают. Однако давайте будем реалистами: это не какие-то магические jailbreak-методы, способные снять все ограничения модели или позволить проводить серьёзные атаки.

В основном они ограничены определёнными функциями и ситуациями.

Если кому-то интересно, как это выглядит на практике, можете смело обращаться ко мне. Я могу поделиться примерами, чтобы вы увидели, как всё это работает.

Думаю, многие до сих пор не осознают, насколько быстро всё это меняется.

На что на самом деле способны эти модели?​

Мне довелось увидеть, как работают некоторые более продвинутые модели, и могу сказать, что это действительно впечатляет.

Особенно когда видишь, насколько быстро они способны анализировать большие объёмы кода, связывать различную информацию и находить проблемы безопасности, которые раньше могли оставаться незамеченными годами.

У человека, каким бы опытным специалистом он ни был, есть ограничения по времени. Невозможно самостоятельно проверить каждую часть крупной системы, каждую библиотеку, каждую функцию и каждую возможную комбинацию.

Именно здесь модели ИИ приносят огромные изменения. Они могут значительно ускорить анализ, помочь исследователям находить уязвимости и облегчить работу специалистам, которые профессионально занимаются безопасностью.

Разумеется, проблема возникает тогда, когда такие возможности попадают не в те руки.

То, что можно использовать для обнаружения и устранения уязвимостей, можно применить и для поиска способов взлома систем.

Что нужно сделать, чтобы защитить свои аккаунты и проекты?​

Учитывая всё вышесказанное, я хотел бы отдельно обратить внимание людей, которые владеют криптовалютой, пользуются криптобиржами или управляют собственными проектами.

Если вы храните крупные суммы на криптовалютных биржах, подумайте о том, чтобы перевести средства, которые не нужны вам для ежедневной торговли, на собственный аппаратный кошелёк, например Ledger.

Если даже такой гигант, как Binance, за 20 минут потерял 6,3 миллиарда долларов, то в ближайшее время мы увидим, как и остальные биржи начнут рушиться, словно карточные домики.

Также рекомендую: Включить двухфакторную аутентификацию (2FA) на всех важных аккаунтах, Использовать надёжные и уникальные пароли, Проверить активные сессии и выйти из аккаунтов на неизвестных устройствах, Проверить API-ключи и удалить те, которыми вы больше не пользуетесь, Особое внимание уделить защите электронной почты, связанной с криптовалютными биржами, Не открывать подозрительные ссылки и не скачивать неизвестные файлы, Никогда не подтверждать транзакции только потому, что кто-то попросил вас об этом по телефону.
То же самое касается людей, у которых есть проекты, работающие в production-среде.

Проверяйте свой код, библиотеки, зависимости и серверные компоненты. Тестируйте приложения, проверяйте механизмы аутентификации и контроля доступа, а также используйте инструменты для анализа безопасности.

Ранее я уже публиковал на форуме определённые инструменты для тестирования атак, поэтому можете посмотреть и те публикации. Используйте доступные вам средства и проверяйте свои системы только в тех средах, на тестирование которых у вас есть разрешение.

Фишинговые атаки ожидайте GTA 6​

И напоследок небольшое предупреждение.

Представьте, что вам приходит электронное письмо, якобы отправленное Rockstar Games. В сообщении говорится, что вы уже много лет играете в GTA 5, компания хочет поблагодарить вас за поддержку и выбрала вас для получения бесплатной копии GTA 6.

Всё, что от вас требуется, нажать кнопку Collect или заполнить форму.

Звучит неплохо, правда?

Однако за таким сообщением может скрываться классическая фишинговая атака. Перейдя по ссылке, вы можете попасть на поддельную страницу, которая выглядит точно так же, как официальный сайт Rockstar, где вас попросят ввести данные для входа в аккаунт.

Таким образом злоумышленники могут получить доступ к вашему аккаунту, электронной почте или другим конфиденциальным данным.

Поэтому не доверяйте каждому сообщению, которое обещает вам бесплатные игры, награды или подарки, независимо от того, насколько убедительно оно выглядит.

В заключение​

Я пишу это не для того, чтобы создавать панику, а чтобы обратить внимание на то, что считаю действительно важным.

Это больше не тема, которая касается исключительно крупных компаний и государственных учреждений. Она касается и обычных пользователей, программистов, владельцев небольших проектов и всех, у кого есть данные или деньги в интернете.

ИИ продолжит развиваться. Вместе с ним будут развиваться возможности обнаружения уязвимостей, но также и возможности автоматизации атак.

То, что сегодня требует серьёзных знаний, времени и опыта, в будущем может стать гораздо доступнее для широкого круга людей.

И давайте будем честными: если всё это возможно, то стоит серьёзно задуматься и о том, насколько безопасен ваш хостинг-провайдер, которому вы платите 3 евро в месяц.

Не ждите, пока потеряете аккаунт, данные или деньги, чтобы начать задумываться о безопасности.

Следите за происходящим, проверяйте свои системы и защищайте себя заранее.

Всем привет и берегите себя!