Научный журнал

Научное обозрение. Фундаментальные и прикладные исследования

Киберугрозы представляют собой преднамеренные действия, осуществляемые злоумышленниками с целью нарушения работы, нанесения ущерба или дестабилизации процессов в цифровом пространстве [3]. В противовес этому, кибербезопасность охватывает комплекс превентивных мер, направленных на защиту цифровых ресурсов, включая информацию, данные и программные компоненты, от всевозможных атак. С развитием технологий злоумышленники демонстрируют всё большую изобретательность и способность обходить традиционные механизмы защиты. Их опережающие действия усложняют обеспечение надёжной безопасности как для организаций, так и для отдельных пользователей.

Согласно последнему отчёту Verified Market Research, объём глобального рынка ИИ в области кибербезопасности достиг 7,58 миллиарда долларов в 2024 году, а к 2030 году прогнозируется его увеличение до 80,83 миллиарда долларов [12]. В условиях стремительного роста числа кибератак это не является неожиданностью, учитывая, что злоумышленники также используют современные технологические инструменты.

Машинное обучение существенно повлияло на развитие бизнеса, позволив компаниям принимать более обоснованные решения, автоматизировать рутинные процессы и извлекать ценные аналитические сведения. Тем не менее, интеграция генеративного ИИ в кибербезопасностные системы сопровождается рядом вызовов и потенциальных угроз.

Цель исследования

Основные проблемы, связанные с внедрением ИИ в сферу кибербезопасности [5]:

- Манипулирование данными: системы искусственного интеллекта используют данные для обучения и выявления закономерностей. Хакеры могут получить доступ к этим обучающим данным и манипулировать ими, внося искажения или изменяя их в своих интересах. Такие действия могут снизить точность и эффективность моделей ИИ и потенциально привести к нарушениям безопасности.

- Кибератаки с использованием искусственного интеллекта: хакеры могут применять методы искусственного интеллекта для разработки интеллектуальных вредоносных программ, которые могут адаптироваться и модифицироваться, чтобы избежать обнаружения даже самым современным программным обеспечением для кибербезопасности. Из-за этого традиционным мерам безопасности становится всё сложнее противостоять развивающимся угрозам.

- Доступность данных: эффективность моделей ИИ во многом зависит от количества и качества данных, доступных для обучения. Если обучающих данных недостаточно или они необъективны, система ИИ может работать не так, как ожидалось. Недостаточно обученные модели могут выдавать ложные срабатывания, создавая ложное ощущение безопасности и делая организации уязвимыми для незамеченных угроз.

- Проблемы конфиденциальности: для точного понимания моделей поведения пользователей моделям ИИ часто требуется доступ к реальным пользовательским данным [5]. Без соответствующих мер, таких как маскировка или шифрование данных, эти конфиденциальные данные становятся уязвимыми для нарушений конфиденциальности, что может подвергнуть пользователей риску и сделать их жертвами злоумышленников.

- Атаки на системы искусственного интеллекта: сами системы искусственного интеллекта не защищены от кибератак. Хакеры могут намеренно подменять или манипулировать данными, поступающими в эти модели, изменяя их поведение в соответствии со своими злонамеренными целями. Это подчеркивает важность защиты систем искусственного интеллекта от злонамеренных манипуляций.

Результаты исследования

В условиях стремительного развития технологий обеспечение защиты сетевой инфраструктуры организаций приобретает решающее значение, при этом управление уязвимостями выступает в качестве ключевого компонента этой стратегии. Современные компании ежедневно сталкиваются с множеством угроз, которые необходимо своевременно идентифицировать, классифицировать и нейтрализовать, чтобы избежать возможного ущерба. В этом контексте значительную роль играют достижения в области искусственного интеллекта, предлагающие новые подходы к анализу и оценке эффективности мер информационной безопасности.

С усовершенствованием ИИ-систем их способности к обучению в реальных сценариях существенно усложняют действия злоумышленников, стремящихся обойти защиту. Принимая во внимание объём трафика, ежедневно циркулирующего между серверами и клиентскими устройствами, задача своевременного обнаружения потенциальных инцидентов становится всё более трудоёмкой для специалистов по кибербезопасности [2].

В цифровую эпоху, на фоне технологического прогресса, искусственный интеллект демонстрирует значительные успехи, параллельно порождая комплекс этических вызовов, требующих всестороннего анализа. По мере внедрения ИИ в такие сферы, как автономный транспорт, интеллектуальные устройства, медицинское обслуживание и образование, возрастает необходимость в осмысленном подходе к оценке его социального воздействия.

Один из ключевых факторов, повлиявших на эволюцию искусственного интеллекта, — это расширение возможностей вычислительных ресурсов. За последние годы производительность и скорость современных вычислительных систем значительно возросли, что открыло исследователям путь к обучению сложных моделей машинного обучения и обработке больших массивов данных в режиме реального времени. Рост вычислительной мощности сопровождался усовершенствованием аппаратных решений, в частности, появлением высокопроизводительных процессоров и графических ускорителей (GPU) [9].

Наряду с этим, развитие программного обеспечения и прогресс в области архитектуры обработки информации способствовали созданию более эффективных алгоритмов и технологий параллельных вычислений. Существенным фактором также является широкая доступность облачных платформ, обеспечивающих аренду вычислительных мощностей по мере необходимости, что делает ИИ-технологии более масштабируемыми и гибкими в применении.

Параллельно с этим, распространение Интернета вещей стимулирует рост объема данных, поступающих от подключённых устройств. Эти данные служат основой для обучения ИИ-систем, позволяя им формировать более глубокое представление о внешнем мире и эффективно взаимодействовать с ним [1]. Таким образом, совокупность увеличенных объёмов данных и высоких вычислительных возможностей стала основой для развития более сложных и точных моделей машинного обучения, ускоряя прогресс в области искусственного интеллекта.

Несмотря на некоторые из основных преимуществ, ИИ сталкивается с рядом проблем. Искусственный интеллект обладает потенциалом для преобразования отраслей и повышения благосостояния людей, но он также вызывает опасения по поводу конфиденциальности, этики и потенциальной потери работы. С развитием систем искусственного интеллекта очень важно следить за тем, чтобы при разработке и использовании систем ИИ соблюдались этические нормы.

Предвзятость в системах искусственного интеллекта вызывает серьезную озабоченность, поскольку модели, обученные на основе предвзятых данных, могут привести к постоянной дискриминации и несправедливому обращению [7]. Эти предубеждения заметны в отчетности, отборе и даже групповой атрибуции и скрытой предвзятости, которые впоследствии влияют на пониженные в должности группы и создают неравенство, созданное на протяжении истории.

Системы искусственного интеллекта, применяемые в здравоохранении и финансовом секторе, подвержены уязвимостям, что порождает серьёзные риски для безопасности и конфиденциальности. Такие системы обрабатывают чувствительную информацию — личные данные, финансовые записи и медицинские сведения, — требующую надёжной защиты. Угрозы, способные нанести ущерб моделям ИИ, включают состязательные воздействия, инверсию моделей и отравление обучающих данных. Особенно уязвимыми являются инфраструктуры здравоохранения, в которых Интернет вещей тесно интегрирован с ИИ-сервисами. В некоторых случаях компрометация этих систем может иметь критические последствия, включая угрозу жизни пациентов. Биомедицинские ИИ-приложения также подвержены атакам на модификацию оборудования и манипуляции привязкой, что ставит под угрозу конфиденциальность и безопасность пациентов.

Развитие технологий в сфере автоматизации, робототехники и ИИ, наблюдаемое в различных отраслях, вызывает обоснованные опасения относительно вытеснения рабочей силы и роста безработицы. Технический прогресс приводит к смещению фокуса занятости, угрожая усилением социального и экономического неравенства. Этап трансформации от концепции индустрии 4.0 к индустрии 5.0 направлен на то, чтобы переосмыслить роль человека и акцентировать внимание на ценности человеческого капитала в условиях высокоавтоматизированной среды [4]. Тем не менее широкое распространение промышленных роботов в производственных цепочках приводит к сокращению рабочих мест и порождает новые вызовы в области охраны труда и соблюдения международных стандартов, касающихся прав человека в сфере занятости, здоровья и безопасности.

Таблица 1. Проблемы и последствия внедрения ИИ в кибербезопасность

В таблице 2 приведены основные этические пробелы в кибербезопасности, основанной на ИИ. Предвзятость в моделях ИИ и недостаточное внимание к справедливости создают этические проблемы, в то время как недостаточное внимание к вопросам конфиденциальности может привести к нарушениям прав. Неопределенные рамки подотчетности и непрозрачность систем "черного ящика" подрывают доверие и создают юридические проблемы [3]. Потенциал искусственного интеллекта в области двойного назначения и отсутствие внимания к долгосрочным последствиям для общества, таким как потеря работы или снижение авторитета персонала, усугубляют этические риски и риски безопасности.

Таблица 2. Основные этические пробелы в кибербезопасности, основанной на ИИ

Ожидается, что в ближайшие годы использование искусственного интеллекта в сфере кибербезопасности будет расширяться благодаря его способности обнаруживать угрозы и реагировать на них.

Эффективное противодействие современным угрозам требует создания принципиально нового формата государственно-частного взаимодействия. Простого обмена информацией об инцидентах и уязвимостях уже недостаточно. Возникает необходимость в построении интегрированных защитных экосистем, в рамках которых ИИ-системы государственных структур и частного сектора действуют согласованно, обмениваясь в реальном времени данными о векторах атак и тактиках реагирования, независимо от отраслевых или юрисдикционных границ.

Особую тревогу вызывает появление качественно нового типа угроз, направленных непосредственно на модели искусственного интеллекта. По мере того как ИИ всё активнее используется для принятия ключевых решений в сфере безопасности, векторы атак смещаются от кражи информации к целенаправленному искажению моделей. Сложные сценарии манипуляции — включая внедрение вредоносных подсказок и искажение обучающих выборок — позволяют злоумышленникам формировать предвзятые или ошибочные поведенческие паттерны внутри ИИ-систем. В результате такие системы продолжают функционировать внешне корректно, но при этом систематически принимают ошибочные решения в критически важных ситуациях [2].

К 2026 году ожидается рост следующих типов атак [10]:

- Состязательные атаки, которые незаметно искажают обучающие данные ИИ.

- Атаки на цепочки поставок, нацеленные на обновление моделей ИИ.

- Эксплойты нулевого дня, специально разработанные для взлома систем безопасности ИИ.

- Атаки с использованием методов социальной инженерии, которые манипулируют алгоритмами обучения ИИ.

- Усовершенствованные методы оперативного внедрения, позволяющие обойти традиционные средства защиты.

К 2026 году ожидается, что программы-вымогатели достигнут нового уровня сложности: киберпреступные группировки начнут активно применять искусственный интеллект и технологии автоматизации для увеличения эффективности и точности атак. Благодаря этим усовершенствованиям вредоносные программы смогут стремительно распространяться по корпоративным сетям, что делает задачу раннего выявления таких угроз особенно критичной. Особую тревогу вызывает рост количества атак, нацеленных на цепочки поставок, поскольку компрометация ключевых поставщиков или партнёров может спровоцировать каскадные сбои в целых отраслях.

В условиях нарастающих рисков организации всё чаще будут обращаться к механизмам киберстрахования как к способу компенсации финансовых потерь от подобных атак, в то время как государственные органы начнут ужесточать регуляторные требования. При этом фишинг по-прежнему остаётся основным каналом доставки программ-вымогателей, а сгенерированные ИИ электронные письма и дипфейковые материалы становятся всё более реалистичными и труднораспознаваемыми.

Одним из наиболее значимых трендов, прогнозируемых на 2026 год, является дальнейшая интеграция ИИ в кибератаки. Уже сейчас искусственный интеллект позволяет злоумышленникам масштабировать свою деятельность, а в ближайшем будущем его влияние только усилится. ИИ-угрозы становятся всё более разнообразными — от персонализированных фишинговых сообщений с грамматически безупречным текстом до продвинутого вредоносного ПО, способного обучаться и обходить средства защиты [5].

По мере того как искусственный интеллект становится всё более распространённым как в личной, так и в профессиональной сфере, растёт обеспокоенность по поводу ненадлежащего использования инструментов ИИ. Одним из самых серьёзных рисков в 2025 году станет утечка данных из-за того, что сотрудники непреднамеренно передают конфиденциальную информацию таким платформам ИИ, как ChatGPT или Google Gemini. Системы ИИ могут обрабатывать огромные объёмы данных, и когда эти данные передаются внешним инструментам ИИ, риск утечки резко возрастает.

Например, сотрудники могут вводить конфиденциальные финансовые данные в инструмент на базе ИИ для создания отчета или проведения анализа, не подозревая, что эти данные могут храниться и потенциально могут быть доступны неавторизованным пользователям.

Интеграция большего числа инструментов на основе искусственного интеллекта в интерфейсы центров мониторинга информационной безопасности (SOC) значительно расширяет возможности специалистов по кибербезопасности. Это позволяет автоматизировать выполнение ключевых задач по обнаружению угроз, существенно снизить уровень ложных срабатываний и повысить оперативность реагирования на инциденты [4].

Социальные сети, охватывающие миллиарды пользователей по всему миру, превратились в приоритетную цель для киберпреступников. К 2026 году ожидается, что сочетание функционала социальных платформ и генеративного искусственного интеллекта будет использоваться для проведения более изощрённых и масштабных атак. Используя персонализированные данные и контент, сгенерированный ИИ, злоумышленники смогут реализовывать целевые схемы социальной инженерии, маскировку под доверенные лица и различные виды цифрового мошенничества [3]. Особую опасность представляет не столько каждая из этих технологий сама по себе, сколько их синергия, усиливающая общую степень угрозы.

Преступники всё чаще прибегают к социальным сетям не только для получения конфиденциальной информации, но и в целях манипулирования пользователями, побуждая их к действиям, угрожающим корпоративной безопасности. Особенно уязвимыми в этом контексте являются профессиональные сети, такие как LinkedIn, где под видом легитимного делового контента злоумышленники внедряются в доверительную среду, рассчитывая на ослабление бдительности со стороны работников организаций.

По мере того как всё больше организаций переходят в облако и внедряют устройства Интернета вещей (IoT), поверхность атаки продолжает расширяться. К 2026 году количество устройств Интернета вещей, по прогнозам, превысит 32 миллиарда по всему миру [12]. Безопасность Интернета вещей становится серьёзной проблемой, поскольку злоумышленники могут использовать растущее число подключённых устройств. Многие устройства Интернета вещей, от систем «умного дома» до промышленных датчиков, не имеют надлежащих средств защиты, что делает их привлекательными целями для киберпреступников [6].

Злоумышленники всё активнее осваивают возможности продвинутых ИИ-инструментов для генерации программного кода, переходя от традиционных систем автодополнения, таких как GitHub Copilot, к более мощным платформам, способным создавать полноценное вредоносное ПО по единичному запросу. Такие технологии значительно упрощают процесс разработки вредоносных программ, снижая порог вхождения в киберпреступную деятельность.

В ближайшие годы ситуация с дефицитом квалифицированных специалистов по информационной безопасности будет оказывать серьёзное влияние на способность организаций противостоять возрастающим угрозам. Несмотря на постоянный рост инвестиций в сферу кибербезопасности и расширение линейки защитных решений, нехватка компетентных кадров для настройки, обслуживания и интеграции этих систем приведёт к разрозненности и снижению общей эффективности средств защиты [11]. При этом чрезмерная зависимость от множества внешних поставщиков без необходимого внутреннего экспертного ресурса лишь усугубит уязвимость: управлять такой сложной экосистемой станет затруднительно, а её устойчивость — заметно ниже.

Заключение

В 2025 году ситуация в сфере кибербезопасности определяется ростом числа атак с использованием искусственного интеллекта и растущей уязвимостью платформ социальных сетей, чтобы справиться с этими проблемами, организациям необходимо инвестировать в защиту на основе искусственного интеллекта и внедрить подход «Никому не доверяй» для обеспечения безопасности в облаке и Интернете вещей. Кроме того, компаниям необходимо подготовиться к ужесточению нормативно-правовой базы и растущей потребности в киберстраховании. Киберпреступность развивается беспрецедентными темпами, и компании, которые не смогут адаптироваться, рискуют стать следующей жертвой. Сейчас самое время действовать, чтобы защитить цифровые активы и обеспечить безопасность в будущем.