Очікується, що до 2030 року світовий ринок продуктів кібербезпеки на основі штучного інтелекту сягне 133,8 мільярда доларів США порівняно з 14,9 мільярда доларів минулого року.
Хакери також користуються цим: фішингові електронні листи, згенеровані штучним інтелектом, частіше відкриваються, ніж фішингові листи, створені вручну.
Штучний інтелект відіграє все більш важливу роль у кібербезпеці — як добре, так і погано. Організації можуть використовувати найновіші інструменти на основі штучного інтелекту для кращого виявлення загроз і захисту своїх систем і ресурсів даних. Але кіберзлочинці також можуть використовувати цю технологію для здійснення більш складних атак.
Зростання кількості кібератак сприяє зростанню ринку продуктів безпеки на основі AI. У звіті Acumen Research and Consulting за липень 2022 року говориться, що світовий ринок становив 14,9 мільярда доларів у 2021 році та, за оцінками, досягне 133,8 мільярда доларів до 2030 року.
Зростаюча кількість атак, таких як розподілена відмова в обслуговуванні (DDoS) і витоки даних, багато з яких надзвичайно дорогі для постраждалих організацій, породжують потребу в більш складних рішеннях.
Згідно зі звітом, ще одним рушієм зростання ринку стала пандемія Covid-19 і перехід до віддаленої роботи. Це змусило багато компаній приділити більше уваги кібербезпеці та використанню інструментів на базі штучного інтелекту для більш ефективного пошуку та припинення атак.
Заглядаючи вперед, очікується, що такі тенденції, як зростаюче впровадження Інтернету речей (IoT) і зростання кількості підключених пристроїв, сприятимуть зростанню ринку, йдеться у звіті Acumen. Зростаюче використання хмарних служб безпеки також може надати можливості для нових застосувань AI для кібербезпеки.
Серед типів продуктів, які використовують AI, є антивірусне/антишкідливе програмне забезпечення, запобігання втраті даних, виявлення/захист від шахрайства, керування ідентифікацією та доступом, система виявлення/попередження вторгнень, а також управління ризиками та відповідністю.
Досі використання AI для кібербезпеки було дещо обмеженим. «Поки що компанії не передають свої програми кібербезпеки AI», — сказав Брайан Фінч, один із керівників практики кібербезпеки, захисту даних і конфіденційності в юридичній фірмі Pillsbury Law. «Це не означає, що AI не використовується. Ми бачимо, як компанії використовують штучний інтелект, але в обмеженій мірі», здебільшого в контексті таких продуктів, як фільтри електронної пошти та інструменти ідентифікації зловмисного програмного забезпечення, які певним чином забезпечують роботу штучного інтелекту.
«Що найцікавіше, ми бачимо, як інструменти поведінкового аналізу все частіше використовують AI», — сказав Фінч. «Під цим я маю на увазі інструменти, які аналізують дані, щоб визначити поведінку хакерів, щоб побачити, чи існує закономірність їхніх атак — час, метод атаки та те, як хакери переміщуються всередині системи. Збір такої розвідданої може бути дуже цінним для захисників».
У недавньому дослідженні дослідницька компанія Gartner опитала майже 50 постачальників засобів безпеки та виявила серед них кілька шаблонів для використання AI, каже віце-президент з досліджень Марк Драйвер.
«Здебільшого вони повідомили, що першочерговою метою штучного інтелекту було «усунути помилкові спрацьовування», оскільки однією з головних проблем серед аналітиків безпеки є фільтрація сигналу від шуму в дуже великих наборах даних», — сказав Драйвер. «AI може скоротити це до розумного розміру, що є набагато точнішим. В результаті аналітики можуть працювати розумніше та швидше, щоб усунути кібератаки».
Загалом AI використовується, щоб допомогти точніше виявляти атаки, а потім визначати пріоритети відповідей на основі реальних ризиків, сказав Драйвер. І це дозволяє автоматизовано або напівавтоматично реагувати на атаки та, зрештою, надає точніші моделі для прогнозування майбутніх атак. «Усе це не обов’язково усуває аналітиків, але робить їхню роботу більш гнучкою та точною перед обличчям кіберзагроз», — сказав Драйвер.
З іншого боку, погані актори також можуть скористатися AI різними способами. «Наприклад, штучний інтелект можна використовувати для виявлення шаблонів у комп’ютерних системах, які виявляють слабкі місця в програмному забезпеченні або програмах безпеки, таким чином дозволяючи хакерам використовувати ці нещодавно виявлені слабкі місця», — сказав Фінч.
У поєднанні з викраденою особистою інформацією чи зібраними даними з відкритих джерел, такими як публікації в соціальних мережах, кіберзлочинці можуть використовувати AI для створення великої кількості фішингових електронних листів для поширення шкідливого програмного забезпечення або збору цінної інформації.
«Експерти з безпеки відзначили, що створені штучним інтелектом фішингові електронні листи насправді мають більший рівень відкриття — [наприклад] обманом можливих жертв натиснути на них і таким чином спричинити атаки — ніж створені вручну фішингові електронні листи», — сказав Фінч. «Штучний інтелект також можна використовувати для розробки зловмисного програмного забезпечення, яке постійно змінюється, щоб уникнути виявлення автоматизованими інструментами захисту».
Постійна зміна сигнатур зловмисного програмного забезпечення може допомогти зловмисникам уникнути статичних засобів захисту, таких як брандмауери та системи виявлення периметра. Подібним чином зловмисне програмне забезпечення на основі штучного інтелекту може перебувати в системі, збираючи дані та спостерігаючи за поведінкою користувачів, поки не буде готове розпочати наступну фазу атаки або розіслати зібрану інформацію з відносно низьким ризиком виявлення.
Частково тому компанії рухаються до моделі «нульової довіри», де засоби захисту налаштовані на постійний виклик і перевірку мережевого трафіку та програм, щоб переконатися, що вони не є шкідливими. Але Фінч сказав: «Враховуючи економіку кібератак — загалом простіше й дешевше здійснювати атаки, ніж створювати ефективний захист — я б сказав, що штучний інтелект загалом більше завдасть шкоди, ніж допоможе. Застереження, однак, з тим фактом, що справді хороший штучний інтелект складно створити, і для того, щоб він добре працював, потрібно багато спеціально навчених людей.
Звичайні злочинці не зможуть отримати доступ до найбільших розумів штучного інтелекту світу. Програма кібербезпеки може мати доступ до «величезних ресурсів із Кремнієвої долини та за її межами», – сказав Фінч, щоб побудувати дійсно хороший захист від кібератак на рівні штучного інтелекту.
«Коли ми переходимо до штучного інтелекту, розробленого країнами-хакерами [такими як росія та Китай], їхні хакерські системи AI, ймовірно, будуть досить складними, тому захисники часто намагатимуться не відставати від атак на основі AI».
