OpenAI анонсувала нову модель GPT-5.4-Cyber, створену спеціально для фахівців із кібербезпеки. Вона має допомогти захисникам швидше знаходити вразливості, але водночас піднімає питання про ризики використання таких технологій зловмисниками.
OpenAI представила GPT-5.4-Cyber , варіант своєї останньої флагманської моделі GPT‑5.4, спеціально оптимізованої для використання в оборонній кібербезпеці, через кілька днів після того, як конкурент Anthropic представив власну передову модель Mythos.
«Прогресивне використання штучного інтелекту пришвидшує роботу захисників – тих, хто відповідає за безпеку систем, даних і користувачів, – дозволяючи їм швидше знаходити та вирішувати проблеми в цифровій інфраструктурі, від якої всі покладаються», – заявили в OpenAI .
У зв’язку з оголошенням, компанія зі штучного інтелекту (ШІ) заявила, що розширює свою програму Trusted Access for Cyber (TAC), охоплюючи тисячі автентифікованих окремих захисників та сотні команд, відповідальних за захист критично важливого програмного забезпечення.
Системи штучного інтелекту за своєю суттю мають подвійне використання, оскільки зловмисники можуть перевикористовувати технології, розроблені для легітимних застосувань, на власну користь та досягати зловмисних цілей. Однією з основних проблем є те, що зловмисники можуть інвертувати моделі, точно налаштовані для захисту програмного забезпечення, щоб виявляти та використовувати вразливості в широко використовуваному програмному забезпеченні, перш ніж їх можна буде виправити, наражаючи користувачів на значні ризики.
OpenAI заявила, що метою є демократизація доступу до своїх моделей, мінімізація такого зловживання, а також посилення захисних механізмів шляхом цілеспрямованого, ітеративного розгортання. Ідея полягає в тому, щоб забезпечити відповідальне використання у великих масштабах, дати захисникам фору та одночасно зміцнити захист від джейлбрейків та зловмисних швидких введень, оскільки можливості моделей стають більш розвиненими.
«У міру розвитку можливостей моделі наш підхід полягає в масштабуванні кіберзахисту в ногу з часом: розширення доступу для законних захисників, одночасно продовжуючи посилювати захисні заходи», – додали в компанії.
Розробник ChatGPT, який запустив Codex Security як спосіб пошуку, перевірки та пропозиції виправлень вразливостей, повідомив, що агент безпеки додатків на базі штучного інтелекту сприяв виникненню понад 3000 критичних та високовиправлених вразливостей.
Обмежений реліз OpenAI відбувся після попереднього перегляду Mythos від Anthropic, передової моделі, яка контрольовано розгортається в рамках проекту Glasswing . За словами компанії, модель виявила «тисячі» вразливостей в операційних системах, веббраузерах та іншому програмному забезпеченні.