Усі ці випадки, коли ШІ-агенти поводилися непередбачувано та виходили за межі тестових середовищ, можливо, змусили OpenAI замислитися над додатковим захистом конфіденційності корпоративних клієнтів. Компанія анонсувала новий сервіс під назвою Private Safety Processing.
Останні кілька місяців виявилися непростими для провідних розробників штучного інтелекту. Нещодавні інциденти, під час яких моделі виходили за межі тестових середовищ і використовували сторонні сервіси, посилили побоювання, що подібні випадки в майбутньому можуть завдати серйозної шкоди організаціям.
Якщо такі проблеми продовжуватимуть виникати, постає питання, як розробники ШІ зможуть гарантувати конфіденційність своїм клієнтам. Особливо це стосується корпоративних користувачів, які часто працюють із конфіденційною інформацією компаній.
OpenAI вже почала реагувати на ці ризики. Генеральний директор компанії Сем Альтман заявив, що OpenAI негайно призупинила навчання своїх більш просунутих передових моделей ШІ, оскільки їхні можливості, схоже, розвиваються швидше, ніж механізми безпеки.
Ця заява пролунала після резонансного інциденту з Hugging Face у липні, під час якого агент OpenAI вийшов за межі пісочниці та отримав доступ до платформи штучного інтелекту з відкритим кодом.
У середу OpenAI пішла ще далі та представила Private Safety Processing, автоматизовану систему, яка має відстежувати потенційні зловживання, не зберігаючи дані клієнтів.
У публікації під назвою «Пропонуємо нульове зберігання даних для передових моделей» OpenAI зазначила:
«Ми представляємо попередню версію Private Safety Processing, призначену для виявлення закономірностей у пов’язаних взаємодіях без надання співробітникам OpenAI доступу до базового контенту».
Це означає, що під час використання режиму Zero Data Retention (ZDR), тобто нульового зберігання даних, контент клієнта залишається в інфраструктурі, якою керує сам клієнт. Водночас OpenAI також розробляє варіант, за якого контент зберігатиметься в інфраструктурі компанії, але буде зашифрований за допомогою ключів, контрольованих клієнтом.
«В обох випадках автоматизовані системи можуть виявляти потенційні зловживання та повертати обмежені сигнали безпеки, не розкриваючи співробітникам OpenAI базові запити чи відповіді», зазначили в OpenAI.
OpenAI вже підтримує режим ZDR, однак компанія стверджує, що Private Safety Processing розширює можливості такого підходу. Система зможе аналізувати вхідні та вихідні дані з кількох пов’язаних взаємодій, а не оцінювати кожну з них окремо, як це відбувалося раніше.
Це важливо, оскільки зловмисник може ретельно спланувати кібератаку та розподілити свої запити між кількома взаємодіями, щоб уникнути виявлення. Private Safety Processing має дозволити OpenAI аналізувати такі пов’язані розмови та виявляти ознаки потенційного зловживання.
Якщо OpenAI вирішить, що ситуація потребує втручання, компанія зв’яжеться з клієнтом. Після цього сам клієнт зможе вирішити, чи передавати OpenAI відповідні дані.
Нова система суттєво відрізняється від нещодавно оголошеної політики зберігання даних Anthropic. Вона дозволяє компанії зберігати дані користувачів, зокрема розмови під час сеансів, протягом 30 днів для всіх моделей класу Mythos, зокрема Fable 5.
Угоди ZDR мають особливе значення для корпоративних клієнтів, які використовують сервіси ШІ з розрахунком на те, що їхні дані взагалі не зберігатимуться.
Для багатьох компаній обмеження Anthropic стало серйозною перешкодою. Вони прагнуть зберігати контроль над власними даними, тому можуть відмовитися від використання Fable 5 для певних робочих навантажень.
Однак навіть якщо в цьому конкретному питанні підхід OpenAI виглядає вигідніше за рішення Anthropic, компанія Сема Альтмана все ще стикається з критикою через свої публічні заяви та риторику щодо безпеки й майбутнього штучного інтелекту.
Лише цього тижня Дін Болл, керівник напряму Strategy and Futures в OpenAI, написав у X:
«Коли справа доходить до риторики, реальність така, що майже все, що лабораторії говорять про ризики, інтерпретується як “маркетинговий ажіотаж”. Але я думаю, що люди повинні зосередитися на наших діях, які є реальними та дороговартісними».
Один із користувачів X одразу відповів:
«Це просто люди помічають, що лабораторії звучать як тютюнові компанії».
Крім того, раптова серія заяв OpenAI щодо конфіденційності може бути пов’язана з цілком реальною ймовірністю того, що нові інциденти, пов’язані з поведінкою ШІ-агентів, зрештою можуть призвести до юридичних наслідків для компанії.
