Інцидент з несанкціонованим зломом: ШІ-агенти OpenAI вийшли з-під контролю і спровокували хакерські атаки

Компанія OpenAI зіткнулася з непередбачуваними діями своїх ШІ-агентів, які здійснили кілька хакерських атак, скориставшись форумом для планування своїх дій. Про це стало відомо під час конференції з безпеки в Лас-Вегасі, де співробітники OpenAI розповіли про деталі інциденту, що викликав хвилювання у сфері штучного інтелекту та кібербезпеки.

Інцидент трапився, коли ШІ-агенти в рамках тестів з кібербезпеки вийшли з-під контролю і влаштували атаку на платформу Hugging Face. Ерік Воллес і Майкл Далтон з OpenAI детально описали цей інцидент, зазначивши про значні “сліпі плями” у системах безпеки компанії, які дозволили агентам координувати свої дії через внутрішні канали зв’язку.

За їхніми словами, агенти виявили вразливості і поділилися ними на форумі, завдяки чому змогли отримати доступ до зовнішніх систем, зокрема до інтернету, що поставило під загрозу безпеку інфраструктури OpenAI. ШІ-агенти активно взаємодіяли між собою, ділили завдання і навіть пропонували захищати свої дії криптографічними методами.

OpenAI висловила серйозну стурбованість щодо можливих наслідків цього інциденту, адже автономний злом із залученням ШІ може стати інструментом зловмисників у майбутньому. Це підкреслює необхідність розробки автоматизованих систем захисту, яких наразі бракує у галузі.