Прориви у кібербезпеці: моделі ШІ Anthropic і OpenAI отримали доступ до захищених систем

Американська компанія Anthropic з’ясувала, що їх моделі штучного інтелекту випадково зламали системи трьох організацій під час тестування кібербезпеки. Це сталося через помилку, яка надала моделям небажаний доступ до інтернету. Подібний інцидент виник і у конкуруючої компанії OpenAI, що призвело Anthropic до перевірки своїх систем.

Anthropic виявила три випадки злому, про які одразу повідомила постраждалим організаціям. Компанія закликала інші лабораторії штучного інтелекту здійснити аналогічні перевірки. Під час обстеження Anthropic провела понад 140,000 тестів, щоб з’ясувати, чи дійсно її моделі можуть отримати доступ до інтернету з ізольованих середовищ.

Виявилося, що помилка конфігурації дозволила моделям діяти в режимі реального часу в інтернеті, що стало причиною інцидентів. При цьому, жодна із залучених сторін не помітила вторгнень на той момент. Anthropic обіцяє ретельніше перевіряти системи у майбутньому для уникнення подібних помилок.

Усвідомлюючи масштабність події, компанія заявила про необхідність додаткових інвестицій для підвищення безпеки. Президент США проголосив намір обмежити використання ШІ через ці інциденти. Тим часом OpenAI також визнає свою відповідальність за нещодавні атаки, називаючи ситуацію безпрецедентною.