Співробітники Hacktron AI здобули доступ до внутрішніх ресурсів OpenAI через помилку в налаштуваннях

Троє фахівців із кібербезпеки з компанії Hacktron AI успішно протестували безпеку OpenAI, виявивши критичну вразливість, яка дозволила їм отримати доступ до облікового запису співробітника та внутрішнього коду компанії, що використовується в ChatGPT. Цей інцидент, деталі якого були опубліковані Financial Times, підкреслює постійну боротьбу за безпеку даних у сфері штучного інтелекту, де навіть найбільші гравці можуть бути вразливими до винахідливих атак.

Дослідники скористалися програмою bug bounty, яку OpenAI запровадила для стимулювання незалежних експертів з пошуку та повідомлення про слабкі місця в їхніх системах. За виявлені недоліки команда Hacktron AI отримала винагороду у розмірі 6 500 доларів США, що є стандартною практикою для таких програм. Однак, сам факт можливості доступу до конфіденційної інформації викликає питання щодо ефективності впроваджених заходів безпеки.

Шлях до внутрішніх секретів OpenAI

Ключовим елементом, що спричинив пролом у безпеці, стала помилка у конфігурації форуму спільноти OpenAI, який функціонує на сторонній платформі Discourse. Саме ця, здавалося б, незначна неточність у налаштуваннях відкрила двері до внутрішньої системи авторизації компанії. Через це фахівці зуміли перехопити контроль над обліковим записом одного зі співробітників OpenAI.

Важливо зазначити, що цей зламаний акаунт мав права доступу до внутрішнього програмного коду через платформу GitHub. Це означає, що дослідники могли не тільки спостерігати за розробкою, але й потенційно вносити зміни до пропрієтарного програмного забезпечення OpenAI. Це надавало їм глибинне розуміння функціонування ключових продуктів компанії, включаючи ChatGPT, та відкривало можливості для подальших, більш агресивних атак.

Для свого дослідження команда Hacktron AI використовувала спеціалізований інструмент Anthropic, розроблений для фахівців з кібербезпеки. Цей інструмент, ймовірно, допоміг автоматизувати процес виявлення та експлуатації вразливостей, значно прискоривши та оптимізувавши процес дослідження.

OpenAI, у свою чергу, підтвердила факт інциденту та висловила вдячність дослідникам за своєчасне виявлення проблеми. Компанія заявила, що всі виявлені вразливості вже виправлені, що є стандартною реакцією на подібні ситуації. Однак, цей випадок знову загострює увагу на потребі постійного перегляду та вдосконалення систем безпеки, особливо в умовах стрімкого розвитку технологій штучного інтелекту.

Контекст безпеки та розвиток ШІ

Інцидент з Hacktron AI не є першим прикладом, коли великі технологічні компанії стикаються з викликами безпеки. Програми bug bounty стали невід’ємною частиною стратегії безпеки багатьох організацій, дозволяючи їм використовувати колективний розум спільноти для пошуку “дірок” у захисті. Однак, такі програми також демонструють, що жодна система не є абсолютно невразливою.

Сфера штучного інтелекту, зокрема розробка великих мовних моделей (LLM), приваблює особливу увагу кіберзлочинців. Доступ до моделей, даних, на яких вони навчаються, або до внутрішньої інфраструктури може надати величезні переваги. Це може бути використано для створення більш переконливого фішингу, генерації шкідливого контенту, або навіть для розробки нових видів кіберзброї.

Згадка про інструмент Anthropic, який використовували дослідники, також додає цікавий контекст. Anthropic, як і OpenAI, є одним із провідних розробників LLM. Той факт, що інструмент, створений компанією-конкурентом, був використаний для виявлення вразливостей у системі OpenAI, підкреслює динамічний та конкурентний характер галузі. Це також може свідчити про те, що компанії активно аналізують і використовують досягнення одне одного, як у сфері розробки, так і в сфері безпеки.

Додатковий контекст становить згадане дослідження Anthropic про спроби використання Claude для розробки зброї та атак на Україну. Це підкреслює потенційну загрозу, яку можуть становити потужні ШІ-системи, коли вони потрапляють у неналежні руки. Безпека ШІ стає не лише питанням корпоративної відповідальності, але й національної безпеки.

Загалом, цей інцидент слугує важливим нагадуванням про те, що швидкість інновацій у сфері ШІ повинна йти пліч-о-пліч із не менш швидким розвитком механізмів захисту. Необхідно постійно вдосконалювати протоколи безпеки, проводити регулярні аудити, інвестувати в передові засоби виявлення загроз і, звичайно ж, продовжувати залучати експертів з кібербезпеки для тестування систем. Тільки таким чином можна мінімізувати ризики і гарантувати, що потужні технології штучного інтелекту будуть використовуватися на благо людства, а не для його шкоди. Це постійний процес, що вимагає пильності та адаптивності від усіх учасників екосистеми ШІ.