Сотрудники Hacktron AI получили доступ к внутренним ресурсам OpenAI из-за ошибки в настройках

Трое специалистов по кибербезопасности из компании Hacktron AI успешно протестировали безопасность OpenAI, обнаружив критическую уязвимость, которая позволила им получить доступ к учетной записи сотрудника и внутреннему коду компании, используемому в ChatGPT. Этот инцидент, детали которого были опубликованы Financial Times, подчеркивает постоянную борьбу за безопасность данных в сфере искусственного интеллекта, где даже крупнейшие игроки могут быть уязвимы для изобретательных атак.

Исследователи воспользовались программой bug bounty, которую OpenAI внедрила для стимулирования независимых экспертов к поиску и сообщению о слабых местах в их системах. За выявленные недостатки команда Hacktron AI получила вознаграждение в размере 6 500 долларов США, что является стандартной практикой для таких программ. Однако сам факт возможности доступа к конфиденциальной информации вызывает вопросы об эффективности внедренных мер безопасности.

Путь к внутренним секретам OpenAI

Ключевым элементом, который привел к пробою в безопасности, стала ошибка в конфигурации форума сообщества OpenAI, работающего на сторонней платформе Discourse. Именно эта, казалось бы, незначительная неточность в настройках открыла двери к внутренней системе авторизации компании. Из-за этого специалисты смогли перехватить контроль над учетной записью одного из сотрудников OpenAI.

Важно отметить, что этот взломанный аккаунт имел права доступа к внутреннему программному коду через платформу GitHub. Это означает, что исследователи могли не только наблюдать за разработкой, но и потенциально вносить изменения в проприетарное программное обеспечение OpenAI. Это давало им глубокое понимание работы ключевых продуктов компании, включая ChatGPT, и открывало возможности для дальнейших, более агрессивных атак.

Для своего исследования команда Hacktron AI использовала специализированный инструмент Anthropic, разработанный для специалистов по кибербезопасности. Этот инструмент, вероятно, помог автоматизировать процесс выявления и эксплуатации уязвимостей, значительно ускорив и оптимизировав процесс исследования.

OpenAI, в свою очередь, подтвердила факт инцидента и выразила благодарность исследователям за своевременное выявление проблемы. Компания заявила, что все обнаруженные уязвимости уже исправлены, что является стандартной реакцией на подобные ситуации. Однако этот случай вновь усиливает внимание к необходимости постоянного пересмотра и совершенствования систем безопасности, особенно в условиях стремительного развития технологий искусственного интеллекта.

Контекст безопасности и развитие ИИ

Инцидент с Hacktron AI не является первым примером того, как крупные технологические компании сталкиваются с вызовами безопасности. Программы bug bounty стали неотъемлемой частью стратегии безопасности многих организаций, позволяя им использовать коллективный разум сообщества для поиска «дыр» в защите. Однако такие программы также демонстрируют, что ни одна система не является абсолютно неуязвимой.

Сфера искусственного интеллекта, в частности разработка больших языковых моделей (LLM), привлекает особое внимание киберпреступников. Доступ к моделям, данным, на которых они обучаются, или к внутренней инфраструктуре может дать огромные преимущества. Это может быть использовано для создания более убедительного фишинга, генерации вредоносного контента или даже для разработки новых видов кибероружия.

Упоминание инструмента Anthropic, который использовали исследователи, также добавляет интересный контекст. Anthropic, как и OpenAI, является одним из ведущих разработчиков LLM. Тот факт, что инструмент, созданный компанией-конкурентом, был использован для выявления уязвимостей в системе OpenAI, подчеркивает динамичный и конкурентный характер отрасли. Это также может свидетельствовать о том, что компании активно анализируют и используют достижения друг друга как в сфере разработки, так и в сфере безопасности.

Дополнительный контекст составляет упомянутое исследование Anthropic о попытках использования Claude для разработки оружия и атак на Украину. Это подчеркивает потенциальную угрозу, которую могут представлять мощные ИИ-системы, когда они попадают в ненадлежащие руки. Безопасность ИИ становится не только вопросом корпоративной ответственности, но и национальной безопасности.

В целом этот инцидент служит важным напоминанием о том, что скорость инноваций в сфере ИИ должна идти рука об руку с не менее быстрым развитием механизмов защиты. Необходимо постоянно совершенствовать протоколы безопасности, проводить регулярные аудиты, инвестировать в передовые средства обнаружения угроз и, конечно же, продолжать привлекать экспертов по кибербезопасности для тестирования систем. Только таким образом можно минимизировать риски и гарантировать, что мощные технологии искусственного интеллекта будут использоваться во благо человечества, а не во вред ему. Это постоянный процесс, требующий бдительности и адаптивности от всех участников экосистемы ИИ.