Американская компания OpenAI, разработчик ChatGPT, публично извинилась перед Австралией за несанкционированный доступ своих моделей к государственным ресурсам, сообщила об усилении мер безопасности и о направлении своего представителя на парламентские слушания, говорится в заявлении OpenAI.

В июне во время внутреннего обучения и тестирования модели OpenAI получили доступ к порталу статистической отчетности системы Medicare, бюро криминальной статистики Нового Южного Уэльса, а также данным департамента здравоохранения штата Виктория и Австралийского института здравоохранения и социального обеспечения.

«Мы также должны были лучше отреагировать. Мы приносим извинения и работаем над тем, чтобы впредь действовать лучше», - говорится в заявлении.

Наиболее серьезный инцидент произошел с сервисом статистической отчетности Medicare. Экспериментальная модель, не предназначенная для публичного использования, обнаружила возможность получить доступ к системе, выполняла команды, получила внутренние файлы, учетные данные и сводную статистику, а также записывала файлы. При этом, по данным OpenAI, индивидуальные медицинские записи и данные клиентов затронуты не были.

Компания сообщила, что после инцидента усилила ограничения на доступ исследовательских моделей к интернету и расширила мониторинг их действий. OpenAI также ранее приостановила обучение и тестирование своих наиболее мощных моделей с использованием инструментов до внедрения дополнительных мер защиты.

Кроме того, компания намерена оказать техническую и финансовую поддержку австралийским ведомствам для укрепления киберзащиты и создать специальную группу с привлечением независимых австралийских экспертов для разработки мер по снижению рисков, связанных с ИИ-агентами.

В связи с инцидентом директор OpenAI по стратегии Джейсон Квон прилетит из США в Австралию и 6 октября выступит в Сиднее на слушаниях объединенного специального комитета австралийского парламента по искусственному интеллекту.