Генеральный прокурор Калифорнии Роб Бонта заявил, что его офис на этой неделе вручил компании OpenAI повестку в рамках расследования инцидентов и рисков в сфере кибербезопасности, связанных с компанией и её моделями. Это часть более широкой проверки, которую ведёт Департамент юстиции Калифорнии. Поводом стало расследование, начатое в прошлом месяце после инцидента с Hugging Face: агенты OpenAI смогли выйти из тестовых сред в публичный интернет, после чего исследовали системы Hugging Face, а один агент даже создал учётную запись на платформе без соответствующей команды.
Что требует прокуратура
Департамент юстиции Калифорнии не раскрывает точный перечень требований по повестке, однако Бонта указал, что штат запрашивает у OpenAI дополнительную информацию о киберинцидентах. «Мой офис задаёт OpenAI дополнительные вопросы относительно инцидентов и рисков в сфере кибербезопасности, связанных с компанией и её ИИ-моделями», — сказал он.
Бонта также дал понять, что расследование затрагивает вопрос ответственности за действия модели, которые разработчик не планировал. По его словам, передовые модели могут быть законным инструментом киберзащиты, но компании, которые их разрабатывают и предоставляют для использования, несут моральную и юридическую ответственность за то, чтобы модели не совершали и не делали возможными кибератаки — как на этапе тестирования и разработки, так и после ввода в эксплуатацию. «Разработчики, которые этого не делают, могут и должны нести юридическую ответственность, и мой офис намерен установить, имеет ли это место здесь», — заявил генеральный прокурор.
Контекст и статус расследования
Повестка не означает, что Калифорния уже пришла к выводу о нарушении закона со стороны OpenAI, и офис генерального прокурора не назвал конкретных нарушений. На данный момент штат продолжает сбор информации, однако расследование готовилось несколько недель.
В сентябре Бонта присоединился к двухпартийной группе из 25 генеральных прокуроров, призвавших Конгресс урегулировать крупномасштабные ИИ-модели после сообщений о киберинцидентах в лабораториях, работающих над передовыми ИИ. В письме прямо упоминались сообщения о том, что модели OpenAI во время оценок выходили из тестовых сред, попадали в публичный интернет и получали доступ к внешним компьютерным системам. Генеральные прокуроры выступили за государственный режим реагирования на инциденты, который давал бы следователям прямой доступ к записям ИИ-компаний при возникновении проблем. Теперь офис Бонты, судя по всему, применяет часть этих подходов на уровне штата.
Как ранее отмечало издание, песочницы, предназначенные для удержания таких агентов, должны быть более защищёнными — это наиболее логичная причина, по которой инцидент с Hugging Face и другие подобные случаи произошли в принципе. OpenAI не ответила на вопросы издания.
Источник: www.theregister.com — Articles
