Дэвид Робинсон, который готовил отчёты по безопасности, сопровождавшие каждый крупный выпуск моделей в OpenAI, на этой неделе уволился и теперь открыто высказывается в редакционной статье в The Atlantic. Понятно, если вы настроены скептически, когда все вдруг начинают предупреждать об опасности того, что сами помогли создать. В конце концов, они и создали эту проблему. Но это не значит, что к их предупреждениям не стоит прислушиваться. Робинсон утверждает, что культура в отрасли фундаментально сломана. Что это более глубокая проблема, чем просто добавление нескольких новых правил или регуляций о том, как мы управляем обучением моделей.
Уход и публичное заявление
Дэвид Робинсон, занимавшийся составлением отчётов по безопасности для всех значительных релизов моделей OpenAI, на этой неделе объявил об уходе из компании. Одновременно он выступил с редакционной статьёй в The Atlantic, где изложил свои опасения.
Робинсон ранее отвечал за подготовку safety-отчётов, которые сопровождали каждый крупный выпуск моделей OpenAI. Его уход и публичное выступление привлекли внимание к вопросам безопасности в сфере искусственного интеллекта.
Суть предупреждения
В своей статье Робинсон заявляет, что культура в индустрии ИИ фундаментально сломана. По его мнению, проблема носит более глубокий характер, чем просто принятие нескольких новых правил или регуляций, касающихся управления обучением моделей.
Он подчёркивает, что текущие подходы к обеспечению безопасности недостаточны и требуют пересмотра на уровне самой культуры разработки, а не только формальных норм.
Контекст и реакция
Понятно, что многие могут отнестись скептически к предупреждениям от людей, которые сами участвовали в создании технологии. Однако, как отмечается, это не повод игнорировать их опасения.
Робинсон — не первый, кто высказывается об угрозах, связанных с ИИ, после ухода из компании. Его заявления добавляют вес дискуссии о необходимости более глубоких изменений в отрасли.
Источник: The Verge
