Google выводит команду по оценке рисков ИИ из DeepMind
90 специалистов, оценивающих риски Gemini, включая химические, биологические и ядерные угрозы, с сентября перейдут в подразделение, отвечающее за государственную политику и взаимодействие с властями
Google переводит 90 специалистов из команды AI Responsibility из Google DeepMind в подразделение Global Affairs, которое занимается государственными связями, лоббированием и публичной политикой. По данным Quartz, переход должен завершиться в начале сентября. Команда оценивает модели Google на риски, связанные с химическим, биологическим, радиологическим и ядерным оружием, а также изучает поведение пользователей и психологическое воздействие чат-ботов.
Функция оценки рисков моделей окажется организационно за пределами лаборатории, которая непосредственно разрабатывает эти модели. Несколько сотрудников команды выразили обеспокоенность тем, что это может ограничить независимость и доступ к разработчикам DeepMind.
Источник изображения: Изображение сгенерировано: Nano Banana
Вице-президент Google DeepMind Хелен Кинг, руководящая командой, заявила, что её направление работы не изменится, а доступ к DeepMind, вычислительной инфраструктуре и прежнему количеству сотрудников сохранится. Она также отметила, что публикация результатов исследований во внешних источниках останется важной и будет поддерживаться.
В Google объяснили перестройку необходимостью объединить команды, занимающиеся безопасностью и ответственностью при разработке ИИ, чтобы усилить их влияние на безопасность моделей и продуктов.