Техногиганты США подписали соглашение с Трампом по контролю за ИИ

Подписанное руководителями технологических компаний и президентом США Дональдом Трампом соглашение опубликовано в Truth Social американского лидера.

«Каждая компания, обучающая и развертывающая передовые модели, должна иметь надежные внутренние процессы и меры контроля. Это необходимо для обеспечения того, чтобы их технологии вели себя должным образом, а любые проблемы оперативно выявлялись и устранялись», — говорится в соглашении.

Помимо других мер предосторожности, компании договорились внедрить четыре уровня контроля и аудита:

создать внутренние механизмы для мониторинга возможностей и соответствия моделей требованиям безопасности в таких областях, как кибербезопасность, биологические и химические угрозы, а также контролировать, чтобы модели не взламывали технические системы и не получали к ним непредусмотренный доступ;

наделить полномочиями внутреннюю команду, которая будет следить за работой механизмов контроля, мониторинга и обнаружения проблем и обеспечивать их устранение;

привлекать независимого внешнего аудитора или оценщика для проверки работы механизмов контроля, мониторинга и обнаружения;

создать независимый комитет при совете директоров для надзора за этими командами и получения отчетов от внутренних и внешних аудиторов и оценщиков, а также контроля за устранением выявленных проблем.

Участники соглашения также договорились регулярно встречаться для разработки стандартов и обмена передовыми практиками с целью повышения безопасности своих систем.

В документе отмечается, что со временем может возникнуть необходимость закрепить эти меры в законах или нормативных актах. При этом компании обязались внедрить их независимо от того, будут ли они установлены государством в качестве обязательных требований.

Материал дополняется