Цукерберг раскрыл, чем грозит централизация управления технологиями ИИ

Централизация управления технологиями искусственного интеллекта (ИИ) и сосредоточение власти над ним в одних руках может привести к опасному дисбалансу власти, заявил глава компании Meta (признана в России экстремистской и запрещена) Марк Цукерберг. Его манифест опубликован на сайте компании.

По мнению Цукерберга, наиболее опасным сценарием стало бы создание ведущими ИИ-лабораториями мощных моделей, доступ к которым они сохраняли бы только за собой.

?Хотя выпуск способных моделей сопряжен с определенными рисками, наиболее опасным сценарием с этой точки зрения было бы то, что ведущие лаборатории искусственного интеллекта обучали бы мощные модели и сохраняли их для себя», — говорится в манифесте.

Он заявил, что безопасность должна обеспечиваться не концентрацией контроля над ИИ, а распределением технологий между большим числом пользователей и компаний, способных «уравновешивать» друг друга.

Цукерберг также отверг идею единого сверхинтеллекта, который мог бы действовать в интересах всего человечества.

?Разнообразие ценностей людей отражает различные компромиссы, на которые они готовы пойти по важным вопросам. Не существует технологического решения, которое могло бы одновременно удовлетворить все противоположные интересы и ценности», — написал он.

У Meta есть собственные ИИ-разработки, в том числе семейство языковых моделей Llama и ИИ-ассистент Meta AI.

Ранее американский сенатор Берни Сандерс призвал ведущие технологические компании приостановить развитие технологии искусственного интеллекта, поскольку, по его словам, системы ИИ стали слишком рискованными для безопасного управления.

Он заявил, что если этого не сделают их владельцы, то меры предпримут власти США.

?Позвольте мне внести ясность: если вы сейчас не предпримете соответствующие действия, это сделаем я и мои коллеги в Сенате США», — написал он в письме, которое направил руководителям OpenAI Сэму Альтману, Anthropic Дарио Амодею и Цукербергу. Обращение опубликовало издание Axios.

Оставайтесь на связи с РБК в «Максе».