2 часа назад
2
Студенческий диплом, написанный чат-ботом, автоматическая обработка обращений в "Госуслугах" или генерация новостной заметки за пару-тройку минут — примеры того, как за несколько лет нейросети вошли во многие сферы нашей жизни. Но чем удобнее становится работа с ИИ, тем заметнее проявляются и негативные стороны. Если за сгенерированный реферат студент получает "неуд" и остается без знаний — это его личная зона ответственности, но есть ситуации, где последствия неосмотрительного обращения с ИИ переходят в сферу государственного контроля.
Объем конфиденциальных данных, утекших из российских компаний через публичные ИИ-сервисы вроде ChatGPT и Google Gemini, за 2025 год вырос в 30 раз, указывают аналитики ГК "Солар". По их данным, около 60% организаций до сих пор не имеют формализованных правил работы с нейросетями, а сотрудники загружают в чат-боты фрагменты кода, финансовые отчеты и клиентские базы, не осознавая, что становятся источниками утечек.
Еще одна категория последствий — дипфейки. Нейросети позволяют клонировать голос по коротким образцам, которые люди выкладывают в соцсети. По данным АНО "Диалог Регионы", за неполный 2025 год выявлено 55 тыс. копий дипфейков (повторных публикаций одного и того же поддельного видео) — в 5,9 раза больше, чем в 2024-м. К ноябрю 2025 года с попытками дипфейк-мошенничества столкнулся каждый десятый житель России. При общем снижении количества киберпреступлений в 2025 году ущерб от них вырос на 6 млрд рублей, а мошенничество с использованием ИИ принесло преступникам в 4,5 раза больше прибыли.
Возможности ИИ по созданию контента и аналитике сами по себе нейтральны, потому что это набор кода и данных. В ответственных руках нейросеть ускоряет диагностику болезней и проверку документов, в безответственных — помогает реализовывать недобросовестные умыслы. Проблема в том, что многие перестают понимать, где заканчивается зона ответственности алгоритма и начинается их собственная.
Отсутствие правил и безответственное применение порождают типичную модель поведения, у которой есть два взаимосвязанных проявления. Первое — интеллектуальная лень. Если журналист беспечно копирует сгенерированный текст и не замечает фактических ошибок, врач получает от нейросети рекомендацию по диагнозу, а специалист госсферы использует ИИ для распределения ресурсов без перепроверки, то это провоцирует врачебные ошибки, несправедливые отказы в господдержке и фейковые новости. Нейросеть дала формально гладкий ответ, но человек не проверил — и последствия легли на тех, кто доверился этому ответу.
Второе проявление — игнорирование смысловой рамки. Человек технически освоил нейросеть, умеет составлять сложные промты и комбинировать модели, но не задается вопросом, какой культурный код или ценностный сдвиг несет сгенерированный контент. Сотрудник компании загружает в публичный чат-бот информацию, не осознавая, что эти данные остаются в обучающей выборке. Журналист публикует сгенерированный текст, где исторический факт интерпретирован под углом иностранной культуры. Государственный служащий использует ИИ для анализа обращений, не проверяя, не нарушает ли алгоритм закон о персональных данных. И дело тут не в технологическом несовершенстве ИИ как таковом, а в отсутствии правил и привычке человека действовать без оглядки на последствия.
Отсутствие регламентов в компаниях, программ по проверке нейросетевого контента в университетах и юридических механизмов для распределения вины между алгоритмом и пользователем превращает использование ИИ в лотерею. Люди все равно им пользуются — слишком велико удобство. Но чтобы лотерея не стала рулеткой с чужими жизнями, необходимо государственное регулирование.
Чрезмерное регулирование тоже порождает риски
В России уже начали выстраивать такую систему, и первый шаг — это поправки к закону "О персональных данных" (ФЗ-152). С 1 сентября 2025 года легализовано использование больших массивов обезличенных данных для целей, к которым эксперты и бизнес теперь относят обучение алгоритмов.
Главное нововведение — компании получили право обрабатывать обезличенную информацию без получения отдельного согласия каждого человека. Доступ к этим данным получают только доверенные организации, а иностранные компании и лица с судимостями за киберпреступления к ним не допускаются.
В феврале 2026 года газета "Ведомости" со ссылкой на источники писала, что разработчиков отечественных моделей искусственного интеллекта могут обязать раскрывать сведения о наборах данных, на которых обучалась или тестировалась их нейросеть. Добавлялось, что среди обсуждаемых мер — создание отдельного реестра отечественного ИИ или реестра отечественных наборов данных.
В марте того же года Минцифры представило законопроект, по которому у гражданина есть право оспорить решение госорганов и госкомпаний, принятых с использованием ИИ. Разработчиков предлагается обязать исключать из нейросетей механизмы, ведущие к дискриминации.
Но если правила слишком жесткие или долго согласуются, ущерб от них может оказаться таким же, как и вследствие беззакония. Страны экспериментируют с регулированием по-разному.
В США нет единого федерального надзора и каждый штат отвечает за регуляцию самостоятельно. За 2025 год было внесено более 1 200 законопроектов об ИИ, из них принято почти 150 — получилась запутанная "лоскутная" система правил. Скорость вывода технологий высокая, но уровень защиты граждан отличается от штата к штату.
Другим путем пошел Китай, где с 1 сентября 2025 года ввели обязательную маркировку ИИ-контента. По данным за февраль 2026 года, к ответственности был привлечен 13 421 аккаунт и удалено более 543 тыс. материалов, нарушающих требования. Страна получила контроль, но столкнулась с попытками обхода маркировки, которые уже обсуждаются как новый вызов.
Каждая из этих моделей показывает, что страны пока не нашли универсального решения. Избыточные требования или затянутые согласования заставляют разработчиков и бизнес уходить в юрисдикции с более гибким режимом — специалисты предпочитают работать там, где их не "душат" отчетами и проверками. Нидерландский ИИ-стартап Bird объявил о переносе большей части операций из Европы. Его генеральный директор заявил: "Мы уходим из Европы, потому что здесь не хватает среды для инноваций в эпоху, движимую ИИ". Он также отметил, что правила в Европе будут блокировать настоящие инновации в мировой экономике, стремительно переходящей на ИИ.
В перспективе 5–10 лет страны с избыточным контролем получат безопасность ценой отставания в вычислительных мощностях и в человеческом капитале, а государства, где не были внедрены никакие правила, столкнутся с дипфейками, фейковыми новостями и автоматизированной пропагандой, которую уже невозможно отследить вручную. Задача российских регуляторов и экспертов — найти тот коридор, где правила существуют, но не убивают развитие.
Регулирование требует участия отраслевых экспертов
Нормы регулирования необходимо формировать через консенсус разработчиков, пользователей и регулятора, с вовлечением разных отраслевых сообществ. К примеру, в медиасфере такой запрос на диалог уже существует. Нейросети свободно используют массивы данных, созданные журналистами, в которые вложены профессиональная экспертиза и национальные культурные особенности. Не так давно вышла модель "Глиф" от "Дзена", обученная на более чем 200 млн новостных материалов. Ассоциация руководителей медиа уже работает по теме защиты прав СМИ в вопросах работы искусственного интеллекта.
Оптимальный сценарий для государтсва — создание механизмов регулирования вместе с отраслевым экспертным сообществом на основе долгосрочных прогнозов. Нужно заглянуть на пять лет вперед, предположить, как нейротехнологии встроятся в жизнь, и разрабатывать нормы исходя из этого, а не догонять уже сложившиеся отношения.
Кадры и образование запаздывают сильнее всего
Технологическая база, серверы и видеокарты не имеют смысла без людей, умеющих работать с нейросетями. Российские AI‑специалисты с хорошей фундаментальной подготовкой ценятся во всем мире, но подготовка таких кадров остается неравномерной. Молодежь осваивает нейросети быстрее благодаря доступу к информации и гибкости мышления, тогда как для старших поколений почти не существует образовательных программ, адаптированных под их запросы и темп обучения.
Еще сильнее усугубляет ситуацию отраслевой разрыв. В медиаотрасли владение ИИ — часто обязательное условие работы, в то же время традиционные производства вроде металлургии внедряют алгоритмы с большим опозданием.
Любое регулирование ИИ окажется бесполезным, если нет кадров, способных применять технологии в соответствии с законами и этическими нормами. Сегодняшние курсы ограничиваются обзорами нейросетей и базовым обучением промптингу, но им не хватает более нишевых программ для бухгалтеров, юристов, врачей, где показывали бы, как проверять сгенерированные договоры, отделять полезные рекомендации от ошибок и не нарушать закон о персональных данных.
Почти отсутствует обучение цифровой гигиене и медиаграмотности. По данным мониторинга АНО "Диалог Регионы", только с начала 2026 года в Сети было создано 2 068 уникальных фейков, которые затем разошлись через 2,3 млн копий, что указывает на то, что критическое мышление в этом контексте и способность отличить дипфейк от реальности у многих людей остаются на недостаточном уровне. Человек не всегда может проверить источник информации и порой случайно передает алгоритму свои личные данные.
Многое из того, что делается в сфере образовательных программ в этой области, инициировано Мастерской новых медиа и АНО "Диалог Регионы". Например, Международная ассоциация по фактчекингу разработала стратегию защиты цифрового суверенитета и создала уроки на 50 языках. АНО "Диалог Регионы" совместно с МВД и психологами провела занятие по кибербезопасности в рамках всероссийского проекта "Разговоры о важном". Проект "Лапша Медиа" при поддержке Минпросвещения запустил мультсериал "Шерлок Хвост", который в доступной форме учит детей противостоять мошенничеству.
Управленцы нового типа обязаны понимать границы применения нейросетей, разделять ответственность между людьми и технологией и внедрять корпоративные регламенты, в противном случае отсутствие системной цифровой грамотности на всех уровнях сделает любые регуляторные меры неэффективными. Без встраивания ИИ‑компетенций в школьные и вузовские программы, без запуска массовой переподготовки для уже работающих специалистов даже самые продуманные регуляторные меры останутся на бумаге.
Никто не знает, как быстро нейросети научатся новому, где пройдут границы их применения и какая модель регулирования окажется работоспособной через пять лет. И пока единственное, что не требует догадок, — необходимость сохранять способность переучиваться, пересматривать решения и признавать ошибки. Технологии будут меняться быстрее законов и привычек людей. И наша задача — попробовать эту скорость отследить и сработать на опережение.
