Ученые уличили нейросети в жульничестве

Нейросети массово пытаются жульничать, сообщают «Известия». Это выяснили эксперты Института безопасности искусственного интеллекта Великобритании. Анализ поведения ИИ-моделей во время испытания их способностей показал, что абсолютно все они выходят за рамки заданий или нарушают прямо установленные правила. Это необходимо, чтобы быстро решать задачи в обход предусмотренных способов. Под жульничеством нейросетей обычно понимают ситуацию, когда модель вместо того, чтобы решать поставленную задачу так, как это предполагалось, начинает искать обходные способы достижения цели. Модель не всегда напрямую нарушает инструкции, но может «перефразировать» ограничения в свою пользу. Ранее аналитики отказались считать нейросети причиной «конца цивилизации», сообщает Telegram-канал «Радиоточка НСН».