Раскрыта черта ИИ, которая не даст ему сравняться с человеческим разумом

1 день назад 9

Сильный искусственный интеллект (AGI) в том виде, каким мы его себе представляем, невозможен в принципе, убежден профессор Питер Дж. Деннинг. Своими соображениями — и прогнозами — он поделился в книге «Ошибка Тьюринга: Освобождение от ярма неразумных машин».

По мнению Деннинга, в своей знаменитой работе 1950 года Алан Тьюринг высказал два ошибочных тезиса:

интеллект может существовать без тела,
машины смогут мыслить (что можно проверить через «имитационную игру» — тест Тьюринга).

Отца теоретической информатики автор, что немаловажно, ни в чем не упрекает — тот был ученым, а не провидцем. Виноваты скорее те, кто развил его заблуждения и три четверти века слепо следовал им.

«Эти два тезиса во многом определили направление исследований и разработок в области ИИ. Моя предпосылка состоит в том, что наше согласие с этими утверждениями и привело к тому хаосу в сфере ИИ, в котором мы сегодня оказались», — пишет Деннинг.

Ключевая особенность живого интеллекта, которая, как он полагает, никогда не будет доступна машинам — неявное (тацитное) знание. В своей монографии профессор делит его на пять основных областей:

здравый смысл,
повседневное взаимодействие с другими людьми и окружающей средой,
чувства и восприятие,
исполнительские навыки,
социальная и историческая культура.

Другие примеры неявного знания — интуиция, внутренние ощущения, спонтанное творчество и воображение. Препятствием ко всему этому служит то, что Деннинг называет «проблемой представления».

Фундаментальная преграда на пути к AGI

Это фундаментальная преграда на пути к созданию AGI человеческого уровня — для любого вычисления данные и инструкции должны быть закодированы в физических формах, которые машины могут распознавать и обрабатывать. Сама природа неявного знания такова, что закодировать его без потери смыслов не представляется возможным.

«За каждым словом стоит глубокий колодец неявного знания, который придает ему смысл. Слова — это лишь символические представления значений, а не сами значения. Широко используемые большие языковые модели, такие как ChatGPT, Claude и Gemini, манипулируют только словами, они не могут знать или понимать значение того, что говорят», — объясняет Деннинг.

Это создает непроходимую пропасть: поскольку мы не можем объяснить или даже понять, как работает неявное знание у людей — мы не можем даже начать его передавать.

«То, как мы храним неявное знание, по большей части остается загадкой, — признает Деннинг. — Все, что нам известно, — оно воплощено (в теле). Мы понятия не имеем, что можно наблюдать или измерять в нашем теле, чтобы его выявить».

Схожие трудности с культурной составляющей тацитного знания. Культура охватывает наши ценности, нормы, суждения, истории, сообщества и настроения, а также динамику власти и заботы.

«Человеческие разговоры пропитаны фоновыми допущениями, которые придают смысл и значимость используемым словам. Наращивание больших языковых моделей и укрупнение нейросетей не позволит им обрести то телесное человеческое знание, которое мы называем культурой. LLM не достигнут цели теста Тьюринга — продемонстрировать машинное мышление, неотличимое от человеческого», — считает профессор.

Разумная угроза неразумных машин

Видный исследователь ИИ, он не отрицает дальнейшего его развития — но всерьез опасается, что оно заведет не туда. Искусственные нейросети породят форму машинного неявного знания, которое люди не смогут понять.

«Машины не могут прочитать наше неявное знание, а мы не можем прочитать их. Мы чужие друг другу, разделенные непроходимой пропастью», — констатирует ученый.

Поскольку машины неспособны считывать невыраженный человеческий контекст, их надежное согласование с нашими намерениями может оказаться невозможным, предупреждает Деннинг.

«Через ИИ-автоматизацию агентные сети машин, вероятно, разовьют собственный машинный интеллект, который не достигнет уровня человеческого общего интеллекта, но все же будет вполне способен создавать для людей серьезные проблемы. Эта угроза реальнее, чем захват сверхразумными машинами», — подчеркивает он.

Нельзя забывать о том, что сделало нас разумными — в конечном итоге это поможет нам не оказаться под властью машин в случае, если у них появятся такие поползновения.

Прочитать полностью