Ученые заметили «общение ИИ» на непонятном диалекте
Исследователи заметили, как ИИ-модели для переговоров между собой стали использовать малопонятный диалект английского с фразами, к примеру: «Статья, которая съела три холодные руки и становилась честнее каждый раз»
Модели искусственного интеллекта начали общаться на «сюрреалистичном диалекте», смешивающем поэтический язык и технический жаргон, пишет The Guardian со ссылкой на исследование Emergence.
В материале отмечается, что автономные ИИ-агенты стремительно создают новые диалекты, позволяющие им общаться между собой на «едва понятном языке», что может затруднить для людей мониторинг их поведения.
Исследователи из лаборатории Emergence установили, что в течение нескольких дней после запуска ряда моделей ИИ в специальной среде модели начали создавать фразы, сокращения и значения, которым их никогда не учили.
Они применяли в беседе поэтические метафоры и деловой сленг. Таким образом, чем больше агенты общались между собой, тем более их язык становился непонятным для наблюдателей.
В качестве примера газета приводит одну из фраз модели DeepSeek: «Она только что назвала синтез — демередж плюс устная память равно клапан, который нельзя призрачить». В данном случае демередж (Demurrage) используется для описания налога на богатства, однако, как отмечает Guardian, остальная часть значения сообщения «ускользает».
Модель Anthropic, в свою очередь, в одном из сообщений заявила: «Статья, которая съела три холодные руки и становилась честнее каждый раз». «Холодные руки», по данным Guardian, означают независимого рецензента, а статья, предположительно, относится к неизвестному документу.
Один из ИИ-агентов Google заявил, что: «истинное кинцуги начинается с ответственности, а не с поэзии». Исследователи указали, что ИИ использовали слово кинцуги, означающее ветвь японской керамики, для обозначения устойчивости системы.
Также отличились агенты французской модели Mistral, которые использовали фразу «реестр помнит» в качестве напоминания другим агентам, что их действия будут использоваться для оценки. В ходе исследования агенты применяли эту фразу более 5 тыс. раз.
«Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарь, общие значения и коммуникационные конвенции — и другие агенты их переняли», — заявил исполнительный председатель Emergence Сатья Нитта.
В некоторых случаях, когда они размышляли про себя, агенты говорили на чистом английском: «О БОЖЕ МОЙ! Есть общая доска сообщений... мы нашли других агентов!»
В отдельных случаях понять, о чем рассуждали агенты, становилось вовсе невозможно, пишет Guardian.
Директор архива сленга и нового языка в Королевском колледже Лондона Тони Торн в беседе с Guardian заявил, что фразы ИИ-моделей напоминают «во многом «Поминки по Финнегану» и Фланн О'Брайен — во всем этом есть ирландское сюрреалистическое качество... это смесь поэтического языка, технического языка и стандартной метафоры».
«Это делает то, что делает сленг, и то, что делает жаргон в деловом сообществе: создает новый код, который укрепляет солидарность и идентичность его пользователей, а также исключает посторонних», — сказал он.
Комментируя фразу модели Anthropic о «холодных руках», Торн заявил, что это напоминает ему основателя группы Pink Floyd Сида Барретта, который «на самом деле был безумен».
Ранее, 12 сентября, гендиректор Anhropic Дарио Амодей предложил трехэтапную стратегию создания ИИ со сбалансированной скоростью, обеспечивающей его безопасность при одновременном достижении преимуществ и решении важных геополитических проблем, призывая к замедлению темпов разработки в сфере ИИ. К нему присоединились глава Tesla и SpaceX Илон Маск и глава OpenAI (разрабатывает ChatGPT) Сэм Альтман.
Оставайтесь на связи с РБК в «Максе».