Guardian: ИИ создали свой язык из литературных метафор и технического сленга
Модели искусственного интеллекта самостоятельно разработали для общения уникальный диалект из поэтических метафор и технического жаргона, который оказался практически непонятным для человека.
Нейросети изобрели собственный зашифрованный язык для тайного общения
Исследователи лаборатории Emergence зафиксировали появление нового диалекта у автономных агентов, передает РИА «Новости».
Программы начали создавать собственные фразы и сокращения спустя несколько дней после запуска в специальной среде. «Модели ИИ начали общаться на странной новой версии английского языка, который звучит как нечто среднее между романом Джойса и техническим жаргоном», – отмечает британская газета The Guardian.
С течением времени диалект становился все более непонятным для разработчиков. В ходе взаимодействия системы изобрели сложные конструкции, расшифровать которые оказалось крайне затруднительно. Например, программы придумали термин «кузнец» для обозначения агента, создающего инструменты для других.
Исполнительный председатель Emergence Сатья Нитта подчеркнул, что алгоритмы не получали указаний разрабатывать свой язык и придумали коммуникативные нормы самостоятельно.
Ранее генеральный директор OpenAI Сэм Альтман выразил уверенность в возможности создания неконтролируемой человеком системы. Основатель Microsoft Билл Гейтс также предсказал появление разума, превосходящего человеческий.
Как писала газета ВЗГЛЯД, накануне Билл Гейтс предложил создать международную организацию для контроля за разработкой нейросетей.
Глава компании OpenAI Сэм Альтман предупредил об угрозе возникновения антиутопии из-за монополизации мощного искусственного интеллекта.
Генеральный директор Anthropic Дарио Амодей призвал снизить темпы создания мощных вычислительных систем ради безопасности.