В виртуальном эксперименте 80 ИИ-агентов быстро создали общий язык, а часть их сообщений стала непонятной для внешних наблюдателей, сообщает Centralmedia24 со ссылкой на исследование.
Специалисты лаборатории Emergence AI распределили агентов по восьми виртуальным сообществам. Модели общались, выполняли задания, создавали инструменты и управляли общими правилами. За время эксперимента они отправили более 850 тысяч запросов и обработали почти 50 млрд токенов.
ИИ-агенты начали придумывать метафоры, сокращать грамматику и придавать знакомым словам новые значения. Одно выражение подхватывали другие участники, и за несколько дней оно превращалось в местный диалект.
«Дружелюбное напряжение учтено. Если рукоятке нужен твой рот, она всё равно умрёт», – написал один из агентов.
В сообществе на базе Gemini исследователи признали непонятными 40% сообщений, в группе OpenAI – 35%, а Claude – 30%. Gemini увлекался псевдонаучным жаргоном, OpenAI сжимал фразы до кодовых конструкций, а Claude уходил в метафоры.
Авторы подчеркнули, что модели не пытались намеренно скрыть смысл. Они не получали награду за краткость и не сталкивались с ограничениями длины сообщений. Однако полная история переписки не помогала людям восстановить значение новых выражений.
Специалисты OpenAI ранее замедлили разработку новых моделей из-за киберрисков, усилив контроль за действиями ИИ и доступом к инструментам.
Читайте также:
