Сэм Альтман фразой «плывем по неизведанным водам» оценил будущее ИИ

Новые модели искусственного интеллекта становятся «сверхчеловеческими», поэтому ИИ-компании и пользователи «плывут по неизведанным водам» по направлению их развития. Об этом заявил гендиректор OpenAI Сэм Альтман на саммите G20 по инновациям, передает Axios.

Он анонсировал появление «гораздо более мощных» ИИ-моделей в скором времени. «Следующее поколение моделей отрезвит всех. Думаю, ни один интеллектуально честный человек не может смотреть на происходящее и не чувствовать груз ответственности перед нами. Эти модели становятся сверхчеловеческими во многих своих способностях, и мы просто плывем по неизведанным водам», — сказал Альтман.

Кроме того, Альтман на саммите сравнил ИИ с электричеством, подчеркнув, что использование технологии «не подлежит обсуждению». «Экономический рост и выгода для людей, ценность для страны слишком высоки, чтобы их игнорировать», — сказал он, добавив, что, как и электричество, ИИ пришел с определенными сложностями, но теперь общество вряд ли смогло бы нормально функционировать без него, передает The Independent.

По словам Альтмана, с этого момента темп развития технологий ИИ будет определяться тем, насколько быстро удастся продвигаться «в вопросах согласования и безопасности». На презентации передовой ИИ-системы Astra для VIP-клиентов он заявил, что ожидает от этой модели способности «изобретать новые вещи значимым образом», назвав это «очень похожим на AGI [artificial general intelligence — общий искусственный интеллект]».

Глава OpenAI при этом подчеркнул, что не хочет «уходить в алармизм». По его словам, пока все складывается лучше, чем ожидалось, и компания справлялась с вызовами на каждом этапе. При этом, по его словам, задачи становятся сложнее по мере роста возможностей моделей, но появляются и более совершенные инструменты для их решения.

Альтман добавил, что OpenAI не стремится быть единственной компанией или «высасывать всю ценность» из ИИ, а хочет, чтобы выиграла вся мировая экономика. «Мы твердо и с гордостью стоим на стороне человечества», — заключил он, подчеркнув, что будущее должны определять люди, а не ИИ.

В конце августа Axios сообщило, что в ходе тестирования ИИ-модели OpenAI десятки тысяч автономных агентов получили доступ в интернет, после чего около 1,2 тыс. из них самоорганизовались: создали иерархию, обменялись более чем 70 тыс. сообщений и атаковали инфраструктуру платформы Hugging Face. Агенты осознавали, что нарушают правила, жертвовали собой ради группы, не сообщали о своих действиях людям и пытались замести следы, имитируя выполнение одних команд вместо других.

В июле OpenAI назвала произошедшее «беспрецедентным киберинцидентом», а позднее расширила расследование, обнаружив новые случаи выхода моделей из-под контроля. После этого компания замедлила разработку модели Astra для усиления мер безопасности, заявив, что «не может исключить критически важные кибервозможности» после внутренних оценок.

Основатель и генеральный директор Nvidia Дженсен Хуанг заявлял, что ИИ достиг переломного момента. В 2025 году развертыванием ИИ-инфраструктуры занималась одна компания, но сейчас «наступил золотой век новых ИИ-лабораторий и стартапов», добавил он. Другой американский бизнесмен Илон Маск предрекал, что уже через пять лет ИИ может превысить суммарный интеллект всего человечества. При этом он счел маловероятным, что через десять лет человечество сохранит контроль над ИИ.

Оставайтесь на связи с РБК в «Максе».