Уволившийся из Anthropic ученый сравнил ИИ с разумом пришельца
Бывший исследователь Anthropic Джейкоб Коксон, который покинул компанию из-за опасений, что разработчики слишком быстро создают ИИ-системы, сравнил искусственный интеллект с разумом пришельца.
«Честно говоря, я думаю, что концепция создания сверхразума сравнима с призывом инопланетной расы. Поэтому я думаю, что размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающих, даже без каких-либо конкретных сценариев», — заявил Коксон в эфире телеканала ABC.
Кроме того, Коксон отметил, что до ухода в компании несколько раз в неделю обсуждали серьезные риски, связанные с ИИ-технологиями.
Коксон ушел из Anthropic на прошлой неделе. Он специализировался на обучении новых моделей ИИ на больших массивах данных. Исследователь считает, что ни одна компания не сможет ответственно создавать ИИ. Конкуренция в сфере ИИ вынуждает разработчиков жертвовать безопасностью. Коксон опасается, что самообучающиеся модели могут выйти из-под контроля человека уже до конца года.
Позже глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.
Оставайтесь на связи с РБК в «Максе».