Глава отдела безопасности OpenAI Робинсон покинул компанию
Руководитель направления в команде систем безопасности OpenAI Дэвид Робинсон покинул компанию и заявил о недостаточной осторожности компаний, разрабатывающих искусственный интеллект, пишет Business Insider.
Робинсон ушел из OpenAI на прошлой неделе. Он занимался вопросами прозрачности в сфере безопасности, в том числе участвовал в подготовке и публикации системных карт с информацией о моделях компании.
«Я согласен с другими недавно ушедшими сотрудниками в том, что компании, создающие эту технологию, далеко не достаточно осторожны», — написал Робинсон в статье для The Atlantic.
По его словам, проблема связана в том числе с корпоративной культурой и «чрезмерным оптимизмом» в отношении возможности решать проблемы по мере их возникновения.
«Среда, в которой могут происходить подобные вещи, — не место для развития искусственного разума, который может оказаться умнее нас и не делать того, чего мы от него хотим», — заявил Робинсон.
Он отметил, что не принимал решение об уходе легкомысленно и считает искусственный интеллект полезной и ценной технологией.
В начале сентября исследователь Anthropic Джейкоб Коксон покинул компанию и индустрию искусственного интеллекта из-за опасений, связанных с быстрым развитием ИИ. Он заявил, что разработчики не смогут ответственно создавать системы, превосходящие людей в широком спектре задач, без вмешательства государства или согласованного замедления разработки.
Ранее гендиректор Anthropic Дарио Амодеи предупредил о рисках выхода ИИ-моделей из-под контроля и призвал замедлить развитие технологий. О подобных рисках заявил глава OpenAI Сэм Альтман, а главный научный сотрудник компании Якуб Пачоцки призвал к согласованному замедлению разработки ИИ и вмешательству государства.
О рисках бесконтрольного развития ИИ также предупредил глава Tesla и SpaceX Илон Маск. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но при этом способен стать его величайшим инструментом.
Оставайтесь на связи с РБК в «Максе».