Сотрудник Anthropic уволился из-за страха перед бесконтрольным ИИ
В лабораториях, занимающихся разработкой искусственного интеллекта, растут опасения, что конкуренция заставит технологические компании активно создавать самообучающиеся модели, которые могут выйти из-под контроля человека.
«Исследователь компании Anthropic покидает сферу искусственного интеллекта (ИИ), опасаясь, что его лаборатория и конкуренты участвуют в гонке по созданию систем, которые невозможно будет контролировать», – пишет Wall Street Journal (WSJ).
Этот шаг говорит о растущей обеспокоенности вопросами безопасности в ведущих компаниях, занимающихся ИИ.
Джейкоб Коксон, исследователь, специализирующийся на обучении новых моделей ИИ путем обработки ими огромных массивов данных, во вторник заявил, что уходит из компании.
По его словам, он не хочет участвовать в общеотраслевой гонке по созданию самосовершенствующихся систем ИИ, поскольку опасается, что такие системы могут выйти из-под контроля и уничтожить человечество.
Как писала газета ВЗГЛЯД, нейросеть Claude впервые уволила человека из магазина в США. Алгоритмы Anthropic формализовали доказательство теоремы Ферма за 11 суток. Власти США ограничили работу передовых нейросетей компании Anthropic из-за угрозы нацбезопасности.