Российские ученые проверили, как ИИ может определять характер человека
Российские ученые проверили, насколько точно ИИ может определять психологические особенности человека по материалам интервью, сообщает Наука Mail.
В исследовании СПбГУ, Института искусственного интеллекта AIRI и Института психологии РАН участвовали 645 человек. Участники прошли интервью и психологические тесты, по результатам которых исследователи получили данные по 38 показателям.
Затем языковым моделям предоставили материалы интервью и попросили спрогнозировать ответы конкретных участников. Полученные результаты сравнили с реальными психометрическими данными. Лучше всего ИИ определял черты, которые непосредственно проявляются в речи, в частности экстраверсию и религиозность.
При этом моделям сложнее было оценивать скрытую тревожность, гедонистические установки и представления о справедливости. Исследователи также выявили склонность ИИ идеализировать людей. Модели завышали оценки доброты и честности и одновременно занижали показатели нарциссизма, макиавеллизма и психопатии.
Ученые подчеркнули, что такие прогнозы нельзя воспринимать как достоверное описание личности или предсказание поведения человека. Их точность зависит от конкретной задачи и требует дополнительной проверки и калибровки.
Отдельно исследователи установили, что увеличение объема анализируемого контекста не всегда повышало точность прогнозов. В некоторых случаях более короткий, но релевантный фрагмент интервью давал лучший результат.
Всего исследователи сравнили пять нейросетей, чтобы отделить общие ограничения подхода от особенностей конкретных моделей.
Ранее глава OpenAI Сэм Альтман в интервью журналу Fortune допустил, что в будущем может появиться модель искусственного интеллекта, которая не будет подконтрольна человеку.
По его словам, OpenAI готова при необходимости временно приостанавливать обучение моделей, чтобы добиться большего прогресса в их согласовании с человеческими целями и в способах контроля за их работой. Он также заявил о необходимости срочной международной координации в этой сфере.
Специалист по безопасности ИИ Пол Кристиано, входящий в совет директоров некоммерческого фонда OpenAI, заявил, что при худшем сценарии выход сверхмощного искусственного интеллекта из-под контроля людей может привести к гибели большей части человечества.
Оставайтесь на связи с РБК в «Максе».