Эксперт Лещенко назвал причины галлюцинаций нейросетей
Специалист рассказал, почему ИИ выдает ошибочные или выдуманные ответы.
istockphoto.com
Нейросети выдают ошибочные или выдуманные ответы на запросы пользователей под нескольких факторов, заявил в интервью «360» рассказал эксперт в сфере искусственного интеллекта и управления знаниями Владимир Лещенко.
В частности, неверные ответы нейросетей связаны с данными, на которых они обучались, рассказал он. По словам эксперта, если ошибка может быть допущена в какой-то информации, то ИИ будет считать, что дал верный ответ.
Кроме того, галлюцинации могут возникать из-за устройства самой нейросети и заложенного в нее способе обработки данных. Также на ее ответ может влиять изменение формулировки пользователя в запросе.
«Галлюцинации возникают исходя из недостаточности данных, и модель начинает креативить», - рассказал Лещенко.
Ранее сообщалось, что OpenAI приостановила обучение своих наиболее мощных моделей ИИ после выявления случаев нежелательного поведения.
Напомним, американский миллиардер Илон Маск заявил, что развитие ИИ и робототехники откроют эпоху «всеобщего высокого дохода», когда дефицит товаров практически исчезнет, а денег будет достаточно для удовлетворения базовых потребностей.