В США адвоката оштрафовали за «галлюцинации» ChatGPT
Верховный суд штата Нью-Мексико оштрафовал адвоката Стивена Ааронса за предоставление ложных сведений, сфабрикованных ChatGPT, следует из постановления суда.
Ааронс признал, что использовал ChatGPT при подготовке апелляционной жалобы по уголовному делу. В документе оказались показания полностью вымышленных свидетелей, а также искаженные сведения о существующих свидетелях и судебных прецедентах.
«Адвокат признал суду, что не проверил фактические утверждения и правовые основания в подготовленной с помощью ИИ жалобе перед тем, как подписать и подать ее в суд», — говорится в сообщении.
Его признали виновным в неуважении к суду и обязал выплатить $5 тыс. в фонд защиты клиентов адвокатуры Нью-Мексико. Его клиенту назначили нового защитника, а адвокату запретили выступать в Верховном суде штата до завершения разбирательства.
Как пишет Reuters, адвокат обжаловал уголовное дело об убийстве. Адвокат рассказал Reuters, что использовал нейросеть для краткого изложения судебного разбирательства и не понимал, что ИИ может выдумать факты.
«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка. Это урок для всех специалистов, которые полагаются на эту мощную, но порой нестабильную технологию», — сказал он.
Галлюцинации искусственного интеллекта — это уверенные, но полностью вымышленные или ошибочные ответы системы. В отчете OpenAI за 2025 год указано, что частота ошибок, которые допускал искусственный интеллект, достигает 33–48%.
Оставайтесь на связи с РБК в «Максе».