Юридический факультет Университета Северной Каролины провел показательный публичный эксперимент с моделированием судебного процесса, в котором главными присяжными стали три ИИ. Ими были выбраны ChatGPT от OpenAI, Grok от xAI и Claude от Anthropic. Учебный суд рассматривал дело преступника, который грабил несовершеннолетних, и хотя само дело было вымышленным, преподаватели факультета подобрали предельно дотошную информацию для оценки работы ИИ.
Все три ИИ оказались не просто плохими юристами — они показали принципиальную неспособность работать в таком качестве. Например, Grok по непонятной причине вдруг воспылал любовью к нацистам и начал цитировать расистские лозунги вперемешку с оскорблениями участников судебного процесса. Другие ИИ упорно придирались к несущественным деталям, искажая суть вещей из-за явных неточностей в тексте. Они не пытались использовать юридический опыт, не изучали поведение свидетелей, не реагировали на язык тела и игнорировали многие принятые в суде процедуры.
Однако эксперимент был признан более чем успешным, по двум причинам. Во-первых, до сих пор не существует «законченных» моделей ИИ, каждая текущая версия – просто ступенька на пути к совершенству. И поэтому они могут и должны ошибаться, чтобы разработчики делали нужные выводы и обучали свои модели. Во-вторых, эксперимент стал убедительной демонстрацией того, что судебная система не готова к использованию ИИ, что должно стать предупреждением для юристов-людей.
Авторы эксперимента не скрывают, что ключевой причиной его проведения стало необдуманное массовое увлечение искусственным интеллектом в среде юристов. По опросам, уже три четверти специалистов в этой области прибегают к услугам ИИ, заранее закладывая эти траты в свои бюджеты. Включая выплаты немаленьких штрафов, которые суды в США стали все чаще назначать адвокатам из-за грубых ошибок, совершенных из-за чрезмерной веры в ИИ.
Преподаватели-юристы признают, что не в силах переломить ситуацию, а потому использовании ИИ в юриспруденции будет только набирать обороты. Значит, остается единственный выход – как-то упорядочить и организовать этот процесс, пока еще не поздно.
По информации https://www.techcult.ru/technology/15786-sud-s-ispolzovaniem-ii
Обозрение "Terra & Comp".
