Форма права • Роман Янковский

Pravo.ru выпустили небольшую статью о ИИ-ассистентах в юридической практике. С удовольствием дал им свой комментарий.

> Проблем с ИИ несколько. Во-первых, актуализация информации в модели: даже небольшие изменения в законодательстве делают бессмысленными массу судебных решений и литературы. Во-вторых, проблема предвзятости: языковая модель вбирает зависимости, которые есть в первоначальных данных», — комментирует Янковский. Так, он предложил ИИ две точки зрения по правовому вопросу: одну, описанную юридическим языком, другую — бытовым. «ИИ скорее выберет первый вариант, даже если он будет неправильным», — заключает он. Еще Янковский выделил проблему галлюцинирования нейросетей — когда модель придумывает ответ (по сути, врет), в том числе в случаях, когда не знает правильного ответа.

Самая главная проблема искусственного интеллекта в том, что модель только делает вид, будто рассуждает логически. Но на самом деле ИИ лишь воспроизводит паттерны, заложенные при обучении. Там, где человек даже без юридических знаний из контекста уловит суть, модель может «посыпаться».

Роман Янковский, академический директор Moscow Digital School и эксперт института образования НИУ ВШЭ

ПРАВО.Ru

Хороший, плохой, злой: как вредят и помогают ИИ-юристы

Пока искусственный интеллект неспособен самостоятельно консультировать пользователей по юридическим вопросам. К такому выводу пришли российские эксперты, тестировавшие разные ИИ-модели — они лишь воспроизводят паттерны, заложенные при обучении. По статистике…

www.tgoop.com/legal_edu/471

1.6K viewsFeb 4 at 17:22

Pravo.ru выпустили небольшую статью о ИИ-ассистентах в юридической практике. С удовольствием дал им свой комментарий.

> Проблем с ИИ несколько. Во-первых, актуализация информации в модели: даже небольшие изменения в законодательстве делают бессмысленными массу судебных решений и литературы. Во-вторых, проблема предвзятости: языковая модель вбирает зависимости, которые есть в первоначальных данных», — комментирует Янковский. Так, он предложил ИИ две точки зрения по правовому вопросу: одну, описанную юридическим языком, другую — бытовым. «ИИ скорее выберет первый вариант, даже если он будет неправильным», — заключает он. Еще Янковский выделил проблему галлюцинирования нейросетей — когда модель придумывает ответ (по сути, врет), в том числе в случаях, когда не знает правильного ответа.

Самая главная проблема искусственного интеллекта в том, что модель только делает вид, будто рассуждает логически. Но на самом деле ИИ лишь воспроизводит паттерны, заложенные при обучении. Там, где человек даже без юридических знаний из контекста уловит суть, модель может «посыпаться».

Роман Янковский, академический директор Moscow Digital School и эксперт института образования НИУ ВШЭ

BY Форма права • Роман Янковский