**Почему я против использования ИИ в правосудии (и что...

Почему я против использования ИИ в правосудии (и что не так с идеей «суда-робота»)?

В продолжение дискуссии о смертной казни и о том, кому можно доверять выносить приговоры, я хочу отдельно высказаться об идее, которая прозвучала в одном из комментариев: «судебная система должна быть в руках ИИ, целиком и полностью, без права вмешательства со стороны человека». Я не осуждаю Вас, Юрий, да и дураком точно не считаю. Опросы здесь не имеют множества вариантов, к сожалению, однако я построил его именно так, потому что иначе быть не может. Я категорически против Вашей идеи и на это есть веские причины.

Когда я писал пост о смертной казни, я приводил аргументы, почему эта мера недопустима. Один из ключевых - невозможность исправить судебную ошибку. Смертная казнь необратима. Но если мы передадим право выносить приговоры искусственному интеллекту, мы не решим проблему ошибок - мы сделаем их системными и безличными. Именно поэтому я против обеих идей: и смертной казни, и замены судей машинами.

Почему ИИ не может «думать» как судья?

Во-первых, ИИ оперирует данными, а не смыслами. Он не понимает, что такое справедливость, милосердие, исключительность обстоятельств. Он может вычислить вероятность рецидива, но не может оценить, заслуживает ли подсудимый снисхождения, потому что это буквально языковая модель (LLM), которая работает на паттернах поиска уже имеющихся решений или иных релевантных данных. ИИ не способен думать по-настоящему, это крайне усовершенствованная поисковая система с до сих пор большим количеством ошибок. Но это другая тема, на которую я позже напишу сначала научную работу. Так или иначе, но если речь идёт о смертной казни, такая оценка становится вопросом жизни и смерти.

Во-вторых, судебные дела - это ad hoc. Каждое дело уникально. Даже если факты схожи, обстоятельства, личности, мотивы, последствия - всегда разные. Именно поэтому в праве существуют аналогия закона и аналогия права, прецеденты и судейское усмотрение. ИИ не способен к творческому осмыслению фактов. Он не может учесть то, что не заложено в его алгоритм. Кстати, именно поэтому с точки зрения методологии науки юриспруденция до сих пор не может нормально сформироваться и делать в себе открытия. Каждый случай или дело, который разбирают в науке - это ad hoc.

В-третьих, дух закона важнее буквы. ИИ может применить норму, но он не способен проникнуть в её смысл. Конституционные суды - и в России, и в США, и в других странах - меняют правовые позиции по одним и тем же нормам в зависимости от социально-экономических условий и изменения реальных обстоятельств. Это - живой процесс, основанный на оценке, а не на формальном применении. И этому я тоже посвятил две научные статьи и уже делал ссылку на одну из работ, где говорится о проблеме трансформации правовых позиций. ИИ не способен к такой «динамической корректировке правовых позиций», потому что он не чувствует время, контекст и человеческую реальность.

В праве ответственность всегда персонифицирована. ИИ не может нести ответственность. Кого вы будете судить, если алгоритм ошибётся? Программиста? Разработчика? Машину? Без субъекта ответственности нет правосудия. А если алгоритм ошибётся и приговорит невиновного к казни - кого мы назовём убийцей?

Что будет, если доверить суд ИИ? Я вижу как минимум четыре катастрофических последствия.

Первое - уничтожение презумпции невиновности. ИИ оперирует вероятностями. Он может принять решение на основе «95% уверенности». Но в уголовном праве не должно быть «почти уверен». Только «вне разумных сомнений». Особенно когда речь идёт о жизни человека.

Второе - массовые судебные ошибки. ИИ не может учесть всё. Он не понимает контекст, эмоции, мотивы. А значит, ошибки неизбежны. И в отличие от человека-судьи, ошибка ИИ не будет считаться «человеческим фактором», так как она станет системной. А если мы уже допустили смертную казнь, эти ошибки будут стоить невинных жизней.

Третье - утрата гуманности. Правосудие - это не только наказание. Это ещё и защита, и реабилитация, и исправление. ИИ не способен на милосердие. Он не может смягчить приговор, потому что видит «раскаяние», а не чувствует его. Он не может дать второй шанс. Особенно, если мы говорим о смертной казни. К слову, именно поэтому так опасна и обычная профессиональная деформация. Многие думают, что это просто изменение мышления под влиянием профессии, но на деле это совсем другое. В науке психологии труда - это сугубо негативное явление, когда тот же судья «черствеет» или вовсе забывает о тех принципах, что должен был придерживаться, когда только начинал свою работу. Сами люди за долгие годы службы сильно меняются и нуждаются либо в замене, либо в ином контроле.

Четвертое - подрыв доверия к суду. Люди готовы доверять судье, потому что он человек. Он может ошибиться, но он такой же, как они, а доверять ИИ куда сложнее. Никто не поймёт то, на основе чего он принимает решение, а если это прописанный алгоритм, то в отдельно взятом случае он просто не сработает должным образом. Я напомню, что каждый случай в юриспруденции уникален, а потому простые категорические силлогизмы не всегда работают - дело может быть осложнено особым содержанием.

Да, в Китае ИИ уже принимает решения в судебных процессах, но это касается лишь самых простых дел, где практика была сформирована годами и они являются крайне простыми. Судей банально не хватает и ИИ здесь просто выступает в качестве помощника.

Судья - это не просто «применятель норм». Это человек, который слышит и видит подсудимого, оценивает его поведение, понимает, что за каждым делом стоит судьба, может отступить от формализма, если этого требует справедливость. Судья - это носитель правосознания. Он воспитан в правовой традиции. Он понимает дух закона. Он может ошибиться, но он может и исправить ошибку. Он может проявить милосердие, когда это необходимо. ИИ на это не способен. Он может лишь следовать заготовленному паттерну для оценки степени раскаяния, что даже представить крайне сложно.

Да, ИИ может быть полезным инструментом для анализа судебной практики, выявления повторяющихся правовых позиций, поиска пробелов в праве. Но это инструмент для юриста, а не замена юриста. ИИ может помочь систематизировать, выявить тренды, предупредить о пробелах. Но принимать решение о жизни и смерти точно нет.

Идея передать правосудие ИИ юридически несостоятельна, этически опасна, практически разрушительна, а в сочетании со смертной казнью - абсолютно неприемлема. Я скорее доверю свою судьбу судье-человеку, который может ошибиться, но который способен на раскаяние и милосердие, чем алгоритму, который никогда не ошибётся «технически», но будет несправедлив системно. Нельзя судить человека, не будучи человеком. Тем более - нельзя приговаривать к смерти.