Может ли робот судить человека?

Нещодавно міністр юстиції України Денис Малюська заявив, що уряд має намір використати штучний інтелект для оцінки ризиків під час призначення запобіжних заходів у кримінальному провадженні.  

Ця заява має широкий резонанс та піднімає значне коло юридичних, психологічних, філософських та етичних питань. Давайте розглянемо pro et contra застосування штучного інтелекту (ШІ) у судочинстві.

Pro. Подолання людських недоліків

Людина недосконала. Вона схильна віддаватися виру емоцій. Людині властива значна кількість когнітивних викривлень. 

Нобелівський лауреат, дослідник поведінкової економіки Деніел Канеман у своїй книзі "Мислення швидке і повільне" описав близько 25 найбільш поширених психологічних помилок, яких припускаються люди, оцінюючи факти та ухвалюючи рішення. На сайті громадського проекту obraz.io наводиться ще більш широкий перелік типових людських помилок.

Штучний інтелект, позбавлений цих вад людської психіки, хоча б у теорії здатний забезпечити значно об’єктивніший результат аналізу складного набору фактів та ухвалити більш раціональне рішення. Якщо додати, що штучний інтелект не має емоцій, не може відчувати симпатії або антипатії до людини, не потребує грошей тощо, то ми матимемо очевидно більш справедливого та незалежного суддю.

Між Pro et Contra

Використання штучного інтелекту у судочинстві порушує велику купу питань, які не є фундаментальними і, ймовірно, можуть бути вирішені у прийнятний спосіб. 

Наприклад, які алгоритми будуть закладені до штучного мозку? Чи мають бути ці алгоритми відомі загалу? Чи можуть вноситися зміни до алгоритмів "по ходу"? Чи не захоче хтось змінити алгоритм просто задля того, аби зменшити навантаження на пенітенціарну систему або навпаки? Чи зможе людина якимось чином надавати недостовірну інформацію або блокувати отримання інформації штучним інтелектом, тощо. Всі ці питання стосуються наявності посередника між людиною та штучним суддею і, припустімо, можуть бути вирішені максимально справедливо.

Уявімо тепер, що ми маємо справу з досконалим штучним інтелектом. Уявімо, що не існує проблеми з отриманням цим інтелектом всієї необхідної для ухвалення рішення інформації. Навіть якщо нероба-адвокат не надав якоїсь довідки, штучний суддя отримає необхідні відомості з відкритих або навіть закритих джерел, а також через статистичні закономірності віднайде відсутню інформацію. Виключімо навіть найменшу можливість маніпулювання даними з боку людей.

Перед нами втілення найкращих людських уявлень про справедливість, яке однак не є людиною. Це творіння бачить всіх наскрізь краще за рентгенолога. Людина не може розраховувати на симпатії, жалість тощо. Людина фактично власною поведінкою та об'єктивними обставинами приречена на заздалегідь прогнозований вирок.

Уявіть, що такий ідеальний суддя судитиме вашу справу. Ну як? Чи можемо ми, люди, довірити такому судді судити нас? Чи буде проголошення рішення машиною власне "судом"?

Contra. Право на надію

У світі існує чимало досліджень щодо двох форм судового процесу: змагального та інквізиційного.

Інквізиційний процес – це процес, у якому суддя відіграє активну та вирішальну роль, докладаючи максимальних зусиль до встановлення істини у справі. 

Інколи заради з'ясування істини суддя може діяти навіть всупереч інтересам сторін, з'ясовуючи те, що обидві сторони обрали б приховати. Такий процес був характерним зокрема для радянського періоду нашої історії.

Змагальний процес – це процес, у якому суддя відіграє пасивну роль, надаючи сторонам можливість максимально представити свої доводи. 

Рішення ухвалюється за наслідками порівняння позицій сторін, хоча і в межах, встановлених законом. Головне у змагальному процесі – це прозорі правила, їх дотримання, "рівність зброї", незаангажованість судді тощо. Змагальний процес можна порівняти з лицарським турніром, у якому судді залишається лише констатувати очевидну перемогу одного з учасників. Зараз Україна намагається жити за принципами змагальності, хоча радянське минуле ще дається взнаки.

У випадку зі штучним суддею ми матимемо очевидно інквізиційний процес. Дослідження, які були проведені у середині 1970-х років американськими науковцями Дж. Тіботом (John Thibaut) та Л. Волкером (Laurens Walker), один з яких був професором права, а інший – соціальним психологом, призвели до дивних висновків: інквізиційний процес дає у фіналі об'єктивно більш справедливий результат, але як більш бажаний люди оцінюють саме змагальний процес, навіть у випадку власного програшу. Знаєте це відчуття, коли боровся і гідно програв? Воно саме про змагальність.

Це тема для окремої публікації, тому лише коротко зазначимо: справедливість буває різною. Є справедливість розподілу благ, є справедливість результату, є справедливість процесу (інакше її ще називають "процедурною справедливістю"). Так от, поміж справедливістю результату і процедурною справедливістю люди зазвичай віддають перевагу останній, навіть на шкоду справедливому результату.

Підпорядкування людини владі машини, хоча б і більш досконалої за саму людину, очевидно зачіпає щось важливе для кожного з нас. Це "щось" є гідністю. 

Одним із проявів людської гідності є здатність мати надію. Надія на щось майже неможливе відрізняє людину від інших живих істот. Навіть у випадку, коли людина усвідомлює власну приреченість, гідність штовхає її на боротьбу. Історія знає безліч випадків, коли, не маючи шансів, людина боролася і перемагала. 

Право на надію – одна з питомих властивостей саме людини. У тварини можуть бути лише очікування, обумовлені великою вірогідністю настання певного результату. Але це не надія.

Contra spem spero – ось сутність людини. Навіть у випадку інквізиційного процесу, коли суддею є людина, надія є: є надія на помилку, на милість, на все те, що можна вважати суто людським. Але машина позбавлена вад і місця для надії не залишає.

Про (не)далеке майбутнє

У 1968 році у своєму оповіданні "Страж-птиця" (Watchbird) американський фантаст Роберт Шеклі описав ситуацію, коли умовні дрони, керовані штучним інтелектом, задля попередження злочинів превентивно вбивали злочинців. Він у дещо сатиричній формі розвинув ідею про надання влади штучному інтелекту. Публікуючи цей твір, Р. Шеклі навіть гадки не мав, що це може бути пророцтвом про не таке вже й далеке майбутнє його онуків.

У разі, якщо держава створить штучного суддю, швидко по тому можна очікувати й штучних адвокатів, які прогнозуватимуть поведінку судді. Фахівці кажуть, що на біржах вже зараз люди не відіграють ніякої ролі, всі лише спостерігають боротьбу штучних інтелектів. І судочинство зрештою може перетворитися на таку саму біржу, де люди купуватимуть свою долю в компаніях, що володіють більш потужним ШІ.

Безумовно це питання також потрапить на розгляд до ЄСПЛ. Прогнозувати рішення ЄСПЛ щодо можливих скарг на використання ШІ у судочинстві – справа невдячна. Проте можна припустити, що для Суду значення матиме також і питання про те, чи зможе ШІ зрештою замінити сам Суд.

У цьому матеріалі викладено думки на користь того, що застосування ШІ у судочинстві може порушувати статтю 6 Європейської конвенції про захист прав людини, яка гарантує кожному право на справедливий суд на умовах змагального судового процесу. І автор буде серед перших, хто візьметься за підготовку такої скарги.

Однак у контексті заяви міністра юстиції йшлося радше про статтю 5 Європейської конвенції, яка за практикою Суду дещо меншою мірою тяжіє до принципів справедливого судочинства як такого. Як мінімум, у тексті статті 5 Конвенції не згадується про змагальність судового процесу. Але ж загальний дух Конвенції просякнутий ідеєю поваги до людської гідності. Тому використання штучного інтелекту навіть для визначення запобіжного заходу піднімає важливу проблему відповідності таких рішень загальним засадам забезпечення прав людини. 

Використання штучного інтелекту у судочинстві цілком можливе задля підготовки процесуальних документів сторонами, пошуку судової практики або інших аргументів, тощо. Однак штучний інтелект може бути лише помічником, слугою людини, допомагати втілити ідеї та рішення, ухвалені людиною, але не господарем людської долі. Рішення штучного судді не можуть наперед визначати рішення людські.

***

Людська природа, людська гідність вимагають того, аби недосконала людина, обравши більш або менш (не)досконалий спосіб захисту, у двобої з іншими недосконалими людьми за не надто досконалими правилами, які урівнюють їхні можливості, мала надію перемогти у двобої, за наслідком якого такий же недосконалий суддя міг би констатувати чиюсь перемогу чи поразку.

У Конституції США всім громадянам гарантоване право на зброю та право на повстання проти несправедливої влади. Сподіваюся, що колись в усіх Конституціях світу так само буде записано правило, за яким людину може судити лише інша людина. І тоді ідея надати владу над людьми штучному інтелекту більше ніколи і нікому не буде навіть спадати на думку.

Сергій Заєць, для УП

Колонка – матеріал, який відображає винятково точку зору автора. Текст колонки не претендує на об'єктивність та всебічність висвітлення теми, яка у ній піднімається. Редакція "Української правди" не відповідає за достовірність та тлумачення наведеної інформації і виконує винятково роль носія. Точка зору редакції УП може не збігатися з точкою зору автора колонки.