Новини для українців всього свту

Saturday, Nov. 27, 2021

Суддів замінить ШІ, експерти застерігають

Автор:

|

Лютий 23, 2021

|

Рубрика:

Суддів замінить ШІ, експерти застерігають

В Україні запланували запровадити те, проти чого застерігали близько 30 учених і дослідників із провідних американських університетів.

Бракує деталей
Вища рада правосуддя (ВРП) 9 лютого ц. р. погодила схвалений 2 грудня 2020-го урядом проєкт розпорядження «Про затвердження плану заходів з реалізації Концепції розвитку штучного інтелекту в Україні». Зокрема, у ньому запропоновано, «щоб судові рішення у справах незначної складності (за взаємною згодою сторін) ухвалювали на основі результатів аналізу, здійсненого з використанням технологій штучного інтелекту (ШІ), стану дотримання законодавства та судової практики».
Для цього передбачено «створення пілотного проєкту на базі суду першої інстанції для розроблення єдиних стандартів обліку судових рішень та інших даних, які формуються під час здійснення правосуддя, для виявлення недобросовісної суддівської практики шляхом аналізу текстів». Погодивши це, ВРП уточнила, що «ініціює запуск пілотного проєкту у вигляді експерименту» — «в частині автоматизованого розгляду системою зі застосуванням ШІ судових справ з розгляду адміністративних правопорушень із формальним складом».
У ВРП сподіваються, що «пілотний проєкт дасть змогу напрацювати практичний матеріал із розгляду найбільш поширених малозначних адміністративних правопорушень (із формальним складом) і дасть можливість створити уявлення про практику застосування норм права, труднощі у їхньому судовому тлумаченні, помилки та різноманітні заходи щодо їхнього подолання, а також дасть змогу знизити рівень навантаження суддів». Але деталей впровадження ШІ в роботу суду ВРП наразі не навела.

«Кассандра»?
Не виключено, що використає озвучене 13 вересня міністром юстиції Денисом Малюською. Урядовець розповів тоді, що його відомство «розробило програмне забезпечення з елементами ШІ, яке буде аналізувати злочинців і визначати — чи схильні вони в майбутньому порушувати закон знову».
Програму назвали «Кассандрою». А міністр твердив: «Її завдання — полегшити роботу співробітникам пробації, котрі готують досудову доповідь. Це документ, який допомагає суддям встановлювати міру покарання. У ньому описується особистість обвинуваченого, а також оцінюється ймовірність скоєння ним нових злочинів у майбутньому».
«Кассандра» цей процес автоматизує. Програма пропонує відповісти на запитання, а на виході співробітник пробації отримує оцінку ймовірності скоєння нового злочину від 0 до 97. Оцінку ставить алгоритм відповідно до відповідей. За те чи інше запитання він дає бали, а потім їх підсумовує, — запевнив він. — По суті, це є базовим, але простим штучним інтелектом. При цьому «Кассандра» не стоятиме на місці. Достатньо скоро навчиться самостійно визначати те, скільки балів необхідно дати за відповідь на те чи інше питання. А вже за кілька років у нас буде масив великих даних за результатами машинного навчання, за яким «Кассандра» навчиться аналізувати не тільки відповіді на простий перелік запитань, а й усі інші дані, які у нас є про злочинця».

Сумніви
Сергій Перникоза, координатор моніторингових кампаній Асоціації українських моніторів дотримання прав людини у діяльності правоохоронних органів, прокоментував: «Із практичної точки зору про цей проєкт багато не скажеш, бо, крім заяви, більше нічого немає. Немає відповідного наказу, який би впроваджував діяльність цієї програми — яка має бути, як має працювати, які дані має аналізувати, які знаходитиме сама чи їх вноситимуть. Тобто наразі триває перелік питань, відповідей на які немає»
«У нас упродовж кількох років створюють реєстр людей, які засуджені або відбували покарання. І Міністерство юстиції досі не змогло його належним чином створити і використовувати. А це дуже взаємопов’язані процеси. І перед тим, як ініціювати щось нове, було б логічно завершити щось старе, — зауважив він. — Заключення готується органами пробації, де оцінюється ризик того, що людина може здійснити повторний злочин. Ця довідка готується й подається до суду, який розглядає її в якості допоміжного матеріалу для того, щоб прийняти рішення щодо людини. У цьому проєкті передбачають, що у цифровому виді мають оцінити арґументи, які наводить орган пробації, і на виході дати якесь число. Зараз дається рішення про рівень — високий, середній чи низький. А нам пропонують, щоб замість цього було число, яке за таблицею також би означало високий, середній чи низький рівень. Тому якоїсь новації в цьому немає, бо бальна система застосовується у багатьох країнах. Але чому ми прив’язуємося до назви штучний інтелект, для мене досі загадка».

Прецеденти
Не виключено, що в Україні не імпровізуватимуть, а скористаються досвідом використання ШІ в судах інших країн. Адже, приміром, у Нью-Йорку вже відновили перервану на пів року через пандемію коронавірусу роботу пілотного проєкту з використання штучного інтелекту в судах.
Розроблені на основі широкої бази даних за вже завершеними справами алгоритми дають суддям одну з двох дві рекомендацій — відпустити під заставу чи взяти під варту до суду. База даних складається з 1,6 млн кримінальних справ, закритих у 2009-2015 рр.
У ній не лише стандартна особиста інформація, а й такі деталі, як чи добровільно підозрюваний повідомляв свої домашні телефон та адресу поліції при затриманні. Ця інформація виявилася однією з визначальних для алгоритму. Бо, як з’ясували дослідники, ті, хто робив це добровільно, частіше приходили на судове засідання самі, тому їх можна відпускати під заставу.
Над проєктом працювали дві незалежні одна від одної компанії. Після того, як вони створили кілька десятків моделей поведінки, розробники об’єднали сили, щоб залишити переважно тільки моделі, що мають збіги.
Відтак розробили системи, частково схожу на рейтинґ оцінки кредитоспроможності фізичних осіб, яку вже давно використовують у США. Якщо програма, що створена 2013-го, відпускала під заставу не більше 40 % підозрюваних, то новий алгоритм — 86,7 % афроамериканців, 89,7 % білих і 90,7 % латиноамериканців.
Подібна система, яку застосували в штаті Нью-Джерзі 2014 року, показала свою ефективність, скоротивши арешти майже наполовину. Але не могла подолати расову нерівність — під варту взятий кожен третій білий і кожен другий чорний.
У зв’язку з цим близько 30 вчених і дослідників із провідних американських університетів написали торік відкритого листа, у якому висловили побоювання: «Цілі десятиліття досліджень показали, що за одні й ті ж злочини афроамериканців або латиноамериканців заарештовували, засуджували або карали більш суворими вироками частіше, ніж білих. Таким чином, алгоритми, що ґрунтуються на аналізі таких вироків, є апріорі упередженими».

Ігор Голод

Коментарі експертів
Валерія Шемшученко, аналітикиня кампанії «Чесно. Фільтруй суд!»:
— Законодавство не передбачає можливості заміни судді алгоритмом. Можливим є обговорення часткового залучення ШІ до судової системи.

Вадим Риков, голова секції захисту людини у системі правосуддя Комітету захисту прав людини Національної асоціація адвокатів України:
— Штучний інтелект поки що не може повністю замінити людину, зважаючи на наявність у ньому емоційних характеристик, які не піддаються автоматичному імітуванню (наприклад, важко передати таку людську якість, як співпереживання). Крім цього, ШІ як неорганічний механізм має велику кількість підтверджених помилок та збоїв у роботі.

Сергій Заєць, адвокат:
— Використання штучного інтелекту в судочинстві цілком можливе задля підготовки процесуальних документів сторонами, пошуку судової практики або інших арґументів тощо. Але ШІ може бути лише помічником, слугою людини, допомагати втілити ідеї та рішення, ухвалені людиною, а не господарем людської долі.

 Ігор Гусєв, політичний і соціальний психолог:
— Людський інтелект важко замінити штучним, але сама ідея непогана. Вона інноваційна з огляду на сучасні тренди — оцифровувати все, що можемо, і робити на комп’ютері. І можна зробити так, аби ШІ сигналізував, що десь можливі проблеми. Але є етичні моменти — коли можна розслабитись. І є дуже точні зв’язки на рівні відчуттів, які лише фахівець може вловити та виявити натяк на можливу неадекватну поведінку. І це можливо виявити тільки при живому спілкуванню та діагностиці. Тож її не варто скасовувати, а штучний інтелект використовувати для грубих обчислень. Якщо покращить статистику повторних злочинів, то чому б не використовувати його й надалі?

Довідка
Штучний інтелект — дуже молода галузь досліджень, започаткована 1956 року. Її історичний шлях нагадує синусоїду, кожен «зліт» якої ініціювався деякою новою ідеєю. Це розділ комп’ютерної лінгвістики й інформатики, що опікується формалізацією проблем і завдань, подібних до дій, що виконує людина. Це також здатність інженерної системи здобувати, обробляти та застосовувати знання та вміння. Зараз розвиток ШІ перебуває на «підйомі» і спирається на застосування вже досягнутих результатів в інших галузях науки, промисловості, бізнесі та навіть у повсякденному житті. У більшості випадків алгоритм розв’язання завдання наперед невідомий. Немає і точного критерію досягнення комп’ютером «розумності», хоча ШІ запропонували низку гіпотез, приміром, тест Тюрінга чи гіпотезу Ньюелла-Саймона. Зараз існує багато підходів як до розуміння завдань штучного інтелекту, так і до створення інтелектуальних систем. Одна з класифікацій виділяє два підходи до розробки ШІ: низхідний, семіотичний — створення символьних систем, що моделюють високорівневі психічні процеси: мислення, судження, мову, емоції, творчість тощо; висхідний, біологічний — вивчення штучних нейронних мереж і еволюційні обчислення, що моделюють інтелектуальну поведінку на основі менших «неінтелектуальних» елементів. Ця наука пов’язана з психологією, нейрофізіологією, трансгуманізмом та іншими. Як і всі комп’ютерні науки, вона використовує математичний апарат. Особливе значення для неї мають філософія та робототехніка.
Як повідомляв «Міст», штучний інтелект допомагає в боротьбі з коронавірусом.

About Author

Meest-Online

Comments are closed.

Leave A Reply