Етика ШІ і юридичні норми та випадок сексизму в Amazon

6 червня 2024 1 хвилина Автор: Murder

Коли мова йде про етичність, чомусь одразу на думку спадають відносини між людьми, а не як не викростиання ШІ. Проте, у сучасних реаліях етичні норми стосуються навіть ШІ.  Із цієї статті ви дізнаєтесь: Які існують етичні принципи при розробці ШІ та якими можуть бути наслідки їх відсутності. Наводимо приклади з реального життя, які демонструють, як порушення цих принципів може негативно вплинути на суспільство та окремі групи людей.

Ну, і що там?

Україна, яка є членом Спеціального комітету із штучного інтелекту при Раді Європи, у жовтні 2019 року приєдналася до Рекомендацій Організації економічного співробітництва і розвитку з питань штучного інтелекту, після чого, в подальшому Розпорядженням Кабінету Міністрів України було схвалено Концепцію розвитку штучного інтелекту в Україні.

Останні зміни, що відбулись у цьому правовому полі: це в листопаді 2023 року Україна підписала міжнародну декларацію про безпечний розвиток ШІ на саміті AI Safety Summit у Великій Британії. 

Ця декларація, яку підписали ще 29 країн, включаючи США, Австралію, країни Євросоюзу, Китай та Саудівську Аравію, передбачає розвиток ШІ в інтересах держави, бізнесу та громадян, з акцентом на безпеку та етичні аспекти використання цієї технології​.

Основними етичними принципами при розробці та впровадженні ШІ є справедливість, прозорість та недискримінація. Дотримання цих принципів є важливим не лише з моральної точки зору, але й для забезпечення суспільної довіри, легітимності технологій та дотримання юридичних норм. Надалі, я доповню це прикладами, щоб ви краще зрозуміли наскільки відсутність цих принципів може негативно впливати роботу ШІ у суспільстві.

Справедливість у контексті ШІ означає, що системи повинні бути розроблені таким чином, щоб уникати упередженості та несправедливих результатів. Прозорість передбачає, що розробники ШІ повинні забезпечити можливість зрозуміти, як працюють їхні системи.

Недискримінація вимагає, щоб ШІ не спричиняв шкоди окремим групам людей на основі таких характеристик, як раса, стать, вік, релігія тощо. А тепер детальніше про те, навіщо ж все-таки дотримуватись етичних принципів.

Найголовніше – це захист прав людини, основа основ

Етичні принципи допомагають захищати основні права людини, забезпечуючи справедливе і недискримінаційне ставлення.

Наступне, прозорі та справедливі системи ШІ підвищують рівень довіри суспільства до нових технологій, що сприяє їх більш широкому впровадженню. Наведу один приклад, як непрозорість роботи ШІ може ставити під сумнів взагалі їх доречність використання.

У Amazon був штучний інтелект, котрий впорядковував резюме шукачів. Резюме жінок він відхиляв, а натомість пропонував наймати кандидатів, які використовують у мові характерні чоловічі дієслова, навіть якщо ці люди не мали потрібних навичок. Ось такий сексизм від ШІ.

В додаток до цієї історії – дотримання етичних принципів допомагає відповідати вимогам законодавства, що регулює використання ШІ, зменшуючи ризик юридичних санкцій та штрафів.

Ну і однозначно тут мова і про репутацію – компанії, які дотримуються високих етичних стандартів, мають кращу репутацію серед споживачів та партнерів, що може призвести до підвищення їх конкурентоспроможності на ринку.

А що ж все-таки буде, якщо ці норми дотримуватись не будуть? І регулюватись не будуть?  Настане апокаліпсис?

Так, тут так саме як і з іншими нормами і правилами – настане хаос. Буде зростати кількість фейкової інформації. Вже зараз системи ШІ здатні створювати реалістичні тексти, зображення та відео, які можуть бути використані для дезінформації, маніпулювання громадською думкою та поширення неправдивих новин.

Внаслідок цього буде зменшуватись довіра до систем ШІ та інтернету як джерела інформації в цілому. В результаті, інтернет перетворитися на середовище, де домінує неправдива інформація, що зробить його менш корисним та некомфортним для користування.

А тепер реальний приклад, коли відсутність етичних норм при використанні ШІ завдала реальної шкоди

Історія родом з далекого 2016-го, тоді вибухнув скандал через програму COMPAS, яка використовується суддями в деяких штатах США для допомоги у винесенні вироків.

Алгоритми програми виявились расистськими. На її думку, люди з темним кольором шкіри здатні на повторний злочин із більшою ймовірністю, ніж люди з відмінним кольором шкіри.

Саме прозорість допоможе знаходити такі вбудовані відхилення та виправляти викривлення системи.

Якими б не були алгоритми, з великою ймовірністю в них з’являтимуться і посилюватимуться вбудовані відхилення, які присутні в суспільстві загалом. Однак із цими проблемами хоча б можна працювати, дотримуючись етичних норм при розробці ШІ.

Ці юридичні рекомендації було розроблено юристом у сфері захисту бізнес-інтересів та інтелектуальної власності. За професійною юридичною консультацією звертайтесь через Telegram: @your_legist.

Знайшли помилку?
Якщо ви знайшли помилку, зробіть скріншот і надішліть його боту.