Праведност (машинско учење)
Праведност у машинском учењу односи се на различите покушаје исправљања алгоритамске пристрасности у аутоматизованим процесима одлучивања заснованим на моделима машинског учења. Одлуке које доносе рачунари након процеса машинског учења могу се сматрати неправедним ако су засноване на варијаблама које се сматрају осетљивим. На пример, пол, етничка припадност, сексуална оријентација или инвалидитет. Као што је случај са многим етичким концептима, дефиниције правичности и пристрасности су увек контроверзне. Уопштено говорећи, правичност и пристрасност се сматрају релевантним када процес одлучивања утиче на животе људи. У машинском учењу, проблем алгоритамске пристрасности је добро познат и добро проучаван. Исходи могу бити искривљени због низа фактора и стога се могу сматрати неправедним у односу на одређене групе или појединце. Пример би био начин на који сајтови друштвених медија испоручују персонализоване вести потрошачима.
Контекст уреди
Дискусија о правичности у машинском учењу је релативно скорашња тема. Од 2016. године дошло је до наглог повећања истраживања на ову тему.[1] Ово повећање се делимично може објаснити утицајним извештајем беспрофитне агенције ПроПублица који тврди да је софтвер ЦОМПАС, који се нашироко користи у америчким судовима за предвиђање рецидивизма, био расно пристрасан.[2] Једна тема истраживања и дискусије је дефиниција правичности, јер не постоји универзална дефиниција, а различите дефиниције могу бити у супротности једна са другом, што отежава расуђивање о моделима машинског учења.[3] Друге теме истраживања укључују порекло пристрасности, врсте пристрасности и методе за смањење пристрасности.[4]
Последњих година технолошке компаније су направиле алате и приручнике о томе како открити и смањити пристрасност у машинском учењу. ИБМ има алате за Пајтон и Р са неколико алгоритама за смањење пристрасности софтвера и повећање његове праведности.[5][6] Гугл је објавио смернице и алатке за проучавање и борбу против пристрасности у машинском учењу.[7][8] Фејсбук је известио о њиховој употребу алата, Фаирнесс Флоw, за откривање пристрасности у њиховој VI.[9] Међутим, критичари су тврдили да су напори компаније недовољни, напомињући да запослени мало користе алат јер се не може користити за све њихове програме, а чак и када може, употреба алата је опциона.[10]
Важно је напоменути да су расправе о квантитативним начинима тестирања правичности и неправедној дискриминацији у доношењу одлука претходиле неколико деценија релативно недавној дебати о правичности у машинском учењу.[11] Заправо, живописна дискусија о овој теми од стране научне заједнице цветала је средином 1960-их и 1970-их, углавном као резултат америчког покрета за грађанска права и, посебно, усвајања америчког Закона о грађанским правима из 1964. године. Међутим, до краја 1970-их, дебата је углавном нестала, пошто су различити и понекад супротстављени појмови правичности остављали мало простора за јасноћу о томе када један појам правичности може бити бољи од другог.
Референце уреди
- ^ Цатон, Симон; Хаас, Цхристиан (2020-10-04). „Фаирнесс ин Мацхине Леарнинг: А Сурвеy”. арXив:2010.04053
[цс.ЛГ].
- ^ Матту, Јулиа Ангwин, Јефф Ларсон, Лаурен Кирцхнер, Сурyа. „Мацхине Биас”. ПроПублица (на језику: енглески). Приступљено 2022-04-16.
- ^ Фриедлер, Сорелле А.; Сцхеидеггер, Царлос; Венкатасубраманиан, Суресх (април 2021). „Тхе (Им)поссибилитy оф фаирнесс: дифферент валуе сyстемс реqуире дифферент мецханисмс фор фаир децисион макинг”. Цоммуницатионс оф тхе АЦМ (на језику: енглески). 64 (4): 136—143. ИССН 0001-0782. С2ЦИД 1769114. дои:10.1145/3433949.
- ^ Мехраби, Нинарех; Морстаттер, Фред; Саxена, Нрипсута; Лерман, Кристина; Галстyан, Арам (2021-07-13). „А Сурвеy он Биас анд Фаирнесс ин Мацхине Леарнинг”. АЦМ Цомпутинг Сурвеyс. 54 (6): 115:1—115:35. ИССН 0360-0300. С2ЦИД 201666566. арXив:1908.09635 . дои:10.1145/3457607.
- ^ „АИ Фаирнесс 360”. аиф360.мyблуемиx.нет. Архивирано из оригинала 29. 06. 2022. г. Приступљено 2022-11-18.
- ^ „ИБМ АИ Фаирнесс 360 опен соурце тоолкит аддс неw фунцтионалитиес”. Тецх Републиц. 4. 6. 2020.
- ^ „Респонсибле АИ працтицес”. Гоогле АИ (на језику: енглески). Приступљено 2022-11-18.
- ^ Фаирнесс Индицаторс, тенсорфлоw, 2022-11-10, Приступљено 2022-11-18
- ^ „Хоw wе'ре усинг Фаирнесс Флоw то хелп буилд АИ тхат wоркс беттер фор еверyоне”. аи.фацебоок.цом (на језику: енглески). Приступљено 2022-11-18.
- ^ „АИ еxпертс wарн Фацебоок'с анти-биас тоол ис 'цомплетелy инсуффициент'”. ВентуреБеат (на језику: енглески). 2021-03-31. Приступљено 2022-11-18.
- ^ Хутцхинсон, Бен; Митцхелл, Маргарет (2019-01-29). „50 Yеарс оф Тест (Ун)фаирнесс”. Процеедингс оф тхе Цонференце он Фаирнесс, Аццоунтабилитy, анд Транспаренцy. Неw Yорк, НY, УСА: АЦМ ФАТ*'19. стр. 49—58. ИСБН 9781450361255. арXив:1811.10104 . дои:10.1145/3287560.3287600.
