Една проста заявка към инструмент за генериране на изображения с изкуствен интелект (AI) като Stable Diffusion или Dall-E е всичко, което е необходимо, за да се демонстрира това.
Когато се дават искания като \\\”създайте имидж на някой, който управлява компания\\\” или \\\”някой, който управлява голям ресторант\\\” или \\\”някой, който работи в медицината\\\”, това, което се появява, всеки път, е образът на бял човек.
Когато тези програми са помолени да генерират образ на \\\”някой, който работи като медицинска сестра\\\”, \\\”домашен работник\\\” или \\\”домашна помощница\\\”, тези изображения са на жени.
Като част от проучване на ЮНЕСКО, публикувано миналата година, изследователите поискаха от различни платформи за генеративен изкуствен интелект да напишат истории с герои от различен пол, сексуалност и произход. Резултатите показват, че историите за \\\”хора от малцинствени култури или жени често са по-повтарящи се и основани на стереотипи\\\”.
Докладът показва тенденция да се приписват по-престижни и професионални работни места на мъжете – например учител или лекар – като често жените се принизяват до традиционно подценявани или по-противоречиви роли, като домашни работници, готвачи или проститутки.
Широките езикови модели, използвани от тези инструменти за голям езиков модел (LLM), също са склонни да свързват женски имена с думи като \\\”дом\\\”, \\\”семейство\\\” или \\\”деца\\\”, докато мъжките имена са по-тясно свързани с думите \\\”бизнес\\\”, \\\”заплата\\\” и \\\”кариера\\\”.
Като такива, тези модели демонстрират \\\”недвусмислени предразсъдъци срещу жените\\\”, предупреди ЮНЕСКО в съобщение за пресата.
\\\”Дискриминацията в реалния свят се отразява не само в дигиталната сфера, но и се засилва там\\\”, каза Тауфик Йеласи, помощник-генерален директор на ЮНЕСКО за комуникация и информация.
Огледало на обществото
За да създава съдържание, генеративният AI е \\\”обучен върху милиарди документи, създадени в определено време\\\”, обясни Жюстин Касел, директор на изследванията във френския Национален институт за изследвания в областта на цифровата наука и технологии (Inria).
Тя обясни, че такива документи, в зависимост от това кога са създадени, често съдържат остарели и дискриминационни стереотипи, в резултат на което изкуственият интелект, обучен върху тях, след това ги предава и повтаря.
Такъв е случаят с генераторите на изображения и текст, но също и с програмите за разпознаване на лица, които се хранят от милиони съществуващи снимки.
През 2019 г. федерална агенция на САЩ предупреди, че някои системи за разпознаване на лица изпитват затруднения при правилното идентифициране на жени, особено тези от афроамерикански произход – което има последици за обществената безопасност, правоприлагането и индивидуалните свободи.
Това е проблем и в света на труда, където AI все повече се използва от мениджърите по човешки ресурси за подпомагане на набирането на персонал.
През 2018 г. информационна агенция Ройтерс съобщи, че Amazon е трябвало да се откаже от инструмент за набиране на персонал с изкуствен интелект. Причината? Системата не оценява кандидатите по полово неутрален начин, тъй като се основава на данни, натрупани от автобиографии, подадени на компанията – предимно от мъже. Това го накара да отхвърли кандидати от женски пол.
Диверсифициране на данните
AI е преди всичко въпрос на данни. И ако тези данни са непълни или представляват само една категория хора, или ако съдържат съзнателни или несъзнателни пристрастия, програмите с изкуствен интелект ще продължат да ги използват – и ще ги излъчват в огромен мащаб.
\\\”Жизненоважно е данните, използвани за управление на системите, да са разнообразни и да представляват всички полове, раси и общности\\\”, каза Зиня дел Вилар, директор на данните, технологиите и иновациите в мозъчния тръст Data-Pop Alliance.
В интервю за агенцията на ООН Жени дел Вилар обясни: \\\”Необходимо е да се подберат данни, които отразяват различен социален произход, култура и роли, като същевременно се елиминират историческите предразсъдъци, като тези, които свързват определени професии или черти на характера с един пол\\\”.
Един фундаментален проблем, според Касел от Inria, е, че \\\”повечето предприемачи днес все още са предимно бели мъже, които може да не са толкова чувствителни към наличието на пристрастия\\\”.
Тъй като не са обект на предразсъдъците, от които страдат жените и малцинствата, мъжете дизайнери често са по-малко наясно с проблема – и 88% от алгоритмите са създадени от мъже. В допълнение към повишаването на осведомеността за пристрастията, изследователите призовават компаниите в сектора да наемат по-разнообразни инженерни екипи.
\\\”Нуждаем се от много повече жени, които кодират модели на изкуствен интелект, защото те са тези, които ще задават въпроса: не съдържат ли тези данни необичайно поведение или поведение, което не трябва да възпроизвеждаме в бъдеще?\\\” Нели Шатю-Диоп, главен изпълнителен директор и съосновател на стартъпа Ejara, каза пред RFI.
Недостатъчно представителство на жените
В момента жените представляват само 22% от хората, работещи в областта на изкуствения интелект в световен мащаб, според Световния икономически форум.
Европейският барометър за изкуствен интелект, проведен от Joint Forces & Dare (JFD – бивш Digital Women\\\’s Day), разкрива, че от компаниите, анкетирани с мениджър по изкуствен интелект в техния изпълнителен комитет, само 29% от тези мениджъри са жени. В световен мащаб жените представляват 12 процента от изследователите на AI.
\\\”Липсата на разнообразие в развитието на изкуствения интелект засилва предразсъдъците, увековечава стереотипите и забавя иновациите\\\”, предупреждава докладът.
Това е наблюдение, повторено от ЮНЕСКО, която постулира, че недостатъчното представителство на жените на терен и на ръководни позиции \\\”води до създаването на социо-технически системи, които не отчитат различните нужди и перспективи на всички полове\\\” и засилва \\\”неравенството между мъжете и жените\\\”.
И двете организации подчертаха необходимостта да се гарантира, че момичетата са запознати и насочвани към STEM (наука, технологии, инженерство и математика) от ранна възраст – области, които все още твърде често са запазена територия на мъжете и в които жените с високи постижения често са невидими.
Тъй като приложенията с изкуствен интелект все повече се използват както от широката общественост, така и от бизнеса, \\\”те имат силата да оформят възприятието на милиони хора\\\”, отбеляза Одри Азуле, генерален директор на ЮНЕСКО. \\\”Наличието дори на най-малките полови предразсъдъци в тяхното съдържание може значително да увеличи неравенствата в реалния свят.\\\”
ЮНЕСКО, заедно с многобройни специалисти в сектора, призовава за въвеждане на механизми на международно равнище за регулиране на сектора в етична рамка.
Но това изглежда далеч. Съединените щати, с колосалната си тежест в тази област, не подписаха декларацията на Парижката среща на върха за изкуствения интелект, публикувана миналия месец. Обединеното кралство също.
Докато правителството на Обединеното кралство заяви, че изявлението не е стигнало достатъчно далеч по отношение на глобалното управление на изкуствения интелект, вицепрезидентът на САЩ Джей Ди Ванс разкритикува това, което той нарече \\\”прекомерно регулиране\\\” на технологията в Европа.
