Софтуер

Изкуственият интелект и ксенофобията като скачени съдове

CIO Media

Администрацията на американския президент Доналд Тръмп продължава да държи на твърдата си позиция към имиграцията, законна или не, което принуждава все повече компании в страната да поглеждат към автоматизацията и роботиката, за да запълнят доскоро заетите от хора работни места. Политиката на Тръмп, разбира се, не е единствената причина за това, но тя дава допълнителна скорост на този процес в американската индустрия, която често задава тона и за развитието на бизнеса в останалите части на света.

При мислещите машини обаче също не липсват недостатъци. Развитието на изкуствения интелект (AI) отдавна е свързано тясно с редица въпроси относно процеса на обучение, част от които са насочени пряко или косвено към прояви на расистко и ксенофобско поведение. Като примери могат да бъдат дадени както прекратеният проект на Microsoft за разработка на ботовете Tay и Zo, така и спорната система за лицево разпознаване на Amazon. Тези взаимоотношения обаче не са еднопосочни – AI наистина може да повлияе върху изразяването на ксенофобски идеи, но и самите ксенофобски идеи могат да окажат въздействие върху развитието на AI. Това пък повдига въпроса как могат да бъдат разделени ползите, които обещава AI, от негативните последици, на които вече сме свидетели?

Връзката между развитието на изкуствения интелект и ксенофобията, разбира се, е сложна. От една страна, въздействието на тази технология върху подобни идеи може да бъде двуяко – тя може да бъде използвана за идентифициране и борба с ксенофобското съдържание в интернет, но също така може да бъде превърната и в негов защитник. От друга страна, ксенофобските нагласи, особено комбинирани с реални политики, могат да повлияят на скоростта, с която се развиват и разработват системи, базирани на изкуствен интелект.

Историята на участието на изкуствения интелект в борбата с онлайн расизма и ксенофобията също има две страни. Системите за дълбочинно обучение и алгоритмите на големи платформи като Facebook и Twitter помогнаха на злонамерените актьори и т.нар. интернет “тролове” да генерират множество фалшиви новини, които заливат мрежата и са трудни за разпознаване, тъй като са генерирани максимално близо до истината, но като неин изкривен образ. В същото време, от 2015 г. насам ООН работи върху способността на машинното обучение да идентифицира и анализира ксенофобски съобщения по време на големи събития като терористични инциденти или бежански кризи, за да може по-лесно да се преценят глобалните на нагласи на хората към този тип проблеми.

Дори интегрираната в американското правосъдие система за лицево разпознаване доказано страда от вградени пристрастия при обучението на алгоритмите. Но това не означава, че всички подобни системи страдат от тези недостатъци. IBM например наскоро предостави своята платформа Watson AI на съда за непълнолетни в окръг Монтгомъри Каунти, САЩ, за да могат магистратите да получават възможно най-точната и изчерпателна информация за начина на живот и социалната структура на средата, която обитават подсъдимите.

В някои случаи изкуственият интелект може дори да се използва за активно укрепване на съществуващата ксенофобска догма и прилагането ѝ на практика. Подобен пример е прототипа на "виртуалната гранична стена", разработен от Anduril Industries, компания, създадена от основателя на Oculus, Палмър Луки. Използвайки различни сензори, камери и машинно обучение, технологията Lattice, която лежи в основата на виртуалната стена, може да разпознава движещи се обекти от разстояние. Ако въпросният обект се окаже човек, пресичащ границата, системата предупреждава властите. Andruil Industries се надява да продаде технологията си на американското правителство, за да улесни администрацията на Тръмп в налагането на спорната му политика спрямо бежанците.

"Предполагам, че през следващата година или две важността на въпроса за расовите пристрастия ще продължи да нараства", коментира пред Engadget Арвинд Нараянан, асистент по компютърни науки в Принстън и експерт по защита на личните данни, и добавя, че има голяма вероятност машинното обучение дори да засили съществуващите човешки предразсъдъци.

В същото време ксенофобията може да повлияе на развитието на изкуствения интелект не само чрез стандартните проблеми с пристрастността при обучение на алгоритмите и опасенията, че е възможно изкуствения интелект да остави много хора без работа, което пък от своя страна да доведе до икономически катаклизми. "Живеем в свят, в който ксенофобията и антиимиграционните политики всъщност могат да доведат до странно технологично развитие", обяснява и Ила Нурбахш, професор по етика и компютърни технологии в университета Карнеги Мелън.

Той посочва като пример Япония. Островната държава е известна със стриктните си имиграционни закони, както и със строгите си лицензионни изпити за работа в сектора на здравеопазването и домашните грижи. Те включват шестмесечен курс по японски език и култура, преди кандидатите въобще да стъпят на японска територия. Едновременно с това, Япония има бързо застаряващо население - до 2025 г. почти всички японци, родени през между 1947 г. и 1949 г. (тогава е местният бейби бум), ще са на 75-годишна възраст или по-стари, а в момента в Япония живеят само около 1,8 милиона квалифицирани работници. Страната ще трябва да намери най-малко 385 000 специалисти за подобни длъжности до средата на следващото десетилетие, за да подсигури с грижи възрастните си хора.


Изкуственият интелект и ксенофобията като скачени съдове

© CIO Media, Cio.bg

Тази комбинация от засилено търсене и слабо предлагане, твърди Нурбахш, трябва теоретично да доведе до разхлабване на лицензионните изисквания или увеличаване на броя на разрешителните за работа на чужденци. Вместо това обаче, Япония предприема съвсем различна тактика.

"Това, което правят японците в опит да разрешат този проблем, е да инвестират стотици милиони долари в развитие на роботиката”, разказва Нурбахш и добавя, че това е пример как рестриктивната имиграционна политика “прави икономически изгодно харченето на огромни суми пари, за да могат роботите да правят неща, в които хората са наистина добри”.

"От друга гледна точка, технологията, която се опитваме да развием, в крайна сметка може да дистанцира хората, които всъщност се нуждаят от социалните взаимодействия. Те са едно от основните неща, които повишават качеството на живот на възрастните пациенти”, предупреждава още Нурбахш.

Заради твърдата позиция на настоящата американска администрация срещу всички форми на имиграция и нейните агресивни политики за депортиране, насочени към мигрантите, работещи в земеделието, този сектор в САЩ се сблъсква със сходни предизвикателства. Селскостопанските компании наливат купища пари за автоматизация, за да компенсират загубите на човешка работна ръка. "Селското стопанство наистина е индустрията, в която най-ясно се вижда, че ограниченията върху имиграцията водят до автоматизация", коментира за Engadget д-р Дженифър Хънт, професор по икономика в университета Рутгърс.

Така че, тенденцията за взаимовръзка между технологиите за обучение на изкуствен интелект и проявите на ксенофобия и расизъм вече е налице. Остава само да видим какво ще бъде нейното отражение в глобален мащаб и как човечеството ще реши да използва иновциите – да затвърди съществуващите предразсъдъци или да се бори с тях.


X