Анализи

ЕС отправя поглед към изкуствения интелект

Мария Динкова

Едва ли обаче можем да очакваме въвеждане на регулации преди 2025

Бурният напредък на технологиите даде възможност на много компании да разработват своите решения, без да им се налага да се съобразяват с етични и правни норми. Впоследствие се оказа, че са се създали редица рискови ситуации, които могат да застрашат не само неприкосновеността на личните ни данни, но в някои случаи дори и живота ни. Това време на пълна свобода обаче окончателно отмина с влизането в сила на GDPR през май 2018 и неговия голям обхват, който не остави нито една индустрия незасегната от новите правила. Сега отново Европейският съюз задава тон, като този път се насочва към системите и решенията, използващи изкуствен интелект.

В края на февруари Европейската комисия публикува своята "Бяла книга за изкуствения интелект - Европа в търсене на високи постижения и атмосфера на доверие". Тя беше посрещната със смесени отзиви от специалистите, като едни бяха разочаровани от липсата на конкретни предложения, докато други определиха подхода като правилен при работата по толкова труден въпрос. Като цяло от комисията изтъкват, че основната цел на настоящия документ е да постави началото на широк европейски дебат по въпроса и обещават да се фокусират върху по-рисковите случаи при приложение на технологията.

Това, разбира се, е само първата стъпка от един дълъг процес на създаване на правила, които да защитят гражданите срещу злоупотреби с AI. Какво обаче ни казва наистина този документ? Какво е значението на публикувания текст? Какви са неговите цели и какви регулации можем да очакваме в бъдеще? На тези още много други въпроси отговаря адвокатът Емил Георгиев, експерт в сферата на правото на интелектуалната собственост.

Технологично лидерство на ЕС
"Първото, което е много важно да кажем за този документ, е, че той е изцяло стратегически. Тази Бяла книга и съпътстващите я приложения все още нямат нормативен характер, те служат за поставянето на редица въпроси, свързани с изкуствения интелект, и аргументирането на необходимост от бъдещи действия в тази насока. Засега не става ясно как точно ще се регулира AI, тъй като документът е силно общ и не разполага с някаква особена конкретика, тя тепърва ще трябва да бъде изработена в рамките на политически решения, взимани, както от Съвета на Европа, така от Европейския парламент", обяснява Георгиев.

Въпреки липсата на подробности документът точно очертава основните цели, които комисията си поставя в областта на изкуствения интелект. На първо място тя иска да създаде едни по-добри рамкови условия, така че да се насърчат научните пробиви при AI. На свой ред това ще доведе до повече технологични нововъведения, подобряващи много аспекти на ежедневието. По думите на експерта се залага една концепция на развитие на изкуствения интелект в ЕС и в крайна сметка на превръщането на блока в технологичен лидер от световен мащаб.

В тази връзка донякъде може да се каже, че ЕС се учи от своите основни конкуренти - САЩ и Китай - като избира да вземе най-доброто от двата подхода, а именно да комбинира свободната икономическа инициатива с институционална подкрепа за разработките в сферата. "Залага се на една политика на финансиране и регулиране - нещо като моркова и тоягата - ЕС ще осигурява средства и ще подпомага, но от фирмите се очаква да отговорят на определени изисквания.

Регулациите сами по себе си се аргументират с идеята за създаване на т.нар. екосистема на доверие. Комисията аксиоматично приема, че приложението на изкуствения интелект в съвременните и бъдещите технологии е свързано с определени рискове, а те създават трудности с доверието у потребителите и в обществото като цяло", изтъква Георгиев. Следователно създаването на екосистема на доверие към иновативните приложения изисква въвеждането на нови правила.

Големите рискове
Въпреки ползите и улесненията, които изкуственият интелект може да ни предложи, прилагането на технологията крие редица рискове. Според комисията AI решенията могат да повлияят на защитата на основните права на гражданите, включително чувствителни данни, неприкосновеност на личния живот, избягване на различни форми на дискриминация. Добра илюстрация в случая са системите за наблюдение и лицево разпознаване, които все повече се поставят на обществени места. Тъй като напоследък тази тема придоби изключителна популярност и предизвика сериозен дебат, част от експертите очакваха Бялата книга изцяло да забрани подобни решения и именно затова останаха разочаровани от липсата на конкретни мерки и разпоредби в текста.

В тази категория на рискови решения могат да се споменат още и системите за анализ на поведението, които отдавна се използват широко от застрахователните компании. По правило подобни платформи са не само непрозрачни, но и могат да доведат до дискриминационни резултати, и то далеч извън половете и етническите групи, подчертава юристът. Всъщност те позволяват да се взимат изцяло автономни компютърно базирани решения, които могат да ограничат дадена обществена група и да имат негативно влияние при прилагането на застрахователните модели.

Другият изключително голям риск, за който се говори в документа, е свързан с гарантирането на сигурността на предлаганите продукти и услуги, използващи изкуствен интелект, както и последващото поемането на отговорност за съответните стоки. Този въпрос е доста актуален по отношение на самоуправляващите се автомобили и потенциалните инциденти, които ще се появят с тяхното масово навлизане в ежедневието ни. Макар и все още този момент да е далеч, трябва да се определи кой ще носи отговорността при щети и инциденти.

"Застрахователите отказват да поемат изцяло този риск. От своя страна производителите настояват, че могат да отговарят само в рамките на определен срок след производството на автомобила, тъй като при употребата те нямат пълен контрол върху продукта. Разбира се, собственикът на автомобила също не иска да поеме цялата отговорност и търси някой да го замести в това отношение", отбелязва Георгиев. "Ако ще говорим за иновации и нововъведения, няма никакъв проблем да мислим и за нововъведения и в самите правоотношения. Понякога новите продукти и услуги изискват да разчупим нещата и да мислим извън кутията. Затова можем да разсъждаваме и за някаква споделена отговорност между собственика, застрахователя и производителя", допълва експертът.

Абстрактни насоки
Освен рисковете документът очертава и областите, в които комисията планира да насочи своите основни усилия. Сферите, които ще бъдат в центъра на нейното внимание, доста логично са пряко свързани и с основните предизвикателства. Като цяло могат да се разграничат три основни линии, по които ще се работи в бъдеще. На първо място европейските експерти посочват критичната област на здравеопазването, като то обхваща както грижата за гражданите, така и транспортните системи и тяхното подобряване чрез внедряване на AI. Георгиев подчертава, че добра илюстрация в тази връзка са всички животоподдържащи уреди. Например тук попадат устройствата, които могат да взимат автономно решения какво количество кислород да бъде въведено в белите дробове на пациента или какво количество медикамент венозно трябва да се влее за даден период от време. Поради важността на подобни системи съответно трябва да се отдели и специално внимание на начина, по който те се създават и програмират.

На следващо място в Бялата книга като сфера на развитие се посочва частният сектор, или с други думи - всички организации, които разработват продукти и услуги от ново поколение с помощта на AI. Очаква се, че ще бъдат засегнати традиционно силни области в европейската икономика, включително машиностроене и селско стопанство. По думите на експерта сериозно значение ще има и използването на изкуствен интелект в т.нар. кръгова икономика. "При нас в България също доста актуална е темата за кръговата икономика заради отпадъка, който произвеждаме и изгаряме, тъй като нямаме много способности за неговото оползотворяване. Предполагам, че внедряването на изкуствен интелект ще спомага за правилното и доброто рециклиране", изтъква юристът.

Особено важно е значението и на третия вектор в насоките за развитие - предоставянето на обществени услуги, при които AI може да оптимизира разходната част като социално осигуряване, пенсионно дело, публично финансиране на здравеопазването. Внедряването на изкуствен интелект при подобни системи се предполага, че ще допринесе за взимането на по-безпристрастни решения, ще осигури повече прозрачност и по-ниска корупция. "Така, абстрактно четено и разглеждано, всичко звучи доста смислено. Но ще бъде много интересно какво ще бъде конкретното прилагането на този стратегически текст, който се намира в Бялата книга", споделя Георгиев.

Бъдещите регулации
Какви ще бъдат бъдещите регулации засега можем само да гадаем. Със сигурност обаче те ще стъпват на настоящото законодателство и ще вземат под внимание становищата на експертите в областта. Стратегическият документ изрично подчертава, че новата правна рамка трябва да остане пропорционална и да не води до свръхрегулация. За тази цел нови правила трябва да се въвеждат предимно за високорисковите системи, използващи AI. В това число попадат решенията за биометрично и лицево разпознаване, технологиите при самоуправляващите се автомобили, инструментите за набор на персонал (които при неправилно програмиране могат да доведат до дискриминация на полов, етнически или друг принцип), както и системите за машинно обучение.

"От комисията искат да продължат прилагането на съществуващите правила и да ги оценят по отношение на тяхната ефективност и смисленост. Съвсем конкретно отново се сочи здравеопазването, а по отношение на медицинските изделия се коментира законодателството за продуктовата отговорност и за защитата на лични данни. Европейските власти отбелязват, че по тези три направления със сигурност ще продължаваме да следваме досегашната правна рамка и оценката ще покаже дали е необходимо някакво изменение и ако е необходимо - какво точно. На второ място обаче комисията признава, че са нужни и допълнителни регулации, и то такива, които да отразяват новите предизвикателства, поставяни от изкуствения интелект", обяснява Георгиев.
Например бъдещите правила могат да изискват повече прозрачност по отношение на използваните алгоритми, тъй като това би помогнало за отстраняването на евентуални грешки.

Съвсем логично обаче тук може да възникне въпросът как ще бъде опазена търговската или производствената тайна. Експертът уверява, че идеята на подобно правило не е да задължи всички доставчици на услуги да публикуват своите алгоритми и да разясняват логиката зад тях. Целта по-скоро е при необходимост във високорискови сектори като здравеопазването или обществените поръчки да има законов механизъм да бъдат разкривани детайли, разбира се, не пред цялото общество. Според Георгиев за подобно споделяне на информация не трябва да се прибягва до принуда, а е препоръчително да се разработят различни стимули.

На последно място, макар не и по важност, от комисията допълват, че трябва да се гарантира и някаква форма на човешки надзор в процесите, използващи изкуствен интелект. Подобно изискване ще позволи и част от отговорността да бъде прехвърлена на хората, тъй като на този етап тя не може да бъде поета изцяло от машините.

Предизвикателствата
Но колкото и добре да звучат всички планове, до тяхното реализиране ни дели още доста време. За Георгиев безспорно най-голямото предизвикателство ще бъде изковаването на една общоевропейска регулаторна рамка. Нужно е само да си припомним колко години отне създаването и приемането на регламента за защита на личните данни. Работата по GDPR започна през 2014, приемането на документа се случва едва две години по-късно, като той влезе в сила чак през май 2018. Така че дори и в най-добрия случай едва ли можем да очакваме новите регулации да започнат своето действие преди 2025.

"Според мен тук ще бъде още по-бавно и трудно, тъй като е въпрос на някаква политическа воля да се съберат всички и да се подпишат под един общ знаменател. Да не забравяме, че това е решение, което ще се вземе в Съвета на ЕС, където са представителите на отделните правителства на държавите членки, от една страна, и от друга - от Европейския парламент, където са пряко избраните народни представители на европейско равнище. И това няма да е никак просто с оглед и на настоящата политическа обстановка в ЕС. Никой не знае как и колко ще продължи борбата с коронавируса, но, мисля, съвсем отчетливо се задава някаква икономическа стагнация, дори се говори за криза, рецесия и т.н. Енергията ще бъде изядена най-вече за тази тема. Може би тези въпроси, свързани с изкуствения интелект и общата регулаторна рамка, ще бъдат избутани малко встрани, по-скоро като идейни и не толкова важни в сравнение с борбата с коронавируса", посочва Георгиев.

Той допълва обаче, че е много важно общите усилия за регулиране на изкуствения интелект да продължат. В самия документ също се посочва, че основен риск е регулаторното парцелиране, а вече редица европейски държави, сред които Германия, Дания и Малта, работят по свои собствени стратегически документи. В крайна сметка подобен подход може да засегне свободното предоставяне на услуги и свободното движение на стоки и капитали в блока. За да се избегне подобно нежелано развитие, е доста вероятно първоначално държавите да се насочат към приемането на директива за изкуствения интелект. Този тип законодателни документи обикновено предвиждат транспониране на правилата в националното право и по правило са една по-мека и лесна за договаряне на политическо равнище мярка в сравнение с регламентите.

"Да не забравяме, че така беше в миналото в сферата на телекомуникациите с телекомуникациония пакет; така беше с първата директива за защита на личните данни, която предшестваше GDPR; така е в много от сферите на финансите, които изграждат регулаторната рамка за финтех бизнеса", припомня Георгиев. Той уточнява, че към момента по силата на европейските договори здравеопазването, което, както стана ясно, е критична област при прилагането на AI технологиите, попада изцяло в компетенции на отделните държави членки. С други думи, можем да очакваме, че по пътя на изкуствения интелект е вероятно да се постигне една по-задълбочена хармонизация на законодателството в тази сфера.

Спорен е обаче въпросът доколко подобни действия ще се посрещнат добре от отделните страни, които силно се съпротивляват и на най-малката загуба на пълен суверенитет. А може би COVID-19 ще се превърне в своеобразен стимул, разкриващ огромната нужда от повече общи механизми както по отношение на здравето на европейските граждани, така и при прилагането на технологиите. Със сигурност през следващите месеци и години ще станем свидетели на сериозни промени, а без съмнение изкуственият интелект ще изиграе важна роля в оформянето на света на бъдещето. Именно и затова е важно по пътя на диалога и сътрудничеството да се подготвим за новото време.

X