Анализи

12 тъмни тайни на изкуствения интелект

CIO Media

Питър Уейнър, CIO, САЩ

С навлизането на AI във всички индустрии ИТ ръководителите трябва да се справят с тъмните тайни на технологията, за да съберат бизнес познания

Човечеството винаги е мечтало за някой всезнаещ, всемогъщ дух от бутилката, който може да поеме неговия работен товар. Сега благодарение на усилената работа на компютърните учени в лабораториите намираме решението в изкуствения интелект. И ако се вярва на сензациите, той може да изпълни всичко, от което вашата компания се нуждае, или поне част от него, понякога.

Да, иновациите с изкуствен интелект са удивителни. Виртуални помощници като Siri, Alexa или Google Assistant щяха да изглеждат магически за пътник във времето отпреди само 10 - 15 години. Ние ги командваме с глас и за разлика от инструментите за гласово разпознаване от 90-те години на миналия век те често ни дават верния отговор - стига да избягваме засукани въпроси като колко ангела могат да танцуват на върха на една игла.
Но при цялата си магия изкуственият интелект все още разчита на компютърно програмиране, а това означава, че страда от всички ограничения, които задържат по-обикновения код, като електронни таблици или текстови редактори. Те вършат по-добра работа, като жонглират със статистическите капризи на света, но в крайна сметка все пак са компютри, които вземат решения чрез изчисляване на функция и определяне дали дадено число е по-голямо или по-малко от граничната стойност. Под цялата умна мистерия и сложни алгоритми лежи набор от транзистори, които следват модела "Ако - то тогава".

Можем ли да живеем с това? Имаме ли някакъв избор? След като шумотевицата около изкуствения интелект във всички индустрии се усилва, ние трябва да започнем да се учим да се съобразяваме със следните тъмни тайни на технологията.

Голяма част от откритията на AI са очевидни

Най-трудната задача за специалист по AI е да каже на шефа, че изкуственият интелект е открил това, което всички вече знаят. Може би е проверил 10 милиарда снимки и е открил, че небето е синьо. Но не са включени нощни снимки в набора от данни за обучение, той няма да разбере, че то потъмнява през нощта.
Но как може един изкуствен интелект да избегне очевидните заключения? Най-забележимите аспекти в данните ще бъдат видени от всеки работещ в сферата и те ще бъдат също така установени и от компютърните алгоритми, които пресмятат числата.

Използването на нюансирани прозрения може би не си заслужава

Разбира се, добрият изкуствен интелект се вглежда и в малки разлики, видими, когато данните са точни. Но използването на тези малки прозрения може да изисква дълбоки стратегически промени в работния поток на компанията. Някои от едва доловимите разграничения ще бъдат твърде незабележими, за да си струва да им се отделя внимание. А компютрите все пак ще ги анализират. Проблемът е, че големите сигнали са очевидни, а малките може да носят скромни или дори несъществуващи ползи.

Мистериозните компютри са по-страшни

Докато в началото изследователите се надяваха, че математическият подход на един компютърен алгоритъм ще придаде надеждност на крайното решение, много хора по света не желаят да се доверят на логиката. Ако не друго, сложността и мистерията на изкуствения интелект улесняват всеки, който не е доволен от отговора, да обвини процеса за неговото постигане. Безпристрастен ли беше алгоритъмът? Колкото повече мистерия и сложност има в кутията, толкова повече причини има светът да бъде подозрителен и ядосан.

Изкуственият интелект е главно математическа функция от данни

От стотици години учените събират данни и чертаят линии през точките. Много от AI алгоритмите в ядрото на алгоритмите за машинно обучение правят точно това. Те взимат някакви данни и чертаят линия през тях. До голяма степен напредъкът дойде след намирането на начини за разбиване на даден проблем на хиляди, милиони или може би милиарди по-малки проблеми и след това начертаване на линии през всички тях. Това не е магия; това е само обобщение на начина, по който правим наука от столетия. Хората, които не харесват изкуствения интелект и намират за лесно да посочват пропуски в неговите решения, се фокусират върху факта, че често няма дълбока теория или философия, която да придава достоверност на отговора. Това е просто догадка за наклона на някоя линия.

Събирането на данни е истинската работа

Всеки, който изучава науката за данните, започва да осъзнава, че няма много време за наука, тъй като намирането на данните е истинската работа. Изкуственият интелект е близък братовчед на науката за данните и се сблъсква със същите предизвикателства. Той е 0,01% вдъхновение и 99,99% потене върху файлови формати, липсващи полета с данни и кодове от знаци.

Необходимо е голямо количество данни за по-дълбоки заключения

Някои отговори се намират лесно, но по-задълбочените и по-сложните отговори често изискват повече и повече данни. Понякога количеството данни ще расте експоненциално. Изкуственият интелект може да предизвика неутолим апетит за още и още битове.

Данните не са безпристрастни

Точно като обитателите на пещерата на Платон всички ние сме ограничени от това, което можем да видим и приемем. Изкуственият интелект не е по-различен. Той е напълно ограничен от набора информация за обучение. Ако има пристрастия в данните, а то ще има, изкуственият интелект ще ги наследи. Ако има пропуски в данните, ще има пропуски в разбирането на изкуствения интелект за света.

Изкуственият интелект е черна дупка за електричеството

Повечето добри игри имат последно ниво или окончателна цел. Изкуственият интелект обаче може да става все по-сложен и по-сложен. Докато сте склонни да плащате сметката за ток, той ще продължава да създава по-сложни модели с повече възли и повече. Може би тази допълнителна сложност ще бъде достатъчна да направи модела наистина полезен. Може би някакво ново разумно поведение ще излезе от следващото пускане. Но може би ние ще се нуждаем от още по-голям брой графични процесори, работещи през нощта, за да постигнем наистина този ефект.

Обяснимият изкуствен интелект е просто още една костенурка

Изследователите на изкуствения интелект напоследък отделят повече време на опити да обяснят какво точно прави той. Ние може да се заровим в данните и да открием, че обученият модел разчита силно на параметри, които идват от конкретен ъгъл на набора от данни. Често обаче обясненията са като тези, предлагани от фокусниците, които разкриват един трик, изпълнявайки друг. Отговорът на въпроса "защо" е изненадващо труден. Можете да гледате най-простите линейни модели и да се взирате в параметрите, но вероятно често ще оставате в недоумение. Ако моделът казва да се умножат километрите, изминати всяка година, с 0,043255, може да се чудите защо не с 0,043256 или 0,7, или нещо напълно различно като 411 или 10 милиарда. След като използвате континуум, всички числа по оста може да са правилни.

Това е като стария модел, където Земята просто седи върху гигантска костенурка. А къде стои тази костенурка? На гърба на друга костенурка. А къде стои следващата? По целия път надолу са само костенурки.

Обективността е предизвикателство

Можете да оставите височината извън набора за обучение, но има доста добри шансове вашата програма с изкуствен интелект да намери някой друг заместител, за да отбележи по-високите хора и да ги избере за вашия баскетболен отбор. Може това да бъде размерът на обувките или отскокът. Хората мечтаеха как един неутрален изкуствен интелект ще вземе безпристрастно решение и ще направи света по-справедливо място, но понякога проблемите са дълбоко вградени в реалността и алгоритмите не могат да направят нищо по-добро.

Понякога корекциите са още по-лоши

Дали принуждаването на изкуствения интелект да бъде честен е някакво реално решение? Някои хора се опитват да настояват, че AIгенерира резултати с някои предопределени проценти. Те слагат пръста си на скалата и пренаписват алгоритмите, за да променят резултата. Но тогава започваме да се чудим защо си правим труда с обучение или анализ на данните, ако вече сме избрали отговора, който искаме.

Хората са истинският проблем

По принцип сме доволни от изкуствения интелект, когато залозите са ниски. Ако имаме да сортирате 10 милиона снимки, ще бъдем доволни, ако технологията генерира сравнително точни резултати през повечето време. Със сигурност може да има проблеми и грешки. Някои от недостатъците могат дори да отразяват дълбоки проблеми с пристрастията на изкуствения интелект, проблеми, които може да заслужават изписването на теза от 200 страници.

Но не изкуственият интелект е проблемът. Той ще направи това, което му е казано. Ако стане дребнав и започне да генерират съобщения за грешки, ние можем да скрием тези грешки. Ако наборът от данни за обучение не генерира перфектни резултати, ние можем да отделим настрани печелившия резултат и да поискаме още данни. Ако точността не е възможно най-висока, ние просто можем да отделим този резултат. Изкуственият интелект ще продължи да работи и да прави най-доброто, което може.

Човекът обаче е напълно различно животно. AI е само инструмент и хората ще са онези, които искат да го използват, за да открият полза и да спечелят от нея. Някои от тези планове ще бъдат относително невинни, но някои ще бъдат движени от тайна зла умисъл. Много пъти, когато попадаме на лош изкуствен интелект, това е, защото той е кукла на конци за някои хора, които печелят от лошото поведение.

Превод и редакция Мариана Апостолова



X