Експертът по изкуствен интелект Мария Биеликова: Не се страхувам от роботи, а от хора

Изкуственият интелект (AI) е толкова често срещана част от живота ни, че сме свикнали с него и често дори не осъзнаваме, че е тук. Превежда текстове, навигира в автомобили, съветва ни в електронни магазини или помага на банките да решат на кого да предоставят кредит ...

ИИ обаче повдига и противоречиви въпроси относно бъдещото му развитие, приложение или въздействие върху пазара на труда. Професоре Мария Биеликова е председател на словашкия център за изследване на изкуствения интелект - Slovak.AI и член на експертната група за изкуствен интелект към Европейската комисия.

Говорихме с нея в подкаста E-tika, който разказва за социалното въздействие на цифровите технологии.

Освен всичко друго, ще научите от интервюто:

  • кога можем да оставим AI свободен и кога трябва да се грижим за него;
  • как Словакия може да бъде релевантна в света на ИИ;
  • какво трябва да учат децата ви, за да не бъдат заменени от роботи веднъж на работа;
  • колко сме далеч от общия изкуствен интелект на човешко ниво и дали трябва да се страхуваме от него.

Какво е състоянието на изкуствения интелект днес и какво е неговото място в бъдещето?

Що се отнася до бъдещето, винаги е добре да гледаме към миналото. Хората винаги са създавали инструменти за улесняване на работата. Те също така създадоха изчислителни машини - компютри - и много бързо се опитаха да ги направят по-добри и да се справят с по-трудни задачи: да бъдат по-умни. Така се появи изкуственият интелект преди 60 години.

Влиянието му се е колебало през историята, но винаги е било свързано с други технологии, така че дори не възприемам ИИ отделно от другите цифрови технологии.

Днес, дори в контекста на коронарната криза, виждаме, че цифровизацията предоставя огромни възможности за различни продукти и услуги, където винаги е добре да бъдеш интелигентен. Колкото повече използваме постиженията на дигиталната ера, за да решаваме различни задачи, толкова повече ще продължим напред в най-различни области.

По този начин значението на ИТ и изкуствения интелект ще продължи да нараства. Веднъж, а може би е много близо, изкуственият интелект ще се слее с други технологии и дори няма да го назоваваме конкретно. Дори днес в много решения е трудно да се отдели изкуственият интелект от останалите.

Затова вярвам, че ИИ ще играе много голяма роля и от нас зависи как ще се справим с него.

Под термина изкуствен интелект хората си представят различни неща. Ето защо свикваме да започваме всеки дебат относно ИИ, като го дефинираме. Какво е твоето?

Този въпрос е почти запомнящ се. На първо място, изкуственият интелект е научна дисциплина. Следователно е погрешно да я персонифицираме и да говорим за нея като за живо същество, например, че „тя“ ще или не ще ни направи нещо. Тя няма да направи нищо от себе си.

Фактът, че AI се дефинира по различен начин, е свързан и с факта, че тези описания имат различни цели. Следователно, например в материали от семинара Slovak.AI, които служат за подпомагане въвеждането на AI в словашките компании, това се описва широко и просто като способността на неживите машини да решават задачи, изискващи известна степен на интелигентност. Подобно определение обаче, разбира се, изобщо не би било достатъчно при въвеждането на каквито и да било правила или законодателство.

Определенията на AI се фокусират най-вече върху неговите свойства. Като най-фундаменталната характеристика на ИИ възприемам способността на системата да се учи, тоест дори в неочаквани ситуации, за които никой не е мислил предварително, да се държи адекватно и приемливо и да служи на дадената цел.

Така например, система за напояване на тревна площ, която също се продава тук с прилагателното „умен“ и в същото време започва да полива само в определени моменти, ако е суха, не бихте я сметнали за „умна“.

Ако имахме такава система преди четиридесет години, със сигурност бихме я нарекли интелигентна тогава. Няколко правила IF-THEN биха били достатъчни.

Днес обикновено изискваме по-сложна преценка да бъде включена в тази област. Но е добре да осъзнаем, че определението за ИИ изглежда се движи във времето, а след няколко години и много сложна напоителна система - която ще предскаже времето и ще предизвика поливане, дори ако не сме го направили, докато решението му се оказва бъдете изненадващо правилни - може би вече е толкова обикновен, че не му даваме специално прилагателно.

Днес AI изпълнява различни роли във може би всяка индустрия. Къде и кога можем да я оставим да действа или да реши напълно без надзор?

На първо място, има подобен проблем като с тази пръскачка за трева: в смисъл, че не е ясно дали и каква част от нея е интелигентната система.

Но ако прекаля малко, ще кажа, че човек трябва да участва винаги и навсякъде. По принцип нищо не трябва да се случва без неговия надзор. Това, разбира се, важи от определено ниво на системата. Има задачи, които вече приемаме. В същото време поради сложността човек дори не може да контролира всичко.

Границите на това къде да оставите машината повече и къде по-малко свобода могат да се развият от две измерения. Първият е колко далеч в развитието е системата за ИИ и колко сложна е задачата от нейната гледна точка. Тъй като в някои области днес машината е по-слаба от тригодишно дете, в други е точно обратното. Разбира се, бих му дал повече свобода в области, където се справя добре.

Вторият изглед е свързан с рисковата зона, в която се намира задачата. Дали изходът на дадена AI система може да повлияе на някой от нашите основни етични принципи, ценности или дали може да причини вреда на някого. Следователно, ако системата работи и технически добре, но съществува риск да застраши човек или да ви навреди, това, разбира се, трябва да се вземе предвид.

Има нещо, което определено не бихте искали системите за ИИ да правят за нас?

Има още червени линии. Подобна област е най-значимата в областта на автономните оръжия и се радвам, че нашата експертна група за изкуствен интелект в Европейската комисия също заяви това в своите насоки.

Някои философи, които са членове на тази група, изрично са се борили тя да бъде там, а в същото време други са против всякакви червени линии изобщо да се публикуват, страхувайки се, че след това обществеността с изкуствен интелект ще се уплаши.

Друга червена линия от моя гледна точка, за която много се говори, е манипулирането с информация, което в известен смисъл е и оръжие. Имам предвид неща като фалшиви новини или влияние върху изборите чрез дезинформация.

специалист
Снимка N - Томаш Бенедикович

Друг проблем с AI е лошата му прозрачност. Понякога тези системи са толкова сложни, че не можем да разберем как те вземат решения. В същото време те се използват и в много сериозни области; например някъде вече решават кой пациент е диагностициран или чий затворник може да бъде освободен.

Прозрачността на изкуствения интелект е огромен проблем, за който сме наясно от началото на изследванията му.

По това време алгоритмите за изкуствен интелект работеха директно с познати ни свойства и на базата на изрично изразени знания, най-често под формата на правила. Например система, за която се твърди, че е диагностицирала пациент, е работила с входна информация за телесната му температура, дали има кашлица и т.н. Когато впоследствие той препоръча диагноза, той го направи въз основа на изрично писмени знания под формата на правила, които свързват тези симптоми с диагнозите, и така беше възможно да се разбере защо и на какво основание той реши да го направи.

Проблемът е, че такива системи могат да решат само много тясна група задачи. Ако трябваше да се добавят нови ситуации, възникваха изключения, всичко трябваше да бъде сложно и често конфигурирано ръчно. Следователно изследователите са разработили системи, при които самите правила автоматично създават програма, базирана на много примери. Като алтернатива и това вече е реалност днес, машината може не само да създава правила, но и параметри, на базата на които ще предложи решение. Е, колкото повече даваме на компютъра повече работа, толкова по-малко шанс имаме в действителност да проверим изхода му.

Тази промяна от разбираемостта към неразбираемостта в случая на изкуствения интелект беше буквално прескочена. Изричният подход, основан на писане на знания по начин, който следва човешката логика, се е променил на подход на задълбочено обучение, базиран на невронни мрежи, където резултатът се основава на много малки, различно взаимосвързани и неразбираеми стойности, които създават резултата. Често е добре, но много трудно човек може да го обясни.

Днес сме в позиция, че е нереалистично да се изисква пълна прозрачност на алгоритмите за изкуствен интелект, за да може крайният потребител да разбере защо една AI система е проектирала едно или друго решение. Знам, че не звучи добре, но опитайте да помолите лекар-човек да обясни изцяло вашето решение, когато може да се стигне, да речем, отчасти до интуицията. Той също не работи.

Понастоящем най-разумният подход за справяне с лошата прозрачност на ИИ е разбиването на този проблем на няколко части. Едната част е усилието да се документира процесът, така че той да бъде възпроизведен. Във втория се стремим към максимална разбираемост на дадената препоръка, направена от машината, поне за експерти. На трето място, това е комуникация, т.е. човек трябва да бъде информиран например за това какви действия е извършил компютърът, доколко е успешен, за да може след това самият човек да вземе информирано решение.

Тези теми са някъде на границата на техническите и хуманитарните науки. От коя страна е по-добре да се доближите до тях?

Те наистина са на интерфейса и желанието на сърцето ми е да се опитам да свържа тези два свята. В днешно време технологиите са много популярни и може да изглежда, че социалните науки изглежда са на заден план, но в същото време те, разбира се, са изключително важни.

Следователно е добре технологичните компании да наемат хора с хуманитарно образование, да ги свързват на различни платформи, свързани с технологиите, като, да речем, Slovak.AI, да бъдат в технически университети и по този начин да се присъединяват към технически екипи навсякъде.

Техниците гледат на нещата по различен начин и когато двата свята се смесят, те изведнъж откриват, че имат нужда един от друг.

Има мнения, че изкуственият интелект днес може да реши само много тесен брой задачи. Веднъж ще има широк спектър от приложения?

Мисля, че изкуственият интелект в момента