"Изправени сме пред много предизвикателства. Хората могат да загубят работа поради изкуствения интелект (ИИ), съществува риск от задълбочаване на неравенството в доходите, ограничаване на неприкосновеността на личния живот и, разбира се, може да се злоупотребява с различни цели. Да повлияе на изборите, което е горещо тема в САЩ ", каза той. за Истината Орен Ециони, директор на Института за изкуствен интелект Алън Джон Алън е съосновател на Microsoft Etzioni, работи в института от 2013 г. и е интервюиран на конференцията GLOBSEC.

нуждае

Предложихте, че хората, които работят с изкуствен интелект, трябва да положат етична клетва. Защо?

Центровете на властта се променят в нашите общества. Свидетели сме на това през последните десет, двадесет години. И особено сега. Политиците и журналистите винаги са имали известна власт, както и адвокатите и лекарите. Но сега се появява нов клас хора с власт. Те са тези, които създават алгоритми, софтуерни системи и изкуствен интелект. Когато осъзнаем, че тези хора имат повече власт в обществото, трябва да искаме да се държат етично. Няма един отговор как това може да се постигне. Но велик символ на етичния подход за лекарите е Хипократовата клетва. По същество, с това обещание те се ангажират да използват способностите си, за да правят добро, а не зло. Аз твърдя, че хората, работещи с изкуствен интелект, трябва да имат нещо подобно. Ето защо създадох текста на клетвата за тях.

Как реагираха?

Бях малко изненадан. Мислех, че ще го приветстват. Това е просто нещо. В живота няма много неща, за които не е нужно да плащате, те нямат калории и не причиняват рак. Ето защо си мислех, че всички ще харесат клетвата. Реалността обаче беше друга. Имаше и такива, които не харесваха, че става въпрос само за изкуствен интелект. Те казаха, че може би трябва да е за всеки, който се занимава с неща, свързани с компютрите. Други твърдяха, че е необходимо да се промени едната дума тук, другата там, че моята клетва е неправилна. Казвам им да не се опитват да ми хапят пръста, а да гледат накъдето соча. бях разочарован.

Може да се каже, че в обществото има опасения за това как ще се използва изкуственият интелект. Много хора вероятно биха приветствали тези, които работят с мощни инструменти, за да имат известен контрол над себе си. Може да се наложи да убедите обществеността, че вашата клетва е добра идея.

Да. Добре, благодаря ти. Съгласен съм с теб. Опитах се да убедя някои хора да положат моята клетва. Студентите и техните преподаватели. Но те бяха много неохотни. Може би ще можете да помогнете с това.

Каква е най-голямата опасност от злоупотреба с изкуствен интелект?

Ние сме изправени пред много предизвикателства. Хората могат да загубят работа, да рискуват неравенство в доходите, да задълбочат неприкосновеността на личния живот и, разбира се, AI може да бъде злоупотребяван с различни цели. Престъпниците могат да използват киберпрестъпността, за да повлияят на изборите, гореща тема в САЩ.

Как изкуственият интелект може да повлияе на избора?

Той носи потенциал за много по-сложни атаки. Хората знаят как да бъдат много наивни, но трябва да кажем, че сме стигнали до момент, в който трудно можем да кажем дали някакво съдържание е създадено от човек или изкуствен интелект. Може да видите бившия президент Барак Обама да казва неща, които никога не е казвал. За съжаление ще се изправим пред него.

Какво може да се направи с него?

Можем да засилим удостоверяването на съдържанието, за да знаем кой е истинският автор на съдържание. За да ме уведомите, че произхожда от Истината или от New York Times. В института Алън създаваме инструменти за по-добро откриване на измами. Това обаче напомня на надпреварата във въоръжаването между армиите. Между измамниците и тези, които искат да ги изложат.

Когато споменавате надпреварата във въоръжаването, със сигурност мога да използвам изкуствен интелект директно в армията.

Руският президент Владимир Путин заяви, че който владее изкуствен интелект, ще управлява света. Няма никой AI. Използването му обаче със сигурност може да създаде ползи за една страна по отношение на военните, икономическите и научните изследвания. Лидерите в изкуствения интелект са САЩ и Китай. И това със сигурност е предизвикателство за Русия. Надявам се, че подходът на всички участващи ще бъде усилие за съвместна работа, а не враждебност. Според мен Русия направи грешка през 2016 г., когато се опита да повлияе на президентските избори в САЩ. Предпочита краткосрочните ползи пред по-дългосрочните. Той пробуди антагонизма на САЩ срещу Русия. Това може да има негативни последици за двете страни.

На Запад, особено в Европа, често чуваме, че в технологичната област бягаме от влака, че Китай е основният двигател. Наистина е?

Това е малко по-сложно. В момента не може да се каже еднозначно, но ще знаем по-добре след може би три или четири години.

Как ще се прояви? Как ще разберем кой е технологичният лидер?

Това ще има огромни военни, икономически и технологични последици. Това ще се отрази на обикновените неща, но и на функционирането на военните системи. Още не го виждаме, но след известно време го осъзнаваме.

Когато се върна към вашата клетва, това, което хората, създаващи ИИ, не може да направи по никакъв начин?

Контролът върху системите за изкуствен интелект трябва да остане в техните ръце. Можете да създадете много интелигентно нещо. Да кажем, изключително интелигентна оръжейна система. Но решението дали да убиете някого трябва да остане при другите хора. Това включва например дали някой трябва да влезе в затвора и подобни неща.

Ще бъде така?

Това е нашето решение.

Хората няма да искат да прехвърлят отговорността върху машини?

© ЗАПАЗЕНО АВТОРСКО ПРАВО

Целта на всекидневника „Правда” и неговата интернет версия е да ви предоставя актуални новини всеки ден. За да можем да работим за вас постоянно и дори по-добре, ние също се нуждаем от вашата подкрепа. Благодарим за всяко финансово участие.