Предупредување на врвен физичар: На вештачката интелигенција не смеат да ѝ се дадат три работи. Ѝ ги дадовме сите три. (1)

22.05.2023 13:58

Ако продолжи неконтролираниот развој на вештачката интелигенција (ВИ), воден од конкуренцијата помеѓу компаниите, ако не паузираме за да ги одредиме насоките и регулациите за нејзиниот развој, би можело да ни се случи таа да нè надвладее и истисне како што Хомо сапиенсот ги истиснал неандерталците, предупреди во неодамна објавениот разговор физичарот и истражувач на вештачката интелигенција Макс Тегмарк.

Отворено писмо за мораториум на развојот на ВИ

Во подкастот на Лекс Фридман, информатичар и истражувач на вештачката интелигенција на Институтот за технологија Масачусетс (МИТ), Макс Ерик Тегмарк, физичар, космолог и истражувач на машинското учење, професор на МИТ и претседател на Институтот Фјучр оф лајф, меѓу другото, објасни зошто е загрижен од сегашниот развој на вештачката интелигенција и зошто со група научници, мислители и стручњаци за вештачка интелигенција напиша отворено писмо со кое бара шестмесечен мораториум на понатамошното унапредување на системите кои се помоќни од ГПТ-4.

Во писмото кое го критикува постоечкиот пристап во стилот – прво да изградиме брод, а потоа ќе го поправаме – и предупредува дека важната трка во развојот на ВИ ја водат челниците на компаниите кои не се избрани претставници на народот, односно гласачкото тело, туку челници на технолошки компании, авторите поставуваат четири прашања:

Дали на машините треба да им дозволиме да ги преплават нашите информациски канали со пропаганда и невистина?

Дали треба да ги автоматизираме сите работни места, вклучувајќи ги и оние кои човечките животи ги исполнуваат со смисла?

Дали треба да развиеме нечовечки умови кои на крајот би можеле бројно да нè надминат, надмудрат, застарат и заменат?

Дали треба да ризикуваме губење контрола над својата цивилизација?

Досега писмото го потпишаа повеќе од 27.500 луѓе меѓу кои се историчарот и авторот на неколку бестселери како што е Сапиенс, Јувал Ноа Харари, коосновачот на Епл, Стив Вознијак, коосновачот на Скајп, Јан Талин и бројни истражувачи на вештачката интелигенција како што се Стјуарт Расел, Јошуа Бенгио, Гери Маркус и Емад Мостак.

Тешко е да се очекува дека писмото самото по себе би можело да ги запре или успори компаниите како Гугл и Мајкрософт, но неговите пораки можеби би можеле да допрат до политичарите кои би можеле да преземат нешто во законодавна смисла.

Тегмарк веќе со години предупредува за вештачката интелигенција

Во овој контекст интересно е да се истакне дека Тегмарк не е нов во развојот на компјутерите. Уште како средношколец, заедно со својот пријател креирал и продавал програма за обработка на текст напишана во чист машински код и 3Д игра слична на Тетрис со име Фрак. Денес на МИТ е фокусиран на поврзување на физиката и машинското учење, односно на користење на вештачката интелигенција за потребите на физиката и физиката за потребите на развојот на вештачката интелигенција.

Институтот кој го води денес (Фјучр оф лајф) уште во 2015 година објави слична петиција за мораториум на развојот на автономната технологија за оружје. Тогаш покрај Тегмарк ја потпишаа многумина познати личности, вклучувајќи ги Стивен Хокинг, Илон Маск, Стјуарт Расел, Ноам Чомски, Стив Вознијак, Мартин Рис, Демис Хасабис, Реј Курцвел и многу други.

„Ќе создадеме вонземска интелигенција“

Во текстов ќе пренесеме слободен превод на некои од најважните делови од разговорот на Фридман и Тегмарк.

Во воведниот дел на речиси тричасовниот разговор Тегмарк вели дека, за разлика од бројни други научници, верува дека технолошки напредниот живот, каков што е човечкиот на земјата, е исклучок во видливата вселена.

„Ако тоа е вистина, тоа ни наметнува голема одговорност да не згрешиме... Ние сме чувари на оваа искра напредна свест која, ако ја негуваме и ѝ помогнеме да расте, може да се прошири во вселената и можеме да имаме воодушевувачка иднина“, рече Тегмарк.

„Од друга страна, ако сме безобѕирни во развојот на технологијата тогаш ќе ја изгаснеме заради глупост или конфликти. Впрочем, мислам дека многу наскоро ќе нè посети вонземска интелигенција. Но тоа е интелигенција што самите ќе ја изградиме, а не интелигенција на вонземјани“, додаде истакнувајќи дека таа вештачка интелигенција ќе биде поегзотична од интелигенцијата на најегзотичните суштества на Земјата зашто нема да биде создадена преку вообичаената дарвинова компетиција, во која се важни нештата како што се самозаштитата, стравот од смртта и слично.

„Тешко ни е и да замислиме како би изгледала интелигенцијата која не се плаши од смртта“

Предупреди дека таа ќе се развива многу побрзо од она што го овозможува еволуцијата, што подразбира голема одговорност дека умовите кои ќе ги создадеме ќе бидат вредни за тоа, дека ќе ги споделуваат нашите вредности и ќе бидат добри за човештвото и животот воопшто.

Објасни дека ни е тешко и да замислиме како би изгледала интелигенцијата која не се плаши од смртта, која за еден момент може да научи некој јазик, како шведскиот на пример, или може од меморијата да ги избрише своите доживувања кои не ѝ се допаѓаат.

Предупреди дека е важно да бидеме свесни и да се замислиме над очигледниот факт дека просторот за развој на вештачките интелигенции е мошне широк и дека е мошне опасно да се претпостави дека вештачката интелигенција на кој било начин ќе биде слична со нашата.

„Во моментов создаваме живот 3.0“

Зборувајќи за својата книга Живот 3.0, Тегмарк објасни дека животот 1.0 подразбира форми како што се бактериите, кои не можат многу да научат во текот на својот живот. Животот 2.0 е налик на нашиот и животот на животните со мозок кои можат да научат многу. Животот 3.0, кој сè уште не е создаден, подразбира живот кој нема да може да го промени само својот софтвер, кој можеме да го менуваме ние, туку и хардверот.

„Кон тоа се движиме забрзано. Компаниите кои се обидуваат да направат вештачка општа интелигенција го развиваат животот 3.0. Таа интелигенција ќе можете да ја сместите во нешто што нема никакви биолошки темели“, вели, мислејќи на роботите.

„Се наоѓаме на најважниот крстопат на патот на човештвото“

Моменталната ситуација во развојот на ВИ, Тегемарк ја спореди со дејството во филмот Не гледај нагоре, во кој многу луѓе не веруваат во сериозноста на заканата и не преземаат ништо разумно иако имаат информации дека голем астероид ита кон Земјата.

Предупреди дека човештвото токму во моментов само гради таков астероид и речиси никој во јавноста не дискутира сериозно за тоа.

„Многу политичари тоа го немаат никаде на својот радар и мислат дека тоа е нешто што можеби ќе се случи за 100 години или повеќе. Но ние токму сега се наоѓаме на крстопат. Тоа е најважниот крстопат до кој дошло човештвото во своите стотина илјади години постоење на Земјата. Во суштина градиме нов вид кој е попаметен од нас“, предупредува.

„А доаѓањето на вештачката општа интелигенција која може да ги извршува сите работи подеднакво добро како нас, и веројатно наскоро потоа и суперинтелигенција која во огромен степен ќе ги надмине нашите когнитивни способности, ќе биде или најдоброто или најлошото нешто што му се случило на човештвото. Силно сум убеден дека во тој контекст не постои средина“, објаснува Тегмарк.

Трка помеѓу развојот на вештачката интелигенција и развојот на мудроста

Зборувајќи за отвореното писмо споменато во воведот, објасни дека е важно да се добие трката помеѓу развојот на ВИ и нашите можности да управуваме со неа. Потсети дека досега врвните стручњаци со кои се сложува главно сметаа дека не треба да се успорува развојот на ВИ, туку наместо тоа треба да се обидеме да го забрзаме развојот на мудроста и да ги направиме сите технички нешта за да се осигураме дека моќната ВИ го прави тоа што сакаме да го прави, и општеството да им се прилагоди на приликите и регулациите за да може оваа интелигенција да се користи на добар начин.

„За жал, тоа не успеа. Напредокот на техничките способности на ВИ се одвиваше многу побрзо отколку што мислеа многумина кога почнавме со предупредувањата во 2014 година. Од друга страна, придобивањето на политичарите и останатите да постават начела кои ќе го водат сето тоа во вистинска насока одеше побавно од очекувањата“, рече.

„Вештачката интелигенција полета неочекувано брзо, како авион“

Полетот во развојот на ВИ го спореди со скокот во развојот на летечките машини.

„Луѓето долго размислувале како летаат птиците, а тоа се покажало како нешто што бара многу. Дали на ТЕД Ток видовте како лета вештачката птица? Беа потребни 100 години повеќе за да се развие вештачка птица што лета отколку што им требаше на браќата Рајт да го изградат првиот авион, кој се покажа како многу полесно решение за летање. Еволуцијата избра покомплициран начин зашто имаше одврзани раце; можеше само да изгради машина која може да се составува сама. Браќата Рајт не мораа да се грижат за тоа...

Тоа се случува во моментов со големите јазични модели. Мозокот е неверојатно комплициран. Многу луѓе згрешија мислејќи дека треба да откриеме како функционира мозокот пред да изградиме машина со вештачка интелигенција. Можете да направите исклучително едноставен компјутерски систем кој се вика трансформерска мрежа и да го истренирате да прави нешто неверојатно глупаво – да чита голема количина текст и да се обидува да го предвиди следниот збор“, наведува.

„А се покажа дека само ако вложите еден тон компјутерска моќ и еден тон податоци ќе стане застрашувачки добар како ГПТ-4, со кој си играм откако е објавен. Сè уште постојат некои дискусии дали тоа може да нè доведе до целосно човечко ниво или не“, појасни.

Дали ГПТ размислува?

Тегмарк вели дека истовремено е воодушевен и ужаснат од ГПТ.

Може мошне добро да расудува и да прави многу нешта за кои сфатив дека ни самиот не би можел да ги направам толку добро. Исто така, тоа го прави побрзо од нас. Освен тоа, истовремено добро услужува голем број луѓе. Од друга страна, во некои задачи не може да размислува толку долго како луѓето. Во таа смисла очигледно постојат ограничувања во неговата архитектура.

Ние во своите глави го имаме она што на јазикот на гиковите се нарекува рекурентна невронска мрежа. Во неа постојат јазли. Информациите одат од еден неврон до друг и трет и потоа назад до првиот. Така можете да промислувате и самопромислувате. Големите јазични модели како ГПТ-4 не можат да го направат тоа. Тие се таканаречени трансформери. Тие се како еднонасочна улица со информации“, наведува Тегмарк.

„Полесно е да се изгради интелигенција блиска до човечката одошто мислевме“

„Затоа тие можат да функционираат логички до одредена длабочина. Затоа може да создадете проблеми кои тие не можат да ги решат. Меѓутоа, мошне загрижувачки е фактот дека можат да прават воодушевувачки нешта со толку едноставна архитектура.

Во мојата лабораторија на МИТ одвнатре ги набљудуваме големите јазични модели за да откриеме како функционираат, што е фокус на нашето актуелно истражување. Тоа е еден вид вештачка невронаука. Тука одново и одново гледаме дека тоа е неверојатно глупав начин за извршување на задачите, а за тоа се објавени бројни трудови“, истакнува физичарот.

„Таа архитектура никако нема да ги спречи добрите инженери да пронајдат нови решенија и понапредни архитектури. Накратко, се покажа дека е многу полесно да се изгради интелигенција блиска до човечката отколку што мислевме. Затоа времето што го имаме за да се средиме се скрати“, рече Тегмарк.

Смета дека мали чекори во промената на архитектурата на која се темелат јазичните модели би можеле да доведат до значително попаметни системи.

„Бидејќи многу нешта се отворени многу паметни луѓе можат да истражуваат и да се обидуваат да направат мали чекори за подобрување, така што тоа ќе стане еден вид колективна трка во која многумина ќе мислат: 'Ако не го направам тој чекор, ќе го направи некој друг'“, вели Тегмарк.

„Трката во развојот на вештачката интелигенција ја води монструмот Молох“

Врвниот физичар толкува дека таквиот притисок е клучната причина заради која одлучиле да повикаат на пауза во третирањето на системите кои се помоќни од ГПТ-4 на шест месеци.

„Треба да им се даде можност на сите лаборатории малку да се координираат по прашањето на безбедноста и да му се даде можност на општеството да се прилагоди и да понуди вистински стимулации за лабораториите. Ги интервјуиравте сите тие луѓе од разни лаборатории и знаете дека тоа се добри, идеалистични луѓе кои тоа го прават пред сè зашто веруваат дека ВИ има голем потенцијал да му помогне на човештвото. Но тие, истовремено се во замката на оваа ужасна трка“, вели Тегмарк.

Тој ја илустрира оваа трка повикувајќи се на есејот на Скот Александер за песната на американскиот поет Ален Гинзберг за Молох, монструмот во теоријата на игрите, кој луѓето ги заробува во игра во која на крајот сите се губитници.

„Злото поврзано со монструмот е дека и покрај тоа што сите знаат и разбираат што се случува, никој не успева да се извлече од трката. Најголем дел од лошите нешта што ги правиме ние луѓето ги предизвикува Молох“, вели.

Како пример за делувањето на Молох го наведува притисокот кој современата технологија за обработка на фотографии со сите можни филтри им го создава на инфлуенсерките, што во еден од претходните подкасти со Лекс Фридман го адресираше Лив Боери, британска научна комуникаторка, телевизиска водителка и првенка во покер.

„Молохот е насекаде“

„На почетокот никој не ги користеше. Луѓето ги гледаа жените такви какви што се. Потоа почнаа да ги користат само некои. А кога некои почнаа да ги користат и станаа сè попластично-фантастични, тогаш оние што не ги користеа почнаа да сфаќаат дека, ако сакаат да го задржат својот удел на пазарот, и тие мораат да почнат да ги користат. Така доаѓаме до ситуацијата во која сите ги користат така што никој нема помал удел на пазарот од претходно“, појаснува.

„Значи, изгубија сите, не доби никој и сите мораат да бидат сè попластично-фантастични. Сега веќе никој не може да се врати на стариот начин зашто стана премногу скапо. Молохот е насекаде“, толкува Тегмарк напоменувајќи дека тој не е новодојденец на сцената.

„Ние луѓето развивме бројни механизми за соработка за да се бориме против Молохот. Советскиот сојуз и САД потпишаа бројни договори за контрола на вооружувањето против Молох кој се обидува да ги натера на непотребна, ризична трка во нуклеарното вооружување итн. А тоа е токму она што сега се случува во развојот на ВИ. Овојпат се работи и за геополитика, но главно за пари зашто постои голем комерцијален притисок. Кога кој било од водачите на големите компании кои развиваат ВИ би одлучил да направи пауза, би се нашол под голем притисок на акционерите и сите останати“, наведува Тегмарк.

„Успорувањето е правилно“

„Ако паузирате вие, а другите не, тогаш не сакаме некој друг да ни го изеде ручекот. А акционерите во најлош случај дури имаат можност да ги сменат директорите. Затоа ние продолживме со ова писмо зашто сакавме да им помогнеме на овие идеалистички технолошки раководители да го направат она што им го налага срцето, така што ќе создадеме доволно јавен притисок на целиот сектор и сите ќе можат да паузираат на координиран начин“, рече.

„Мислам дека без јавен притисок никој од нив не може да го направи тоа сам, да им се спротивстави на акционерите без оглед колку и да е добронамерен. Имено, Молох е многу моќен непријател... Така раководителите би добиле можност да им кажат на акционерите: 'Сите успоруваат, тоа е правилно и така треба да се постапи“, објасни Тегмарк.

„Можно е да се запре Молохот“

Како еден од примерите кои покажуваат дека е можно да се запрат некои опасни трки во развојот на технологијата, Тегмарк го наведува клонирањето луѓе.

„Со клонирање луѓе може да се заработи многу. Тогаш зошто не го правиме тоа? Затоа што биолозите добро размислија и заклучија дека е премногу ризично. Во седумдесеттите се собраа во Асиломар и одлучија да запрат уште многу други нешта, на пример, менувањето на човечкиот геном кој ќе се пренесува на човечкото потомство.

Одлучија дека нема да го прават тоа зашто тешко може да се предвиди каде може да нè одведе; би можеле да ја изгубиме контролата над својот вид. Затоа е можно да се изведе нешто такво. Потребно е јавноста да биде свесна за ризиците и да се придобие пошироката заедница за да рече: 'Еј, ајде да успориме'“, наведува физичарот.

„Еден од контрааргументите е дека ние на Запад не можеме да запреме заради Кина. А во Кина, исто така, несомнено сметаат дека не можат да запрат заради Западот. Двете страни се сметаат себеси за добри. Но погледнете го клонирањето луѓе. Дали Кина продолжи со клонирање луѓе? Колку што знам изведено е само едно клонирање, кое го изведе Кинез. Знаете каде е тој сега? Во затвор. А знаете кој го смести таму? Кинеската влада. Не затоа што Западњаците го бараа тоа. Не, кинеската власт го смести таму зашто и таа сака да има контрола. Дури и повеќе од западните власти..“, потсетува Тегмарк.

„Ова е самоубиствена трка“

„Овде е важно да се сфати дека тоа не е трка за вооружување, туку самоубиствена трка во која ако некој изгуби контрола над вештачката интелигенција, губат сите. Тоа навистина ја менува целата динамика. Уште еднаш ќе повторам зашто тоа е темелната поента која многу луѓе не ја сфаќаат како што треба.

Бидејќи многу луѓе ја отфрлаат идејата дека ВИ би можела да стане многу супериорна за луѓето, зашто мислат дека постои нешто волшебно во интелигенцијата, така што може да постои само во човечките умови, тие мислат дека ВИ, повеќе или помалку ќе стане нешто како унапреден ГПТ-4 и тоа е тоа. Затоа сето тоа не го гледаат како самоубиствена трка. Тие мислат дека оној што прв ќе го достигне тоа ќе го контролира светот и ќе победи. Но нема да биде така...“, наведува Тегмарк.

„Тоа е како да итаме кон понор“

„Кој и да ја изгуби контролата, а некој друг кој не ги споделува вашите вредности успее да завладее со светот, никому нема да биде важно каква е неговата националност. Тоа нема да ви се допадне. Ќе биде многу полошо од денес; ако живеете во орвеловска дистопија, кој би се грижел кој ја создал. А ако нештата отидат уште подалеку и ако ја изгубиме контролата и над машините, па на тој начин тоа веќе да не е прашање ние против нив, туку ние против тоа, кој би се грижел кој го создал тоа суштество кое има цели поинакви од човештвото, заради кое ќе станеме маргинализирани, непотребни, заменети....

Тоа е како да итаме кон понор. Колку повеќе му се приближуваме погледот е сè поубав и има сè повеќе пари и затоа продолжуваме. Меѓутоа, во одреден момент сепак треба да застанеме... Вистинскиот начин за да имаме корист од тоа е да продолжиме да ја развиваме фасцинантната вештачка интелигенција малку побавно така што ќе можеме да ја направиме сигурна, да се осигураме дека ќе го прави тоа што ќе го сакаме ние луѓето и ќе создадеме услови во кои сите би имале корист“, истакнува Тегмарк.