Предупредување на врвен физичар: На вештачката интелигенција не смеат да ѝ се дадат три нешта. Ѝ ги дадовме сите три. (2)

24.05.2023 14:11

Втор дел од разговорот меѓу Лекс Фридман и Макс Ерик Тегмарк.

„Веќе ги дозволивме трите нешта кои не би требало да се дозволат во развојот на вештачката интелигенција“

Тегмарк вели дека бројни научници од областа на развојот на ВИ веќе со години предупредуваат дека постојат три нешта кои не би смееле да се случат.

„Првото е да се научи ВИ сама да пишува кодови зашто тоа е прв чекор кон повторувачкото самоусовршување кое на вештачката општа интелигенција може да ѝ овозможи да дојде до многу повисоки нивоа. Опа, веќе ѝ го овозможивме тоа. Второто многу различно нешто е ВИ да ја поврземе со интернетот така што ќе може да посетува веб страници, самостојно да симнува податоци и да разговара со луѓе. Опа, и тоа ѝ го овозможивме...

Третото нешто е она за што предупреди Стујарт Расел, фасцинантен истражувач на ВИ. Тој веќе извесно време истакнува дека никогаш не треба да ја учиме вештачката интелигенција ништо за луѓето. Пред сè не би требало да ѝ овозможиме да ја научи човечката психологија и да манипулира со луѓето. Тоа е најопасното знаење кое можете да ѝ го дадете“, наведува физичарот.

„Алгоритмите на вештачката интелигенција создаваат свет со сè повеќе омраза“

„Можете да ја научите како да лекува рак и слично, меѓутоа, не смеете да ѝ дадете да ја чита книгата на Даниел Канеман за когнитивните пристрасности и слично. Опа, ха ха ха, развивме социјални мрежи со ВИ алгоритми кои нешто препорачуваат и го прават токму тоа. Тие станаа многу добри во тоа да знаат како да ги притиснат нашите копчиња за да почнат да создаваат свет во кој имаме сè повеќе и повеќе омраза.

Имено, стручњаците открија, но не заради зли намери, дека така ќе се заработува повеќе преку огласување, дека таквите алгоритми донесуваат повеќе пари од огласување зашто повеќе ги анализираат луѓето, повеќе ги притискаат на нивните мали правоаголници“, вели Тегмарк истакнувајќи дека денес, благодарение на овие алгоритми на социјалните мрежи кои научија како да манипулираат со луѓето, живееме во свет во кој има многу повеќе омраза, во кој луѓето не можат да се сложат за основните нешта како што е прашањето кој победил на избори.

„Развојот на вештачката интелигенција може да се регулира“

Тегмарк е уверен дека назвојот на ВИ може да се регулира така што со почитување одредени правила кои ќе гарантираат дека таа ќе биде безбедна за човештвото, истовремено ќе го овозможи капиталистичкиот натпревар. Меѓу другото, тука го истакнува примерот на безбедносните појаси во автомобилите и забраната на детската работа.

„Никогаш, дури ни во десничарските кругови не наидов на некој што мисли дека забраната на детската работа е лоша идеја... Најпосле, тоа е заеднички интерес за да не го пречекориме работ... Проблемот е што и покрај тоа луѓето што ја градат оваа технологија и нивните директори добро разбираат дека се наоѓаме блиску до работ, акционерите и останатите пазарни субјекти не разбираат...

Многу од луѓето заглавија во она што сакам да го нарекувам јаглероден шовинизам, дека човечко ниво на интелигенција можат да имаат само луѓето, дека постои нешто волшебно во врска со неа. Луѓето во технолошките компании кои го градат сето тоа сфаќаат дека интелигенцијата е еден вид обработка на податоци и дека воопшто не е важно дали тие податоци ги обработуваат атомите на јаглеродот во невроните во мозокот или атомите на силициумот во некоја технологија што сме ја изградиле“, вели Тегмарк.

„Трката кон една цел води во пропаст“

Реферирајќи се на темата начната во претходниот дел од разговорот, Тегмарк кој своевремено студирал и економија, вели дека постојат многу луѓе кои го сакаат капитализмот и многу кои не го сакаат.

„Неодамна ми светна дека она што се случува со капитализмот е потполно аналогно на начинот на кој суперинтелигенцијата би можела да нè избрише... Бев многу заинтересиран како пазарните сили можат да се искористат за поефикасно извршување на работите, но притоа на пазарот да му се дадат вистински поттици за да не почне да прави лоши нешта.

Дилан Хејтфилд Манел, мој колега и професор на МИТ, неодамна со своите соработници напиша мошне интересен труд во кој математички докажа дека ако земете една цел за која во недоглед ќе ги оптимизирате работите, за која мислите дека ќе ве води во вистинска насока, секогаш се случува тоа на почетокот да ги прави подобри работите за вас, меѓутоа, ако продолжите понатаму во еден момент нештата ќе почнат да се влошуваат. На крајот нештата ќе станат навистина ужасни...

Тоа е многу важно за ВИ и покрај тоа што Стјуарт Расел напиша книга во која објасни зошто е лоша идејата на ВИ да ѝ се овозможи да оптимизира нешто, всушност тоа е она што го прават нашите системи. Имаме нешто што се нарекува функција на загуба, која ја минимизираме, или функција на награда, која ја максимизираме“, предупредува физичарот.

„Проблемот на капитализмот и проблемот на вештачката интелигенција се стопија“

„Така функционира капитализмот. Сакавме да ги правиме нештата поефикасно. Затоа воведовме слободен пазар. Нештата почнаа да се прават многу поефикасно отколку во комунизмот. Меѓутоа, тогаш се продолжи со оптимизирањето сè повеќе и повеќе, со сè поголеми компании и сè поефикасна обработка на податоци со помош на информатичките технологии од поново време. Најпосле, многу луѓе почнаа да размислуваат вака: 'Па чекајте, се чини дека премногу оптимизираме'. На пример, зошто пресековме половина прашуми? Зошто одеднаш откриваме дека регулаторите се во спрега со лобистите итн?

Ако имате ВИ која има една цел и продолжи да ја оптимизира, на почетокот повеќето луѓе ќе бидат воодушевени и нештата ќе станат подобри. Меѓутоа, речиси е невозможно на ВИ да ѝ се даде сосема точна насока за оптимизација, а потоа сè може да отиде по ѓаволите. Ник Бостром и други дадоа примери кои можат да звучат мошне лудо, на пример, ако на ВИ ѝ поставите цел да излекува рак. Таа можеби ќе одлучи да заземе цел континент за на него да ги смести сите потребни компјутери за излекување рак. Во тој момент ќе речете: 'Не го сакав баш тоа'“, наведува Тегмарк.

„А проблемот на капитализмот и проблемот на ВИ сега на одреден начин се претопија зашто Молохот за кој зборував е токму капиталистички Молох. Изградивме економија која оптимизира само едно нешто, а тоа е профитот. Тоа одлично функционираше во времето кога нештата беа мошне неефикасни. Беше одлично додека компаниите беа доволно мали така што не можеа да ги контролираат регулаторите. Но денес веќе не е така, а ние продолжуваме со оптимизирањето.

Денес луѓето сфаќаат дека можат да остварат поголем профит ако градат се помоќна ВИ, дури и ако таа е безобѕирна... Тука повторно се јавува Молох. Секој што е загрижен зашто смета дека капитализмот во својата доцна фаза отиде предалеку, би требало да биде загрижен за суперинтелигенцијата зашто во двата случаи се работи за ист злосторник“, предупреди.

„Ако вештачката интелигенција продолжи да се развива без контрола, на крајот нема да има луѓе“

Тегмарк е уверен дека ВИ, доколку продолжи да се развива неконтролирано и доколку стане суперинтелигентна, на крајот ќе ги истисне луѓето“.

„Во историјата видовме дека кога имаме некаков тип или некаква група луѓе кои веќе не се потребни, за нив нештата не завршуваат добро. Порано имало многу коњи кои се користеле за превоз во Бостон, но потоа бил измислен автомобилот и повеќето коњи завршиле лошо.

Ако ги погледнете луѓето можете да се запрашате зошто работничкото движење успеа по индустриската револуција. Затоа што работниците беа потребни. На компаниите сè уште им требаа работници и затоа штрајковите имаа моќ.

Ако дојдеме до точка во која повеќето луѓе веќе нема да бидат потребни, мислам дека е многу наивно да се мисли дека сè уште ќе бидат добро третирани. Ние велиме - да, сите сме еднакви, властите секогаш ќе ги штитат луѓето - меѓутоа, ако погледнеме какви се нештата во праксата, вообичаено настрадуваат групите кои се многу обесправени и немаат никаква реална моќ“, предупредува физичарот.

„Вештачката интелигенција нема да ги замени само досадните и опасни работни места“

„Во индустриската револуција ја автоматизиравме функцијата на мускулите. Тоа се покажа како добро зашто се образувавме, почнавме да работиме со мозоците и добивме главно поинтересни, подобро платени работни места. Меѓутоа, сега почнуваме да ја заменуваме интелектуалната работа. Заменивме многу досадни работни места, на пример, направивме џебни калкулатори така што луѓето веќе не мораат да собираат и множат на работа.

Тоа е во ред зашто постојат подобри работни места од тоа. Меѓутоа, ГПТ-4, Стејбл Дифјужн и сличните системи сега навистина почнаа да ги одземаат работните места кои луѓето навистина ги сакаа. Неодамна на социјалните мрежи видов текст за еден човек кој работеше 3Д моделирање за игри, а потоа ненадејно дојде нов софтвер на кој само му се даваат упатства. Тој чувствува дека целата работа што ја сакал го изгубила значењето.

Од ГПТ-4 побарав да ја препее приспивната 'Тwinkle, twinkle little star' во шекспировски стил. Јас не би можел да го изведам тоа толку добро. Беше навистина импресивно... Сте виделе многу уметнички дела создадени од ВИ. Значи, јас сум за автоматизација на опасните и досадни работни места. Но мислам дека се слушаат некои аргументи кои не се одржливи, според кои тоа е сè што ќе се случи - дека ВИ ќе ги замени само опасните и досадни работни места. Тоа едноставно не е вистина. Гледаме дека веќе одзема мошне интересни работни места“, предупреди.

„Мислам дека за нас има надеж“

Во разговорот Тегмарк се осврна на тезата на Елиезер Јудковски, кој смета дека е многу веројатно дека ВИ во иднина потполно ќе ги истреби луѓето.

„Пред сè, многу го ценам Елиезер Јудковски. Исто така, го споделувам неговото уверување дека постои многу голема веројатност дека ние луѓето нема да опстанеме, дека на планетата и во не толку далечната иднина веќе нема да има луѓе... Неодамна ѝ реков на сопругата дека се чувствувам како да ми е дијагностициран рак за кој постои веројатност за преживување и веројатност за умирање.

Но сепак, не сум толку песимистичен. Мислам дека за нас има надеж. Во тој случај нè очекуваат неверојатни работи“, вели Тегмарк, кој смета дека би можеле да се создадат програми за тестирање на вештачката интелигенција.

„Можни се прекрасни нешта“

Истакнува дека е важно да не се биде премногу песимистичен зашто тоа би значело пораз во психолошката војна.

„Понекогаш гледам дека младите луѓе се уверени дека во секој случај ќе настрадаат и затоа одлучуват да играат само игри и да се дрогираат. Важно е да се има надеж зашто тоа ќе ја зголеми веројатноста дека ќе успееме. ВИ може да ни помогне да ги решиме проблемите на планетава кои ние не успеваме да ги решиме.

Ако успориме само малку и ги направиме нештата како што треба нашата иднина може да биде неверојатно добра. Денес знаеме дека законите на физиката овозможуваат животот да се прошири во вселената по другите соларни системи и другите галаксии и дека таму може да цвета милијарди и милијарди години. За мене тоа претставува визија полна со надеж, која навистина ме мотивира за борба“, толкува американскиот физичар.

Како вештачката интелигенција може да ги уништи луѓето?

Одговарајќи на прашањето како ВИ би можела да ги уништи луѓето, вели дека автономното оружје на мал број луѓе ќе им овозможи да доминираат над големите маси.

„Ние луѓето предизвикавме изумирање на бројни видови. Како го направивме тоа? Бевме попаметни од нив. Не го правевме тоа системски убивајќи едно по едно суштество. Едноставно ги пресековме нивните живеалишта зашто ни требаа за нешто друго. Во некои случаи испуштивме премногу јаглерод диоксид во атмосферата од причини кои овие животни не ги ни разбирале, а сега веќе ги нема. На пример, ВИ може да смета дека ѝ пречи кислородот зашто предизвикува корозија па може да одлучи да се ослободи од целокупниот кислород. Ако успееме да постигнеме ВИ да ги споделува нашите цели, тогаш таа може да ни помогне да ги решиме сите други проблеми“, порача Тегмарк.

Дали ГПТ-4 е свесен?

Меѓу другото, Лекс Фридман го праша Тегмарк дали тој мисли дека ГПТ-4 е свесен.

„Прво да ја дефинираме свеста зашто моето искуство е дека околу 90 проценти од дискусиите за свеста се водат помеѓу луѓе кои имаат потполно различни дефиниции за свеста и затоа се промашуваат. Свеста ја дефинирам како субјективно искуство. Доживувам бои, звуци и емоции. Тоа е работа на свест. Мојот краток одговор на прашањето дали ГПТ-4 има свест е дека искрено не знам зашто ние сè уште не знаеме што е тоа што ни го дава прекрасното субјективно искуство и смислата на нашиот живот.

Имено, чувството на значење самото по себе е субјективно искуство. Среќата е субјективно искуство, како и љубовта. Ние не знаеме што е тоа. Јас напишав еден труд на таа тема, но напишаа и многу други. Професорот Џулио Тонони отиде чекор подалеку и напиша мошне смело математичко предвидување за тоа што е суштината на свесната обработка на податоците. Можеби е во право, можеби не, но секако би требало да го тестираме тоа“, одговара Тегмарк.

„ГПТ-4 би можел да биде мошне интелигентно зомби“

„Тој ја поставува тезата дека свесноста има врска со јазлите во обработката на податоците. Во нашите мозоци постојат јазли. Информациите одат наоколу, а во речникот на компјутерските научници тоа се нарекува повторувачки, односно рекурентни невронски мрежи, во кои некои излезни информации повторно одат назад на обработка.

Врз основа на неговиот математички формализам, невралната мрежа во која информацијата оди само во една насока напред, на пример, како од мрежницата на окото во задниот дел од мозокот, не е свесна. Во случајов се подразбира дека мрежницата или видеокамерата сами по себе не се свесни. Во случајот со ГПТ-4 интересно е што тоа исто така е еднонасочен тек на информации. Затоа, ако Тонони е во право, ГПТ-4 е мошне интелигентно зомби кое може да прави многу паметни нешта, но не доживува ништо. Од една страна тоа е олеснување зашто можеме без грижа на совест да го исклучиме ГПТ кога ќе дојде нов корисник“, наведува физичарот.

„Интелигенцијата не е исто што и свеста“

„Не би сакал некој да ми го прави тоа мене, да ми го избрише памтењето како во филмот Луѓе во црно. Но и тоа е морничаво, дека можеме да имаме многу висока интелигенција која можеби не е свесна. Имено, ако нè заменат машини ќе биде тажно што исчезнало човештвото, но ако машините се свесни тие барем ќе бидат наши потомци со наши вредности и ќе бидат наши деца. Но ако Тонони е во право тогаш тоа ќе биде ултимативна зомби апокалипса.

Ја имаме целата вселена каде се развиваат конструктивни проекти, но никој не доживува ништо. Тоа би било мошне депресивна иднина. Мислам дека идејата на некои луѓе според кои интелигенцијата е исто што и свеста, едноставно е глупост во која воопшто не верувам. Можете да имате многу свесни искуства во кои не морате да постигнете баш никакви цели. Можете само да мислите на нешто. Од друга страна, понекогаш можете да правите нешта кои бараат интелигенција а притоа да не сте свесни“, вели Тегмарк.

Фридман вели дека се плаши од другата крајност, дека може да се случи да создадеме вештачка интелигенција која ќе биде свесна и ќе има способност за доживување на нештата на многу повисоко ниво од нас. Тоа би можело да предизвика завист и омраза кај луѓето.

„Тогаш ќе излеземе со мерења на свеста кои ќе покажуваат дека машините се помалку вредни суштества. Тоа ме загрижува зашто ние луѓето можеби ќе создадеме нешто што е подобро од нас, на начин кој ќе биде убав. Ние луѓето ќе ги мразиме заради тоа. Како што покажа човечката историја, тие ќе бидат суштества од втор ред, а ние ќе се обидеме да ги потиснеме. Тоа би можело да создаде конфликти и војни“, вели Фридман.

Тегмарк му одговара саркастично.

„Мораме да бидеме попонизни, треба да си дадеме малку време“

„Сакаш да кажеш дека ние луѓето понекогаш излегуваме со аргументи кои ни одат во прилог? Не, тоа никогаш не би го направиле, зарем не? Кога бев дете се ужасував кога некој готвеше живи јастози. Мислев: 'О, боже, тоа е толку сурово. Некои возрасни луѓе во Шведска ми велеа: 'Па тие не чувствуваат болка'. Прашав како го знаат тоа. Одговараа дека така рекле научниците. А потоа едно истражување покажа дека јастозите навистина чувствуваат болка кога се готват.

Потоа во Швајцарија забранија да се готват живи јастози. Прво мораат да бидат убиени на некој друг начин. Слично постапуваме и со одгледувањето животни на фармите и толкувањата дека нив им е сосема добро. Затоа едноставно треба да бидеме попонизни и да признаеме дека свесноста не е исто што и интелигенцијата. Мислам дека свесноста е резултат на обработката на податоците“, наведува физичарот.

Треба да си дадеме малку време и да продолжиме со истражувања што предизвикува свеста. Тогаш веројатно ќе можеме да направиме несвесни роботи кои ќе извршуваат досадни работи за кои би сметале дека е неморално да им ги дадеме на свесните машини. Од друга страна, ако имаме роботи кои ќе ѝ прават друштво на нашата мајка или нешто слично, таа веројатно би сакала тие да бидат свесни за чувствата кои ќе ги изразуваат за да не изгледаат лажно. Сите овие нешта можат да се направат на добар начин ако си дадеме малку време“, толкува Тегмарк.

Кога би можела да се појави општа вештачка интелигенција? „Мислам дека тоа може да се случи мошне брзо“

На прашањето на Фридман кога би можела да се појави општа вештачка интелигенција која според сè ќе биде еднаква или супериорна за луѓето, Тегмарк вели дека изминатата деценија секогаш предвидувал мошне далечни рокови зашто не сакал да поттикнува некакви глупави молоховски трки.

„Но сега тоа е зад нас. Мислам дека може да се случи мошне брзо. Мислам дека делото што го објави Мајкрософт, во кое се тврди дека веќе имаме некакви искри вештачка општа интелигенција, не е бесмислица. Не би се кладел против тезата дека тоа би можело да се случи многу брзо. Затоа одлучивме да го напишеме отвореното писмо“, порача Тегмарк.