Вештачка интелигенција и вештачки идиоти

12.04.2023 00:53
Вештачка интелигенција и вештачки идиоти

Веќе долго имаме четботови кои се во состојба да водат вешти разговори, да ги препознаваат основните намери на соговорникот и да одговараат на прашања според однапред поставени правила и податоци. Нивните капацитети драматично се зголемени последниве месеци, што во многу кругови предизвика загриженост и паника.

За системите на вештачката интелигенција кои наместо студентите ќе пишуваат домашни задачи е кажано доволно. Но прашањето кое бара поголемо внимание гласи како треба тие да реагираат кога човечките соговорници користат агресивни, сексистички или расистички искази за да го поттикнат ботот да возврати со сопствени будалаштини? Дали тие треба да бидат програмирани да одговараат на таквите прашања на ист начин?

Ако е дојдено времето овие прашања некако да се регулираат, треба да се одредат рамките на таквиот вид цензура. Дали политичките ставови кои некои општествени групи ги сметаат за навредливи ќе бидат забранети? Што е со изразите на солидарност со Палестинците на Западниот Брег или со тврдењето дека Израел е земја на апартхејд (која се најде и во насловот на книгата на поранешниот американски претседател Џими Картер)? Дали тоа ќе биде блокирано како израз на антисемитизам?

И тука не е крајот на проблемот. Како што предупредува уметникот и писател Џејмс Бридл, новите АИ (Artificial Intelligence) системи „се засновани на сеопфатна апропријација на постоечката култура“, но уверувањето дека тие „поседуваат вистински знаења или имаат свест е опасна заблуда“. Исто така треба да се биде мошне внимателен кон новите генератори на слики. „Обидот да се опфати целокупната визуелна култура на човечката цивилизација“, забележува Бридл, „доведе до рекреирање на нашите најдлабоки стравови. Можеби тоа само значи дека овие системи многу добро го имитираат функционирањето на човечката свест, вклучувајќи ги ужасите кои демнат од длабочините на нашата егзистенција: стравовите од болка, смрт или корупција.“

Но колку новите АИ системи се навистина добри во имитирањето на човечката свест? Земете на пример една кафеана која неодамна ги рекламираше своите пијалоци на овој начин: „Купете едно пиво по цена од две и ќе го добиете следното бесплатно!“ За човечките битија ова е шега. Вообичаената формула „купуваш едно, добиваш две“ е преформулирана во апсурден исказ. Во прашање е цинизам кој го прифаќаме како комична искреност со цел поттикнување промет. Дали четботот би можел да го разбере тоа?

„Ебаго“ претставува сличен проблем. Иако тој збор означува нешто во што уживаат повеќето луѓе (копулација), често има и негативна валенца („Ебани сме!“ „Еби се!“). Јазикот и реалноста се неуредни. Дали вештачката интелигенција може да ги воочи овие разлики?

Во својот есеј од 1805 година „За постепеното формирање на мислата во процесот на говор“ (објавен постхумно во 1878 година) германскиот поет Хајнрих фон Клајст го преиспитува општото уверување дека треба да молчиме ако немаме јасна идеја што сакаме да кажеме: „Значи, ако мислата е изразена нејасно, тоа воопшто не значи дека таа е конфузна. Напротив, сосема е можно токму идеите кои се изразени на крајно збунувачки начин да бидат најјасно промислени идеи.“

Односот помеѓу јазикот и мислата е исклучително комплициран. Во извадок од еден од говорите на Сталин од почетокот на триесеттите се наоѓа неговиот предлог со радикални мерки за „откривање и немилосрдна борба дури и против оние кои дури и во своите мисли ѝ се спротивставуваат на колективизацијата – да, навистина мислам така, треба да се бориме дури и против мислите на луѓето“. Реална е претпоставката дека овој дел од говорот не бил подготвен однапред. Понесен од моментот Сталин го кажал токму она што го мислел. И му се допаднала сопствената хипербола.

Како што подоцна рече и Жак Лакан, тоа е пример за вистина која ненадејно се појавува во чинот на искажување. Луј Алтисер идентификуваше сличен феномен во однос на добивката и изненадувањето. Личноста ненадејно добива идеја и се изненадува. Дали тоа може да му се случи на кој било четбот?

Проблемот не е во тоа што четботовите се глупави, туку во тоа што не се доволно глупави. И не е во тоа што се наивни зашто ја забележуваат иронијата, туку во тоа што не се доволно наивни. Значи, вистинската опасност не е во тоа што луѓето ќе го помешаат четботот со вистинска личност, туку во тоа што заради комуникацијата со четботовите вистинските луѓе ќе се сведат на нив – ќе престанат да ги забележуваат нијансите и иронијата и ќе го изговараат она што можат да го разберат четботовите.

Еден мој пријател од младоста по доживеана траума посетил терапевт. Воден од клишеата што очекуваат аналитичарите од своите пациенти, својата прва сеанса ја посветил на лажна омраза кон својот татко. Реакцијата на аналитичарот била генијална. Заземал наивен предфројдовски став и на мојот пријател му замерил за отсуството на почит кон татка си: „Како можеш така да зборуваш за личноста која те создала?“ Лажната наивност испратила јасна порака: ги одбивам твоите лажни тврдења. Дали четботот би успеал да го сфати овој подтекст?

Веројатно не и би се однесувал како кнезот Мишкин од Идиот на Достоевски според толкувањето на Рован Вилијамс. Според стандардното разбирање, Мишкин е идиот, светец, добар човек кого бруталноста и страста на овој свет го доведуваат до лудило. Но во радикалното читање на Вилијамс, Мишкин е срцето на бурата: иако добар, светец, тој е оној што шири пустош и смрт за кои сведочи, благодарение на својата улога во сложената мрежа на односи околу себе.

Не се работи само за тоа дека Мишкин е наивен дурак. Заради својот посебен вид глупост тој е несвесен за своето погубно влијание врз другите. Тоа е личност која буквално зборува како четбот. Неговата добрина е во тоа што, како и четботот, тој реагира на предизвиците без иронија, нудејќи флоскули без преиспитување, сфаќајќи сè буквално и потпирајќи се на менталните формули, а не на автентично формирани идеи. Затоа новите четботови одлично се сложуваат со идеолозите од целиот спектар, од Воук разбудените левичари до заспаните МАГА десничари.

Превод: Алек Кузмановски

Слики: Eiko Ojala

Извор: https://www.project-syndicate.org/

Слични содржини

ОкоБоли главаВицФото