За книгата Atlas of AI од Кејт Крафорд

Кејт Крафорд

„Едноставно кажано, вештачката интелигенција сега е играч во обликувањето на знаењето, комуникацијата и моќта.“

Феноменалната Крафорд не ја критикува вештачката интелигенција (ВИ) – таа ја сецира како труп на ладна метална маса. Не пишува од перспектива на лабораторија, туку од утробата на системот.

Како некој што брутално ја крева хаубата на целата цивилизација и ти вели: Погледни добро. Ова што го нарекуваш интелигенција не е ум. Ова е инфраструктура. Ова се рудници, кабли, контејнерски пристаништа, сервери што голтаат мегавати како гладни ѕверови и армии од невидливи луѓе чиј труд никогаш нема да се појави на сцената на TED Talk. И тука започнува нејзината егзекуција на најголемиот мит на Силиконската долина: идејата дека ВИ е некаква чиста, апстрактна, речиси божествена интелигенција ослободена од материјата. Крафорд тој мит го меле без милост. ВИ не е етер. ВИ е индустриски комплекс на екстракција кој глуми трансцендентност. Зад секој „паметен“ модел стојат тони литиум, кобалт, бакар, вода и струја. Зад секој елегантен интерфејс стои логистика што изгледа како воена операција на планетарно ниво. А зад сето тоа стојат луѓе. Не оние што компаниите сакаат да ги покажуваат во рекламите – насмеани инженери во стаклени канцеларии. Туку работници кои за ситни пари означуваат слики, филтрираат насилство, ги чистат датасетовите од „непосакувана“ содржина и ги тренираат моделите додека алгоритмската економија ги меле во тишина. Доволно далеку за Западот да не мора да ги гледа во очи. Доволно невидливи за технологијата да може да изгледа „чисто“.

И токму тука книгата станува опасна. Бидејќи според Крафорд, повеќе не можеш да гледаш на ChatGPT, на recommendation feed или на smart assistant како на неутрален софтвер. Ги гледаш како резултат на глобална машинерија за експлоатација која ги претвора природните ресурси, човечкото време и политичката моќ во илузија на магија. Митот за објективноста се распаѓа речиси моментално. Крафорд не филозофира апстрактно; таа удира директно во 'рбетот на системот: податоците не се никаков „суров материјал“. Датасетот веќе е политичка одлука. Филтрирана реалност. Некој одлучува што постои, што се смета за „нормално“, што е „ризично“, кое лице е валидно, кое однесување е сомнително, кој глас вреди повеќе од друг. Со други зборови: алгоритамот никогаш не е неутрален бидејќи луѓето што го хранат не се неутрални. Институциите што го финансираат не се неутрални. Корпорациите што од него заработуваат милијарди не се неутрални. Земете ги, на пример, Илон Маск и Тесла.

Како болен обожавател на четири тркала, признавам: првиот контакт со Тесла делува речиси хипнотизирачки. Ентериерот изгледа како да побегнал од следната деценија. Минимализмот делува стерилно совршено. Екранот доминира во просторот како дигитален олтар. Автомобилот не го возиш – во него се качуваш како во капсула на Силиконската долина која ти ветува иднина без триење, без бучава, без нечистотија. И ако од мене тогаш зборува она површно битие фасцинирано од естетиката и технолошкиот спектакл: Тесла е ремек-дело. Но, Крафорд брутално те отрезнува бидејќи те потсетува на она што футуризмот секогаш се обидува да го сокрие: инфраструктурата која некој мора да ја плати. Одеднаш веќе не го гледаш само тивкиот електричен погон. Гледаш рудници за литиум.

Гледаш кобалт од земја натопена со експлоатација. Гледаш транспортни синџири што ја пресекуваат планетата. Гледаш сервери што горат струја како мали држави. Гледаш невидливи работници чии раце никогаш нема да го допрат тој луксузен ентериер што помагаат да се изгради. Тесла тогаш престанува да биде автомобил. Станува совршен тотем на тезата на Крафорд: технологија која изгледа асептично токму затоа што нечистотијата е преместена доволно далеку за да не мораш да ја гледаш.

„Тесла е најголемиот потрошувач на литиум-јонски батерии во светот, купувајќи ги во огромни количини од Panasonic и Samsung и препакувајќи ги во своите автомобили и домашни полначи. Се проценува дека Тесла користи повеќе од дваесет и осум илјади тони литиум хидроксид годишно – половина од вкупната потрошувачка на планетата.“

Во анатомијата на Крафорд, моќта на ВИ не е огледало на реалноста.

ВИ е машина која ја зема веќе деформираната реалност, ја автоматизира, ја скалира и ѝ ја враќа назад на човековата цивилизација како „објективна вистина“. И тука книгата станува морничаво прецизна. Бидејќи она што го нарекуваме интелигенција почнува да наликува на нова колонијална логика. Некогаш империите грабаа злато, нафта и човечки труд. Денес грабаат податоци, внимание, инфраструктура и евтина дигитална работна сила распрсната на глобалниот југ. Некогаш колонијализмот доаѓаше со знаме и војска. Денес доаѓа со UX дизајн, cloud сервиси и со зборот – иновација. Брендирањето се промени. Механизмот не. И Крафорд оди толку брутално далеку во таа критика што понекогаш делува како за ВИ да не постои ни промил невиност. Како секоја невронска мрежа да е однапред компромитирана од самиот систем што ја произвел. Тука лежи и најголемата сила и најголемиот ризик на книгата. Нејзината анализа има сила на чекан за уривање, но ретко остава простор за нијанси. За можноста дека технологијата може да биде и алатка за еманципација, а не само инструмент за доминација. Кај неа нема сивило. Или си дел од машината или си нејзино гориво. Но, токму поради тоа книгата удира толку силно. Бидејќи одбива да го смири читателот со технолошки оптимизам, кој денес звучи како корпоративна религија. Крафорд не сака да ѝ се восхитуваш на иднината. Таа сака да ја видиш цената на иднината.

„Обезбедувањето контрола над рудникот би значело контролирање на домашните залихи на САД. Воената логика на општинските власти дополнително го искривува односот помеѓу државите и субјектите.“

И така таа демистифицира: успева да ја спушти вештачката интелигенција од ниво на мистика на ниво на индустрија. Да ја извлече од маркетингот и да ја врати во материјалниот свет. Во земјата. Во бетонот. Во каблите. Во потта. Во геополитиката. Со Крафорд, ВИ престанува да биде интелигенција. Станува империја. Огромна, енергетски незаситна, скапа машина која го реорганизира светот според интересите на моќта, а потоа се претставува како неутрален напредок. И можеби токму тоа е најстрашното: системот е толку огромен, толку мазен и толку естетски совршен, што повеќето луѓе веќе не ги ни гледаат синџирите под неонскиот сјај.

„Секој објект во проширената мрежа на еден систем на вештачка интелигенција, од мрежни рутери до батерии и дата-центри, е изграден со користење на елементи за чие формирање во внатрешноста на Земјата биле потребни милијарди години. Но, екстракцијата на овие минерали од земјата често доаѓа со локално и геополитичко насилство.“

По Крафорд, серверската соба повеќе не изгледа како симбол на прогресот. Изгледа како модерна верзија на рудник. Само што сега не ја копаш земјата за да придвижуваш машини. Ја копаш планетата за да ја придвижуваш илузијата на интелигенцијата.