Неутралноста и објективноста на вештачката интелигенција е мит

Мораме да ги признаеме политичкиот и физичкиот импакт што вештачката интелигенција го има врз нашиот живот.

Во нејзината последна книга, „Атлас на вештачката интелигенција“, Кејт Крофорд ги мапира материјалните и нематеријалните ресурси потребни за создавање вештачка интелигенција и машинско учење со цел подобро разбирање нивните општествени и политички ефекти. Исто како што мапите се специфични интерпретации на просторот кои често погрешно се сфатени како објективни претстави, таа ја разглобува заблудата дека вештачката интелигенција и машинското учење се „безкрвни“ елементи во „чисто технички“ системи. Наместо тоа, таа покажува како, без разлика дали се распоредени од влади или од приватни бизниси, овие системи продолжуваат тивко и драматично да го обликуваат светот околу нас. Гледајќи го нивното материјално и епистемолошки потекло, пишува таа, стануваат јасни лузните што ги оставаат на земјата и на животите на луѓето. Обрнувањето внимание на ова е првиот чекор за донесување подобро информирани одлуки за овие системи кои ќе ја обликуваат нашата иднина.

Долги години работите на темата за вештачка интелигенција и автоматизирани системи. Ова поле е полно со псевдонаука. Која е некоја од најсмешните приказни што Ви паѓа на ум?

Многу нешта се променија во 20-те години во кои работам на овие прашања. Но, едно нешто што забележав е колку брзо нешта што порано изгледаа смешни се применуваат на начини кои можат да предизвикаат штета. Пандемијата го забрза овој феномен. Неодамнешен осврт во British Medical Journal разгледа над 200 алгоритми за машинско учење за дијагностицирање и предвидување на исходите за пациенти со Ковид-19. Некои нудеа грандиозни тврдења и звучеа многу импресивно. Но, студијата покажа дека ниту еден од нив не е погоден за клиничка употреба - всушност, авторите биле загрижени дека неколку од нив можеби им наштетиле на пациенти. Во други случаи, работите што изгледаат забавно, како што е FaceApp, може всушност да собираат слики од вашето лице за продажба или за обучување на модели за препознавање лица. Значи, линијата е се’ потенка помеѓу глупаво и многу проблематично.

Од каде потекнува популарното разбирање на системите со вештачка интелигенција како технички системи па оттаму некако објективни и неутрални? Кои се ефектите од тоа и како може или треба да се променат овие перцепции за да се усогласат со реалноста?

Тоа има долга историја, дури од кибернетиката и раните години на вештачката интелигенција. Дури и некои од најраните имиња во вештачката интелигенција беа загрижени за митот за неутралност и објективност. Џозеф Вајзенбаум, човекот кој ја создаде ELIZA во 1964 година беше длабоко загрижен за „моќното заблудно размислување“ кое вештачката интелигенција може да го поттикне - и кај експертите и кај пошироката јавност. Дури и некои од најраните фигури во вештачката интелигенција беа загрижени за митот на неутралност и објективност. Овој феномен сега почесто се нарекува „пристрасност на автоматизацијата“. Тоа е тенденцијата на луѓето полесно да ги прифаќаат одлуките од автоматизираните системи отколку од другите луѓе, под претпоставка дека овие се пообјективни или поточни, дури и кога ќе се покаже дека грешат. Тоа е забележано е на многу места, вклучително и кај авионски системи за автопилот, единици за интензивна нега и нуклеарни централи. Тоа продолжува да влијае на тоа како луѓето ги перципираат резултатите од вештачката интелигенција и ја поткопува целокупната идеја дека присуството на човек во процесот автоматски создава форми на одговорност и безбедност.

Како треба луѓето да размислуваат за вештачката интелигенција? Кои перспективи можат да ни помогнат да ги придвижиме дискусиите надвор од техничките достигнувања на технологијата?

Постојат многу начини да се размислува за вештачката интелигенција како за технички, културен и политички феномен. Во „Атлас на вештачката интелигенција“, гледам како вештачката интелигенција станува екстрактивна индустрија на 21-от век - од суровините извадени од земјата, до скриените форми на труд извлечени по целиот синџир на снабдување, до податоците извлечени од сите нас како субјекти на податоци. Преземањето на овој поширок пристап на политичката економија може да ни помогне да ги видиме пошироките ефекти на вештачката интелигенција надвор од тесниот фокус на техничките иновации. На крајот на краиштата, вештачката интелигенција е во целост политика. Наместо да бидат неразбирливи и туѓи, овие системи се производи на поголеми општествени и економски структури со длабоки материјални последици.

Како ја објаснувате опсесијата на компаниите да зборуваат за етика на вештачка интелигенција, разивајќи една по друга рамка? Како да се оддалечиме од ова етичко врамување?

Како што забележа Мариетје Шаке, само во 2019 година во Европа имало 128 рамки за етика на вештачката интелигенција. Овие документи често се претставени како производи на „поширок консензус“, но доаѓаат првенствено од економски развиените земји, со мала застапеност од Африка, Јужна или Централна Америка или Централна Азија. Уште повеќе, за разлика од медицината или правото, вештачката интелигенција нема формална професионална структура на управување или норми - нема договорени дефиниции и цели за областа ниту стандардни протоколи за спроведување на етичката практика. Па така, технолошките компании ретко трпат сериозни последици кога прекршуваат етички принципи. Наместо тоа, треба повеќе да се фокусираме на моќта, увид што политичките теоретичари како Венди Браун и Ахил Мбембе го посочуваат со години. Вештачката интелигенција редовно ги засилува и репродуцира формите на моќ што е поставена да ги оптимизира. За да се даде отпор на тоа потребно е центрирање на интересите на најпогодените заедници и оние кои се изоставени од вообичаените разговори во техничкиот дизајн и креирањето политики. Наместо да ги величаме основачите на компании и ризичните капиталисти, треба да се фокусираме на искуствата на оние кои се обезвластени, дискриминирани и оштетени од системите за вештачка интелигенција. Тоа може да доведе до многу различен сет на приоритети - и до можноста за целокупно одбивање на системи за вештачка интелигенција во некои домени.

Зборувате за компонентите што овоможуваат вештачката интелигенција да постои како отелотворена и материјална - во суштина покажувајќи дека тие се резултат на спојувањето на различни видови синџири на снабдување. Што мислите, зошто изгледа толку теѓко да се воспостават врските помеѓу овие нематеријални, дигитални системи, материјалната инфраструктура што ги хостира и луѓето кои се погодени од нив?

Можеби тоа е помалку е очигледно, бидејќи овие видови врски се намерно замаглени. Историјата на рударството, на која се осврнувам во книгата, отсекогаш била ставена на растојание од градовите и заедниците што ги збогатувала. Синџирите на снабдување за информатичкиот капитализам се исклучително тешки за истражување - дури и за технолошките компании кои се потпираат на нив. Кога Интел се обиде да ги отстрани конфликтните минерали од сопствениот синџир на снабдување, им беа потребни повеќе од четири години и мораа да проценат 9.000 добавувачи во над 100 земји. Мило ми е што ја спомнавте работата на Теа Риофранкос. Мене ми била влијателна и работата на Мартин Арболеда. Неговата книга „Планетарен рудник“ одлично го рагледува начинот на кој рударската индустрија била реорганизирана во логистички мрежи и измешана со информациските индустрии. Филозофите Мајкл Хард и Антонио Негри го нарекуваат ова „двојно оперирање на апстракција и екстракција“ во информацискиот капитализам: апстрахирање на материјалните услови на производството, а во исто време екстрахирање повеќе информации и ресурси. Описот на вештачката интелигенција како фундаментално апстрактна ја дистанцира од енергијата, трудот и капиталот потребни за нејзино производство и од многуте различни видови на рударство што ја овозможуваат. Така, сликите од вештачка интелигенција што ги гледаме во печатот или при пребарување на слики, најчесто се бидат лебдечки сини броеви, меки облаци, бели роботи и слично, што дополнително го апстрахира разговорот од материјалните и екстрактивните услови и од последиците на вештачката интелигенција.

Што, според Вас, треба да следува?

Јас сум во суштина оптимист – во спротивно не би можеа да продолжам да го работам ова. Има бројни организации кои ги поврзуваат прашањата на правдата во областите на климата, трудот и податоците. Тоа е неверојатно возбудливо. Се разбира, сега се соочуваме со притисоци во реално време. Извештајот на Меѓувладиниот панел за климатски промени (IPCC) е само уште еден потсетник зошто не можеме да одолговлекуваме или да правиме ситни површни промени. Разбирањето на врските помеѓу комјутерските системи што ги користиме и нивните планетарни трошоци е дел од поставувањето различни прашања и од фундаменталното менување на нашиот однос кон Земјата и едни кон други. Или како што вели Ахил Мбембе, не само нова имагинација на светот, „туку и сосем поинакво мапирање на светот, промена од логиката на поделба кон логиката на споделување“.

Кејт Крофорд е водечка научничка за социјалните импликации на вештачката интелигенција. Нејзината работа се фокусира на разбирање на големите системи за податоци во пошироките контексти на историјата, политиката, трудот и животната средина. Нејзината последна книга, „Атлас на вештачката интелигенција“, е објавена во мај 2021 година.

Слики: Vladan Joler