ЕУ и тајниот развој на новата биометриска технологија

Патрик Брејер не очекуваше дека на крајот ќе мора на суд да ја тужи Европската комисија. Сè започна кога овој воздржан германски пратеник во Европскиот парламент, во јули 2019 година беше запрепастен од извештајот за експериментална употреба на новата технологија која од „микро – експресиите“ на лицето може да утврди дали некој лаже кога одговара на прашања.

Тој бил уште позачуден што истражувањето на ова виртуелно читање на мислите е финансирано од ЕУ преку проект наречен iBorderCtrl, за потенцијална примена при патролирање на европските граници. Во текстот што го читал Брејер, новинарка опишува како била тестирана на границата меѓу Србија и Унгарија. Иако вистинито одговарала на прашањата, вештачката интелигенција на уредот за гранична контрола пријавила дека таа лаже.

Инаку, член на комитетот на Европскиот парламент за граѓански слободи и еден од четворицата европратеници од „Пиратската партија“, Брејер, сфатил дека етичките импликации од проектот iBorderCtrl и неговите ризици за приватноста се огромни. Оваа технологија, која тој ја нарекува „псевдо-научна безбедносна илузија“, доколку им биде достапна на службите за контрола на границите, може да значи непропорционално поголема можност за погрешно утврување на лаги кај луѓето со друга боја на кожата, жените, старите лица, децата или луѓето со попреченост.

Повикувајќи се на законите на Европската унија, од Европската комисија побарал повеќе информации за етиката и законитоста на проектот. Одговорот го шокирал: пристапот е одбиен заради заштита на деловна тајна.

Така Брејер решил да тужи. Тој сака Европскиот суд на правда да потврди дали објавувањето на документот е од интерес за јавноста. „Европската унија финансира нелегална, неетична технологија која ги крши основните права“, тврди Брејер.

Случајот на Брејер кој пред судот би требало да се најде следната година има далекусежни импликации. Милијарди евра јавни пари секоја година се вложуваат во истражување на контроверзни безбедносни технологии и за тие цели во следните 7 години на располагање ќе бидат уште најмалку 1,3 милијарди евра.

Лица, гласови, вени

„Хоризонт 2020“ е водечката програма на Европската унија за истражувања и иновации. Од 2014 до 2020 година чинела околу 80 милијарди евра во грантови за научниците.

Конкуренцијата за пари од „Хоризонт“ е жестока. Преку оваа програма се финансираат истражувањата во области како што карциномот на дебелото црево, болести пренесени од комарци и унапредувањето на наводнувањето во земјоделството. Оваа година, „Хоризонт“ ја поддржа германската компанија „BioNTech“, една од првите што прогласи успех во тестирањето на вакцината против Ковид-19.

Во текот на изминатите 7 години, преку оваа програма, инвестирани се 1,7 милијарди евра во развој на т.н. безбедносни производи за полициските агенции и агенциите за гранична контрола во јавниот и приватниот сектор. Добар дел од таа сума е издвоен за најновите технологии: вештачка интелигенција, беспилотни летала и проширена реалност, како и технологијата за препознавање на лице, глас, вени, очен ирис и други видови биометрика што може да се користи за надзор.

Конзорциумот компании кој стои зад технологијата за детектор на лаги iBorderCtrl доби 4,5 милијарди евра од безбедносното портфолио на програмата „Хоризонт 2020“, за три години развој и тестирање до август 2019 година.

Официјални претставници на ЕУ велат дека иновациите се клучни за заштитата од криминал, тероризам и природни катастрофи. Стратешката цел е зајакнување на безбедносните компании од Унијата во натпреварот со САД, Израел и Кина.

Меѓутоа, расте нелагодноста околу целите, јавниот увид и влијанието на корпоративните интереси во рамки на безбедносниот сегмент на истражувањето финансирано преку „Хоризонт 2020“. Седум етички експерти кои сè уште работат или работеле на безбедносни проекти финансирани од ЕУ, изразија загриженост во своите изјави за „Гардијан“. Тие сметаат дека треба да се отвори прашањето дали некои истражувања од „Хоризонт“ навистина се од јавен интерес.

Една од главните грижи кај етичарите е дека анализата и критиките, се чини, дека тргнати настрана во трката за што побрзо воведување на новите технологии на пазарот, дури и кога се утврдуваат сериозни ризици по приватноста и граѓанските слободи. Малку информации излегуваат во јавност. Како и Брејер, Европската комисија му забрани на „Гардијан“ пристап до документација за активностите, законитоста и етиката на повеќе од 12 безбедносни проекти од „Хоризонт 2020“, со образложение дека нивното објавување може да ја загрози јавната безбедност и да ја наруши „заштитата на комерцијалните интереси“.

Неетичка технологија

Пријавите за финансирање од „Хоризонт 2020“ прво поминуваат низ научна проверка и, доколку проектот се финансира, проверка спроведена од тим на независни етичари ангажирани од Европската комисија како консултанти. Етичарите можат да дадат зелено светло за проект или да побараат дополнителна проценка, но можностите тие да го преиначат проектот се многу ограничени.

„Честопати проблемот е што ниту самата цел на истражувањето не е етичка“, вели Џема Галдон Клавел, независна етичарка за технологија, која работела на евалуација на многу истражувачко - безбедносни проекти на „Хоризонт 2020“, а како партнер работела на повеќе од 10. „Некои задачи поттикнуваат развој на биометриски технологии кои можат да работат од далечина, каде што не е можна согласност - тоа е она што ме загрижува“. Во еден проект чија цел беше да развие таква технологија, тоа се нарекува „незабележливо идентификување на лице“ што може да се користи на граничните премини. „Ако зборуваме за развој на технологија за која луѓето нема да знаат дека се применува врз нив, како може тоа да биде етичко?“

Кристофер Лиден, истражувач во Институтот за мир во Осло, кој работел на етичката компонента на неколку проекти од „Хоризонт 2020“, вели дека самото учество на експерти за етика во безбедносните проекти изгледа дека се разбира како бланко одобрение, дури и кога тие ќе утврдат причини за сериозна загриженост. Лиден сугерира дека се врши притисок врз етичарите да одобруваат проекти без многу врева.

„[Проектите] лесно можат да го преземат духот на комерцијалната логика или општиот технолошки оптимизам, кога луѓето ги игнорираат етичките проблеми затоа што на новите технологии гледаат како на позитивен развој сам по себе. Една студија на етиката во истражувачките проекти финансирани од ЕУ од 2018 година дошла до истиот заклучок.

Поединците кои се обиделе јавно да ги покренат овие прашања, се чини дека поради тоа трпеле последици. Питер Барџис, филозоф и политички научник, кој бил член на три советодавни тела за безбедносните истражувања „Хоризонт 2020“, во 2015 година даде искрено интервју за германската јавна телевизија АРД и за „Шпигел“, во кое изрази загриженост за влијанието на индустријата врз истражувањата, особено оние поврзани со миграции. „Бегалците се третираат како мети коишто треба да бидат регистрирани“, им кажа Барџис на германските новинари.

Тој веднаш го загуби местото во сите три советодавни тела и повеќе не беше ангажиран во програмата. Двајца други етички експерти, со кои разговаравме под услов да останат анонимни, кажаа дека биле маргинализирани во безбедносните проекти финансирани од ЕУ, откако доставиле премногу критички анализи. Европската комисија негира дека имало такви смени: „Не е упатено ниедно барање до Генералниот директорат за истражување и иновации за смена на етички експерти кои учествуваат во анализа на поднесените проекти“.

Етичарите со кои разговаравме тврдат дека етичката контрола треба да осигури дека ЕУ работи за јавниот интерес, а не да го легитимира развојот на потенцијално контроверзни технологии.

Корпоративни интереси

ЕУ започна со големи инвестиции во безбедноста во раните 2000-ти, по нападите на САД на 11 септември 2001 година, инвазијата во Ирак и зголемувањето на бројот на домашни терористички акции. Лидерите на ЕУ, загрижени за можни нови напади, но и банди на организиран криминал, како и за безбедноста на границите, значително ја проширија соработката со европската одбранбена индустрија во тоа време. Институциите на ЕУ започнаа програма за истражување на безбедноста во 2004 година, обединувајќи искусни службеници од националните министерства за внатрешни работи и сродните служби и мултинационални корпорации за оружје и информатичка технологија како што се БАЕ системи, Финмеканика (сега Леонардо), Сименс и француската компанија Талес. Таа програма ги постави основите на финансирањето безбедносните проекти од „Хоризонт 2020“, кои сè повеќе се фокусираат на развој на биометрија и други технологии за надзор.

Барџис ја нагласува улогата на корпоративните интереси: „Индустријата се вклучува уште во подготвителната фаза“. Сепак, учесниците од јавниот и приватниот сектор ја делат заедничката претпоставка дека „уредите значат поголема безбедност - посилно оружје, повисоки sидови, биометрика. Тоа е голем бизнис уште од 11 септември во САД и терористичките напади во Мадрид во 2004 година и Лондон во 2005 година“.

Пресметката на „Гардијан“ од јавно достапната документација сугерира дека од „Хоризонт 2020“ најголема корист има приватниот сектор: од 2007 година, приватните компании добиле 42% од 2,7 милијарди евра доделени преку програмата за истражување на безбедноста - речиси 1,15 милијарди евра. Приватни компании исто така се појавуваат како водечки партнер во речиси половината од 714-те финансирани проекти. Многу помалку добиле другите учесници, како што се истражувачките институти и јавни тела.

„Тоа беше официјалниот пристап на Европската комисија: да се работи на тоа што е најдобро за Европа. Немаше тајни, немаше корумпиран систем, туку јавна политика“, вели Барџис.

Додека конечната одлука за финансирање ја донесуваат официјални претставници на земјите-членки и самата ЕУ, телото наречено Советодавна група за заштита и безбедност (Protection and Security Advisory Group, PASAG) обезбедува совети за годишните истражувачки програми и утврдува кои истражувања ќе се финансираат.

Критичарите инсистираат на прашањето за одговорност за насочување на безбедносни истражувања финансирани од ЕУ. PASAG брои 15 члена, главно од приватниот сектор и истражувачките институти од цела Европа. Јавните документи на Европската комисија сугерираат дека PASAG придонесува за утврдување приоритети за истражување, како и за промовирање врски помеѓу постојната програма за истражување на безбедноста и новите фондови за воена технологија.

Јавните анкетни листови покажуваат дека десет членови на PASAG пријавиле интереси поврзани со работата на „Хоризонт 2020“. Со групата претседава Алберто де Бенедиктис, поранешен извршен директор на британскиот оддел на „Леонардо“, италијанска компанија од одбранбената индустрија, која учествувала во 26 проекти, а од 2007 година добила 11,3 милиони евра од европскиот буџет за безбедносни истражувања. Де Бенедиктис влезе во PASAG, 2016-тата година, откако претходната година се повлекол од „Леонардо“. Еден од членовите на групата раководи со консултантска фирма MSB Consulting, која работи во секторот за одбрана и безбедност и чии клиенти, покрај безбедносните компании, се Европската комисија и Европската агенција за одбрана. Еден член на PASAG работи на Универзитетот во Лувен во Белгија, кој со текот на годините има добиено милиони преку „Хоризонт 2020“ и други безбедносни програми.

Во моментов, само еден од 15 членови работи во граѓанска организација и никој не објавил поврзаност со организации за човекови права или етика. Европската комисија наведува дека „составот на PASAG ја одразува најшироката можна застапеност“. Додава дека ниеден од интересите на членовите на групата „не може да го компромитира капацитетот на експертите да дејствуваат независно и во јавен интерес“.

Де Бенедиктис вели дека PASAG обезбедува само високо ниво на насочување и дека застапеноста на индустријата во групата не претставува судир на интереси. „Како и другите стручни советодавни тела, Европската комисија го формираше PASAG за да обезбеди пристап до експертизата на сите засегнати страни кои придонесуваат за успех на истражувачката програма“, вели Де Бенедиктис. „Индустријата е една од тие страни, како и универзитетите, истражувачките институти, министерствата и владините служби, кои претставуваат актери во заедницата“.

Тој истакнува дека одговорноста за приоритетите за финансирањето на истражувањата е на владите. „Државите - членки се тие кои ја носат конечна одлука“.

Жан-Лук Гала, поранешен белгиски армиски офицер и професор на Универзитетот во Левен специјализиран за биолошко оружје, исто така го отфрла судирот на интереси. Гала наведува дека е добро што експерти за безбедност од индустријата и науката ја советуваат Европската комисија. PASAG игра колективна улога таму каде што „нема простор за индивидуални ставови или индивидуални интереси“, вели Гала.

Универзитетот во Левен го соопшти следново: „Професорот Гала не е член на советодавната група како претставник на универзитетот, туку беше поканет поради неговата научна експертиза. Универзитетот смета дека учеството во научни советодавни тела на национално и меѓународно ниво е важен дел од мисијата на нашиот академски кадар“.

Искра Михајлова, бугарска европратеничка која работи на правни прописи за „Хоризонт Европа“, програма што ќе го наследи „Хоризонт 2020“, тврди дека учеството во индустријата е неизбежно: „Ако ви треба некој што е компетентен, тој има искуство во оваа област“.

Ковид ера

Во следните 7 години (2021 - 2027), „Хоризонт 2020“ ќе биде ребрендиран во „Хоризонт Европа“ со очекуван вкупен буџет од 86 милијарди евра од кои за финансирање на безбедноста ќе се издвојат околу 1,3 милијарди евра.

Дополнителен буџет од најмалку 8 милијарди евра е одреден за истражување и развој на воени технологии. Една од главните цели е да се финансира технологија на двојна употреба со цивилна и воена употреба, додека со одреден број прелиминарни проекти се испитуваат јата на беспилотни дронови и други уреди за надзор.

Борбата против Ковид-19 дополнително ги засили поттиците на европските влади за развој на технологии за надзор, вклучително и употреба без преседан на беспилотни летала. На пример, Полска лансираше апликација која бара од граѓаните во карантин да прават селфи во текот на денот за да докажат дека седат дома. Апликацијата се потпира на технологии за геолокација и препознавање лице, а во случај корисниците да не реагираат, испраќа известување до полицијата.

Технологиите за препознавање на лице - полициски алгоритми засновани на вештачка интелигенција - веќе се озлогласени по своите расни и други предрасуди. Апликациите што ги користат некои земји за следење на пандемијата не се финансирани од „Хоризонт“, но некои истражувачи кои работат или работеле на европски проекти стравуваат дека ЕУ ќе ја финансира трката за развој на нови биометриски и други безбедносни технологии, особено во време кога кризата на јавното здравство наведе многумина Европјани полесно да ги прифаќаат овие работи.
Се поставува прашањето кој одлучува со каков вид државен надзор треба да живеат Европјаните?

Засега не е познато колкаво влијание имаат европските фондови за влезот на нови безбедносни производи на пазарот, од кои, некои изгледа се во спротивност со законите на ЕУ.

На веб-страницата на проектот iBorderCtrl се вели дека некои од нивните технологии „не подлежат на постојната законска рамка [на ЕУ]“. Водечката компанија во конзорциумот iBorderCtrl, „European Dynamics Luxembourg“ , не одговорила на прашањата на „Гардијан“ за кои закони се работи. .

Како можат европските граѓани да се информираат а камоли да започнат дискусија за тоа дали сакаат нивните даночни пари да бидат инвестирани во орвелска биометрика и други технологии за надзор? Како и германскиот европратеник Патрик Брејер, ние - во согласност со европските прописи за транспарентност - побаравме пристап до документи за 15 проекти финансирани од „Хоризонт 2020“, насочени кон развој на нови биометриски технологии, вклучувајќи и етичка и правна анализа на секој проект. Сепак, по неколкумесечно чекање и повеќекратни жалби, ни беше кажано дека многу извештаи за активности, како и некои извештаи за етика, мора да останат доверливи од безбедносни причини и комерцијални интереси.

Брејер вели дека му е чудно што еден европратеник мора да ја тужи ЕУ за да добие информации за проект финансиран од јавни извори. „Тие не дозволуваат увид во критиките кон тој проект, бидејќи тоа ќе им отежне да ја продаваат технологијата“, претпоставува Брејер. „Може ли ова да биде легитимна причина за ЕУ, како јавна власт да ги задржува информациите?

Михајлова, европратеник од Бугарија, се согласува дека мора да има поголема транспарентност во програмата за истражување. Сепак, таа додава: „Не можеме да ја запреме технологијата. Треба да работиме на рамнотежа меѓу двете страни во процесот „за да се спречат ризиците од нови уреди за надзор.

За Брејер поважно е прашањето кој одлучува каков вид технолошки развој навистина е од јавен интерес: „Дали сакаме да ги финансираме овие ризични технологии? Тоа е одлука што треба да се донесе демократски “.

Превод: А.Б. 

Извор: The Guardian