Search our Site

logo
Френологични алгоритми
Image

| Катрин Стинсън

е докторант по философия и етика на изкуствения интелект в Center for Science and Thought към Бенския Университет, Германия и Leverhulme Centre for the Future of Intelligence към Кейбридж. 
Статията е първоначално публикувана в сп. Aeon под Creative Commons Attribution-No Derivatives.


Превод: Антон Колев

В думата „френология“ има нещо старомодно. Звучи сякаш принадлежи на учебниците по история, съхранявана някъде помежду кръвопускането и велосипедите. Иска ни се да мислим, че оценяването стойността на другите въз основа размера и формата на черепа им е отдавна останала зад нас практика. Уви – френологията отново надига уродливата си глава.

В последните години алгоритмите за машинно самообучение (МС) обещаха на правителствата и частните компании възможността да извлекат каква ли не информация от външния вид на хората. Няколко тепърва стартиращи фирми твърдят, че са способни – използвайки изкуствен интелект (ИИ) – да идентифицират личностните качества на кандидатите за работа въз основа лицевите им изражения. Правителството в Китай е пионер в употребата на камери за наблюдение, идентифициращи и проследяващи етническите малцинства. Междувременно се появиха свидетелства за училища, в които се поставят камери, автоматично санкциониращи невнимателните в клас деца на база лицеви динамики и микро-изражения като потрепване на веждите например.

Може би най-пословично бе когато преди няколко години ИИ изследователите Ксиаолин Ву и Кси Занг заявиха, че са програмирали идентифициращ престъпници алгоритъм – с прецизност 89,5% – въз основа формата на лицата им. Не отидоха тъй далеч, че да подкрепят някои от идеите относно физиогномиката и личностния характер, циркулиращи през XIX в. Тези идеи са широко познати най-вече от работата на италианския криминолог Чезаре Ломбросо, според когото престъпниците са недоразвити, нечовешки зверове, разпознаваеми по наклонените чела и ястребови носове. Въпреки това едно скорошно изследване изглежда прави високотехнологичен опит да асоциира лицевите черти с престъпността, директно взаимствайки от „композиционно-фотографския метод“ развит от викторианското момче за всичко – Франсис Галтън. Този метод включва наслагване на множество лица в определена категория, издирвайки черти, които да посочват качества като здравословно състояние, красота или склонност към престъпления.

Технологични коментатори наричат подобни способи за лицеворазпознаване „буквална френология“. Те също така го свързват с евгениката – псевдонауката, целяща подобряването на човешката раса чрез насърчаване възпроизводството на най-силните. (Терминът „евгеника“ въвежда самият Галтън, описвайки го през 1883 г. като „всички влияния, които могат – дори и в най-малка степен – да предоставят на по-пригодните раси или кръвни линии по-голям шанс за надмощие над по-малко пригодните, отколкото биха притежавали иначе“.)

В някои случаи изричната цел на тези технологии е да лиши от възможност считаните за неподходящи; в други, макар и не изрично поставен, това е предвидимият им резултат. И все пак отхвърляйки алгоритми, етикирайки ги като френология, какъв точно проблем се опитваме да посочим? Казваме ли, че тези методи са научно дефектни и не работят или пък посочваме нравствения проблем в употребата им, макар и да не са такива?

Дълга и заплетена е историята, стояща зад употребата на прилагателното „френология“ като попарваща обида. Философските и научни критики на това начинание винаги са били пряко свързани, макар и в течение на времето тяхната връзка да се изменя. През XIX в. противници на френологията възразяват срещу факта, че тя се опитва да определи точното местоположение на различните психични функции в различните части на мозъка – ход, който се счита за еретически, тъй като поставя под съмнение християнските схващания за единството на душата. Интересното обаче е, че опитът да се открие личностният характер и интелект въз основа размера и формата на главата на техния притежател, не бива възприемано като сериозен морален проблем. Днес напротив – идеята за локализируемостта на умствените функции е широко възприета. Учените може би вече не смятат склонността към буйство за разположена над дясното ухо, но схващането, че когнитивните функции могат да бъдат локализирани в конкретни мозъчни области е стандартно допускане в популярната неврология.

Френологията от ХIX в. бива критикувана също и по емпирична линия. Повдигат се дебати за това къде какво се помещава и дали измерванията на черепа са надежден начин за определяне случващото се в мозъка. Най-влиятелната емпирична критика на старата френология идва от изследванията на френския физик Жан Пиер Флуренс, имащи за основа заешки и гълъбови увредени мозъци. Той заключава, че психичните функции са разпределени, а не локализирани. (Тези резултати по-късно биват дискредитирани.) Фактът, че френологията бива отхвърлена по неприемливи за съвременниците ни причини прави още по-трудно да открием към какво препращаме днес при употребата ѝ като обида.

Както „старата“, така и „новата“ френология са критикувани поради небрежните си методи. В неотдавнашно ИИ изследване ангажирано с престъпността, използваните данни произлизат от два изключително различни източника: снимки от криминално досие, от една страна, срещу снимки събрани от фирмени сайтове, от друга. Този факт е достатъчен да обясни способността на алгоритъма да открива разлики в групите. В нов предговор към публикацията изследователите признават, че възприемането на осъдените по съдебен ред като тъждествени с престъпници е „сериозен пропуск“. Въпреки това подобно отъждествяване изглежда признава от авторите основно емпиричен недостатък: употребата на осъдени, а не на такива, които са били оправдани, представлява сериозна статистическа пристрастност. Те заявиха, че са „дълбоко озадачени“ от общественото възмущение в отговор на статията си, предназначена за „чисто академични дискусии“.

Забележителното е, че изследователите изобщо не коментират как самата присъда зависи от впечатлението, формирано в полицията, съдиите и съдебните заседатели относно заподозрения, превръщащо „престъпния“ облик в смущаваща променлива. Не споменават нищо и относно интензивната полицейска дейност в определени общности, допълнена от неравния достъп до юридическо представителство, нарушаващи събраните от тях данни. В отговора си към критиките, авторите не отстъпват от убеждението си, че „за да бъдеш престъпник са необходими набор от анормални (външни) личностни черти“. Тяхната формулировка предполага, че престъпността – вместо отговор на социални условия като бедност или неправда – е в действителност вродена характеристика. Част от онова, което прави изследването им съмнително на емпирично ниво, е че обявеният като „престъпник“ едва ли е ценностно неутрален.

Едно от най-силните нравствени възражения против употребата на лицеворазпознаване за идентифициране на престъпници е, че стигматизира хора, които вече са обект на прекомерен контрол. Авторите твърдят, че техният инструмент не трябва да се използва от правораздаващите органи, но за целта прилагат единствено статистически аргументи. Те отбелязват, че фалшивите положителни резултати (от 50%) биха били твърде високи, но не обръщат никакво внимание на значението му относно хората. Тези фалшиви позитиви биха били индивиди, чиито лица наподобяват осъждани в миналото хора. Предвид расовите и други предразсъдъци, съществуващи в наказателната система, подобен алгоритъм би довел до завишаване на престъпността в маргинализираните общности.

Най-спорният въпрос изглежда е дали повторната употреба на физиогномиката за целите на „чисто академичната дискусия“ е справедливо. Можем да се възпротивим на емпирична основа – в миналото евгениката на Галтън и Ламбросо се провали в откриването на предразполагащи престъпността лицеви характеристики. Това се дължи на факта, че подобна връзка не съществува. На психолози, проучващи наследствеността в интелекта като Сирил Бърт и Филип Ръштън, се наложи претупано и безотговорно боравене с данните, за да установят корелация между размера на черепа, расата и IQ-то. Ако имаше нещо за откриване, то вероятно изобилието от опити през годините биха го открили.

Проблемът със завръщането към физиогномиката не е единствено в миналите ѝ провали. Упорито дирещите студен синтез изследователи – въпреки надмогналия го научен консенсус – също биват изправени пред обвинения в преследване на еднорози, но техният отказ да се примирят съвсем не е позорен. В най-лошия случай се разглежда като загуба на време. Разликата е, че потенциалните вреди от проучванията върху него са далеч по-ограничени. Напротив, според някои коментатори лицевото разпознаване трябва се регулира тъй строго, колкото и плотиния, доколкото не му е присъща почти никаква безвредна приложимост. Безпътният проект, който занимаващи ни тук се опитват да възкресят, бе изобретен в подкрепа на колониалните и класови структури. Единственото, което той е способен да измери, е присъщият на тези структури расизъм, В този смисъл е трудно да се оправдае поредният опит с него – ей така, просто от любопитство.

Въпреки това етикирането на лицевото разпознаване като „френология“ без да се обясни залогът ѝ, вероятно не е най-ефективната стратегия за правилно адресиране на възраженията ни. За да възприемат насериозно моралните си задължения, учените трябва да осъзнаят евентуалните вреди, причинени от изследванетията им. Надявам се, че по-ясното очертаване на проблемите с подобни проучвания, обявени от общността за „френологични“, би имало по-отчетлив резултат от простото подмятане на този етикет като обида.
Еднократно
 EUR

случайни статии




Всички материали са част от
Creative Commons Attribution
No Derivatives 4.0 Int. License

Получавайте новини всяка седмица.