http://www.kreativen.bg
Професор Здравко Райков социолог и журналист

Демокрацията си отива – идва алгокрацията


Големият брат е един от най-разпознаваемите образи в глобалното публично пространство. Литературният герой от романа “1984” на британския писател Джордж Оруел, отдавна се е превърнал в синоним на полицейска държава, на тотален контрол, следене и манипулиране.
Днес, обаче, този загадъчен диктатор от измислената държава Океания, става реалност в нашия свят. Демокрацията, свободата на волята и желанията – всичко това е на път да се превърне в празни лозунги, в лишени от съдържание напудрени приказки. Загрижени как да оцеляваме в този все по-напрегнат свят ние не си даваме сметка, как губим свободата си да се ориентираме и сами да определяме, кого да подкрепяме, какво да пазаруваме, как да оценяваме. Това вместо нас вече го правят алгоритми (изкуствен интелект). Те знаят всичко за нас: какво харесваме и какво мразим, какво ни вълнува, кое ни е интересно и кое ни е скучно. Познават стереотипите, предубежденията, нагласите, вкусовете ни. Точно това ни прави уязвими пред тях – предоставя им неограничена свобода да промиват съзнанието ни и да управляват поведението ни.
Според агенцията Technavio още преди три години световния пазар на системи за разпознаване на лица, е надхвърлил 2,3 милиарда долара. А в следващите три години той ще се увеличи три пъти и ще надхвърли 7 милиарда долара.


В средата на януари тази година стана известно, че властите на Ню Йорк са закупили китайска система за следене на хора. Става дума за технологията за разпознаване на лица, която е в основата на китайската система Sky Net. Американците са купили алгоритми на компанията Hikvision от Ханчжоу – хардуер и програмни решения, в много големи количества.
Китайските алгоритми се считат за най-добрите в света днес. В самия Китай системата Sky Net включва 170 милиона камери, към които през следващите две години ще се присъединят още 400 милиона работещи и нови камери.
Незабелязано ние започваме да се разделяме с демократичните си права. Вероятно 2019 година ще я запомним с нарастващия и тотален контрол върху всички нас, простосмъртните. Властващи елити – правителства и големите корпорации, с много бързо темпо ще внедряват камери, системи за разпознаване на лица, ще събират данни за ДНК. И сега в социалните мрежи се осъществява непрекъснат, денонощен и изчерпателен мониторинг: кой влиза, кога влиза, какво чете, какво подкрепя, кого мрази… Нашата свобода, желанията ни, емоциите ни ефективно се експлоатират от силните на деня, с помощта на алгоритми.
Новата цифрова диктатура – алгокрацията (съчетание от алгоритъм и демокрация), засяга вече дори държави – лидери в класации за човешко щастие на планетата.


Като Дания например. Медията Business Insider наскоро разказа, как там се строи една нова цифрова антиутопия. По идея на правителството в тамошната община Гладсаксе, са задействали в тестови режим специален алгоритъм. На основата на много данни той определя вероятността от сурово отношение към децата. Системата отчита десетки фактори и наподобява на алгоритмите, използвани за прогнозиране на престъпления. Тя събира информация от медицински записи, сведения от работата на родителите и други данни, които има на личните им идентификационни номера. Въз основа на тази съвкупност от фактори, алгоритъма открива семейства, които влизат в групите на риска. И решението му не се оспорва – датските социални работници отнемат детето от неговите родители.
Сред факторите на риска, които алгоритъма следи, са пропуснати посещения при лекаря, жалби на децата, постъпили от училище, сведения за родителите. Под особен контрол са хора, които получават помощи като безработни, както и граждани, които вече са нарушавали закона.
В Гладсаксе, обаче, се намерили разумни хора, които се обявили против подобна идея. И така пилотният проект си останал – поне засега, един експеримент.
Това, обаче, ни най-малко не попречило на правителството на Дания да заяви за плановете си да активира аналогична система в мащабите вече на цялата страна.
В Дания сега се използват машинно обучение и големи данни, за да се контролират хората, които получават социални помощи. Агенцията Udbetaling Danmark, която отговаря за тази дейност, съставя списъка на получателите им. Отчитат се данни от различни ведомства, в това число сведения за брак и родени деца, информация от банките. Агенцията предвижда да започне да следи и консумацията на електроенергия, за да издирва хора, които живеят не там, където са се регистрирали.
Датски експерти подлагат на остра критика подобни действия, тъй като са убедени, че те нарушават правата на човека и нахлуват в неговото лично пространство. Според тях в дългосрочна перспектива системите за контрол и следене, са способни да доведат до ”самоубийство на либералната демокрация”.


Авторите на публикацията в Business Insider – Джейкъб Мангама и Хин-Ян Лиу обобщават, че все повече се увеличават признаците за движението на Запад към алгокрация. Тази форма на власт ще помогне да бъде построен един “прекрасен нов свят”, в който живота на човека ще се контролира с помощта на цифров код. И това ще става тайно от гражданите. Особено тревожно е, че логиката, от която се ръководят алгоритмите, остава неизвестна. Даже техните създатели не винаги разбират, защо изкуствения интелект прави този или онзи извод, въз основа на големи данни. В социалния сектор подобни решения са особено опасни.
Експертите предупреждават, че гражданите не знаят, кога ще попаднат под контрола на алгоритъма – за това никой не ги известява. Това няма как да не се отрази на техния личен и семеен живот, както и на свободата на словото.
Дори и да са “благи” намеренията, алгокрацията убива демокрацията – тя става жертва на технологичното превъзходство. Алгоритмите ще позволят на елита да манипулира, както си пожелае масовото съзнание. Така, както това вече го правят социалните мрежи и фейк нюз.
Наскоро и журналиста Дейвид Самуелс в своя публикация в популярната медия Wired запита, не се ли превръщат IT-гигантите и правителствата, в подобие на Големия брат. И си отговори сам: да, IT-корпорациите вече са проникнали в нашия живот и ние нямаме никакви шансове да се избавим от техния надзор.


А по-лошото е, че те с всяка измината година все по-тясно си сътрудничат с държавата и съвместно строят една антиутопия. Така се ражда единна корпоративно-бюрократична екосистема, която по нищо не се отличава от Големия брат. Amazon създава облачни системи за Централното разузнавателно управление (ЦРУ) и Агенцията за национална сигурност. Microsoft разработва аналогични продукти за американските специални служби. Двете компании претендират сега за контракта JEDI, в рамките на който трябва да бъдат създадени защитени облачни услуги за военното министерство (Пентагона), на стойност от 10 милиарда долара.
Фантазиите на британския писател Джордж Оруел, развити в романа му „Хиляда деветстотин осемдесет и четвърта“, появил се през далечната 1949 г., днес стават реалност.
И ние, които не сме сред елита, ще осъзнаем – по-рано или по-късно, че вече нямаме никакви права.
Защото сме попаднали в новата епоха – тази на алгокрацията.