Home > Изследователски текстове и коментарни анализи > Човечество на кръстопът: между технофилския солуционизъм и имплицитната етика

Човечество на кръстопът: между технофилския солуционизъм и имплицитната етика

https://ic.pics.livejournal.com/archytector/75774858/385217/385217_600.jpg

                   Силвия Минева, Десислава Василева *

Технофилски солуционизъм е формулировката, с която може да се означи характерното за социално-философските идеи и концепции, които представят технологичното развитие като научно организиран, обществено значим процес и универсално средство за решаване на всички човешки проблеми – от личното благополучие до обществения просперитет. Основоположен през 16-17 в. от новоеропейските мислители-утописти Фр. Бейкън, Ж. Ламетри, и Ж. Кондорсе, в наше време този солуционизъм се възприема и развива от съвременни футуролози и създатели на техноутопии като М. Мор, Р. Курцвейл, Н. Бострьом и др. Неговото влияние и одобрение изглеждат напълно основателни и дори необходими в един свят, в който нарастването и ускоряването на технологичното въздействие върху природата, обществото и човека отдавна не са само модерна тенденция, а банален факт. Живеейки в такъв свят, за съвременните хора няма нищо по-естествено от това да разчитат все повече на новите интелигентни технологии и да очакват своя технологичен Годо да им осигури безкрайна свобода, като ги отмени в грижите за оцеляването и им дари мечтаните бърз напредък и победа в борбата с болести, бедствия, глад и преследването на дълъг, безметежен живот. Тези и други подобни на тях очаквания нареждат привържениците на технофилския солуционизъм сред най-активните участници в обсъждането на технологичното развитие днес и неговите различни ефекти. Макар че темата е стара и има своята предистория още в домодерните времена, от началото на 20 в. насам това обсъждане предизвиква нарастващ интерес и разгорещени спорове, след като двете световни войни полагат началото на глобалната оръжейна надпревара, а заедно с нея и на глобалната технологична експанзия и конкуренция.

  Война, глобални кризи и технологично двусмислие

Тъй като войната винаги е обхващала много идеи, технологии и хора, нейната история може да се разглежда и като история на изобретенията. Според английския писател и документалист Майкъл Уайт много от нещата, които днес възприемаме като даденост, са странични продукти от разработването на оръжия и воденето на войни. Дори създаването на някои от тях и дори на всички да е било възможно в мирно време с мирни намерения, то нямаше да е толкова бързо, както под влияние на войната. С особена сила това важи за съвременните изобретения: повечето устройства и нововъведения в нашето цивилно всекидневие – от микровълновите печки и сателитната телевизия до

контактните лещи и интернет – са продукт на технологии, развити в резултат на борбата за военно надмощие и световното съперничество за власт, ресурси и пазари.[1] Така на преден план излиза двусмислието на войната, но и на техническите постижения. Историята ни е осигурила достатъчно илюстрации на това двусмислие: изобретяването на електричеството води до появата на електрическата крушка, но и на електрическият стол, разгадаването на термоядрения синтез ни е осигурило ядрени електроцентрали, но и ядрени бомби, а разработването на изкуствения интелект позволява създаването както на автономни автомобили, така и на автономни оръжия… Веднъж отключена, в навечерието на 21 в. глобалната технологична експанзия достига космически висоти благодарение на атомната енергетика, генното инженерство, химическата индустрия, цифровите технологии… В същото време тази експанзия изправя човечеството и пред нови, глобални рискове от екологични и социални кризи като ядрена катастрофа, климатични катаклизми, нарастващи социално-икономически неравенства и всеобща несигурност. Тези рискове сега засенчват обещанията за технологично избавление от смърт, физически страдания и  катастрофи и застават в центъра на различни прогнози и сценарии за бъдещето на обществото, планетата и човешките същества.

     От либералната евгеника към ново робство

Футуристичните прогнози и нарастващи възможности за технологично въздействие върху човешката физика провокират въпросите за участта на човека като природен вид, свободата на волята, политическите права и социалното равновесие в едно общество, в което високите технологии ще позволяват появата на нови физически черти и ментални способности, чужди на хоминидната матрица, а човеците и машините ще са свързани дотолкова, че хората няма да са в състояние да просъществуват без тази връзка. Такива въпроси повдигат съвременните философи и критици на технологичната парадигма като Фр. Фукуяма, Ю. Н. Харари, Ю. Хабермас, Л. Фери и др.

 Обезпокоен от изчезването на границата между природата, която сме, и органичното снаряжение, което сами си даваме, Хабермас обсъжда проблематичността на крайния индивидуализъм и прираста на лична автономия, предлагани от либералната евгеника за сметка на себеразбирането на човека като родово и социално, респ. морално същество.[2] Фукуяма на свой ред поставя въпросите за съответствието между репродуктивното решение и предполагаемото съгласие на дете-клонинг да бъде потомък на две жени или да се роди с нечовешки ген и съдбата на политическите права, ако в бъдеще ще развъждаме едни хора със седла на гърба, а други – с ботуши и шпори на краката.[3] В същия дух Л. Фери коментира вече реалните биотехнологични възможности да се променя генетичното наследство на индивидите и вероятността някой ден една или друга физическа, интелектуална или психична черта като цвят на очите, пол, ръст, математически или музикални способности да се променят според желанията ни. Кой би се отказал, пита реторично Фери, да поправи болестотворни гени, да забави остаряването, да засили интелигентността и съпротивителните сили на организма си, в деня, когато това ще е възможно да се извърши чрез технологична намеса в генома на ембрионалните клетки.[4]

Особен принос за поддържането на този омагьосан кръг, дори по-голям от войните, имат съперничеството и борбата, които предполага глобалната конкуренция. Тя налага като участници в стопанския живот хората и организациите да се сравняват и състезават постоянно по производителност, знания, технологии и тяхното прилагане в индустрията, икономиката, търговията, потреблението. Резултатът от тази конкуренция, е разпростирането на човешкото господство над света като автоматичен, неконтролируем и сляп процес, независим от всяка индивидуална воля. В самоцелния характер на този процес като глобално съревнование и механично произведено развитие Л. Фери вижда сериозно отклонение на съвременното общество от духа на Просвещението и неговите идеали за освобождението на човека, грижата за неговото щастие и общото благо като кауза.[5]

Цифрови същества и  експроприация на данни 

До същото отклонение води и друго характерно за нашето време технологично въздействие. То е всекидневно, постоянно и става възможно чрез съвременните технологии за непрекъснато наблюдение и събиране на разнообразни данни и информация Благодарение на cloud computing, роботиката, интернет и неговите приложения и социални мрежи днес живеем, „потопени“ в глобалния свят на умни, свързани, дигитални системи. За да съществуваме в този свят, ние генерираме безброй лични данни и разчитаме на умни алгоритми да персонализират съдържанието, което виждаме и да ни навигират спрямо личните ни предпочитания. Всяка следваща интеракция добавя нови данни за личността и желанията ни към профилите ни в света на Гугъл. Всеки бит, който улавяме, ни насърчава да генерираме допълнителен бит информация, мета информация, относно вече събраните данни. Така се оказваме дигитални същества, които живеят в хранилища за данни и пътуват по каналите за комуникация на данни.[6] Свързани един с друг, отделните битове увеличават стойността си – превръщат мета информацията, данните за събраните данни, и стават новия извор на стойност и богатство.[7] Тъй като комуникационната инфраструктура и хранилищата са собственост на други, нашите лични данни и електронни взаимодействия също се превръщат в собственост на други. Със собствеността идва и правото на ползване и търговия, но и рискът от дигитално робство заради експроприацията на данни. Дори когато е законно и необходимо за по-точно прогнозиране и планиране на производствен ръст, фирмени печалби, рекламни стратегии и публични политики, прилагането на съвременните технологични възможности за събиране и използване на данни не може да ни гарантира желаната сигурност, която не се свежда само до поверителността  и законовата регулация за защитата на данни.

https://en.newizv.ru/news/politics/23-11-2020/the-health-code-becomes-the-first-step-towards-digital-slavery

Въпреки ясните икономическите и социални аспекти на събирането, притежанието и търгуването с потребителски данни, законовото им регулиране предвижда използване на елементи от данни, без да отчита техния характер като интегрални части на цифрово същество. Така благосъстоянието на този нов вид същества и защитата им от робство, породено от търговията на обекти, изграждащи тяхната цялост, бива пренебрегнато.[6] Напротив, модерния прочит на термина „робство“ налага идеята за собствеността да се разшири, включвайки в нея и понятието за контрол върху роба, а не като законно притежаван обект. Според Мик Криснал цифровото робство се основава на възможността за въздействие върху волята на потребителите чрез скрити начини, които увеличават нивата на принуда.[8] Оборудвани с масиви от лични данни, организациите са в състояние да склонят потребителите си към желано от тях поведение чрез ефективни маркетингови стратегии и персонализирани предложения, отговарящи на личните им предпочитания. В резултат, корпорациите реализират нови нива на контрол на поведението в дигиталното пространство и онлайн светът оформя вярвания, диктува как и какво консумираме и налага правилата.

 

Сингулярност, индустрия 4.0 и подривни технологии

Друг широко обсъждан ефект на съвременните технологични възможности за събиране и използване на данни, е, използването им за машинно обучение и саморазвитие на свръхинтелигентни системи като суперизкуствения интелект. Прогнозите за това саморазвитие вещаят настъпването на т.нар. технологична сингулярност. Въведен през 1983 г. от писателя-фантаст Върнър Виндж, терминът става популярен сред днешните футуролози. С него те означават онзи повратен момент в технологичния прогрес, който ще доведе до фундаментална промяна на човешката реалност и цивилизация. Това е моментът, когато изкуственият интелект ще превъзхожда човешкия, технологичното развитие ще позволява хибридизация на машини и хора и ще протича независимо от човешки контрол, тъй като неговата скорост ще го направи неразбираем за нас и вече не ще можем да предвиждаме бъдещето си.

Перспективата, която открива технологичното развитие като развитие на контрола и манипулирането на човешкото поведение повдигат въпросите за целта на цифровите технологии и границите на тяхното усъвършенстване в тази посока: „Какво ще се случи с обществото, политиката и ежедневния живот, когато несъзнателни, но високоинтелигентни алгоритми ни познават по-добре, отколкото ние сами се познаваме?” [9] Такива въпроси провокира констатацията на Харари, че живеем в ерата на „хакване на хората“ и благодарение на умните алгоритми дигиталното робство ще стане новата норма, защото те ще ни контролират и манипулират, познавайки по-добре от нас самите нашето тяло, състояния, възможности и копнежи.[10] По същността си това са въпроси за реалните възможности и евентуалните ефекти на цифровата революция, станала известна като „индустрия 4.0”. Освен роботизацията и изкуствения интелект, рожби на тази индустрия са дроновете и самоуправляващите се автомобили, 3D принтерите, големите данни, интернет на нещата, синтетичната биология, геномиката, персонализираната медицина, облачните и рециклиращи технологии, и възобновяемата енергия, дигиталните платформи, икономиката на споделянето, дигиталните валути…Пъстър и безкраен, списъкът на технологични новости и приложения потвърждава, че основна характеристика на „индустрия 4.0” е конвергенцията не само на различни отрасли, но и на твърде далечни една на друга реалности като биологическата и технологическата. Тяхното сближаване изисква усложняването на всички процеси и води до промяна на икономическа реалност и политическа власт. Промяната е възможна благодарение на двете основни, същностни черти на новите, дигитални технологии. Едната е експоненциалният характер на произтичащите изменения, който намалява чувствително възможностите за прогнозиране на процесите и увеличава риска от провал на различни социално-политически стратегии и програми. Друга специфична характеристика на технологиите от „индустрия 4.0” е, че тяхното внедряване и разпространение води до скоростно, непознато по-рано изчезване на компании, производства, професии. Затова тези технологии биват определяни и като „подривни” или разрушителни заради потенциалния риск от „икономически растеж без работни места” вследствие на повсеместната дигитализация и коеволюцията на роботизация, автоматизация и изкуствен интелект. [11] Започнала най-напред в материалното производство, днес замяната на хора от машини засяга все повече сектори и на услугите като търговия, банково дело, застраховане, туризъм, но и т.нар. публични услуги като обществено управление, образование, информация, комуникация, здравеопазване, социална защита, национална отбрана, транспорт и др. Ефектите от тази замяна са нееднозначни, защото поставят с нова сила въпросите за моделите на трудовата заетост, професионално профилиране и тяхната все по-динамична промяна под влияние на технологичните нововъведения. Промяната се състои в бързото изчезване и замяна на стари от нови професии и налагането на частична, поливалентна или проектна за сметка на постоянна заетост. Нарастващата динамика на този процес налага и нарастващи изисквания за професионална мобилност, постоянно учене и преквалификация за придобиване и подобряване най-вече на техническата грамотност на работещите и уменията им за прилагане на експоненциално развиваните компютърни, комуникационни и информационни технологии. Обсъждайки перспективата за отпадането на традиционни професии от изкуството до здравеопазването, Харари прогнозира риска от появата на „безполезната класа” на заменените от машините хора и необходимостта от създаването на професии, в които човекът да превъзхожда машините и алгоритмите, за да не бъде изместен от тях. Друг сценарий, предлаган от Р. Курцвейл, е вместо да се състезава с алгоритмите и изкуствения интелект, човекът да си сътрудничи с тях, като се грижи за тяхното поддържане и усъвършенстване. [12]

 

Изплъзващата се регулация

Обсъждайки технологичните рискове, мнозинството критици подчертават политическото значение на дебата за технологиите и настояват на необходимостта от тяхното по-строго законово регулиране като най-справедлив и подходящ подход в условията на съвременните демократични общества и техния либерално-демократичен правов ред. Реализирането на този подход обаче се оказва изключително трудно заради преобладаващите потребителски нагласи и частни интереси, които стоят зад стимулирането на изкуствени потребности чрез нови технологии и техните главоломни темпове на развитие. Това означава безкрайна гонитба между технологични новости и регулиращи прилагането им правила. В тази гонитба дистанцията нараства в полза на технологиите, защото регулацията им зависи от демократичното представителство, а то – от частно-груповите интереси в обществото, сред които са и тези на технологичните фирми и корпорации. Поради това законовото регулиране винаги е изоставащо от технологичното развитие, а ефективността му се оказва скромна и често съмнителна поради компромисния характер на правилата, налаган от либералния обществен ред и пазарната икономика. Но дори и да беше своевременно и съразмерно, с времето законовото регулиране на технологиите ще се усложнява все повече, а прилагането му ще става все по-трудно в динамичния хоризонтален свят на интернет и на непрекъснато роящи се нови технологии, създавани за да допълват, конкурират или заместват старите. От друга страна, стремежът към все по-голяма и всеобхватна законова регулация и контрол и тяхното постоянно усложняване днес има за резултат технизацията на самата съдебна система с цел повишаване на ефективността й с помощта на изкуствен интелект. На много места по света като Естония, САЩ и Китай вече са факт проекти за изкуствен интелект -съдия и изкуствен интелект-адвокат, които да отсъждат и пледират в съда въз основа на събраната от алгоритми разнообразна информация и данни за хората и тяхното поведение. В Китай вече съществува практиката на изкуствен интелект – прокурор, който може да идентифицира и повдига обвинения за финансови измами, опасно шофиране, кражби и др. чести престъпления.[13] При разгръщане на тази тенденция в по-дългосрочна перспектива нищо чудно да се изправим пред парадоксалната ситуация, когато една технология ще отсъжда правомерността на друга технология.

https://datos.gob.es/sites/default/files/styles/blog_image/public/blog/image/13-post.jpg?itok=7M3x2mTU

Иманента етика или провалени човеци?

Независимо от предлаганите политически мерки, законови регулации и различни сценарии за бъдещето което  вещаят технологичните намеси в труда, природата на планетата и човека, остава несъмнен факт, че съвременното общество е колкото глобално и техногенно, толкова и общество на риска и катастрофата. Тази съдба му отрежда технико-научното овладяване и господство над природата, вещите и хората като експанзивен процес, насочен към тяхната постоянна и безкрайна промяна. Според У. Бек глобалните рискове, на които сме съвременници днес, представляват „вторичен, модернизационен продукт на излишъка“ и „цивилизационни възможности за самозаплаха”, които „трябва или да се отстранят, или да се отрекат, т.е. да се преинтерпретират.”[14] Тяхната повторна интерпретация изисква морално оправдание на рисковете, за да бъдат приети. Бек отхвърля възможността това оправдание да се осигури от „технологичното морализиране”, което предлагат моделите за пресмятане на риска въз основа на статистиката за злополуки, обобщени формули за обезщетяване и застраховане на принципа „пари срещу щети”. Това оправдание е задача на друг тип етика, която ние наричаме философска, а Бек определя като „имплицитна”, защото в центъра й застава „старият нов въпрос: как искаме да живеем? Кое е човешкото в човека, природното в природата, което си заслужва да бъде съхранено?”[14] Поставен от Бек, новият стар въпрос, ще е винаги актуален и с непреходна мода, защото и днес, както в миналото, хората водят войни и изобретяват технологии, за да се конкурират за власт, слава и пари. Но технологиите, които изобретяват за да воюват помежду си и с природата, дори собствената, са все по-мощни, следователно и по-опасни. Тяхната мощ ще продължава да нараства. Заедно с нея ще нараства и мощта на технологичното морализиране, което изисква хората да са по- загрижени за скоростта на интернет, развитието на изкуствения интелект и борсовите индекси, отколкото за общи блага като социалната справедливост, мира, природата и собствената човечност. Затова ще е банално да приписваме рисковете само на отделни хора или на човешките слабости и пороци като алчността, властолюбието или тщестлавието. За предпочитане е да признаем „колективния“ си грях, че обществено развитие, сведено до превръщане на всичко в стока и технология – от политиката до науката и изкуството, а на човека в биометричен продукт, не сочи към бъдещето на повече свободни и щастливи хора. Напротив, то сочи към прогнозата на Харари за „провалени човеци, злоупотребяващи с най-модерни компютри, които вредят на себе си и на света.”[9] Ако искаме да избегнем този провал, ще трябва да ревизираме индивидуалистичните ценности, групово-частни интереси и пазарни отношения, доминиращи сега идеите за общо благо, хуманност и прогрес за сметка на грижата за човешкото у човека, земната природа и справедливото обществото.

————————————————————————————————

* Текстът e съавторски доклад,изнесен на ХX МЕЖДУНАРОДНА НАУЧНА КОНФЕРЕНЦИЯ 
„МЕНИДЖМЪНТ И ИНЖЕНЕРИНГ`22” под патронажа на ТУ – София.

Библиография

 [1]  M.White, „The fruits of war: How military conflict accelerates technology“, Published by Simon & Schuster Ltd, 2005, pp 406-415.

[2]   J. Habermas, „Die Zukunft der menschlichen Natur: Auf dem Weg zu einer liberalen Eugenik?“. Suhrkamp, 2018, pp 34-46.

[3]   Fr. Fukuyama, „Our posthuman future: Consequences of the biotechnology revolution“. Farrar, Straus and Giroux, 2003, pp 181-195.

[4]   L.Feri, „Transkhumanitarnata revolyutsiya“, Sofiya: IK Kolibri. 2017, pp 53-60.

[5]   L.Feri, „Da se nauchim da zhiveem“. Сolibri, Sofiya, 2010, pp.202–73, pp201-202.

[6]   S. Rogerson, A. Rogerson, “ Digital slavery”, Research Gate, 2007

[7]   K. Kelly, “The Inevitable. Understanding the 12 technological forces that will shape our future”. Penguin Random House LLC, 2016, pp. 258

[8]   M. Chisnall, “Are we becoming digital slaves? Why online ‘privacy’ is a misnomer”. LSE Business Review. Social sciences for business, markets and enterprises, 2020

[9]   Yu. Harai., „HOMO DEUS. Kratka istoriya na badeshteto“. Iztok-Zapad, 2018, pp 317.

[10] Yu. Harari,”21 uroka za 21 vek,” Iztok-Zapad, Sofiya, 2019, pp.249

[11] H. Prodanov,“Tekhnologicheski revolyutsii i politikonomiya“, Nauchni trudove na UNSS, 3(3), 2017, pp 143-175.

[12] R.Kurzweil, „The singularity is near: When humans transcend biology. Penguin, 2005

[13] M. Todorova, „Izkustven intelekt. Kratka istoria na razvitie i etichni aspekti na temata“. Iztok–Zapad,  Sofia, 2019, рр 134-138л

[14] B. Ulrich, “Risk society: Towards a new modernity“. Vol. 17. sage, 1992, рр 28-29.

Остави коментар