ЧОВЕКЪТ, РОБОТИТЕ и BIG DATA

tumblr_nvoc6oorlh1qd479ro1_400

ЧОВЕКЪТ, РОБОТИТЕ и BIG DATA

д-р Александър Лазаров

Абстракт: Статията се фокусира върху дейността на роботите, отношенията ни с тях и към тях в Big Data среда – условия, при които машините ни превъзхождат в анализа и прогнозите, а имат капацитет за автономни решения. Дискурс – философия на информацията. Разгледани са следните проблеми:

Какво е интелигентност и тя привилегия само на човека ли е?
Каква е същността на динамичната пулсация между информацията, виртуалния и физичния свят (в прав и обратен ред), характерна за хората, някои животни и интелигентните агенти?
Компютрите смятат по-бързо от нас. Превъзхождат ли ни и в друго?
Каква е диференциацията между програмиран и информиран (каквито са „те“), спрямо възпитан и образован (каквито сме ние)? Т.е., къде е разлика между памет и опит?
Как виждаме роботите (които не просто идват, а са вече сред нас) – като наши роби, лични асистенти, черноработници, които ни заместват в неприятна или опасна среда, или като бъдещи самостоятелни личности? В тази връзка, трябват ли ни нови етични норми? Нужно ли е да инсталираме на роботите етика или ще чакаме те сами да създадат и развият своя?

Ключови думи: данни, информация, интелигентност, памет, знания, опит, етика.

Abstract: The analysis is focused on the Artificial Intelligence dealing with Big Data – an environment in which machines produce better forecasts than man does and operate an autonomous decision-making capacity. A philosophy of information discourse applied. The text comments on the following issues:

What is intelligence and is it just man’s privilege?
What is the essence of the dynamic pulsation among information, the virtual and the real world, (performed in a straight and reverse line), which is typical for man, for some animals and for Artificial Intelligence Agents?
Computers calculate much faster than we do. Are they better than we are in other perspectives?
What is the difference between programmed and informed (that they are) compared to well raised up and educated (that we are)? Ergo, how to differentiate between memory and experience?
How do we foresee robots staying with us? Do we expect them being our slaves, personal assistants, workers in bad and dangerous conditions or as future individual personalities? In this trend, is a new ethical approach necessary? Shall we upload and install ethics on robots, or we will suppose them to develop one of their own?

Key Words: data, information, intelligence, memory, knowledge, experience, ethics.

Често говорим за дигитални данни и информация, а осъзнаваме ли разликата? Проблемът е в това, че и двете се изписват с кодирани битове – нули и единици, представляващи еднозначно „да“ или „не“ по конкретни въпроси. Те се структурират и кодират в разнообразни дигитални конструкции, които могат да придобиват неограничени варианти, твърде далечни от недвусмислеността на „да“ или „не“. Например, палитрата на всяка съвременна програма за рисуване, организирана на този принцип, е по-богата от капацитета на човешкото око да различава нюанси на цветовете.

Конструкциите от битове данни са характерни за компютрите, а по всичко изглежда, че подобен подход прилагат и мозъците на живите организми. За разлика от данните, обаче, информацията е „частен случай“. Тя винаги обслужва осъществяването на конкретно намерение на човека или интелигентния агент, който я ползва.

Така или иначе понастоящем количеството данни, които генерираме и запаметяваме (в т.ч., наблюдаваме и анализираме от природата, записваме, снимаме, композираме, измисляме, съчиняваме, представяме си и пр.) непрекъснато се увеличава. Математиците твърдят, че темпото на растежа е по-бързо и от геометрична прогресия. В резултат във виртуалното пространство се породи средата BIG DATA, т.е., толкова много данни, че за нас като хора вече е непосилно да ги обхванем, било с поглед, било с други сетива, с разума си или с усет, за да ги анализираме, осмислим и оценим. А компютрите успяват в значителна степен!

Този процес породи нова, непозната до сега ситуация във взаимоотношенията между хора и машини, сиреч между „естествения“ и „изкуствения“ интелект (ИИ). Защо непременно създаденото от човека е изкуствено, а ние самите сме естествени, е друго питане, което сега ще оставим настрана. Открай време по този проблем експертизата е била много разнолика и пообъркана. Възможните гледни точки към случващото се, както и перспективите са разнообразни. За да илюстрира сложността на проблема, настоящата публикация ще засегне накратко следните основни въпроси:

Какво е интелигентност и тя привилегия само на човека ли е?
Каква е същността на динамичната пулсация между информацията, виртуалния и физичния свят (в прав и обратен ред), характерна за хората, някои животни и интелигентните агенти?
Компютрите смятат по-бързо от нас. Превъзхождат ли ни и в друго?
Каква е разликата между програмиран и информиран (каквито са „те“), възпитан и образован (каквито сме ние)?
Как виждаме роботите (които не просто идват, а са вече сред нас) – като наши роби, лични асистенти, черноработници, които ни заместват в неприятна или опасна среда, или като бъдещи самостоятелни личности? В тази връзка, трябват ли ни нови етични норми? Нужно ли е да инсталираме етика на роботите или ще очакваме те сами да си я създадат и развият? Ако е нужна, каква?

По същността си тези въпроси са философски, защото изискват преосмисляне на обичайните ни представи за отношението и границите между човека и създадения от самия него „изкуствен” свят на машини, компютри и роботи.

ПРОГНОЗАТА – НАЧИН НА ЖИВОТ. Само човешка привилегия ли е интелигентността?

За интелигентността речниците предлагат разнородни дефиниции и всяка има своите аргументи и логика. Популярно до степен на баналност е обобщението, че по същество интелигентността е откритостта на човека към заобикалящата го външна физична и социална среда. Често се употребява метафората, че по природа човек притежава отворен „прозорец“[1] към света. Образно казано, през него едновременно наблюдаваме, осмисляме и оценяваме видяното, а после (в широк смисъл) експонираме активната си позиция. Според тази концепция като резултат от комуникацията със света около нас, възприятията ни са спонтанни и автоматични. С други думи, ако сме здрави, волно или неволно, отворим ли очи – виждаме, будни ли сме – чуваме.

В ерата на дигиталните технологии се наложи друга, по-конкретна и прагматична гледна точка. Интелигентността се разглежда като капацитет да правиш прогнози с цел да реагираш адекватно на предстоящи събития.[2] В този контекст за разбиране на процесите говорим тогава, когато генерираните прогнози са верни, т.е. сбъдват се.[3] Тази дефиниция е по-точна, защото позволява формиране на визия, какво следва да може да прави роботът, за да го считаме носител на изкуствен интелект (ИИ). Същевременно този дискурс открива възможност да разглеждаме и оценяваме различни степени на интелигентност, демонстрирани от животински видове, както и от компютрите. При желание, на този принцип може да се профилират и хората като се съпоставят количествените и качествените характеристики на индивидуално генерирания от тях информационен продукт (ИП), но рамката на тази публикация не предполага коментар на този аспект.

Описаният по-горе дискурс на анализа, принадлежащ на философията на информацията[4] (ФИ), доведе до момента, в който се питаме – днес, когато успешно създаваме „мислещи“ машини, т.е., сложни, програмирани от нас физични компютърни системи, способни автономно да произвеждат предвиждания, които впоследствие се сбъдват, коя от следните две хипотези е вярна:

Вече сме наясно с механизмите на човешкото мислене, разсъждение, оценка, въображение и прочие умствени дейности, и умело ги въплъщаваме при компютрите?

Или (поне някаква част от) умствените способности, които считаме като изключително свои, са постижими и по друг, „нечовешки“ начин от различни интелигентни агенти?[5]

Всъщност, независимо коя от тези алтернативи е вярната, налице са и повод и предизвикателството да преосмислим метафизиката и нейната връзка с виртуалното в рамка, обединяваща човешката менталност и дигиталния свят.

Отправна точка за този анализ могат да бъдат следните убеждения и познания:

Физичният свят съществува вън от нас (хората), също и независимо от нас в смисъл, че е съществувал дълго преди да се появим в него като биологичен вид с всичките си уникални за биологичното разнообразие умения и способности.

Този свят има многопластова конструкция. В него ясно диференцираме отделни и лесно разграничими според характеристиките си нива като: астрономично-галактическо, планетарно, предметно, молекулно, атомно, ядрено, ниво на свръх малките леки частици, биологично, нивото на данните и информацията. Сигурно е, че има и други, с които ни предстои да се запознаем и постепенно да изучаваме.

Привидно разделените пластове са взаимно преплетени по начин, щото събитията случващи се на дадено ниво непременно и неизбежно дават отпечатък, т.е. предизвикват промени на състоянието и в други нива. За илюстрация на този модел: представете си една огромна по обем рибарска мрежа, която е изработена не в обичайните две, а в три измерения. Всяка брънка, т.е. всяка отделна част от нейната плетеница сама по себе си представлява нова по-малка по мащаб, но по същество огромна мрежа. А първата, която си представихте, в своята цялост е само един от компонентите, изграждащи следващото мрежово ниво. Така, ако разлюлеете един „пръстен“ от мрежата на дадено ниво, всъщност, променяте много неща във всички посоки в повече от един пластове.

В тази мрежа материята, енергията и данните могат да се превръщат една в друга в прав и обратен ред. Трансферът на информацията в енергия е предсказан като възможност отдавна от Maxwell, но едва преди няколко години бе доказан експериментално.[6]

Важни особености за така описания модел са следните две: светът е едновременно краен и неограничен.[7] Това не е противоречие, при все че на пръв поглед изглежда така. Идеята е, че при разрез, в който и да е момент, светът е краен и преброим, но по същество в него винаги протичат промени. По тази причина всяка калкулация носи и грешка, защото колкото и бързо да броим, междувременно са протекли събития, провокирали изменения в статуса. Често тази грешка е пренебрежима за действията ни, но винаги следва да я имаме предвид. На тази основа се ражда разбирането, че безкрайността засяга промяната в природата и в самите нас, защото нейното протичане е неограничено. От друга страна, именно преброимостта и крайният характер на всяка една фаза от промяната осигуряват възможността за т.нар. computation, изразено в математическа обработка на данните с цел моделиране. Днес все още е спорен въпросът дали промяната като явление е еквивалент на понятието време, т.е. промяната е четвъртото измерение, с което по природа неизменно живеем и се съобразяваме. Склонен съм да се съглася с тази дефиниция, при все че тя носи непълнота и търпи критика.

И още два специфични и същностни детайла – в тази система всеки електрон е потенциален носител на един бит от данни. Според теорията за супер позицията му, той може да кодира и пренася с голяма скорост отговор „да“ или „не“, стига активен наблюдател като човека, някои животински видове и ИА да зададе конкретен въпрос и да умее да денотира достигащите до него съдържания, кодирани в структурите от данни. Към днешна дата на този принцип работи квантовият компютър, който е между 20 и 30 хиляди пъти по-бърз от тези, с които обичайно си служим.[8]

Втората изключително важна подробност. След като всеки електрон е носител на данни, то всяка химична реакция, при която даден електрон преминава от една молекула в друга, представлява и пренос на данни. Колкото по-сложна е молекулата и химическата реакция, толкова повече данни по обем, респективно – по-сложни кодове (съдържания) могат да се предават по мрежовата верига. Такъв базисен за живота процес протича на биохимично ниво в гените. Това е обяснението на пренасянето на редица характеристики и способности от поколение на поколение, щото чрез своите ДНК и РНК „новороденият“ организъм да притежава необходимия минимум капацитети, за да просъществува. Паралелно гените носят кодирани данни, както за конкретния биологичен вид като такъв, така и за развитието на отделния индивид, комуто принадлежат.

Не на последно място следва да откроим и качеството на битовете от данни да се конфигурират и структурират в неизброими варианти, които могат да имат различни функции. Например, при компютрите наблюдаваме, как едни файлове просто консервират и съхраняват съдържания, други са командно-капацитетни, трети са синхронизиращи отделните етапи в дадена дейност или различни по цел и естество паралелни активности, трети тип са ангажирани с осъществяване на различни по вид взаимовръзки и пр. При живите организми организацията на ползваните и латентно запаметените данни е много по-сложна от компютърните файлове, алгоритми и програми. Учените в тази област въвеждат понятието pattern и често дискутират complex system of patterns. Битовете данни, обаче, представляват обща градивна единица, както за файловете, така и за pattern–ите.

Така, връщайки се към проблема интелигентност през призмата на философията на информацията, следва да се отбележи, че за да се правят прогнози с цел подготовка и провеждане на адекватна реакция в отговор към предстоящото, необходима предпоставка е преди всичко способността на живия индивид или ИА да идентифицира, улавя и разкодира данните, „обитаващи“ информационния пласт на Вселената. В тази мисъл е заложен и начинът за разграничаване и оценка на интелигентността на отделните видове форми на живот, както и на капацитета на ИА. Ето как: след като всяка химична реакция с размяна на електрони пренася и данни, то всеки жив организъм, включително и простите едноклетъчни, обработват данни, докато дишат, доколкото при последващата оксидация това се случва. Ясно е, че за да са живи, те по генетичен път са придобили код или кодове, които ги карат да дишат, да оцеляват и да се размножават. Това обаче като че ли в общи линии изчерпва тяхната „компетентност“ да правят прогнози за адекватно поведение в заобикалящата ги среда, сиреч и тяхната интелигентност. Не е нужно особено наблюдение, за да констатираме, че възможностите на бозайниците са доста по-богати, а да не говорим и за нашего брата. Обяснението е елементарно – степента на демонстрираната интелигентност от всеки отделен вид варира в зависимост от обема от данни и от сложността на кодовете, които той може да разчете и обработи, а впоследствие да запамети и изпълни. В тази насока, ключов въпрос е и този, дали освен по химичен и биохимичен път, конкретният биологичен вид или интелигентен агент може да разчита и данните, идващи до него под формата на електромагнитни и други сигнали. Същият подход разкрива и хоризонти за съпоставка на капацитета между отделните индивиди от даден вид, в това число и между личности, но в тази статия няма да се спирам на описание как е възможно това.

Все пак, от изложеното до тук вече е ясно, че запознаването със заобикалящата среда, в това число и на социалната при хората, неизбежно изисква постъпването на данни по генетичен път от родителите, съчетани с такива, които са външни за индивида. Заедно, те се подлагат на обработка, за да се генерира резултат, който, както при нас, така и при роботите, има прогностичен характер. Това наблюдаваме като принцип на работа на всички компютри, които сме проектирали и създали – от най-елементарните до най- сложните, носители на ИИ. По този въпрос е трудно да се каже, дали инженери и дизайнери предварително са изследвали човешката природа и маниери на действие, за да ги въплътят при машините, които създават, или по-скоро, след като са ги изобретили, се е установило, че може да се направи известен паралел между процедурите, прилагани от интелигентните технологии (Ай Ти) и хората, при ясното съзнание и за безспорните различия.

Една съществена разлика между нас и роботите се състои в начините и методите, по които „ние“ и „те“ боравим с идентифицираните и уловени данни и кодове. При физичните машини всичко е ясно – те прилагат бързи и разнообразни калкулации, т.е. нищо повече от чиста математика. А как е при човека? Споровете са големи. Мнозина смятат, че нашият вид оперира с уникални способности от интуитивно-феноменологично естество, за които пръв заговаря в началото на 20.ти век в Европа известният германски философ Едмунд Хусерл.[9] Най-общо, феноменолозите застъпват позицията, че за нас светът е само това, което преживяваме в него и винаги се ограничава в рамките само на това, което успяваме да разберем за себе си и битието си в него. Според този възглед нашите представи са водещи, за да бъдем изобщо и перспективата от първо лице доминира над всичко, тъй като смъртта слага края на света за всяка отделна личност без изключение. Следователно няма универсални и прецизни математически методи, по които човек прави своите прогнози и гради разбиранията си. Именно във философската неприложимост на универсални правила по отношение на всички хора феноменолозите виждат разликата между науката и философията От друга страна, обаче, едва ли може да има спор по въпроса, че на определен етап от развитието си, човек сам е открил математиката, респективно – нейната приложимост при обработката на данни. Тогава логично се питаме, защо да елиминираме напълно математичните способи като част от собствения си потенциал? В никакъв случай не твърдя, че при идентификацията, улавянето, разкодирането и последващото конструиране на битовете данни човек действа точно като робот. Възможно и много вероятно е да прилагаме и други – интуитивни и/или феноменологични подходи, които все още не сме изучили.

За разлика от феноменологическата и други философски школи и концепции, които поставят категорични демаркационни линии между философията и науката (считайки, че това са принципно различни сфери на човешкия анализ и обобщения), философията на информацията приема, че разликите между науката и философията са в избора на гледната точка и присъщата перспектива, докато изследователското поле е едно и също. Затова учените и философите следва да търсят и да намират съвместни комплексни интердисциплинарни решения при изучаването на света, естеството и мястото на човека в него. В този контекст философията задава изследователската макрорамка, поставя въпроса и търси отговори, как се случват едни или други неща, докато науката се занимава с темата какви точно причинно-следствени линии се срещат и пресичат в конкретната рамка и защо се случва едно или друго събитие в нея. В този дух, философията на информацията дефинира безспорна необходимост от партньорство с науката, независимо от нерядко случващата се значителна промяна на научната парадигма, коментирана детайлно от Thomas Kuhn.[10]

ВЪОБРАЖЕНИЕ и ИЗОБРАЗЯВАНЕ. Каква е същността на характерната за хората, някои животни и ИА динамичната пулсация между данните, информацията, виртуалния и физичния свят (в прав и обратен ред)? The inform-perform and perform-inform dynamics.

Философията фокусира вниманието си върху анализа на човешкото въображение от древността до наши дни. Най-често мислителите са склонни да коментират проблема като го разделят на две: възприятие и въображение.. В това отношение, интересна статия предлага Leslie Stevenson[11], в която са публикувани резултати от изследване на историята по темата въображение. Обобщени са дванадесет концепции, както следва:

Първите две визират възможността човек да мисли за нещо, което не е непосредствено пред очите му, т.е. той не го възприема в момента, но то е било, е, или ще бъде факт във физическата или социална реалност. Като частен случай на тази дефиниция се приема вариант, при който всъщност нещата не съществуват реално, но човек мисли обратното.
Други концепции настояват, че за въображение следва да се говори само в случаите, когато иде реч за изцяло измислени ситуации или случки (в този контекст – нереалистични) и човек е напълно наясно с това.
Концепция с по-обща перспектива към проблема твърди, че за въображение следва да говорим винаги, когато човек съумява да генерира образа на своите мисли в момента, когато последните са обект на вниманието му.
Обратно, има цяло течение във философията, което пледира, че въображението е ирационален процес, провокиран от конкретни факти, а не от причини, както това е при мисленето. Привържениците на тази гледна точка споделят мнението, че човек прилага въображението си именно и само когато не мисли. Те го отнасят повече към емоцията и вярват, че всички ние се забавляваме от „новородените“ свои представи.
Според Stevenson, много автори са застъпници на становището, че въображението е пряко свързано с нашите вярвания и убеждения, основани на спонтанните ни възприятия.
Друга група аналитици държат на виждането, че човек прилага творческо въображение всеки път, когато прави прогнози и планира действията си, както и във всички случаи, когато се опитва да си представи и вникне в чужди мисли, за да им отговори адекватно.
Не на последно място има и такива тези, които свързват въображението предимно с художественото творчество. Те твърдят, че не е оправдано да коментираме въображението, без да отчитаме емоцията и усета за красота като част от него. Тази философска платформа разглежда сънищата като частен случай на творчество.

Ако на този фон потърсим по-конкретни дефиниции, касаещи възприятието и въображението, лесно ще открием, че те варират в съответствие с упоменатите по-горе концепции:

Капацитетът на човека да прави връзка между образи и идеи.
Средата, в която мисленето и разсъждението се случват.
Способност на човека да борави с представи, как изглеждат нещата.

Въображението е действително копие на човешкия опит.
Въображението е възприятие на реалността и неин контрапункт.
Въображението е симулация, отразяваща реалния свят.
Въображението е синтезът на опита и асоциациите на човека в посока творческа креативност.
То касае по-скоро възможностите, отколкото реалната картина.
Разглежда се и в съчетание с емоциите като пречка пред разума.
Още, единствено и неизбежно средство, за да разбираме Бог (респективно – религията), историята си и др.

От пръв поглед е ясно, че всяко от тези виждания търпи критика и поне в някаква степен влиза в противоречие с останалите. За това и спорът е толкова дълголетен. Без да се впускаме в него, ще предоставим гледната точка на ФИ, която в основата си се свежда до следното:

Човек притежава способността да идентифицира и улавя данни от заобикалящите го физичен свят и социална среда. Тук под понятието „физичен свят” следва да се разбира и биологичната среда на собственото му тяло. Тези данни претърпяват трансдукция до мозъка му, където се кодират и запаметяват. Процесът включва денотиране на специфични съдържания и тяхното едновременно съотнасяне (чрез оценка и разсъждение) към вече запаметеното, било по наследство, било придобито от миналото. Процесът завършва със запаметяването на новите данни, организирани, конфигурирани и структурирани с множество връзки между стари и нови. Това е същината на човешката презентация.
При необходимост, дефинирана и обусловена от конкретно намерение, данните се извикват обратно от паметта. В общия случай се набавят и нови, които целенасочено се издирват според специфичните нужди, било от житейската среда, било от други консервирани бази данни (в т.ч. книги, филми, Интернет, разговори с други хора и т.н.).
Съчетанието на старите и ново-издирените данни се превръща в информация. Това става чрез преструктуриране, реорганизация и реконфигуриране, в резултат от които възниква репрезентация. Тя се състои в генерирането на информационен продукт (ИП) със синтетично естество. Синтетично, не само защото човек го изгражда на базата на свързване на отделни конструктивни елементи, които се превръщат в компоненти, но и защото този новосъздаден чрез обработка на данни ИП може да се интерпретира/представи по различни начини, без да променя същината си. А именно: може да се опише с думи, може да се изрази чрез действия, може да се визуализира (нарисува, изрази с жестове, или дори да се проектира, аранжира, построи, даже и да се заснеме от автора). В частен случай, може да се изсвири или излее в друга несловесна аудио форма. Именно този аспект на синтетичния ИП е дал основание да говорим, че дадени тези или концепции са синоним на вижданията по същия проблем, а всяка мисъл неизменно е свързана и с ясно различима гледна точка. Иначе казано, мисъл и образ са неразделно свързани в едно.

Ако читателят се върне към описаните по-горе други концепции и дефиниции, може би с изненада ще установи, че предложеният анализ на обработка на битове данни в три последователни стъпки не влиза в противоречие с нито една от тях. Дори сънищата, обяснени по този начин, намират смисъл като човешко преживяване, при което личността, докато спи не прилага в пълен обем „самонадзора“ си върху кодираните взаимовръзки, които участват в генеративния процес и в резултат, произведеният ИП е различен от обичайния. Друг е въпросът с какво и защо точно с него отделната личност подменя обичайно прилаганите кодове.

Важно е да се отбележи, че описаното наблюдение разкрива още една същностна особеност на ФИ – тя се стреми към сътрудничество и взаимно надграждане не само с науката, но и с колкото се може повече философски традиции и школи. С други думи, този дискурс не се стреми да отрича който и да е подход, а обратно. Търси всяко рационално зърно, родено от човешката ментална дейност, за да го приобщи, обоснове по нов начин и в крайна сметка, да обогати представите ни за света и самите нас. Ясно е обаче, че дори при най-голяма добронамереност, това не може да се случи с теории и виждания, почиващи на химери, мистицизъм и алогичност.

Веднъж създал свой конкретен ИП, всеки човек има възможността и винаги прилага избора си между два варианта: да го запамети и запази само за лично ползване (зад индивидуалния firewall, който всеки от нас оперира по природа), или да го сподели. За да се случи „експортът“ извън паметта (мозъка) на всичко онова, което човек е замислил, съобразил, оценил и си е представил, то следва да придобие нова форма, която да пренесе „новороденото“ съдържание от личното информационно ниво във заобикалящата го реална или социална среда. Този процес може да бъде най-сполучливо илюстриран, например, на английски език, който ползва един и същи корен за думите, знакови за този трансфер, а именно: при публикуването на inform се придава form чрез perform или transform. В най-общи линии, струва ми се напълно оправдано въпросното превъплъщение да носи името изобразяване – imaging[12], в смисъл, индивидуално произведеният ИП да стане обозрим (достъпен) за други външни наблюдатели, ако има или когато има такива. Това може да се случи най-малко по следните четири начина:

Реално – чрез действия от страна на човека, насочени към въплъщаване на генерирания от него ИП във физичната или социална среда.
Комбинация от реално и виртуално – чрез демонстрация на замисленото през поведението на неговия автор.
Изцяло виртуално – чрез изказано или записано словесно описание на замисленото. Този вариант допуска и рисунки, графики или други форми на илюстрация за презентиране на замисъла. Важно е да се отбележи, че за разлика от реалните действия за превъплъщение на генерирания ИП, виртуалното споделяне носи само незначителни последствия за физичната и социална среда, докато обратното води до ясно различими, трайни и необратими следи.
Виртуално представяне на сложни проекти. Това е особен случай, когато най-общо, стъпките за реална апликация на замисъла във физичната или социалната среда са множество и от степен на сложност, при която се очаква да настъпят много промени в хода на осъществяването му. Например, архитектурни проекти, сценарии на изяви със средствата на синтетичните изкуства, планове за научни експерименти и пр., които в начална фаза се презентират виртуално, за да бъдат одобрени за реализация.

Напълно възможно е тази диференциация между вариантите за изобразяване да бъде допълнена и разнообразена. Едва ли обаче е разумно и обосновано да поставим под съмнение модела на откриване, идентификация, улавяне на данните, кодиране, запаметяване, обратното им повикване във връзка с конкретно възникнало намерение и превръщането им в информация – последващата реконструкция на битовете от данни до момента, когато човек ги оцени като завършен ИП. Тук считам като изключително важно едно допълнение, свързано с неизменно прилагания самоконтрол от всяка личност. Този само-надзор има два същностни аспекта. Първият касае индивидуалното решение, дали изобщо да се демонстрира ИП, или ако се пристъпи към негова публикация, кога да се случи това. Вторият аспект се отнася само до случаите, при които човек е пристъпил към публикуване на своите мисли, независимо от това, коя от изброените по-горе форми е избрал за целта. Става дума за прилагането на непрекъсната самооценка, провеждана от автора в следните две насоки:

Съответства ли неговият performance на изначалния замисъл и ако не, то какви корекции следва да протекат при изобразяването за възстановяване на пълната кореспонденция между замисленото и неговата реализация.
Постоянно индивидуално наблюдение и анализ по какъв начин и до каква степен извършеното от самия автор променя заобикалящата го физична и социална среда, от гледна точка на генериране и оценка на свързаната с това прогноза за адекватно поведение към предстоящото да се случи.

Особеното в този процес е, че ако не паралелно с публикуването на своята информация, то с минимално закъснение, всяка личност прилага обратно събиране на данни, свързани с намерението самооценка. Така всъщност човек винаги се поставя в условията на постоянна пулсация inform–perform and perform–inform dynamics и по природа борави с нея. Първа в тази посока прави анализи Churchland[13], която има свои последователи, но едва след 2000 г. тези изследвания попадат в дискурса на ФИ. През последните почти две десетилетия този проблем намира своето изясняване в прав и обратен ред, а именно: човек експонира информация виртуално или реално, след което извлича обратно виртуалния компонент (данни), за да го подложи на последваща обработка на информационно ниво. При прилагане на тази несложна таксономия лесно се разграничават виртуалните данни, достъпни до всеки наблюдател (стига той да има капацитета да ги идентифицира и разчете скритото в тяхната конструкция съдържание) от информацията, която личността генерира в индивидуален план, във връзка със свое конкретно намерение. Към днешна дата именно в това се корени същностната разлика между човека и ИИ, а именно – АйТи следват инструкциите на своите алгоритми, защото разработените досега софтуерни решения не са способни да композират битовете данни така, че в резултат да създават свои оригинални намерения. В същото време решенията какво от математическата обработка на данните да се публикува и кога да стане това, е изцяло подчинено на командите, заложени от инженерите в програмите им. Ще се запази ли обаче тази разлика и в бъдеще?

НОВИТЕ ХОРИЗОНТИ на BIG DATA. Компютрите смятат по-бързо от нас. Превъзхождат ли ни и в друго?

Нека припомня. Big Data е такъв голям обем данни, които надхвърлят човешкия капацитет за индивидуална обработка. Т.е. и най-умният, и най-талантлив представител на нашия вид не би могъл да я възприеме, осмисли и да предложи разумни аргументирани изводи на нейна основа. Проблемът е още по-остър предвид динамиката на някои процеси, наблюдавани в Big Data среда. С други думи, дори да се опитаме сами да анализираме тези данни, нашите резултати ще дойдат в момент, когато са загубили актуалност.

На пръв поглед компютрите, които имат по-мощна от нас изчислителна сила, реално представляват инструмент в ръцете ни. Най-често това се случва в областта на математическото моделиране. Например, при изготвяне на прогнозата за времето. Тя изисква събиране и съобразяване на огромно множество данни, че ако се прави без или с относително бавни компютри, то очакваното от синоптиците за картината утре на база събрани данни днес по обяд, ще се формира след седмица. По тази причина дълги години майсторството на професионалистите в тази област изискваше компетентност кой от факторите, които следва да се вземат под внимание, да се игнорира в името на скоростта на изготвяне на прогнозата. Естествено, грешки не липсваха и точността на предвижданията куцаше. Днес, когато експлоатираните компютри са достатъчно бързи, прогнозата е много по-прецизна в развитието си през следващото денонощие, дори по часове.

Паралелно обаче, на съвременния етап, високата скорост на обработка на данни доведе до същностна промяна в друг аспект. До сега човечеството правеше своите прогнози предимно на основата на изучаване на различни причинно-следствени връзки. Такива, примерно, са законите на точните науки. Днес вече разполагаме и с нова опция. Изследването със средствата на математическото моделиране на отделни големи бази данни, които теоретично не би следвало да имат нещо общо, установява, че в тях са налице еднакви взаимовръзки, pattern-и и събития. В много от тези случаи няма яснота, защо е така, причинно-следствената линия не е очертана пред погледа ни. В същото време, можем да правим успешни прогнози, пренасяйки известното при един модел върху други, при които са обозрими подобни процеси на по-ранна фаза в развитието си. Понастоящем, такива изследвания текат и във физиката, и в социалните науки. Множество публикации коментират, че процеси, наблюдавани в Колайдера Церн и характерни за нивото на свръх-леките и свръх-бързо движещи се частици, се оказват аналогични в астрономията на ниво галактики. Причините за аналогията са неизвестни, но много от прогнозите, изготвени на тази основа се оказват успешни. Тази нова възможност не е 100% гарантирана, но това не пречи понякога да се използва, особено ако останалите варианти изглеждат изчерпани.

Друга промяна, която може да настъпи при бъдещото развитие и поведение на ИИ, се отнася до компютрите като физични машини, които сега са напълно предсказуеми в действията си съобразно командния арсенал на инсталираните в тях програми. Има сериозна вероятност Big Data да промени това. Доскоро, пълната прогнозируемост на извършваното от АйТи се обуславяше от факта, че човек имаше способността да предвиди и да си представи доста детайлно, пред какво ще бъдат изправени машините във всеки един момент от изпълнението на софтуера. Съответно, заложените в програмите инструкции за действия, свързани с контрол и оценка, описват подробно какво да се прави при постигането на един или друг междинен резултат по пътя към реализацията на крайната цел. По този начин, физичните прибори „избират“ правилното решение, как да процедират нататък.

При наличието на Big Data като среда, в която действа ИИ горната опция е неприложима, доколкото човек не е способен да прогнозира изчерпателно междинните резултати от всяка фаза на обработката на данните до постигането на крайната цел. Нещо повече, вероятно ще има и сфери на действие, при които необходимото темпо на работа ще изключи възможността за пауза, т.е., някакво „междучасие“, по време на което човек да прегледа постигнатото от автономната работа на компютрите, за да осмисли и регулира по-нататъшните им стъпки. На този фон очертаващите се възможности са две. Първата – компютрите нямат инструкции и блокират. Не съм Ай Ти експерт, но предполагам, че блокажът е най-вероятният резултат при сегашното ниво на дизайна на хардуер-софтуер партньорството. Ясно е, че този вариант е непродуктивен и твърде вероятно е при липса на конкретни команди в дадена ситуация, машините да бъдат програмирани да търсят допълнителни данни от най-разнообразни достъпни за тях източници, с цел да достигнат до математически конструиран вариант, който в еди-какъв процент е подобен на друг, за който притежават конкретни инструкции. Тогава ще „завалят“ изненадите за човек.

ПЕРСПЕКТИВИ ПРЕД ИНТЕЛЕКТА. Каква е диференциацията между програмиран и информиран (каквито са „те“), спрямо възпитан и образован (каквито сме ние)?

В българския език липсва прилагателно име, произтичащо от данни. Затова използваме „информиран“ и когато говорим за боравене с тях, а не само с информация. Важната разлика е, че в първия случай няма ясно формулирано намерение, а във втория има такова. Към днешна дата тази разлика е същностна, защото компютрите, респективно роботите, нямат свои намерения. Те следват инструкции за действия в посока целева обработка на данни.

В същото време, преди да изтъкваме разликите, нека да потърсим основната прилика между ИИ и нас. Това е капацитетът за запаметяване и съхраняване на данни с цел последваща употреба. Тази възможност е същностна за личността и за компютрите. Проблемът що е памет и какви видове бива тя е извън рамката на този текст. Тук експерти в областта на епистемологията, психологията, невро-биологията и др. са изписали томове и аз не съм компетентен да изказвам становище по техните спорове. Само ще отбележа, че без съмнение, в индивидуален план загубата на памет води до частична или пълна загуба и на личностни качества. Същото важи и при роботите – липсата на твърда или временна памет, или нейно излизане от строя анулира капацитета им да обработват данни.

С други думи, наличието на активно работеща и нормално функционираща памет е необходима предпоставка за интелектуална дейност, било от естествен или изкуствен характер.. Веднага правя уговорката, че ни най-малко не пренебрегвам разликите между капацитета на човешкия ум и онова, което могат и правят машините. Тук обаче е мястото да се подчертае, че по отношение на генерирането на ИП, както тялото при човека, така и някои компоненти от хардуера са ключови не само за структурирането и организацията на битовете от данни, но и за тяхното изобразяване в прецизирания му до тук смисъл. Иде реч за онези части от човешкия организъм, които осигуряват възможността за демонстрацията на създаденото в информационното ниво, било чрез реалното му въплъщаване, било във виртуален вариант. При компютрите говорим за тяхната периферия, или поне за някаква форма на дисплей на резултата от тяхната дейност, щото външни наблюдатели да могат да се запознаят с него. Това уточнение е важно, защото дава простор за следната хипотеза, която науката би могла евентуално да провери, потвърди или отрече. Предложеният модел не изключва възможността от съществуването на форми на живот, способни да генерират висококачествен ИП, но в развитието си, по една или друга причина да са лишени от органи и капацитети за неговото споделяне или друг вид демонстрация. Например, делфините. Този въпрос е илюстрация и за предложената по-горе теза, че философията може и трябва да задава макрорамки за научно дирене в общо изследователско поле.

Разбира се, образованието и опитът са нещо различно от паметта, при все че 100% зависят от нея. И тук текстът ще „заобиколи“ множеството концепции по темата и съпътстващите ги спорове, като се фокусира единствено върху факта, че и двете ни носят богат запас от данни. В духа на философията на информацията ще добавя само, че освен по други възможни критерии и съображения, знанието и опитът се различават от паметта по следното: различните възприети конструкции от битове данни са не просто съхранени и консервирани, за да могат да бъдат употребени при информационно-генеративен процес, но те са преминали и през динамиката на inform–perform и perform–inform пулсацията. В този контекст, освен от множество други фактори разликата между знанието и опита зависи от субективно приложената степен на тази динамика и генерираните заключения. Без съмнение, тази степен при теоретично приетите знания е по-малка в сравнение с човешкия опит, при който натрупването му се състои в многократно и много-циклично приложената inform–perform и perform–inform пулсация, съпътствана със запаметяване, както на успехите, така и на грешките. В този контекст ИИ за сега изостава спрямо човека, но има признаци, че ситуацията скоро ще се промени. Много програми вече са композирани така, че натрупват история. По този начин се постига известна „индивидуализация“ на данните, т.е., във времето Вашият Windows регистрира и запаметява различни извършени процеси и постигнати резултати в сравнение с моя. Ако в бъдеще програмистите успеят „да накарат“ роботите, примерно, чрез статистически анализ, да извличат резултати, близки по характер до нашите изводи и поуки, които впоследствие да се прилагат, то ние ще сме близо до своего рода самообучение или самовъзпитание от страна на машините.

РОБОТИ на ЕДНА РЪКА РАЗСТОЯНИЕ. Как виждаме роботите (които не просто идват, а са вече сред нас) – като наши роби, лични асистенти, черноработници, които ни заместват в неприятна или опасна среда, или като бъдещи самостоятелни личности? В тази връзка, трябват ли ни нови етични норми? Нужно ли е да инсталираме на роботите етика и ако е нужна, каква?

Това е австралийската играчка Gene. У нас струва около 35 лв. и употребява много езици, даже и български. Влиза в диалог. „Разговаря“ артистично. Поставя Ви задача да си намислите едно животно. Целта на играта е Gene да отгатне, какво сте намислили като задава въпроси, на които трябва да се отговаря с „да“, „не“, „зависи“ или „не знам“. За Ваша изненада, в много от случаите успява, стига австралийската фауна да не предлага алтернативно подобие на българската. Например, намислили сте си катеричка, а пък той отгатва ленивец, който е рунтав, живее по дърветата, има дълга опашка и се храни с ядки. В няколко австралийски училища роботи експериментално седят на чиновете в час, за да може следващото поколение да свиква с присъствието им.

Ясно е, че поне на първо време, роботите ще бъдат някаква забава. Подходът е същият като при компютрите – първо масово играехме с тях, за да счупим бариерата помежду ни и после постепенно усвоихме истинския им потенциал. Никак не бихме се разсърдили от тяхна прислуга. Например Asimо[14] (робот на Honda) може да сервира кафе или бира. Вън от съмнение е, че с удоволствие бихме им поверили всякаква неприятна работа, да не говорим пък ако условията носят и рискове за човека – примерно, при авария в АЕЦ.

Проблемът, обаче, е по-сериозен, защото при темпото на развитие, ИИ много бързо напусна терена на забавачката. Според прогнози на експерти в софтуера като McAfee[15], в близките 30-50 години компютрите изцяло ще изместят хората в много разнородни сфери като шофирането, правото, управлението на производства и финанси и др., защото просто ще са по-бързи, по-неуморими и по-добри от нас в тези области. И тогава отношенията ни с тях неизбежно ще се променят.

Преди няколко десетилетия известният писател фантаст Isaac Asimov формулира три закона на роботиката по следния начин:

Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда.
Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон.
Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон

Това става през 1942 г. В края на същото десетилетие британският учен Alan Turing[16] пръв заговаря и за ИИ, коментирайки елементарен (имагинерен тогава) експеримент. Той твърди, че ако човек влезе в диалог чрез клавиатура и дисплей, и в рамките на 15-20 минутна размяна на реплики не разбере, че си „приказва“ с машина, то ИИ е факт. И до днес Turing акумулира множество критики от разнообразен характер, но при все това, през 2014 г. има съобщения, че експериментът му успява над 50% при участието на статистически значима контролна група от хора[17]. В този текст няма да се спирам подробно на спора какво точно е ИИ и има ли го изобщо. Само ще отбележа парадокса, че човешкият род е дискутирал този проблем насред най-унищожителната война, която сам е подхванал и приключил с оръжие за масово поразяване като атомната бомба.

В този дух, етичните норми, заложени при законите на Asimov звучат хем романтично, хем наивно. Актуални ли са те днес? Представете си, че терорист взима заложници. На място има робот, който е в състояние да го елиминира, но не го прави, защото изпълнява първия закон. Обаче, ако трябва да се намеси, той следва да може да прави разликата между добро и зло, както и да ги съотнася по отношение на някого. В същото време, ще оставите ли детето си на грижите на изкуствен интелект, ако знаете, че хардуерът му е способен да убива?

На този фон ясно обозрими са и други проблеми, предстоящи пред нас в най-близко бъдеще. Преди да ги маркирам, моля, разгледайте снимките и видео-филмите в следните сайтове. Нямам представа как стои въпросът с правата за публикуването им и за това давам линкове към тях, а сигурно има и други:

Boston Dynamics (човекоподобни, насекомо и звероподобни роботи) http://www.bostondynamics.com/index.htmlhttp://www.bostondynamics.com/index.html
Роботи – птици: http://newatlas.com/flying-robot-raptor-birds-deter-nuisance-flocks/33563/
Роботи –змии: http://www.snakerobots.com/simulation.html
Хубо Айнщайн: http://www.hansonrobotics.com/robot/albert-einstein-hubo/

До скоро роботите се произвеждаха човекоподобни, възниски на ръст и не много тежки. Демонстрациите с тях бяха на принципа – един сред много човеци. Като че ли в семейството ни е дошло още едно, малко по-странно и причудливо дете. Само че нещата се промениха. Днес роботите могат да са и гиганти, и миниатюри. При инсталирана релевантна програма всеки от тях е в състояние да Ви победи на шах. Сега си представете, че сте сред малко затворено пространство сам(а) сред десетина великани на мехатрониката, или сто-двеста насекомо-подобни. Освен с физически действия, те могат да контактуват гласово с Вас, всеки поотделно, в хармоничен или разнопосочен хор.

Сега си представете, че всеки или много от тях заедно биха могли да обитават самостоятелно съседната Вам къща или апартамент, независимо дали приличат на железен човек, птица или някакво влечуго. Сутрин като се срещнете, всички те оперират способността да Ви поздравят любезно или да Ви наругаят на 50-тина езика. Помислете, как ще реагирате, ако това е бикът, лебедът или змията комшия, като тук не иде реч за метафори. Това не е фантастика! Днес те са в лабораториите, но Hanson Robotics предлага за покупка модели в серийно производство.

Вярвам, че сега въпросът за човека, роботите и взаимоотношенията помежду ни Ви изглежда различно, спрямо преди ден-два. Според мен, ключът към решението, какви отношения трябва да градим с роботи предполага следното. Трябва да сме наясно, че при контакта ни с тях, те ще градят своя Big Data за нас, ще я обработват подробно със статистически методи и ще разполагат с нашите профили. Ще бъдат „по-старателни“ и успешни и от най-съвестните агенти на специални служби, изпратени по петите ни, така че за роботите ние ще сме до голяма степен предсказуеми. Идеята, че робот има общ корен с роб не е вярна. Те ще бъдат наши асистенти само за кратко – докато ги развиваме и натрупат в паметта си достатъчно данни. После ще станат самостоятелни и това може би е стъпка на пост-еволюцията. Еволюцията свързваме с появата на нови биологични видове, дължаща се на промяна в гените. Механизмите, по които са възникнали тези мутации все още не са достатъчно изяснени и предизвикват множество спорове, в т. ч. и религиозни. За разлика от еволюционните процеси в минало време, в настоящия кратък от гл. т. на еволюционната история момент, създавайки и ползвайки услугите на изкуствения интелект, може би сме свидетели и участници в постеволюционно „сътворение”, различно от модифицирането на вече съществуващи гени, защото става дума за разработката на нов тип информационен продукт с подобни качества, който не почива на биологична основа. И независимо колко невероятно може да ни изглежда това сега, не бива да изключваме вероятността в бъдеще да ни се наложи да се учим да живеем с роботите така, както днес – с бежанците.

Може би най-интересното предстои и за да не ни изненада неприятно когато роботите се „размножат“ и се окажат само на една ръка разстояние, философията и особено философията на информацията, днес са ни нужни повече от всякога.

Библиография:

Adriaans, Peter and Dolf Zantinge (1996), Data Mining, Addison – Wesley Publ. Co., New York.
Churchland, Patricia S. (2002), Brain-Wise, Studies in Neuro-Philosophy, The MIT Press, Cambridge, MA, USA.
Dimitrov, Assen (2015). Science and Consciousness: Models and Challenges, (issued also in Bulgarian language – Наука и съзнание: модели и предизвикателства), Faber, Veliko Tarnovo, Bulgaria.
Floridi, Luciano (10 August 2001), Open Problems in the Philosophy of Information: The Herbert A. Simon Lecture on Computing and Philosophy, Carnegie Mellon University, USA. Preprint available at http://www.wolfson.ox.ac.uk/~floridi/papers.htm
Fredkin, Edward, Finite Nature, Boston University, Boston, 1992, available also at: http://64.78.31.152/wp-content/uploads/2012/08/finite_nature.pdf
Hanson D., Baurmann S., Riccio T., Margolin R., Dockins T., Tavares M., Carpenter, K. (2009), Zeno: a Cognitive Character, AI Magazine, and special Proc. of AAAI National Conference, Chicago, USA.
Husserl, Edmund, Ideas pertaining to a Pure Phenomenology and to a Phenomenological Philosophy, Second Book. Trans. Richard Rojcewicz and André Schuwer, Dordrecht and Boston: Kluwer Academic Publishers. From the German original unpublished manuscript of 1912, revised 1915, 1928. Known also as Ideas II, 1982.
Kuhn, Thomas, The Structure of the Scientific Revolutions, University of Chicago Press, USA, 1962.
Lazarov, Alexander (2015), The Digital World – Construction and Reality, LAP, Lambert Academic Publishing, Saarbrucken, Germany.
Lazarov, Alexander (2017), Imagination and Imaging – Informational and Phenomenological Issues, LAP, Lambert Academic Publishing, Saarbrucken, Germany.
Stevenson, Leslie (2003), Twelve Conceptions of Imagination, British Journal of Aesthetics, 43(3), pp. 238–259.
Toyabe, Shoichi, and Takahiro Sagawa, Masahito Ueda, Eiro Muneyuki, Masaki Sano (2010), Information heat engine: converting information to energy by feedback control: Nature of Physics Journal, 6 (12), 2010-09-29, Scientific American, New York.
Turing, Alan, Computing Machinery and Intelligence, Mind – A Quarterly Review of Psychology and Philosophy, Oxford University Press, Oxford, UK, October 1950, pp. 433–460.

Други източници от Интернет (изображения и видео):

Роботи – птици: http://newatlas.com/flying-robot-raptor-birds-deter-nuisance-flocks/33563/
Boston Dynamics (човекоподобни, насекомо и звяро-подобни роботи) http://www.bostondynamics.com/index.htmlhttp://www.bostondynamics.com/index.html
Роботи –змии: http://www.snakerobots.com/simulation.html
Хубо Айнщайн: http://www.hansonrobotics.com/robot/albert-einstein-hubo/
Asimo: http://asimo.honda.com/

Бележки

[1] Виждането принадлежи на Аристотел Гаврилов, представено от Dimitrov, A. I., Science and Consciousness: Models and Challenges, (issued in Bulgarian language – Наука и съзнание: модели и предизвикателства), Faber, Veliko Tarnovo, Bulgaria, 2015

[2] Hanson D., Baurmann S., Riccio T., Margolin R., Dockins T., Tavares M., Carpenter, K., “Zeno: a Cognitive Character”, AI Magazine, and special Proc. of AAAI National Conference, Chicago, 2009.

[3] Hanson D., Baurmann S., Riccio T., Margolin R., Dockins T., Tavares M., Carpenter, K., “Zeno: a Cognitive Character”, AI Magazine, and special Proc. of AAAI National Conference, Chicago, 2009.

[4] Родоначалниците на този дискурс са двама. Adriaans, Peter and Dolf Zantinge, Data Mining, Addison – Wesley Publ. Co., New York, 1996.

and

Floridi, Luciano, Open Problems in the Philosophy of Information: The Herbert A. Simon Lecture on Computing and Philosophy, Carnegie Mellon University, 10 August 2001, preprint available at http://www.wolfson.ox.ac.uk/~floridi/papers.htm

За по-обща представа за философията на информацията и за нейните последователи: www.informationphilosopher.com

[5] Lazarov, A. (2015), The Digital World – Construction and Reality, LAP, Lambert Academic Publishing, Saarbrucken, Germany.

[6] Toyabe, Shoichi, and Takahiro Sagawa, Masahito Ueda, Eiro Muneyuki, Masaki Sano (2010), Information heat engine: converting information to energy by feedback control: Nature of Physics Journal, 6 (12), 2010-09-29, Scientific American, New York.

[7] Fredkin, E., Finite Nature, Boston University, Boston, 1992, available also at: http://64.78.31.152/wp-content/uploads/2012/08/finite_nature.pdf

[8] Тази концепция е представена на достъпен език от изобретателя и ползвателя на първия квантов компютър Сет Лойд.. Seth Lloyd, (2013), The Computational Universe, Interview on Programming the Universe, available at http://www.edge.org/conversation/the-computational-universe 15.07.2013 Днес квантовият компютър се предлага за широка употреба (2017): http://www.nature.com/news/quantum-computers-ready-to-leap-out-of-the-lab-in-2017-1.21239

[9] Husserl, E. (1982), Ideas Pertaining to a Pure Phenomenology and to a Phenomenological Philosophy, Second Book. Trans. Richard Rojcewicz and André Schuwer, Dordrecht and Boston: Kluwer Academic Publishers. From the German original unpublished manuscript of 1912, revised 1915, 1928. Known also as Ideas II.

[10] Kuhn, Th. (1962), The Structure of the Scientific Revolutions, University of Chicago Press, USA.

[11] Stevenson, L. (2003), Twelve Conceptions of Imagination, British Journal of Aesthetics, 43(3), pp. 238–259.

[12] Lazarov, A. (2017), Imagination and Imaging – Informational and Phenomenological Issues, LAP, Lambert Academic Publishing, Saarbrucken, Germany.

[13] Churchland, P. S. (2002), Brain-Wise, Studies in Neuro-Philosophy, The MIT Press, Cambridge, MA, USA.

[14] http://asimo.honda.com/

[15] McAfee е създател на множество антивирусни програми: https://www.mcafeemobilesecurity.com/ През 2013 той излага обширно аргументирано становище по темата пред Science, Technology and Education Magazine: https://www.stem.org.uk/

[16] Turing, A. (October – 1950), Computing Machinery and Intelligence, Mind – A Quarterly Review of Psychology and Philosophy, Oxford University Press, Oxford, UK, pp. 433–460.

[17] The Life and Times of ‘Eugene Goostman Who Passed the Turing Test, available at http://mashable.com/2014/06/12/eugene-goostman-turing-test/#y3NoSakAxiqz

and also https://en.wikipedia.org/wiki/Eugene_Goostman