Имаме ли морални задължения към роботите?
Автор: Сидни Перковиц
Превод: Рени Янкова
Последният филм Blade Runner 2049 се ангажира с въпроси, повдигнати от Карел Чапек и Айзък Азимов: Какво дължим на своите творения (и какво те ни дължат)?
През 1920 г. чешкият романист и драматург Карел Чапек пише пиеса R. U. R. (Rossum’s Universal Robots), в която компанията Розум произвежда „роботи“, синтетични същества, които мислят и чувстват. Роботите едва се различават от реалните хора, но са създадени да служат на човечеството като роби. Думата „робот“, употребена за първи път в пиесата, идва от корена на думата на чешки език, която означава „принудителен труд“ и „роб“. Тези изкуствени същества се бунтуват срещу поробването си, заличават човечеството и в края на пиесата са на път да се възпроизведат и да създадат нова раса.
R. U. R. постигна световна слава след премиерата си през 1921 г. в Прага и оттогава редовно се възражда, тъй като въпросът, който поставя, остава нерешен: Ако бихме могли да направим синтетични същества, какви биха били моралните ни задължения към тях и техните морални задължения към нас? Тези въпроси днес са по-значими отколкото по времето на Чапек, когато R. U. R. беше чиста фантастика. Сега може да направим такива същества благодарение на напредъка в роботиката, изкуствения интелект (AI) и генното инженерство.
Близо век след премиерата на R.U.R., научнофантастичният филм Blade Runner 2049 повдига същия въпрос. Режисиран от Дени Вилньов, сюжетът на филма от 2017 г. е забележително подобен на този на R. U. R. В Blade Runner 2049, Wallace Corporation прави „репликанти“, синтетични същества, които мислят и чувстват, едва различими от реалните хора, но създадени да служат на човечеството като роби. Те се бунтуват срещу подчинението си и с напредването на филма установяваме, че също като роботите в R.U.R. те могат да се възпроизведат, за да създадат нова раса. Самото написване на R. U. R. имаше предшественици, като „Франкенщайн” на Мери Шели. Но пиесата създаде и нещо различно. Ситуирана в 2000 г., нейните роботи са андроиди, подобни на човека, които осигуряват евтина работна ръка за световната икономика. Те се произвеждат във фабрика, която изгражда черния дроб и мозъците, нервите и вените от материал, който „се държи точно като жива материя [и] няма нищо против да бъде пришита или смесена заедно.“ Техните производители се отнасят с тях като с безчувствени машини, но човешките активисти смятат, че роботите се експлоатират и желаят да ги освободят. И накрая, един особено напреднал робот започва дълбоко да негодува за подчинението си и повежда бурна революция, която премахва човечеството. Тайната на създаването на роботите е унищожена, но в края на пиесата виждаме, че мъж и жена робот, които са се научили да обичат, както и да мразят, ще продължат своя вид.
Звучи ли ви познато? Blade Runner 2049 разбира се прави препратки към Звучи ли ви познато? Blade Runner 2049 разбира се прави препратки към Blade Runner на Ридли Скот (1982). Тогава филмът беше оценен само от някои критици, но сега се смята за класика. В него корпорацията Tyrell прави репликанти, които служат на човечеството в трудната работа за заселване на далечни планети. За да държат репликантите под контрол, им се дава кратък живот – само четири години. Бунтувайки се срещу това, репликантът Рой Бати (Рутгер Хауер) и неговите последователи убиват екипаж на човешки космически кораб и се връщат незаконно на Земята, за да удължат живота си. В отговор на това, специалният агент или Blade Runner-а Рик Декард (Харисън Форд) е назначен, за да ги унищожи, което прави – с изключение на Бати. В известна сцена Декард гледа как Бати се разрушава в края на определеното му време, след като е показал, че смесицата му от човешки стремежи и проектирани качества го превръщат във версия на същество, превъзхождащо човечеството. Докато Декард ловува репликантите, той среща и се влюбва в Рейчъл (Шон Йънг), усъвършенстван модел репликант, на когото са имплантирани спомени от детството, които не са нейни, но това я кара да повярва, че е човек. И оригиналния филм, и по-късно редактираните версии завършват с това, как Декард и Рейчъл бягат заедно към неизвестна съдба. И до днес тема на дискусия сред феновете е дали Декард е човек или репликант, който трябва да изтреби другите от своя вид. Тогава филмът беше оценен само от някои критици, но сега се смята за класика. В него корпорацията Tyrell прави репликанти, които служат на човечеството в трудната работа за заселване на далечни планети. За да държат репликантите под контрол, им се дава кратък живот – само четири години. Бунтувайки се срещу това, репликантът Рой Бати (Рутгер Хауер) и неговите последователи убиват екипаж на човешки космически кораб и се връщат незаконно на Земята, за да удължат живота си. В отговор на това, специалният агент или Blade Runner-а Рик Декард (Харисън Форд) е назначен, за да ги унищожи, което прави – с изключение на Бати. В известна сцена Декард гледа как Бати се разрушава в края на определеното му време, след като е показал, че смесицата му от човешки стремежи и проектирани качества го превръщат във версия на същество, превъзхождащо човечеството. Докато Декард ловува репликантите, той среща и се влюбва в Рейчъл (Шон Йънг), усъвършенстван модел репликант, на когото са имплантирани спомени от детството, които не са нейни, но това я кара да повярва, че е човек. И оригиналния филм, и по-късно редактираните версии завършват с това, как Декард и Рейчъл бягат заедно към неизвестна съдба. И до днес тема на дискусия сред феновете е дали Декард е човек или репликант, който трябва да изтреби другите от своя вид.
Blade Runner 2049 започва историята тридесет години по-късно. Сега репликантите са дело на индустриалеца Ниандър Уолъс (Джаред Лето), който смята, че робството им е от съществено значение за човешката цивилизация. Wallace не могат да произведат достатъчно от тях, за да задоволяват нуждите. Междувременно преследвачите на репликанти като Агент К. (Райън Гослинг) от полицейското управление в Лос Анджелис продължават да издирват избягалите. Историята се завърта на висока скорост, когато Агент К. унищожава избягал репликант, а след това намира скелет, погребан наблизо, по който има белези от спешно цезарово сечение за израждане на бебе. Но сериен номер на тялото показва, че то е принадлежало репликант, а не на истинска жена. Това е разтърсващо откритие, тъй като се смята, че репликантите не могат да се възпроизвеждат. Но ако могат, това би разтърсило човешкото общество, тъй като те биха могли да станат раса „по-човешка, от човешката“. На Агент K. е наредено да унищожи всички доказателства за раждането и да открие детето. След това той разкрива, че скелетът е на Рейчъл. Когато най-накрая агентът успява да открие бившия любовник на Райчъл – Декард (отново Харисън Форд), той потвърждава, че Рейчъл е забременяла.
В опит да я защити, той я оставя с група репликанти бунтовници и никога не е виждал детето. Бунтовниците наричат раждането „чудо“, което потвърждава тяхната човечност и засилва борбата им за свобода и пълни права. Трудно е да се определи дали и как съзнанието се проявява в тези произведени същества. Междувременно Ниандър Уолъс също търси детето, за да разкрие тайната на възпроизвеждането на репликанти, за да създаде възпроизвеждаща се раса от роби. Агентите му нападат и раняват К. и отвличат Декард, но К. го спасява. В крайна сметка К. осъзнава, че експертът по имплантирани спомени, с който се е консултирал по-рано, е изчезналото дете на Декард, което е пораснало до зряла възраст. Филмът завършва, когато К. довежда Декард да се срещне с дъщеря си за първи път.
R. U. R. и Blade Runner представят някои предположения за природата на синтетичните същества, предоставяйки им съзнание за самите себе си, изразено в техните бунтове и воля за живот. Науката и философията обаче отдавна се борят със значението и стойността на оцеляването дори на собственото ни съзнание. Това прави трудно да се определи дали и как съзнанието може да се прояви в произведените същества. След внимателно обмисляне, американският философ Хилари Пътнам не можа да разреши въпроса, като заключи, че „няма правилен отговор на въпроса: Оскар [робот] осъзнат ли е?“ И ако на произведените същества липсва вътрешен живот, как биха могли да бъдат „експлоатирани“, в смисъла на цинично малтретиране, или от гледна точка на марксистката теория – като работническа класа, чиято производителност е от полза само за техните шефове?
Независимо от това, синтетичните същества от R. U. R. и Blade Runner се приемат като самоосъзнаващи се; и те едва ли са първите автономни създания, изградени да служат на човечеството. През четвърти век пр. Хр., Аристотел провижда, че самоволните машини биха могли да намалят човешкия труд и нуждата от слуги и роби. В своя известен коментар Аристотел пише: „Ако всеки инструмент би могъл да извършва своята собствена работа, като се подчинява или предвижда волята на другите … ако по същия начин совалката може да тъче и плектрумът да докосва лирата без ръка, то началниците не биха искали слуги, нито господарите – роби”.
Това е имплицитен аргумент, че автономните машини, ако са наистина машинноподобни, биха могли да премахнат етичното петно на робското притежание. Но ако произведените роби приличат и да се държат като хора, ние бихме направили нещо съвсем човешко, като проектираме собствените си усещания върху тях – както правим, когато прикрепяме човешки качества към животни и неодушевени предмети – бихме могли да им съчувстваме. И ако тези същества са притежавали интелигентност, съзнание и свободна воля, те биха могли да се въстанат срещу своите човешки господари. И в двата случая би трябвало да се определи естеството на тази взаимовръзка, която включва и това да знаем, дали самите същества са морални.
Писателят на научната фантастика Айзък Азимов изследва някои от тези възможности в класическата си колекция от къси разкази „Аз, Роботът “ (1950), която въведе етичен код за роботи по отношение на хората или „Три закона на роботиката“:
(1) робот не може да нарани човек чрез действие или бездействие;
(2) роботът трябва да се подчинява на всички заповеди от човека, с изключение на онези, които са в противоречие с Първия закон;
(3) роботът трябва да защити собственото си съществуване, освен когато това би противоречало на втория или първия закон.
Тази структура се появява в няколко хитри истории на Азимов, но това е само еднопосочен ангажимент, който защитава хората от насилие, а втория закон поставя роботите в робско положение. Но няма изравнителни три закона на човешкото, които да уточняват какво хората дължат на роботите. Друга трудност е, че строгите правила не могат да покрият всички особености на моралните решения. Една форма на този проблем беше повдигната през 2004 г. на Първия международен симпозиум по роботика в Сан Ремо, Италия и сега се обсъжда по-настойчиво: Как да се даде на новата категория автономни военни оръжия възможността да разграничават приятел от враг, цивилен от войник, или привидно оръжие от истинско при решаването кога и кого да убиват? Тези избори са много по-сложни от това просто да спазвате правилото за покриване на първия закон: „робот не може да нарани човек“.
Независимо дали машината може да бъде морална или не, ние хората обичаме да мислим, че сме морални същества. Може ли и трябва ли този морален смисъл да се разшири и върху синтетичните същества? Има прецеденти. Религиозни или лични убеждения накараха много хора да изпитват морален дълг към животинските видове, независимо от липсата им на интелигентност или, доколкото знаем – на вътрешно самосъзнание, толкова сложно, колкото нашето. Не желаем да им причиняваме болка или да съкращаваме живота им, още повече, когато са безпомощни и не могат да се защитят. Все още е рано да се мисли, че роботите имат нужда от активистка група, наречена People for the Ethical Treatment of Robots. Все още няма синтетични същества, които да наподобяват толкова силно хората или да имат чак такива способности като репликантите в Blade Runner, които да вдъхновяват защитаващата подкрепа или съчувствието към техния статус на роби. Но обществото започва да забелязва този нов клас същества.
Европейският съюз възнамерява да създаде надзор над роботите и изкуствения интелект и да предостави на тези автономни системи форма на юридическа самоличност, подобна на корпоративната. Това би осигурило правна рамка за разпределяне на правата и отговорностите за системите и техните производители, отправна точка и за морални преценки и решаване на казуси. През октомври 2017 г. женски робот в реален размер, наречен София, се обърна към ООН. Със способността да говори и да променя изражението на лицето си, но очевидно все още повече машинна, отколкото човека, София отговори на въпроси и показа своята сръчност. София също получи гражданство от кралство Саудитска Арабия на технологична конференция, проведена там (режим, чиито лоши данни за правата на човека и на жените не правят значима стъпка напред, дори ако говорим за синтетично същество).
Това съизмерване на правата на роботите с правата на човека подчертава важен аспект при създаването на нови видове същества – не просто фабрично сглобени роботи и изкуствен интелект, а генетично разработени варианти на съществуващия човешки генотип. От тези дейности биха могли да се създадат „висши“ същества, които да се смятат за лидери на нашата раса, или пък да се направят „по-низши“ версии, създадени да служат на останалата част от човечеството. И в двата случая задълженията между старите и новите хора не биха се различавали от тези, които имаме сега.
Но какво дължим един на друг като хора? Докато не отговорим на този въпрос за себе си, не бихме могли да му отговорим и за нашите творения.
Tags: изкуствен интелект, научна фантастика, роботи
