Изкуственият интелект: Утопии и антиутопии – 2

„И данните не лъжат, твърди този аргумент – те ни показват каквито сме, а не каквито мислим, че сме.“

Това може да бъде чудесно – но може да бъде и страшно.

Преди десетилетия четох най-първия сценарий за филма „Сталкер“, написан лично от братя Стругацки. В него е дадено повече място и по-подробно описание на една легенда и загадка, която бива спомената и във филма на Андрей Тарковски – легендата за Бодливеца… За не-челите „Пикник край пътя“ и не-гледалите филма, идеята е следната.

В един момент Земята бива посетена от нещо – най-вероятно извънземни, безкрайно по-напреднали от нас, напълно неразбираеми и напълно лишени от интерес към нас. Когато нещото си тръгва, на шест места по света остават след него т.нар. Зони – места, където се виждат най-невероятни и неразбираеми неща, природните закони могат да са изкривени, всичко може да е смъртно опасно и т.н. Местата биват охранявани от армия и изучавани без особен успех от учени. И в тях често се промъкват т.нар. сталкери – отчаяни смелчаци, които се опитват да измъкнат оттам каквото странно могат и да го продават на който би го купил.

Сюжетът проследява пътуването на трима през една от тези Зони. Единият е писател, загубил вдъхновението си. Другият – учен, движен от възгледите си. Третият – сталкерът, който ги води. Целта им е нещо, наричано Машината на желанията – място, където се сбъдват най-съкровените желания на отишлия там… Движейки се през опасностите, те обсъждат историята на най-великия сталкер, живял някога – Бодливеца – и се опитват да разберат загадката му, за да си изяснят какво всъщност ги чака.

Бодливеца е сталкерът, открил Машината на желанията. И е разбрал, че входът към нея се пази от нещо, наричано Месомелачката. Първият, опитал се да влезе, почти винаги загива по ужасяващ начин. След него за кратко време може да се мине спокойно… Бодливеца неведнъж ходи до Машината на желанията, водейки със себе си по някого. И всеки път се връща сам и все по-богат. Един ден, неуспял да намери вече наивник, отвежда брат си. Връща се както винаги сам – и нечувано богат… Но няколко дни по-късно тръгва натам отново, сам. За смайване на всички се връща, и е най-богатият човек на света. И същата вечер се обесва.

Преодолели всичко и застанали пред Месомелачката, тримата разгадават загадката. След като е жертвал брат си, Бодливеца осъзнава в какво се е превърнал и съвестта му проговаря. След няколко дни той не издържа и тръгва към Машината на желанията, за да умре или да измоли обратно брат си, на каквато и да е цена. Преминава през Месомелачката, кой знае защо пуснат от нея – може би защото е бил в такова състояние, че тя не го е смятала за човешко същество. И се моли пред Машината на желанията, от дъното на душата си… Но когато се връща, вижда че брат му го няма, а само е получил още повече пари – че алчността му се е оказала по-съкровена от любовта към брат му. И когато разбира това, се обесва.

Случайност отваря пътя на тримата към Машината на желанията. Но вече никой от тях не смее да влезе. Разбрали са, че истински ужасното там не е Месомелачката, а самата Машина на желанията. С това, че изпълнява наистина най-съкровените ти желания, и така ти показва истинската ти същност…

Мисля си – колцина от нас наистина носят най-дълбоко в себе си именно тези честни, чисти и благородни желания, които всички сме убедени, че са нашата същност? Когато си пред очите на сума ти народ, е лесно да развалиш комфорта си, за да помогнеш на някого в беда. Но когато никой няма да разбере, ще имаш ли силите? Дали общество, в което гласуваме по всеки въпрос според истинския си усет за него, няма да се окаже глутница бесни кучета, в която всеки атакува и ръфа без задръжки всеки изпречил му се? Етиката е социално явление – има ли как да я има когато си извън социума?

Вероятно това ще може да се направи подлежащо на (само)регулиране, евентуално след няколко лоши инцидента, които да обяснят на достатъчно хора нуждата. Но колко от хората ще искат да се регулират, когато пак няма да има кой да ги види какво всъщност правят? И когато те самите няма да виждат как ИИ гласува за тях да бъдат пратени по дяволите помощите за самотни майки или инвалиди, и няма да ги мъчи каквото е останало от съвестта им? Чърчил казва, че най-добрият аргумент срещу демокрацията е петминутен разговор със средния избирател. Да го префразирам – най-добрият аргумент срещу такова общество е петминутен разговор със средния българин. Ако някой се съмнява, да заповяда да погледне мнението му за бежанците от войни и други ужаси. Масовият българин охотно е готов да изкара тези бежанци всякакви престъпници, само и само да не му се наложи да дели с тях някоя хипотетична стотинка. И да ги върне без колебание под куршумите или където ще мрат от глад, за да не му се мотаят… (А ако тук стане война, този българин ще бяга някъде и там ще се възмущава защо са го настанили в приют, където чаршафите не се перат всеки ден и храната не е като в ресторант. И уреди ли си статут там, моментално пак ще праща тези след него на опашката обратно да мрат… Дай му на този масов българин ИИ да гласува вместо него, па гледай дали ще го настрои гласуването да е хуманно и мъдро – или да е дребнаво и злобно по неговата си мярка. И най-лошото е, че не само ние сме така. Много други народности са по-добре от нас, но твърде малко са толкова по-добре, че мероприятието да доведе до вземане на що-годе достойни решения.)

Това може да изглежда много неприятно, но е само началото. Взимането впредвид какво масовите хора всъщност искат ще наруши един особено фундаментален баланс, от който зависи съществуването и развитието на цивилизацията ни – балансът между либерализъм и консерватизъм, между стремеж към промени и стремеж към избягването им. Подкрепата за консерватизма ще стане смазваща. Развитието ще запази някакви шансове единствено където има възможност подкрепящите го да се отделят физически от противниците му и да образуват ново общество, в което да са мнозинство и което да взема свои отделни решения накъде да се движи. (А след едно-две поколения, или дори просто след известно развитие желанието за напредък ще се изчерпи и това общество също ще стане консервативно, и искащите развитие ще трябва отново да се отделят…)

Има ли разрешение този проблем? Бях се натъкнал на него преди около двайсет и пет години, тогава той имаше за мен толкова абстрактен вид, че едва успявах изобщо да го разбера. Опитите да конструирам обществена система, която да се справя с този проблем, доведоха до нещо, което хич не ми харесваше. Утеших се с мисълта, че всичко това е мъглявите фантазии на млад и недоучен БАН-аджия. А за да не отива на вятъра трудът ми, използвах получения модел като вселена за литературни произведения. Произведението, което се развива в тази вселена – имам и други, повечето недовършени – някои от вас са го чели (в много недоработен вариант), надявам се до месец да излезе в печатен и електронен вид… Но май нещата вървят към това този модел наистина да се окаже реалистичен – и дори може би единственият дългосрочно жизнеспособен за човешката цивилизация.

… Но това е далечна перспектива. Има и други аспекти, които и в по-близък план касаят идеята за участие на ИИ в управлението, като продължение на нашето гласуване или дори като преки изпълнители в него. И които могат да превърнат тази идея в благословия или проклятие… Но за тях – в последващ запис.

16 Responses to 'Изкуственият интелект: Утопии и антиутопии – 2'

  1. Петър Петров Says:

    Разликата между ИИ и ЕИ е, че ИИ е безмилостен. Повечето ЕИ не биха убивали деца, поради вродени инстинкти и чувство за добро-лошо. ИИ няма такива скрупули.

    Същото и за гласуването. Детски добавки ли? За моя човек не е оптимално. За обществото може би е, но не и за моя човек лично.

    Виждам как бързо би възникнал пазар на такива “агенти”. “Нашият нов личен съветник би ви спестил до 36% от годишните ви данъци! Само сега абонирайте се за услугите ни, ще ви струва 1% от годишните ви доходи, отстъпка ако се абонирате за цяло десетилетие!”

    И колко е лесно за необразованите и невежите да се вържат. Баба ми на село разправяше една история, съседка и се оплаквала че сметката и за телефон набъбнала много. Е, казала тя, отиди във Виваком и виж защо. Ами казали, че има нов абонаментен план. Ама ти подписала ли си за нов план? Бе де да знам, я ги не разбирам! Ама подписвала ли си нещо? Дойде веднъж една, разправя ми нещо, вика подпиши тук, я подписах. Е що подписа като не разбираш? Епа она така ми рече, пари не ми е искала, кво ми е да не подпиша.

    Е такива хора не можеш (и нямаш право) да спасяваш. Но ще се намери кой да ги накара да “подпишат” и това ще е една огромна група, концентрираща влияние “от името на (част от) народа”. Към момента бабата може да види лицето на А. Доган, как говори, как се усмихва, и да си каже “тоя ме кефи/не ме кефи”. С ИИ не става, нито го виждаш, нито го чуваш, нито го помирисваш.

  2. Петър Петров Says:

    Един линк пуснах, но не се вижда.

  3. Делян Says:

    @Петър Петров
    >>Повечето ЕИ не биха убивали деца, поради вродени инстинкти и чувство за добро-лошо.
    За жалост, войните и геноцидите, пък и статистиките за броя на абортите в мирно време, показват друго.

  4. Григор Says:

    @Петър Петров: За съжаление ЕИ също може да бъде точно толкова безмилостен. Stanley Milgram, anyone?

    Уви, необразованите и невежите са неспасяеми. И да могат да виждат Доган, „кво им е от него“ – къде е разликата с ИИ, дето не го виждат?… Шапка свалям на Хърбърт Уелс за точния израз – че цивилизацията е състезание между образованието и самоунищожението.

    @Делян: Леко съм скептичен за абортите като убийства. По тази логика, използването на презерватив не е ли убийство? За мен линията минава след абортите – те не са убийство. За теб тя минава пред абортите – те са убийство. За някой обаче тя може да минава още преди презерватива – той е убийство. (За четвърти пък може да минава още преди половото въздържание…) Как да постигнем съгласие къде да теглим линията? Ако не можем (или не е задължително) да го постигнем, пък как да живеем заедно с различните си мнения, без да стигаме до вражди?

  5. Делян Says:

    @Григор – не искам да вземам страна по въпроса. Само посочвам, че вродените инстинкти и чувството за добро-лошо възпитани в дадена култура, не са достатъчна спирачка срещу убиването.

  6. Делян Says:

    @Григор – според мен, жените са тези, които трябва да мислят дали е правилно или не да абортират. Мъжкото мнение по въпроса не е интересно – и да искаме, да родим не можем, нито можем в свободно общество да възпрепятстваме жените да го правят, ако решат.

  7. Петър Петров Says:

    Добре, пускам го пак без линк:

    /watch?v=hxTKqpxpnjg&t=2890

  8. Делян Says:

    @Петър Петров,
    Благодаря много за линка!

    “Учението на Попов е всесилно, защото е вярно.”
    Иван Попов, от корицата на “Хакери на човешките души”, 2004

  9. Григор Says:

    @Делян – идеята ми беше не да оспорвам една или друга позиция, а да дам пример как може да няма еднозначно правилна позиция. (Признавам си, че не ми се получи – наистина оставя впечатление за спор с позиция.)

    За абортирането – напълно съм съгласен. Макар че ако става дума за мое дете, е редно и аз да имам някакво право на глас, ако и не примерно цели 50%. (С днешните технологии „под 50% глас“ не значи нищо в обсъждане на аборт, но утре може да се окаже съществено. Примерно ако има как зародишът да се извади и доизноси от друга майка, или в изкуствена утроба. Или, ако трябва да си отприщя фантазията, от бащата…)

    А за спирачката срещу убиването – уви, и там съм напълно съгласен.

  10. E Says:

    Изкуствен или есетствен интелект, все отива към авторитарно управление…
    Един изкуствен ителект, както и един любим вожд, може да ни отлгежда чудесно и много ефективно, както ние отглеждаме бройлери и прасета за месо… трябва само да сипва на всеки вода и храна колкото му е необходимо и да следи да не си ядем от канчето на ближния и да не се кълвем.

    Имайки предвид опита и традициите ни с вождовете, не виждам прични един ден да пробваме и с изкуствен вожд.

  11. Делян Says:

    @E, за хората са нужни и зрелища, за да не скучаят и да не им остава време за вредни въпроси и съмнения.

  12. Григор Says:

    @Е: Че то сегашният ни вожд да не би да е естествен? Последните години вече е единствено бушонче на #КОЙ…

    @Делян: То поне да беше някоя плеймейтка, че да става за зрелище…

    (Апропо, чудя се къде ли се учи за плеймейтка. Тъй де, за повечето професии, които знам, си има обучение…)

  13. Делян Says:

    @Григор, не зная къде учат … Къде и кога държат изпити обаче, и как се става член на оценяващата комисия ми е много интересно 🙂 . Вероятно броя на нулите в банковата сметка на кандидат оценителя имат голямо значение, но може да има и други фактори …

  14. Григор Says:

    @Делян: Абе и на мен би ми било интересно как се става член на изпитната комисия, ама ме е страх да не научи за този интерес жена ми. 🙂

  15. Кал Says:

    Защо решихме, че (работещият) ИИ ще се отличава фундаментално от (работещия) ЕИ? Някои от основните школи, които изучават ИИ, смятат, че ИИ без симулация на емоции не би могъл да взема решения (надхвърлящи готовите алгоритми на сегашните „експертни системи“ – които са толкова ИИ, колкото аз съм Айнщайн). Понеже емоциите са много по-важен фактор в мотивацията ни, отколкото интелекта. На практика те задават посоката ни, а интелектът решава задачите по пътя. (Опростявам ужасно, но за толкова имам време сега.)

    Трудно ми е да приема и това: „Етиката е социално явление – има ли как да я има, когато си извън социума?“. Може би е проблем на дефиниции (например Григор нарича етиката на индивида „морал“), но аз много внимавам как се държа с другите не толкова заради натиска на обществото, а защото всяка нощ ми се налага да спя в едно легло със себе си. И ако не съм се държал „на ниво“, може изобщо да не спя…

    (А откъде ми е дошъл наборът от правила, който определя какво е „на ниво“? Само от социалните норми ли? Не мисля. При мен емпатията – съпреживяването на това, което причинявам на отсрещния човек – е по-мощният „определител“.

    Е, когато не мога да видя какво му причинявам – с всичките ни опосредстващи технологии – стигаме и до „непоисканото зло“…)

  16. Григор Says:

    @Кал: Мда… тук има материал за таман няколко дискусии…

Leave a Reply