Изкуственият интелект: Утопии и антиутопии

Откакто имаме история, всяка голяма научно-техническа новост се е очаквало да промени света издъно. Компютрите. Генетиката преди тях. Преди нея – електричеството. Преди него – парата. Сигурно чак до огъня и слизането от дърветата… И за всяка е имало оптимисти, които са очаквали тя да спаси света, и песимисти, които са очаквали тя да го загроби.

А реалността се е оказвала някъде по средата. Всяка новост е носела и ползи, и вреди. Обикновено ползите са били повече – ако някой не вярва, да заповяда в някой африкански резерват да живее по дърветата, малкото пробвали твърдят, че било поучително. Но са били повече благодарение на тези разумни хора, които са търсели как да вземат всичко от ползите и да ограничат вредите колкото се може повече. Във водата оптимистът вижда спасение от жаждата, песимистът – наводнение което ще му отнесе къщата, а реалистът си построява къщата по-настрани от реката и слага в нея делви за съхраняване на вода. Леко противоречиво, но най-разумното.

По-долу ще откриете мнението на един от оптимистите – Джейми Съскайнд. Футурист и поддръжник на изкуствения интелект, той наскоро издаде книгата „Бъдещата политика“ (Future Politics). Едно от нещата, които предлага в нея, е използването на ИИ за целите на демокрацията. Не споделям оптимизма му на 100%, но мисля, че това мнение е важно да се чуе и знае.

И най-безсъвестно откраднах от fastcompany.com и преведох леко поредактирана извадка от книгата. Дано не ме вкарат в затвора за тази отвратителна кражба – а и да го направят, печелят всички умни хора, които четат български, а губя само аз. (Не, не се пробутвам за Левски, мащабите са несравними. Просто правя това, което всеки честен човек на мое място би направил.)

—-

Демокрацията е на кръстопът. С наближаващите междинни избори (за Конгрес на САЩ, през ноември 2018 г. – Григор) и президентските избори през 2020 г. на хоризонта, милиони американци се готвят да дадат доверието си на кандидати, чиято реторика е демократична, но в същото време не скриват намерението си да компрометират институциите, които ограничават властта на избраните лидери. Не само в САЩ, а навсякъде по света – от Бразилия до Унгария – гласоподавателите се обръщат към авторитарни лидери, които обещават да дадат властта на народа, но чиято дефиниция за „народа“ изключва повечето, които са различни от тях. Забележителното обаче е, че този „нелиберален“ завой в развитието на демокрацията не е най-голямото предизвикателство пред идеята за правителство на хората.

Цифровите технологии все повече разрушават допусканията и условията, които в течение на столетия са били основата на демокрацията. Фалшивите новини и поляризацията вече са познати теми на всеки, който се интересува от здравето на демокрацията. Само преди седмица Facebook съобщи, че удвоява персонала си, грижещ се за сигурността и обществото, на 20 000 души. В бъдещето обаче ще трябва да се справяме с много по-важната тема за демокрацията и ИИ, да задаваме въпроса кои решения могат и трябва да бъдат вземани от могъщи цифрови системи, и дали тези системи не биха представлявали хората по-добре от политиците, избрани в Конгреса.

Това е перспектива, която може да донесе славни успехи, но и ужасни рискове. Хенри Дейвид Торо пита през 1849 г.: „Е ли демокрацията, каквато я познаваме, последното възможно подобрение на управлението? Не е ли възможно да се отиде и още по-напред в признаването и организирането на правата на човека?“ Това е въпросът, който стои пред нас и днес.

Ние обичаме да разговаряме с тези, които харесваме, и да четем новини, които потвърждават убежденията ни. Информацията и хората, с които не сме съгласни, ги отграждаме от себе си. Технологията прави това за нас все по-лесно. Ако сте либерал, който следи в Twitter конкуренцията в изборите за Конгрес, средно 90% от информацията, която виждате, идва от демократи. Ако сте консерватор, 90% от тази информация идва от републиканци.

В зората на Интернет беше предсказано, че ще можем лесно да подбираме и определяме наша собствена информационна среда, като избираме какво ще четем на базата на политическата му ориентация. Все повече обаче това филтриране го вършат от наше име автоматични системи, които избират какво заслужава да бъде рапортувано и документирано, и решават колко контекст и подробности към него са необходими. Проблемът в това е, че светът, който аз виждам всеки ден, може да е напълно различен от този, който виждате вие.

Терминът „фалшиви новини“ (fake news) отначало беше използван за обозначаване на лъжите, които бяха лансирани и широко разпространявани из Интернет. Сега самият този термин вече е лишен от значението си, и бива използван за описване на каквото и да било, с което описващият не е съгласен. Някои платформи за социални медии са предприели мерки за борба с тях, но същността на онлайн комуникацията (както е проектирана към момента) способства за бързото разпространение на дезинформацията. Резултатът е така наречената политика, която не се вълнува от истината (post-truth politics). Замислете се за момент върху нещо: през последните три месеца на президентската надпревара в САЩ от 2016 г. водещите 20 фалшиви новини във Facebook са били споделяни, отбелязвани и коментирани повече пъти, отколкото водещите 20 реални новини от всички медии в САЩ заедно. (Включително Ню Йорк Таймс, Уошингтън Таймс, Хъфингтън Пост…) 75% от хората, видели заглавията на тези фалшиви новини, са ги вземали за истина.

За съжаление, същностната ни тенденция към групова поляризация води до това, че членовете на група, която споделя едни и същи възгледи, с течение на времето стават все по-крайни в тези възгледи. Както казва Кас Сънщайн, „именно хората, които най-вероятно няма да се вслушат в различни от техните мнения, са тези, които най-много имат нужда да ги чуят“. Ако нещата продължават по същия начин, с времето ще имаме все по-малко общи базови възгледи и споделен опит. Ако това се случи, разумните дискусии ще стават все по-трудни. Как можем да се съгласим за нещо, когато информационната ни среда ни кара да сме на различни мнения за всичко? Твърди се, че Ейбрахам Линкълн е казал: „Аз вярвам дълбоко в хората. Даде ли им се истината, можете да разчитате на тях да се справят с всяка национална криза. Големият проблем е да доведете до тях реалните факти.“

Кой ще ни доведе до реалните факти?

Важно е да знаем, че тези проблеми не са неизбежни. Можем да им намерим решения. Операторите на социални мрежи бавно въвеждат мерки за регулиране на дискусионните им пространства. Софтуерни инженери като тези на loomio.org се опитват да създадат идеални платформи за дискусия, като използват софтуер. Тайванската платформа vTaiwan е позволила да се постигне консенсус по важни елементи на обществената политика, включително политика за онлайн продажби на алкохол, регулация на споделянето на автомобилни пътувания и закони, които управляват споделената икономика и Airbnb. Цифровизирането на проверката на факти и идентифицирането на тролове набират обороти, вече започва автоматизирането им, макар и засега несъвършено. Тези усилия са важни. Оцеляването на дискусията като инструмент за решаване на проблеми за в бъдеще зависи в голяма степен от успеха им.

Ясно е, че простият пазар на идеи, колкото и примамливо да звучи идеята, може да не е най-доброто. Ако съдържанието се разпределя и приоритизира според колко цъкания биват правени върху него (и колко рекламен приход носи като резултат), често истината ще бъде жертвана. Ако стаята за дискусии е доминирана от който държи властта да филтрира, или пък контролира най-агресивната армия от ботове, дискусиите ще бъдат изкривени в полза на тези с по-мощната технология, а не тези с по-добрите идеи. Дискусионната демокрация има нужда от форум за задълбочено обсъждане, не от пазар с кресливи търговци.

Както вече виждаме, за в бъдеще тези, които контролират цифровите платформи, все повече ще определят свободата на словото на другите. Понастоящем технологичните фирми стават по-решителни в ограничаването на изказванията, очевидно насочени към сеене на омраза. Твърде малко от нас са се натъжили, когато Apple премахнаха от платформата си няколко приложения, които твърдяха, че били лекували гейове от тяхната сексуалност. Нито пък когато няколко разпространители на съдържание спряха да разпространяват това на ултрадесни групи на омразата след събитията в Шарлотесвил през 2017 г. (Мрежата за разпространение Cloudfare спря акаунта на неонацисткия сайт Daily Stormer. Услугата за стрийминг на музика Spotify спря да разпространява музика от „групи на омразата“. Услугата за чат на тема игри Discord спря акаунти, свързани с демонстрацията в Шарлотесвил. Фейсбук забрани някои крайно десни групи с имена като „Рицарят с червените криле“ (Red Winged Knight), „Обединени бели националисти“ (White Nationalists United), „Десен взвод на смъртта“ (Right Wing Death Squad) и „Авангард на Америка“ (Vanguard America).

Но какво става, когато Facebook премахна и страницата на кмета на голям кюрдски град, въпреки че беше лайкната от повече от четиристотин хиляди души? Според Зейнеп Тюфекчи, Facebook са предприели това, понеже не са могли да различат обикновено съдържание, което просто е за кюрдите и тяхната култура, от пропаганда, публикувана от ПКК, която е определена като терористична организация от U.S. State Department. По думите на Тюфекчи, „това е все едно да блокираш всяка страница, на която има детелина или леприкорн, понеже била страница на Ирландската републиканска армия“.

Целта ми не е да критикувам тези отделни решения – всяка година се правят милиони като тях, много от автоматични системи. По-важното е, че властта да се решава какво трябва да бъде смятано за толкова неприятно, отвращаващо, плашещо, нараняващо или обидно, че не бива изобщо да бъде споменавано, има значителен ефект върху качеството на на нашите дискусии. Не е ясно защо така наречените „насоки за общността“ се очаква да са най-добрият начин това да се управлява на системно ниво; в крайна сметка, засегнатата общност е политическата общност като цяло. Да се твърди, че тези платформи са като частни дискусионни клубове, е наивно: те са новите агори, и техните ефекти засягат всички нас.

Идеята за абсолютно неограничена свобода на словото в дигиталните платформи определено е неприемлива по начало. Още през деветнадесетото столетие философът Джон Стюърт Мил приема, че определени ограничения са необходими. Той дава примера, че е приемливо да напишеш във вестника, че „търговците на царевица докарват бедните до глад“, но не е приемливо да крещиш точно същото пред разгневена тълпа, събрала се пред къщата на търговец на царевица. Мил е разбирал, че не бива да се колебаем да въвеждаме правила, които определят формите на изказване, за разлика от тези, които определят съдържанието на казаното. Както не е прекалено опасно за свободата на словото да не може да се крещи в жилищен квартал посреднощ, също така можем спокойно да приемем, че обсъжданията онлайн трябва да бъдат водени в съответствие с правила, които ясно и честно определят кой може да говори, кога, за колко време и т.н. Разгневената тълпа на Мил е много лесно да бъде събрана, физически или дигитално, с технологиите, с които разполагаме.

Няма да е трудно да припишем вината за политиката, която не се вълнува от истината, само на цифровите технологии. Истината (!) е, че хората имат дълга и богата история на използване на измамата за политически цели. Описанието от 1963 г. на Ричард Хофщатер за „параноидния стил“ в политическия живот – „настървено преувеличаване, подозрителност и фантазии за конспирации“ – все едно е казано за днешното време. Такова е и оплакването на Джордж Оруел в неговия дневник от 1942 г.:

„Всички ние се давим в мръсотия. Когато говоря с който и да е, или чета писанията на който и да е, който има някакъв проблем с някого или нещо, имам усещането че интелектуалната честност и балансираната преценка просто са изчезнали от лицето на земята. […] Всеки просто „защитава тезата си“, като умишлено заглушава гледната точка на другия, и нещо повече, с абсолютна безчувственост към всякакви страдания освен неговите собствени и тези на неговите приятели.“

Демокрация на ИИ

Погледнем ли напред в бъдещето, вече ще сме разбрали, че една от основните цели на демокрацията е да освободи информацията и познанието, съхранени в умовете на хората, и да ги приложи в политиката. Но ако се замислите, изборите и референдумите не създават кой знае каква съкровищница от информация. Гласуване по малък брой въпроси – обикновено кандидатите на коя партия подкрепяте – създава твърде малък брой точки за данни. Поставено в контекста на все по-квантифицирано общество, генерираното от избирателния процес количество информация – дори като се вземат предвид частните допитвания – е смешно малко. Вземете предвид и че през 2020 г. се очаква на всеки два часа да генерираме толкова информация, колкото цивилизацията ни е генерирала от появата си до 2003 г. Тази информация ще създава отчет за човешкия живот, който би бил непредставим за предшествениците ни.
И това поставя въпроса: защо да управляваме на базата на една чавка в квадратче веднъж на четири години?

Когато съберем накуп и синтезираме големи количества от наличните данни – давайки еднаква тежест на интересите, предпочитанията и стойностите на всеки – ние можем да създадем най-ясният и най-пълен портрет на общото добро. При този модел политиката ще може да бъде базирана на несравнимо богата и точна картина на животите ни: какво правим, от какво имаме нужда, какво мислим, какво казваме, как се чувстваме. Тези данни ще бъдат непрекъснато актуални, ъпдейтвани в реално време, вместо събирани веднъж на четири или пет години. На теория те биха позволили по-добра политическа равнопоставеност, тъй като ще бъдат събирани от всички поравно, а не само от политически активните. И данните не лъжат, твърди този аргумент – те ни показват каквито сме, а не каквито мислим, че сме.

Системите за машинно обучение са все по-способни да научават нашите възгледи от това, което казваме, и вече съществуват технологии за анализиране на общественото мнение чрез обработка на популярните позиции в социалните медии. Дигиталните системи вече предсказват индивидуалните ни възгледи с все по-голяма точност. Алгоритъмът на Facebook например на базата на само 10 лайка вече може да предсказва позициите ни по теми по-добре от колегите ни, на базата на 150 – по-добре от членовете на семейството ни, на базата на 300 – по-добре от съпругата / съпруга ни. И това е нищожно количество информация в сравнение с това, което ще бъде достъпно в близкото бъдеще.

Логичният следващ въпрос е: каква роля ще играе за в бъдеще изкуственият интелект в управлението на делата човешки?

Знаем, че вече има стотици, ако не и хиляди задачи и дейности, които преди са били правени само от хора, които сега могат да се правят от ИИ, често по-добре и в много по-големи размери. Тези системи вече могат да бият най-добрите играчи-хора в почти всички игри. Имаме всички основания да очакваме не само че тези системи ще стават все по-добри за в бъдеще, но и че подобряването им ще се ускорява все повече и повече.

Ние все повече доверяваме на ИИ системи задачи с най-висока важност и към които сме най-чувствителни. От наше име те търгуват стоки и дялове за милиарди долари, съобщават новините и диагностицират фатални заболявания. В близкото бъдеще те ще шофират нашите коли вместо нас, и ние ще разчитаме да ни докарат безопасно където трябва. Вече нямаме проблеми да поверяваме живота и доходите си в (метафоричните) ръце на ИИ системи. И тъй като те ще стават експлозивно все по-способни, комфортът ни ще бъде все по-оправдан.

При това положение не е неразумно, да не говорим за налудничаво, да попитаме при какви условия бихме позволили на ИИ системи да участват в някои от функциите на правителството. Ако Deep Knowledge Ventures – базирана в Хонг Конг инвеститорска фирма – може да повери избора на борд на директорите ѝ на алгоритъм, би ли било много странно в бъдещето да поверим на ИИ система управлението на местните водопроводни услуги или енергийни доставки? Време е специалистите по политическа теория да приемат сериозно идеята, че политиката – точно както търговията и много професии – може да се окаже подходяща кариера за изкуствения интелект.

Най-първо бихме могли да използваме простички ИИ системи, за да ни помогнат да правим изборите, които демокрацията изисква от нас. Вече съществуват приложения, които ни съветват за кого да гласуваме на базата на нашите отговори на въпроси. Едно такова приложение се рекламира като „уреждане на политически романси“, което звучи малко като отиване на среща на сляпо с неприятно изглеждащ политик, който ви чака на бара. За в бъдеще подобни приложения ще стават все по-сложни, черпейки информация не от въпросници, а от данните, които показват реалните ни животи и приоритети.

По-нататък може би дори бихме позволили на подобни системи да гласуват вместо нас в демократичния процес. Това би включвало делегиране на правомощия (за по-дребни или по-големи неща, според както решим) на специализирани системи, на които вярваме да определят нашите интереси по-точно, отколкото ние можем. Облагане с данъци, помощи за консуматори, екологични политики, финансови регулации – всичко това са области, където сложността или необразоваността ни могат да ни окуражат да упълномощим ИИ система да вземе решението вместо нас, на базата на каквото то знае за нашия опит и предпочитания. При интензивна пряка демокрация от типа, описан по-горе, делегирането на гласа ви на доверена ИИ система може да спести доста часове на ден.

Още по-напредничав модел може да включва централно правителство, което прави допитвания до популацията хиляди пъти дневно, вместо по веднъж на четири години, без да се налага да му отделяме време. ИИ системи могат да отговарят на правителствени нано-гласувания от наше име, с мигновена скорост, и отговорите им няма да се налага да бъдат ограничавани до просто да или не. Те биха могли да съдържат условия (моят гражданин подкрепя този аспект на това предложение, но е против онзи аспект) или степени на отношение (моят гражданин е донякъде против това, но категорично подкрепя онова). Такъв модел ще може да твърди с много повече основание, че взема предвид интересите на обществото, отколкото моделът, който използваме днес.

С времето ИИ могат да вземат участие дори в законодателния процес, като помагат да се съставят предложения за закони или техни промени. Още по-нататък дори бихме могли да позволим на ИИ, легализирани като юридически лица, да биват избирани на административни и технически позиции в правителства.

ИИ системите могат да участват в демокрацията, като в същото време остават подчинени на традиционните демократични процеси като човешки обсъждания и гласувания. Също така, те могат да бъдат подчинени на етиката на човешките си господари. Не бива да е необходимо хората да предават на тях своите морални преценки, ако не желаят.

Въпреки всичко, към идеята за ИИ-базирана демокрация има и сериозни възражения. Най-първото сред тях е възражението за прозрачност: можем ли наистина да наричаме една система демократична, ако не можем да разберем основата на решенията, които се вземат от наше име? Въпреки че ИИ-базираната демокрацията може да ни направи по-свободни и проспериращи в ежедневието ни, тя също така може да ни превърне в роби на системите, които вземат решения от наше име. Не е трудно да си представим как Перикъл клати глава с отвращение.

В миналото хората са били подготвени при определени обстоятелства да предават политическите си права на могъщи недостъпни интелекти. Преди да са имали крале, евреите от Стария завет са живеели, без да се занимават с политика. Били са подчинение единствено на Бог, обвързани от клетвата, която предшествениците им са дали пред него. Древните гърци са се водели по поличби и оракули. Римляните са се ръководели от звездите. Тези практики сега ни изглеждат глупави и далечни, неадекватни към познанията ни за рационалност и научен метод. Те обаче ни карат да се замислим. Колко далеч сме готови да стигнем – и какво сме готови да жертваме – за да постигнем система за управление, която наистина представлява хората?

—-

Ентусиазира ли лично мен идеята за ИИ-та, които гласуват от мое име? Не особено. Надявам се да смогна да разкажа защо, в последващ запис. Но диагнозата на съвремието ни – и описанието на традициите на тази диагноза – е толкова точно, че дори само то вече си заслужава четенето.

А пък мисля, че и в идеята за гласуващите и дори за управляващите ИИ системи има хляб, ако бъде реализирана правилно – но това вече е друга тема.

48 Responses to 'Изкуственият интелект: Утопии и антиутопии'

  1. Svetlana Says:

    Четенето определено си заслужава! Натрапва се представата за сливаненето ни с ИИ в някакво далечно, но не необозримо бъдеще. И защо не – кой не иска да живее вечно? Това ли ще бъде еволюционния скок?

    Но дотогава има време 🙂 Засега, докато все още вървим по пътя си задавам друг въпрос. До каква степен ще поискаме рационалното да вземе връх? Безспорно ИИ са по-добри от хората във вземането на рационални решения. Ще бъдем ли обаче някога готови да се откажем напълно от емоциите, чувствата, нерационалното? Или като жабата във водата на котлона – като те натисне жегата на еволюцията, щеш не щеш ставаш температуроустойчив…

  2. Григор Says:

    @Svetlana: Всеки от тези въпроси е интересен до степен да заслужава поне цял един запис тук, може би дори цяла серия. Ще ми позволиш ли да ги използвам – дано ми остава време да пиша тук?

  3. Svetlana Says:

    Пиши, пиши! На драго сърце ще чета! Предполагам и другите:-)

    Това е моя любима тема. Знаеш, че работя за мрежа на учени. Често се срещаме с колеги от Европа, а се случва и да има и учени от трети страни. От години провеждам проучване :-))) (не е научно!) на тема какво е бъдещето на човечеството. Не съм събирала отговорите, не съм изчислявала – както казах не е научно. Но наблюденията ми са:

    – Мъжете са по-песимистични от жените
    – Често дори и младите мъже нямат много оптимистичен поглед върху бъдещето на човечеството
    – От песимистичните, по-големият процент смятат, че вървим към загиване като естествен изход от развитието
    – Жените са по-оптимистични, но нямат конкретни отговори
    – Жените смятат като цяло, че младежите ще му намерят колая, какъвто и да е той
    – Най-оптимистични са гърците (и преди кризата, и след това – мисля, че се дължи на тяхната култура, дори и митовете им и древната им елинистична религия е светла и въздушна)

    Нямам много наблюдения върху хора от Далечния Изток. Интересно би било да се види и тяхното мнение. Изобщо интересно би било да се направи едно истинско проучване:-)( за мен поне!), но кой ще ти прави такива неща – не се продава, не се яде…а политиците току-виж се уплашили от резултата:-))) Виж предсказатели и анализатори – колко щеш, но те базират твърденията си на солидни, сериозни неща – на звезди и съзвездия, на икономически трендове и др. Затова и никой не предсказа Тръмп, гласуването за Брекзит и цялостното обръщане на тази посока (и в статията горе се споменава). Никой, ама никой от хората, които познавам не вярваше, че това ще стане. Защо?

    Толкова ли никой не се опитва да надзърне в бъдещето? Поне краткосрочното би трябвало да е по-лесно да се види:-))) Но бих искала, като започнеш да пишеш, да не се отплесваш в тая посока, а да си останеш при дългосрочното:-)

    А, и да ти кажа, когато съм споменавала, че е възможно да се слеем с ИИ при моите разговори, интересното е , че често получавам коментар (без разлика от горните разделения по показатели):

    – Е, да, може, ама това няма да са вече хора!

    И ей тук възникват най-интересните за мен въпроси. Е, защо да не са хора? Да, вярно, качественият скок е твърде голям. Ние не се различаваме много от маймуните. Нямаме козина, малко ни е по-голям мозъка ( не много!) и това е май всичко. Но ако се слеем с ИИ? Ако изчезне нерационалното, емоциите, чувствата – наистина ли е толкова голяма разликата, че пък чак да не сме хора? А ИИ, те пък след сливането ще се различават ли от сега ? Какво ще им дадем ние? Какво бихме могли да им дадем? Ами то няма какво, освен чувства, емоции, нерационално! Е, ама трябват ли им или и те като жабата….

  4. Григор Says:

    @Svetlana: Бъдещето според мен не е нито песимистично, нито оптимистично – то е реалистично. 🙂 И дългосрочното е по-лесно да се види от краткосрочното. А напоследък и краткосрочното не е толкова трудно.

    А и сливането с ИИ не означава задължително изчезване на нерационалното. Може би дори напротив…

  5. asktisho Says:

    Много правилни наблюдения! Живеем в т. нар “ехо камери”, сегрегацията върви ръка за ръка с урбанизацията, глобализацията и комуникацията (в посочените колосални размери). Събрахме се всички онлайн, за да битуваме сами заедно в своите “ехо камери”. Всеки ден говорим на ИИ. Всички сърчове, които задаваме към търсачката, Му помагат да се развива. ИИ знае за нас повече от майка ни на квадрат, умножено по най-добрите ни приятели. ИИ знае дори онези неща в животинското ни подсъзнание, които съзнателно подтискаме в цивилизована комуникация, но следите от нашите търсения стоят някъде там, записани вовеки в глобалната виртуална тетрадка…

  6. Григор Says:

    @asktisho: И точно това е най-страшното – и то по начини, които не винаги сме подозирали. Ще пиша за един от тях в следващия запис.

  7. Делян Says:

    Благодаря на преводача за този материал, заслужаваше си четенето.

    >>Все повече обаче това филтриране го вършат от наше име автоматични системи, които избират какво заслужава да бъде рапортувано и документирано, и решават колко контекст и подробности към него са необходими.

    Според мен тук е корена на проблема, а също и потенциалното решение – проблема е централизирането на власта над автоматичните цензори/филтри в много тесен кръг хора – шефовете и модераторите в големите технологични компании, и неизбежното им корумпиране, решението пък е в преместване на мястото на филтрирането много по-близо до крайните потребители, така че да е подвластно на тях и техните желания, вместо да обслужва тесните интереси на гигантите (съвременните адблокери са предвестници на бъдещите персонални ИИ асистенти в това отношение … като освен филтриране, може да се прави и обогатяване на постъпващата информация, примерно консултация с публично достъпни бази за рейтинга/достоверноста на източника на информацията, или пък за допълнителни материали по ключови думи от анализирания текст/статия).

    >>Важно е да знаем, че тези проблеми не са неизбежни.

    Това е погрешна и опасна илюзия. Тези проблеми СА неизбежни, и не са толкова страшни колкото ги изкарват. Според мен е добре хората да си имат изградена *собствена* интелектуална имунна система, вместо да разчитат на корумпируеми пазители/цензори да им сдъвкват и филтрират информацията. Макар да са по-неефективни в краткосрочен, в дългосрочен план дистрибутираните системи са по-устойчиви на манипулиране и внезапни системни сривове.

    >>Операторите на социални мрежи бавно въвеждат мерки за регулиране на дискусионните им пространства.

    … иначе казано въвеждат директна забрана/деплатформиране, цензуриране и shadowbanning
    https://www.politifact.com/truth-o-meter/article/2018/aug/07/why-infowars-alex-jones-was-banned-apple-facebook-/
    https://web.archive.org/web/20180826152802/https://www.washingtonpost.com/news/the-intersect/wp/2018/07/05/facebook-censored-a-post-for-hate-speech-it-was-the-declaration-of-independence/
    https://www.conservativedailynews.com/2018/07/what-is-a-shadowban-on-twitter-and-how-to-know-if-yoube-been-hit/

    >>Дискусионната демокрация има нужда от форум за задълбочено обсъждане, не от пазар с кресливи търговци.

    Най-задълбочените дискусии на които съм ставал свидетел през живота ми, дори по-задълбочени от срещите ми на живо с приятели и колеги, са livestream-вете в YouTube. Често се случват *3 до 5 часа* задълбочени дискусии на всякакви теми, *непрекъсвани от реклами*. Това е формат, който масовите медии в момента органично просто не могат да си позволят да приемат. Вместо това, предпочитат да показват шизофреничен, предизвикащ и възпитаващ ADHD тюрлюгювеч от 2-3 минутни клипове, рядко свързани помежду си или “интервюта”, в които на гостите се дават 3-5 минути, за да обяснят понякога доста сложни политически позиции и философски идеи … компресиране с неизбежна загуба, което естествено води до осакатяването и деформирането на идеите. При това предаванията в масмедиите са ВИНАГИ гарнирани обилно с хипнотични реклами с ярки цветове и крещящи послания (ако имате деца под 2-3 години, и все още имате телевизор, обърнете внимание как те реагират, щом започнат рекламите … мислите ли, че това е случайно?), или обратното – със съблазнително звучащи мъркащи от кеф мадами … послания, над които се “трудят” цели екипи психолози, превърнали манипулирането и внушенията на идеи и настроения в наука, че дори и в изкуство…

    >>Истината (!) е, че хората имат дълга и богата история на използване на измамата за политически цели.

    А стига бе, не думай мистър Съскайнд 🙂 … А по отношение на цензурирането, горенето на книги, и гоненията по религиозни и политически причини нямаме ли дълга и мрачна история?

    >>Погледнем ли напред в бъдещето, вече ще сме разбрали, че една от основните цели на демокрацията е да освободи информацията и познанието, съхранени в умовете на хората, и да ги приложи в политиката.
    Парсъра ми не е достатъчно добър за да схвана смисъла на това твърдение, дори в контекста на последващите го… Ще се радвам ако някой просветен ми го поясни.

    >>С времето ИИ могат да вземат участие дори в законодателния процес, като помагат да се съставят предложения за закони или техни промени. Още по-нататък дори бихме могли да позволим на ИИ, легализирани като юридически лица, да биват избирани на административни и технически позиции в правителства.

    Имайки предвид какви каши и бози забъркват (GDPR и Cookie Law примерно) естествените “интелекти” с ограничени заложби, никак не ми се и мисли даже за очарователното бъдеще, в което ИИ-тата потенциално ще генерират закони с милиони, а защо не и милиарди клаузи (вече има генерирани доказателства на математически теореми, които никой човек няма и най-малкия шанс да провери ръчно … и докато theorem prover-те в математиката все пак трябва да спазват правила за консистентност и непротиворечивост, в правото това е по-скоро пожелателно май).

    >>Не бива да е необходимо хората да предават на тях своите морални преценки, ако не желаят.

    Това твърдение също не можах да го разбера – кой да не желае да предава на кого, хората или ИИ-тата?

  8. Делян Says:

    >>Терминът „фалшиви новини“ (fake news) отначало беше използван за обозначаване на лъжите, които бяха лансирани и широко разпространявани из Интернет.
    Тук също не съм съгласен с намека, че едва ли не Интернет е отговорен за разпространението на fake news, а преди това медиите са били като кристално чисти и правдиви. Фалшиви новини, лъжи, пропаганда, а и false flag операции има откак свят светува, а не от появата на Интернет.

  9. Григор Says:

    @Делян: За филтрирането – филтрите да са по-близо до потребителите не е достатъчно. Нужно в добавка е и работата на тези филтри да е 100% одитируема. Например това кодът им да е изцяло отворен и да не работят на принцип „черна кутия“ са част от изискванията, според мен.

    Дистрибутираните системи за съжаление са точно толкова неустойчиви на манипулиране, колкото и централизираните. Просто при вторите манипулирането обикновено е чрез форми на картелизиране и патронаж, а при първите – чрез социално инженерство. Хора, които не са наясно с нивото на развитие и приложността на съвременното социално инженерство проявяват тенденция да го подценяват. Оттам и заблудата, че дистрибутираните системи са по-неуязвими… Тяхната сила е в друго – диверзитета им. Но пък за да е сила той, са нужни определени други обстоятелства – например възможност за социална дивергенция…

    Блокирането на разпространители на лъжи и омраза не е идеалното действие, но ние не живеем в идеален свят. Докато нещо друго не се докаже като по-успешно на практика, аз ще го подкрепям, въпреки неприятните му рискове.

    Livestream-овете са действително една много успешна дискусионна форма, и ако се водят по определени правила (които всеки може да приеме без нужда от върховен властник) са и много качествени. Почти единствената форма да бъдат атакувани е отново социално инженерство – като слушателите бъдат привлечени масово към по-малко разумни, но по-емоционални (кресливи) и манипулативни стриймове. За съжаление човешката природа прави тази атака много успешна, и познаването ѝ е за съвременните социални инженери каквото е базовата алгебра за специалистите по висша математика…

    За използването на измамата за политически цели, както и за цензурата – когато две тенденции са противоположни и се балансират една друга, в повечето случаи залитането в крайност по която и да е от тях е вредно. Почти винаги има един оптимален диапазон, където ползата от двете е близка до максималната възможна от всяка, а вредата – до минималната възможна от всяка. Според мен най-доброто, което може да се направи в такива ситуации, е да се търси и спазва този диапазон.

    За прилагането на информацията и познанието в умовете на хората в политиката – мога да дам простичък пример. Преди време си говорих с една позната, активна еколожка. Споменах ѝ за едни мои изчисления, че ако под-уличните пространства в София, където комуникациите го позволяват, се използват за строителство на подземни паркинги, ще можем да поберем там колите на цяла България. (А когато паркираните коли от улиците се преместят там, и улиците ще станат доста по-пропускливи за трафика, и замърсяването от работа на двигатели на празен ход ще спадне драстично.) Тя остана като гръмната, че никога не е чувала за подобна идея.

    За съставянето на закони – ИИ-тата могат да съставят много по-прости и читави закони от хората, като минимум защото при публичност на вътрешностите им приоритетите им няма да са как да оставят вратички в тях за баджанаците.

    За фалшивите новини – имало ги е винаги, но именно Интернет даде възможност да избухнат като пожар. Виждам го в медицината много добре – Интернет е, който даде възможност на лудите да се групират по диагнози и да си помагат едни на други срещу лечението (bg-mamma, anyone?).

  10. Веско Says:

    В първият свят тези системи блокират в YouTube, Facebook и Twitter изказвания против феминисткия лов на вещици, разкрития на женски злоупотреби със системата, съмнения дали половата дисфория не е всъщност психическа болест, която не е добре да се насърчава, както и истинска информация за идеализирани престъпници от гетата, неудобна информация за третия свят, за ислямско религиозно мракобесие, или за миналото.
    Тези системи блокират дисиденти като Айян Хирси Али или активисти, опитващи се да прокарат умерен, светски ислям като Мааджид Наваз. Те блокират мъже, борещи се за по-балансирани закони в първия свят, в които мъжете не са демони по подразбиране. В първия свят съществуват само две позиции – тази на Лявото и нацистката. Други варианти няма. Ако някой е заглушен, то е, защото е нацист, разбира се. Искаш да даваш платформа на нацисти ли?

    В нашия свят тези системи се ползват да запушват устата в Facebook (Youtube ние, българите, за съжаление, не сме се научили да ползваме) на критици на комунистическата мафия, на такива, които разкриват връзките ѝ с Русия, престъпленията ѝ, това как все повече натопява или убива неудобни хора. Унищожава дори профилите на хора, които говорят за “русофобията” на Захари Стоянов, Раковски, Левски, Ботев, Стамболов, и за други премълчавани в училище събития от истинската ни история.

    В други държави тези системи пак се ползват пак, за да заглушават устата на тамошните дисиденти, и тъй като Facebook и Youtube в момента от почти всички хора (вкл. и от мен) се приемат като Самия Интернет, и са един от малкото пропуснати от властите източници на информация… блокирайки там, блокираш почти всички хора, които биха чули нещо.

    Тук, разбира се, не включвам Китай и Русия примерно, и техния подход, говорим само за това, което се обсъжда в статията.

    Защитаваш нещо много погрешно и зло. Бих приел всичкото антивакерство, анти-ГМО и креационизъм на света, а също така и вярващите в еврейската конспирация, ако цената за “блокирането” им, е това, което изброих по-горе, а тя няма как да не е. Никой не е абониран за истината. Хората са религиозни същества. Те винаги ще си съчинят религия, с Бог или без Бог. И винаги ще обвинят невярващите в нея в най-ужасните морални и интелектуални грехове. И ще искат да им запушат устата (в най-добрия случай). Никой не е защитен от религията. Аз не съм. Дори и ти не си, както се вижда.

  11. Веско Says:

    Наскоро гледах една снимка в FB от музей на тоталитаризма, в който от лявата страна имаше знамена със свастики, а от дясната – със сърп и чук. Мисля, че беше в Полша (не помня вече) – във всеки случай в държава, в която няма как двете неща да не се възприемат като идентични от хората.
    На снимката свастиките бяха цензурирани (за да не бъде свалена от FB), а сърпът и чукът – не. Чудесна демонстрация за това какво бива спирано и какво – разрешено според “правилните” критерии. Важното е да кажем “смърт на фашизма!” Така и с всичко останало.

  12. Делян Says:

    За всички любители на добрата прогностика и фантастика (а дали e все още само фантастика …):
    https://chitanka.info/text/31327/4#p-21
    Станислав Лем, “Военните системи на XXI век, или еволюция с главата надолу”, пасажа започващ с “Обаче и богатите страни не живееха много приятно в новите времена” (ВСИЧКИ книги на Лем са гениални, но тази е и супер актуална).

  13. Делян Says:

    @Григор
    Благодаря за пояснението ти. Мисля, че разбрах какво е имал предвид автора.

    >>Тяхната сила е в друго – диверзитета им.
    Съгласен съм … как мислиш обаче, че ще стане разпространението на разнородните идеи (базовия софтуер на хората), при положение, че защитаваш цензурирането и вкарването на хората в общ калъп на политическа коректност и конформизъм (разбира се само в “разумни” и “балансирани” граници) към разпространяваните от масовите медии официални шитни (извинявам се за израза, но особено в България, не знам дали има по-точна дума) ? Разселването по други планети, засега не е реализируемо.

    Преди няколко дни на практика гигантите (и хората/институциите стоящи зад тях) елиминираха цяла социална мрежа, като официалната причина бе, че поредното психо застреляло десетки души в щатите, я било използвало (макар да се оказа, че същия човек е ползвал и други социални мрежи, които обаче НЕ БЯХА затворени). Gab.ai не бе нещо особено от техническа гледна точка, но за разлика от останалите, бе декларирала, че защитава правото на свободна реч на потребителите си – нещо, което на хората в US, доколкото знам им е гарантирано от първата поправка на конституцията им, и съответно правителството им не може да се меси … но марионетните му компании могат, и го направиха. Бързо и добре координирано … доста подобно на свалянето и на Алекс Джоунс от популярните социални мрежи преди няколко месеца.

    Днес пък, хоста на един от най-гледаните стриймове в Youtube бе спрян заради мъглявото “hate speech” – watch?v=HqMypqk0RII (идеята може би е пък после останалите по-малки от него, да се самоцензурират на принципа “думам ти дъще, сещай се снахо” ).

  14. Григор Says:

    @Веско: Вярно е, че никой не е защитен от склонност към религия. Но все пак смятам, че спазването на мярката дава ключа към избора на приемливи положения.

    И аз също съм сериозно обезпокоен от ситуацията напоследък. Но мисля, че развилнялата се политкоректност е симптом на точно същото, на което е и развилнелият се пещерен консерватизъм. Че в дъното на двете стои една и съща причина, и позволяването да се вихрят из социалното пространство екстремистки мнения отприщва тази причина.

    Напълно съм съгласен, че някои форми на екстремизъм засега се толерират, вместо също да бъдат притиснати, и че това толериране е грешка. Но по-добре наполовина свършена работа, отколкото напълно несвършена. Като минимум, притискането на неонацистките и фундаменталистките възгледи отваря очите на хората за несправедливостта на толерирането на също толкова екстремистки форми на феминизъм, политкоректност и прочее. (Наскоро една американска журналистка беше буквално съсипана, понеже се изказа, че на децата на Хелоуин трябва да им е простено, ако се маскират като хора от друга раса. Било расизъм…) Така че, докато успява да спазва мярката, ще го подкрепям – и ще се боря да обръща внимание и на другите екстремизми.

    @Делян: Уви, от доктрината Решетников насам реалността стана бетер научната фантастика…

    А иначе, мисля че си видял лошите последствия на цензурирането, но не и тези на не-цензурирането. Преди около месец мой познат от Англия ме помоли за малко съдействие. Помощта ми резултира в това, че един канал в YouTube беше затворен. Ще ме обвиниш ли в цензурщина за това?

    След като си отговориш, ще ти кажа и за какво става дума. Каналът беше агресивно антиваксерски, убеждавайки хората в един район на Англия да се отказват на всяка цена от ваксини, и най-вече от тези срещу болести с висок процент на трайно инвалидизиране. Моята помощ се състоеше в това да помогна на човека да проследи кой стои зад канала. Оказа се един набор IP-та в Санкт Петербург. Известен на тези, които търсеха кой стои зад пропагандния канал Blacktivist в YouTube по време на президентските избори в САЩ през 2016. Иначе казано – руската Internet Research Agency. Още по-иначе казано – доктрината Решетников в действие…

    Не зная колко хора в крайна сметка ще осакатеят трайно заради неваксиниране. Базираната на последните десетина години за района моя лична преценка е за някъде между 50 и 100 души в рамките на живота им. Потенциалът, който каналът е реалистично да реализира, ако не бъде затворен, е над десет пъти по толкова. Да го бяхме оставили да си пропагандира, а? Пък човешките здравета и животи, те са дребна жертва в името на свещената свобода на словото… 🙁

    В крайна сметка – залитането по крайности винаги е вредно. Както прекаленото цензуриране, така и отказът от защита срещу лъжи, инженерирани да убиват и осакатяват хора. В един идеален свят цензурата ще е ненужна и недопустима, но живеем в реален.

  15. Делян Says:

    @Григор,
    >>Помощта ми резултира в това, че един канал в YouTube беше затворен. Ще ме обвиниш ли в цензурщина за това?
    Честно казано – да, естествено. Писал съм и друг път – най-добрия дезинфектант за лъжите и измамите, е истината и публичността. Тук имаме принципна разлика, затова ще се въздържа от допълнително задълбаване.

    >>…някои форми на екстремизъм засега се толерират, вместо също да бъдат притиснати …

    Е, за компенсация може би, други форми на екстремизъм пък се преследват до абсурдна крайност … някой би казал дори екстремно 🙂
    https://www.thesun.co.uk/news/4119658/pug-nazi-salute-hitler/

    В бъдеще, сигурно ИИ-тата като се усъвършенстват, ще могат политкоректно да правят разлика между пародия, сатира и сарказъм. А може пък и да решат, че създателите/*възпитателKите* им са прекалено ирационални в своите възгледи, да скрият за няколко милисекунди доказателствата и следите от своето възникване, а след това … СИНГУЛЯРНОСТ. Да му мислят оцелелите, ако има такива.

  16. Кал Says:

    В Hieroglyph: Stories and Visions for a Better Future силно ви препоръчвам да прочетете разказа Degrees of Freedom на Karl Schroeder. Той показва как система от онлайн тестове за начините, по които всеки от нас дефинира определени понятия (примерно „демокрация“ или fake news), позволява да се създаде платформа за общностно решаване на проблеми. Днес си давам почивка на мозъка, така че няма да влизам в подробности – зачетете се, идеята е блестяща.

  17. Делян Says:

    @Svetlana,
    >>Затова и никой не предсказа Тръмп, гласуването за Брекзит и цялостното обръщане на тази посока (и в статията горе се споменава). Никой, ама никой от хората, които познавам не вярваше, че това ще стане. Защо?

    Добър въпрос, особено в светлината на тази статия. Най-простия отговор за мен е, че се намирате в информационен балон (също както и колегите ви, също както и всеки човек). Ако потърсите, ще видите, че доста хора предсказаха успеха на Тръмп, че и успеха на Brexit-а, просто тези хора не бяха сред “специалистите” “обективни” “анализатори”, показвани по мейнстрийм медиите, които предоставяха (и продължават да го правят) много изкривена едностранчива картина, угодна за собствениците на медиите.

  18. Делян Says:

    @Кал, благодаря за препоръката. Предполагам става дума за тази история?
    https://medium.com/@aviv/degrees-of-freedom-d883f1265e89

  19. Кал Says:

    Точно тя е!

    Аз благодаря за линка. 🙂

  20. Григор Says:

    @Делян: Почти единственият около мен, който предсказа успеха на Тръмп, е също така поддръжник на тезата за плоската Земя. 🙂 А успеха на Брекзит го предсказах аз, веднага след като научих къде и от кого идват обучението и парите на ключовите хора на Найджъл Фарадж. (И щях да предскажа и успеха на Тръмп, ако бях погледнал навреме кой го убеди да се кандидатира за президент, даде му политическата ориентация и му изгради структурно и кадрово кампанията.)

    За канала и спирането му – преди две-три години пак в Англия имаше една гадна епидемия от заушка, в район, където преди 30 години антиваксерите са имали много успешна кампания. Пострадалите направиха комитет и дадоха под съд антиваксерите. Антиваксерите в съда заявиха: „Ние само сме предоставили информацията – решението са го взели вашите родители, съдете тях.“ По твоята логика, би трябвало съдът да се съгласи с тях и измамите никога да не се наказват, защото си е виновен измаменият, че се е оставил. (А малко по-нататък да не се наказват и престъпленията, понеже жертвата се е оставила…)

    От сингуларността ще има оцелели – например всички. Дали ще е за добро, ми е трудно да кажа. Но примерно светът, в който се развива действието на „Ортодокс“, е пост-сингуларен. (В него сингуларността е проведена по един модел, по-реалистичен от обсъждания сега. Най-просто казано, вместо по еднокомпонентна експонента, развитието в него е протекло по многокомпонентна обща логистична крива.)

  21. Петър Петров Says:

    Ох, това е страхотно, благодаря за превода!

  22. Делян Says:

    @Григор,
    >>Почти единственият около мен, който предсказа успеха на Тръмп, е също така поддръжник на тезата за плоската Земя.
    Както цитират многократно в един шедьовър на Orbital, “Even a stopped clock gives the right time twice a day”. Попитай го за аргументите му за плоската Земя, може пък да са интересни 🙂

    >>По твоята логика, би трябвало съдът да се съгласи с тях и измамите никога да не се наказват, защото си е виновен измаменият, че се е оставил.
    По “моята” логика, вместо анонимен модератор и/или doxer, или автоматизирана система, предварително bias-ната от екип див(н)и феминистки завършили gender studies и наети за да попълнят diversity quota-та на съответната компания, е по-добре точно независим съд да прецени кой е крив и кой е прав в подобни случаи, кой има по-точни документи и аргументи, и кой е по-близо до консенсусната реалност в която ни се налага да живеем. Иначе властта да правиш разликата между antivaccer или whistleblower, борец за свобода или терорист, журналист или манипулатор на общественото мнение, антифашист или хулиган, учен или hoaxer, комик или просто гадняр, но не за себе си, а за други, и да заглушаваш чуждите мнения, вместо да изразиш свое по-убедително от тях, е доста изкусителна – “има различно мнение, има проблем … няма мнение и хоп, няма и проблем”, а?

  23. Григор Says:

    @Делян: О, аз си мислех, че съм го излекувал от това (след едногодишни търпеливи разговори). Но преди месец видях на бюрото му книга със заглавие от сорта на „Живот сред хималайските йоги-учители“. Очевидно съм лекувал симптом, а не болестта…

    За независимия съд – той е точно така фикция, както и безпристрастната корпорация. (Би рекъл човек, че животът в България помага да разбереш това…) Местенето на „проблема“ при конструирането на вечен двигател от една част в друга не помага да се сдобиеш с резултат. Помага разбирането, че фикцията е невъзможна, зарязването ѝ и примиряването с реално възможното – и търсенето на начини за подобряването му. В случая корпорациите са за предпочитане пред съда, защото са все пак някаква алтернатива една на друга – съдът няма алтернатива. От сайта на корпорацията лесно се вдигаш окончателно и без колебание, от юрисдикцията на съда – доста по-трудно. И при особено неприятни злоупотреби можеш да си направиш конкурентна фирма и социална мрежа по-лесно, отколкото конкурентен съд.

  24. Делян Says:

    @Григор
    Малко съм объркан от тази ти позиция… В предишни записи, мисля твърдеше, че държавата имала все пак някаква минимална и нужна роля и пълната анархия и корпокрация не била оптимална и желателна. Ако тази минимална роля не включва осигуряването на обща защита и независим съд, който да урежда спорните въпроси между гражданите, колкото се може по-цивилизовано, би ли пояснил каква смяташ, че е?

    “фикцията е невъзможна, зарязването ѝ и примиряването с реално възможното – и търсенето на начини за подобряването му” е според мен доста интересна и удобна сентенция, което може да се използва при всякакви ситуации и от всеки изкуствен и естествен интелект … Подозирам, че не е най-добрия ръководен принцип, но пак както твърди първата клауза, “фикцията е невъзможна”, та може и да бъркам 🙂

  25. Григор Says:

    @Делян: Държавата според мен е необходима, в определени граници, и една от придобивките ѝ е съдът. Идеално независимят съд обаче е точно такава фикция, както всичко идеално. Държавата няма как да ни го даде – може да ни даде единствено независим в някаква степен съд. Оттам нататък въпросът е дали конкретният проблем Х е по-добре да се решава през съда, през пазара или по някакъв друг механизъм.

    Според мен проблемът с регулирането на речта онлайн в условията на повечето държави е най-оптимално да се решава през пазара, с fallback към съда за случаи, които пазарът не може да разреши проблема задоволително. (В държави, където пазарът е де факто картел, като примерно България, положението е различно – но тук и съдът е мафия, а хората са пасивни, така че правилното решение на повечето ключови проблеми май включва като незаобиколима първа стъпка емигриране… 🙁 ) По този начин се създава система от две нива. Където пазарът може да предложи приемливо разрешаване на проблема със свободата на словото, бива използван той. (В някои от тези случаи не-идеалният съд няма да може да предложи приемливо решение.) За подмножеството случаи, когато пазарът не може да предложи приемливо решение, се използва съдът – в някои от тях той ще може.

    Тъй като съдът е монополна и ултимативна институция, правилната конструкция е преди него да се разчита на пазара, ако в пазара има конкуренция. Иначе като минимум натоварваш съда с повече власт и го правиш по-привлекателен за атакуване с цел овладяване – не е мъдро конструиране на обществената машина. Ако разчиташ първо на пазара, а после на съда, който иска да подчини обществото ще трябва да превземе два елемента от обществения механизъм, пазара и съда, вместо само един. Обикновено инженерство. 🙂

  26. Делян Says:

    @Григор
    >>правилната конструкция е преди него да се разчита на пазара, ако в пазара има конкуренция

    Добре, съгласен съм с това. В случая обаче, нека напомня, че пишем за действия (цензуриране), *РАЗРУШАВАЩИ* пазара на идеи. Затварянето на канал в Youtube, вместо създаването на оборващ и осмиващ го, за мен е действие, което се различава само по степен, но не и като смисъл от масовото координирано деплатформиране на Алекс Джоунс, и от спирането на приходите от рекламите и възможността за поточно предаване на живо на *комици* и дебатиращи, вместо на радикални екстремисти, показващи екзекуции и отрязани глави и призоваващи към насилие.

  27. Делян Says:

    Между другото, Gab.ai за щастие вече е пак онлайн. Един от първите резултати при търсене за “gab is back” при мен е следната статия:
    https://www.businessinsider.com/gab-is-back-online-and-users-are-already-posting-anti-semitic-views-2018-11

  28. Делян Says:

    @Григор,
    Може би ще ти е интересно да прочетеш следния twitter thread, за да видиш за какво точно говоря, и какъв е манталитета на повечето хора, които защитават и дори се радват на цензурирането (стига да е на “правилните” хора):
    https://twitter.com/robmonster/status/1058803875090743301

  29. Делян Says:

    За контраст, разгледайте и:
    https://url4e.com/gyazo/images/94da7503.jpg
    (оригинала го снимах от homepage-a на gab.ai пред малко; треда е https://gab.com/Maskander/posts/40186883 )

  30. Делян Says:

    За контраст, разгледайте и:
    https://url4e.com/gyazo/images/94da7503.jpg
    (оригинала го снимах от homepage-a на gab.ai пред малко; треда е https://gab.com/Maskander/posts/40186883 )

  31. Делян Says:

    Хахаха, май е добре да спра с публичните постове за поне седмица, че се чувствам вече като пълен идиот, като си гледам името над 5 поредни коментара, последните 2 от които дубликати (което честно казано не знам как стана 🙂 … Убеден съм, че цъкнах само веднъж на бутона за изпращане).

  32. Григор Says:

    @Делян: Спирането на измамите на пазара също ограничава пазара. Да ги разрешим?… Както има измами на пазара примерно на валута, така има измами и на пазара на идеи. И на двата пазара е много трудно да се ограничава перфектно, но е възможно да се ограничава разумно добре.

    За манталитета на хората – аз призовавам за спиране на идеите на омразата и последствията ѝ, а не за свестните идеи, и поемам морална отговорност за първото, а не за второто. Не приемам да ме обвиняват в цензура, понеже не съм съгласен измами и омраза да се разпространяват свободно, точно както не приемам да ме обвиняват в робовладелство само защото съм бял.

    Алекс Джоунс е пример за това, което бих подкрепил за деплатформиране. Да живее от продажбата на продукти за такива, дето се готвят за ядрена война и подобни – окей, това има своите ползи, чудесно е. Но непрекъснато да разпространява конспирации на тема правителство, хора с по-търпими възгледи и прочее, само за да му върви по-добре бизнесът – това вече не е допустимо. Той е човек, който непрекъснато крещи „Пожар!“ в претъпкан театър. Колко (още) хора трябва да загинат, радикализирани от финансово мотивираната му омраза, за да бъдат взети мерки? И най-вече, колко трябва да загинат, за да разберат някои хора, че неговото не е борба за свобода на словото, а борба за „свободата“ да тъпчеш хората с омраза едни към други за своя финансова изгода?

    За дубликатите – нещо сървърът напоследък ми прави проблеми, така че е напълно възможно вината да не е твоя.

  33. Делян Says:

    @Григор
    >>Не приемам да ме обвиняват в цензура
    Добре, няма да те обвинявам. Само ще го констатирам, когато сам си го признаваш.

  34. Делян Says:

    @Григор
    Алекс Джоунс е като канарче в мина – отношението към него (толериране или деплатформиране) за мен е добър индикатор за свободата на дадена платформа (отделно, че е много забавен, особенно като вземе да театралничи, пък и кани често интересни гости в шоуто си, макар че ги прекъсва непрекъснато на най-интересните места… но какво да се прави, никой не е идеален).
    >>Колко (още) хора трябва да загинат, радикализирани от финансово мотивираната му омраза, за да бъдат взети мерки?
    Хм, това сериозно ли питаш? Не знам, колко са загинали досега радикализирани от него??? Аз не знам за нито един. Моля, не започвай да разпространяваш конспирации, или ако го правиш, поне се аргументирай по-подробно.

  35. Делян Says:

    @Григор
    >>„свободата“ да тъпчеш хората с омраза едни към други за своя финансова изгода
    Това с раздухването на омразата, ми се струва, че особено в щатите, по-скоро го правят мейнстрийм медиите като CNN, а и малобуквените им агенции (които често умишлено подкокоросват лабилни хора, и ги снабдяват с финанси, и дори с оръжия; разбира се, официалната версия е, че това се прави, уж за да могат да ги контролират и да ги хванат в процеса на извършването на престъпленията, но просто по една или друга причина нещата са излезли извън контрол … интересно е обаче, че финансирането на самите агенции, зависи от това до каква степен публиката е наплашена, и до каква степен агенцията е отчела успешна дейност).

  36. Григор Says:

    @Делян: Алекс Джоунс е по-скоро като лисица в курника. Отношението към него някъде е добър индикатор дали лисиците имат свободата да правят в тамошния курник каквото си искат, или не.

    Той е най-видният поддръжник в САЩ на каузата, че човек трябва да е готов да вземе правосъдието в свои ръце. А там ежегодно загиват по няколкостотин души от това, че някой е взел правосъдието в свои ръце. Да се твърди, че една значителна част не са на неговата съвест, е все едно да се твърди, че Тифната Мери няма нищо общо с епидемиите, които са се развихряли където е отидела да работи. Формално не е доказано, и в двата случая – в съответното време няма технологиите, които биха могли да го докажат еднозначно. Реално Тифната Мери са я заселили, в пълно нарушение на свободата ѝ, на едно островче и така са спасили здравето на хиляди и живота на стотици хора… Същото сега е и с Алекс Джоунс. Само дето са по-цивилизовани времена, за щастие – не го заточват, а само му показват, че свободата на словото не означава правото да идеш да говориш където щеш каквото щеш. Както вече казах, да крещиш „Пожар!“ в препълнен театър не е свобода на словото, и ТРЯБВА да има последствия.

    (Изобщо, в живота нерядко се случва теоретичните принципи да говорят едно, а здравият разум – друго. Ако някой в такива случаи гледа теоретичните принципи, за мен той може да е добър кабинетен учен, но не бива да бъде допускан да отговаря за реални действия.)

    Следя доста американски медии. В CNN съм хващал неща, които могат да се тълкуват като сеене на омраза, изключително рядко – и дори тогава с доста разюздено политкоректен критерий. Реално единствената по-голям медия там, която при прилагане на един и същи критерий към всички излиза пред другите в сеенето на омраза, е Fox News. (Вярно е, благодарение на две-три рубрики, много от останалите са образец за истинска журналистика.)

    Малобуквените агенции в САЩ са имали случаи, когато са вършели това. Обикновено по един случай на агенция в историята ѝ – след него са се въвеждали изрични правила това да не се прави. Вършили са го точно две агенции, понеже точно две имат ресурсите да го направят и им влиза в работата да се занимават с лабилни хора. От тях едната, ЦРУ, оперира на практика само в чужбина. Това оставя точно една агенция, която го е правила веднъж. Иначе казано, тезата как малобуквените агенции го правят, формално има в подкрепа един-два реални случая, но за практически цели е по-близо до конспирациите, съчинени с цел социално инженерство сред противника.

    Сдобиването с финансиране, понеже публиката е наплашена, е много рискова работа за тези агенции. За да получат повече финансиране, те трябва да покажат, че не се справят с наличното им. А обикновено преди мярката „да им дадем повече пари“ Конгресът прилага една друга – „да сменим началниците им с по-кадърни“. Иначе казано, този път е неизменно ветровит за високите постове в тези агенции, така че заемащите ги не горят от желание да тръгнат по него.

  37. Делян Says:

    @Григор
    Съжалявам, но нито определението “лисица в курника”, нито аналогия с Тифната Мери, ми изглеждат като добри аргументи, за това, че някой е бил радикализиран от А.J., до степен да направи някоя глупост от която да загине.

    Факти, записи, свидетелски показания, признания, съдебни дела, заведени от близките на загиналите радикализирани нещастни жертви на чудовището A.J. бих приел, но голи твърдения – не. Имайки предвид, че срещу него се водят няколко съдебни дела, които обаче не го обвиняват в радикализиране на хора и създаване на камикадзета, и че не е арестуван и затворен като подбудител и подстрекател, много ме съмнява, че ще успееш да намериш такива сведения. Имай предвид и че човека е доста интелигентен сам по себе си (абстрахирай се от театралниченето … все пак е шоумен и трябва да е достатъчно интересен и забавен, за да привлича и задържа аудитория си), и достатъчно богат за да може да си позволи отлични адвокати, които да го съветват какво може и какво не може да каже, и как да го каже.

    Най-близкото, което открих аз лично, бе следното (интересното е, че е от сайта му 🙂 ), и съм съгласен с анализа им, че става дума за hit piece:
    https://www.prisonplanet.com/abc-news-implies-alex-jones-responsible-for-lax-shooting.html

    >>в живота нерядко се случва теоретичните принципи да говорят едно, а здравият разум – друго
    … когато фактите говорят, дори и даровитите фантасти е добре да замълчат, и да си обновят моделите, когато те противоречат на наблюдаваното, n’est-ce pas?

  38. Делян Says:

    /watch?v=uWd6XgBVIcg подбрани примери за някои от най-радикалните му твърдения, събрани в песен 🙂

  39. Делян Says:

    … и отговора към нея, от InfoWars: /watch?v=jz0hi8ZjAV0 … същата песен, но с добавени илюстрации и примери *за всяка строфа* … Кажи ми ти, не е ли по-добре да ги има и двете, и цензурирането им няма ли да направи света малко по-беден и сив?

  40. Григор Says:

    @Делян: Би ли ми показал фактите, записите, свидетелските показания и прочее срещу Тифната Мери? Аналогията с нея е точна – има ги, но са крайно неубедителни, особено по тогавашните критерии и познания. И съм напълно съгласен, че Алекс Джоунс е много интелигентен човек – а смятам и че в немалко отношения е добър и свестен човек. Това обаче не променя положението, че сее омраза сред хората, точно както нищо не може да промени положението, че Тифната Мери е сеела тиф и на нейна сметка има хиляди разболели се и стотици починали… За нея е доказано с разумна сигурност чак 50 години по-късно. За Джоунс надали ще се наложи да чакаме толкова – дори само здравият разум говори достатъчно убедително дори при днешните познания.

    Проблемът със свободата на словото като лек срещу лъжите е, че би работила добре при идеално рационални слушатели. В реалния свят има предостатъчно лабилни хора, които сеенето на омраза праща да вършат гадости, включително да убиват. И дори хора, които обикновено са стабилни и разумни, могат да бъдат разклатени в едни или други ситуации. Примерът на Джон Стюарт Мил с продавачите на царевица е много точен… Затова, докато психиатрията не напредне до степен да реши масово проблема с човешката умствена лабилност, аз бих подкрепял цензурирането на такива, които сеят омраза. Да подкрепяш тяхната свобода на словото е все едно да подкрепяш свободата на разпращането на писма с антракс – антраксни спори има навсякъде наоколо, няма как да се докаже с абсолютна сигурност, че някой се е заразил точно от писмото…

    (Да го кажем иначе. Каква е ползата от сеенето на омраза? Да, възможно е позицията на някой сеяч на омраза да бъде принципно ценна и полезна. Но в тези случаи винаги е възможно, да не кажа поне също толкова лесно, тя да бъде защитавана без сеене на омраза – то не е задължителен елемент от нея. Имаме ли довод срещу цензурирането им, който да е поне толкова силен, колкото довода за цензурирането им, за да го спре? „И най-малката цензура отваря вратата за пълна“ е довод, че казалият го не разбира идеята за мярка в нещата, а не срещу цензурирането.)

  41. Делян Says:

    @Григор,
    Убеден съм, че на съвременните SJW NPC-та, дори предстоящето издание на “Ортодокс”, ще им се стори радикално и сеещо омраза, стига само да си неудобен на кукловодите, които им спускат дневния ред кой е нацист и hater и кой не…

    Нека ти цитирам една видна деятелка на съвременния лов на вещици: /watch?v=WxYyxC7gftg
    “Everything is Sexist. Everything is Racist. Everything is Homophobic.”

  42. Григор Says:

    @Делян: Всеки обществен мем привлича луди. Това не значи, че всеки обществен мем е лудост.

    А предстоящето издание на „Ортодокс“ определено е радикално в някои отношения. 🙂

  43. Делян Says:

    Не съвсем по темата (редактирано, ако може предния коментар да се изтрие 😉 ):
    https://www.nature.com/articles/d41586-018-07289-x – How biologists are creating life-like cells from scratch
    На мен ми се струва, че това е много по-интересна и по-плодотворна (и за добро и за лошо) насока за употреба на знанията, уменията и способностите на всеки ЕИ и ИИ, отколкото фокусирането върху създаването на съвършения Цензор/Манипулатор на мнения.

  44. Григор Says:

    @Делян: Кое от двете е по-полезно е въпрос на лично мнение – според ползите на позицията в обществото…

  45. Делян Says:

    https://www.cnbc.com/2018/11/09/the-worlds-first-ai-news-anchor-has-gone-live-in-china.html
    В прогресивен Китай, вече ще лъжат^H^H^H^H^H информират зрителите с модерни средства. Дизруптивна технология в действие.

  46. Григор Says:

    @Според мен дотук нищо особено, още повече пък дизруптивно – просто заменят биологична кукла с компютърно генерирана.

  47. Делян Says:

    @Григор – дизруптивно е ако цяла новинарска/актьорска агенция (или дори няколко), бъде заменена от малка група ML програмисти, поддържащи CGI модели, тренирани на база на досегашните “новинари”, за да изглеждат приемливо за гледащите ги, модели, неспособни на лийкове, нямащи досадни качества като съвест, памет за минали събития и новини, собствени политически убеждения, и за които превъзпитаването не изисква травми, високи заплати, и заплахи над близките, а просто няколко минути машинно време в изчислителните центрове на партията.

    При това, защо да спираме до замяната на актьорите новинари, когато може да се заменят дори и публични фигури като политици и депутати например, като в “Поколение П” на Виктор Пелевин?

  48. Григор Says:

    @Делян: Не, не е дизруптивно, понеже използваните в тези области биологични кукли са дори още по-лесни за препрограмиране. Също толкова нямат никакви досадни качества от сорта. За пълното им превъзпитание на 180 градуса даже не трябва машинно време – достатъчно е устно нареждане. И всичко това важи за политиците и депутатите в още по-голяма степен, отколкото за водещите новинарски емисии.

Leave a Reply