Кабінет жахів

Повстання машин та захоплення влади штучним інтелектом. Світ повного стеження та соціального контролю. Ядерна війна та виродження цивілізації. Багато похмурих бачень майбутнього, намальованих багато років тому, мали статися сьогодні. А ми тим часом оглядаємось і здається, що їх і не було. Ви впевнені?

Існує досить стереотипний репертуар популярних антиутопічні пророцтва (щодо чорного бачення майбутнього). Крім найбільш поширених, пов'язаних з руйнуванням природного середовища та ресурсів, поширена думка, що новітні технології завдають шкоди міжособистісному спілкуванню, відносинам і суспільству.

Віртуальний простір оманливо замінить реальну участь у світі. Інші антиутопічні погляди розглядають технологічний розвиток як спосіб збільшення соціальної нерівності, концентрації влади та багатства у руках вузьких груп. Високі вимоги сучасних технологій концентрують знання та навички у вузьких колах привілейованих осіб, посилюють нагляд за людьми та руйнують приватне життя.

На думку багатьох футуристів, більш висока продуктивність і розширення видимого вибору можуть завдати шкоди якості життя людини, спричиняючи стрес, ставлячи під загрозу робочі місця, роблячи нас все більш матеріалістичними по відношенню до світу.

Один з відомих технологічних «антіутопістів», Джеймс Глейк, Наводить, здавалося б, тривіальний приклад пульта від телевізора як класичний винахід, яке не вирішує жодної істотної проблеми, породжуючи безліч нових. Глейк, цитуючи історика техніки Едвард Теннер, пише, що можливість і простота перемикання каналів за допомогою пульта в першу чергу служить для того, щоб все більше відволікати глядача.

Замість задоволення люди дедалі більше незадоволені каналами, які дивляться. Замість задоволення потреб виникає відчуття нескінченного розчарування.

Чи машини триматимуть нас у резерваціях?

Чи зможемо ми контролювати цю річ, яка неминуче і, мабуть, скоро з'явиться? Над штучним інтелектом? Якщо це має бути так, як проголошують багато антиутопічних бачень, то ні. (1).

Важко контролювати те, що у багато разів сильніше за нас. зі збільшенням кількості завдань. Двадцять років тому ніхто б і не повірив, що вони зможуть читати емоції за голосом та обличчям людини набагато точніше, ніж це можемо зробити ми самі. Тим часом навчені алгоритми вже здатні на це, аналізуючи міміку, тембр і те, як ми говоримо.

Комп'ютери малюють картинки, складають музику, а один із них навіть виграв поетичний конкурс у Японії. Вони давно виграють у людей у ​​шахи, вивчаючи гру з нуля. Те саме стосується і набагато складнішої гри Го.

воно підпорядковується законам дедалі швидше прискорення. Те, чого ІІ досягло - за допомогою людини - за останні десятиліття, подвоїться в найближчі кілька років, можливо, всього лише місяців, а потім це займе всього тижні, дні, секунди ...

Як з'ясувалося останнім часом, алгоритми, що використовуються в смартфонах або в аеропортах для аналізу фотографій з усюдисущих камер, здатні не тільки пізнавати когось на різних кадрах, а й визначати виключно інтимні психологічні особливості. Сказати, що це величезний ризик конфіденційності, все одно, що нічого не сказати. Йдеться не про просте стеження, спостереження за кожним кроком, а про інформацію, що виникає в результаті самої появи людини, про її приховані бажання та особисті переваги. 

Алгоритми можуть навчитися цьому відносно швидко, проаналізувавши сотні тисяч випадків, а це набагато більше, ніж навіть найпроникливіша людина може побачити за все життя. Озброєні таким багажем досвіду, вони здатні просканувати людину точніше, ніж найдосвідченіший психолог, аналітик мови тіла і жестів.

Так що справжня льодяча душу антиутопія не в тому, що комп'ютери грають проти нас у шахи або го, а в тому, що вони можуть бачити нашу душу глибше, ніж будь-хто інший, ніж ми самі, повні заборон і блоків у визнанні тих чи інших. інших нахилів.

Ілон Маск вважає, що в міру того, як системи ІІ починають вчитися і розмірковувати у дедалі більших масштабах, «інтелект» може десь розвиватися глибоко у веб-шарах, непомітно для нас.

Згідно з опублікованим у 2016 році американським дослідженням, у найближчі 45 років штучний інтелект має 50-відсотковий шанс перевершити людину у всіх завданнях. Синоптики кажуть, що так, ІІ вирішить проблему раку, покращить та прискорить економіку, забезпечить розваги, покращить якість та тривалість життя, навчить нас так, що ми не зможемо жити без нього, але не виключено, що один день, без ненависті, тільки на На основі логічного розрахунку, це просто видаляє нас. Можливо, фізично не вийде, тому що в кожній системі варто накопичувати, архівувати та зберігати ресурси, які «можуть колись стати в нагоді». Так, це той ресурс, яким ми можемо стати для ІІ. Захищені людські резерви?

Оптимісти втішають себе тим, що завжди можна видерти вилку з розетки. Але все не так просто. Вже зараз людське життя стало настільки залежним від комп'ютерів, що радикальний крок проти них був би для нас катастрофою.

Адже ми все частіше створюємо системи прийняття рішень на основі ІІ, даємо їм право пілотувати літаки, встановлювати відсоткові ставки, управляти електростанціями — ми знаємо, що алгоритми зроблять це набагато краще за нас. У той самий час ми розуміємо, як приймаються ці цифрові рішення.

Є побоювання, що надрозумні командні системи, такі як «Зменшити пробки», можуть привести їх до висновку, що єдиний ефективний спосіб виконати роботу — скоротити населення на третину або навіть наполовину.

Так, варто дати машині найважливішу вказівку на кшталт «Насамперед, врятуйте людське життя!». Однак хто знає, чи приведе тоді цифрова логіка до ув'язнення людства або під сарай, де ми, можливо, і будемо в безпеці, але на волі вже точно немає.

Кіберзлочинність як послуга

У минулому антиутопії та образи постапокаліптичного світу в літературі та кіно зазвичай розташовувалися в епоху після ядерної війни. Сьогодні ядерне знищення не здається необхідним для катастрофи та руйнування світу, яким ми його знаємо, хоч і не так, як ми собі це уявляємо. Це навряд чи знищить світ як у “Термінаторі”, де це було поєднано з ядерною анігіляцією. Якби вона це зробила, вона була б не надрозумом, а примітивною силою. Адже навіть людство ще не усвідомило глобального сценарію руйнівного ядерного конфлікту.

Справжній машинний апокаліпсис може бути менш вражаючим.

Кібервійна, вірусні атаки, злом системи та програми-здирники, програми-вимагачі (2) паралізують і руйнують наш світ не менш ефективно, ніж бомби. Якщо їх масштаб розшириться, ми можемо увійти у фазу всеосяжної тотальної війни, в якій станемо жертвами та заручниками машин, хоча вони й не повинні діяти автономно, і не виключено, що за все одно стоятимуть люди.

Минулого літа Агентство США з безпеки кіберпростору та безпеки інфраструктури (CISA) назвало атаки програм-вимагачів «найбільш помітною загрозою кібербезпеці».

CISA стверджує, що про багато дій, коли кіберзлочинець перехоплює і шифрує дані людини або організації, а потім вимагає за них викуп, ніколи не повідомляється, тому що жертва платить кіберзлочинцям і не бажає оприлюднити проблеми з їх небезпечними системами. На мікрорівні кіберзлочинці часто націлюють свої дії на людей похилого віку, у яких є проблеми з розрізненням чесного та нечесного контенту в Інтернеті. Вони роблять це за допомогою шкідливого програмного забезпечення, вбудованого у вкладення електронної пошти або спливаюче вікно на зараженому веб-сайті. Водночас зростають атаки на великі корпорації, лікарні, держоргани та уряди.

Останні були особливо мішенню через конфіденційні дані, які вони зберігали, і можливість заплатити великий викуп.

Деяка інформація, наприклад, інформація про стан здоров'я, набагато більш цінна для власника, ніж інші, і може принести злочинцям більше грошей. Злодії можуть перехоплювати або поміщати до карантину великі блоки клінічних даних, важливих для догляду за пацієнтами, таких як результати аналізів або інформація про ліки. Коли на карту поставлено життя, у лікарні не залишається місця для переговорів. Одну з американських лікарень було закрито назавжди у листопаді минулого року після серпневого теракту.

Ймовірно, згодом буде лише гірше. У 2017 році Міністерство внутрішньої безпеки США оголосило, що кібератаки можуть націлюватися на критично важливі об'єкти інфраструктури, такі як водоканали. І інструменти, необхідні для виконання таких дій, все частіше доступні для дрібніших операторів, яким вони продають комплекти програм-здирників, таких як програмне забезпечення Cerber та Petya, і беруть комісію за викуп після успішних атак. На основі кіберзлочинності як послуги.

Небезпечний безлад у геномі

Однією з найпопулярніших тем антиутопії є генетика, маніпуляції з ДНК і розведення людей — також «запрограмованих» належним чином (владою, корпораціями, військовими).

Сучасне втілення цих тривог є способом популяризації Редагування генів CRISPR (3). Механізми, які він містить, насамперед викликають занепокоєння. форсування бажаних функцій у наступних поколіннях та його потенціал поширився на все населення. Один із винахідників цієї техніки, Дженніфер Дудна, навіть нещодавно закликав до мораторію на такі методи редагування «зародкової лінії» через потенційно катастрофічні наслідки.

Нагадаємо, що кілька місяців тому китайський вчений Він Цзянькуй зазнавав широкої критики за редагування генів людських ембріонів з метою їх імунізації проти вірусу СНІДу. Причина в тому, що зроблені ним зміни могли передаватися з покоління до покоління з непередбачуваними наслідками.

Особливу тривогу викликають звані д (генна перезапис, генний драйв), тобто. генно-інженерний механізм, що полягає в кодуванні системи редагування ДНК даного індивідуума геном CRISPR/CAS9 із встановленням його на редагування цього варіанту небажаного гена. Завдяки цьому нащадки автоматично (без участі генетиків) перезаписують небажаний варіант гена на потрібний.

Однак небажаний варіант гена може бути отриманий потомством «в подарунок» від іншого незмінного батька. Так що генний драйв дозволяє зламати Менделівські закони спадковостіякі говорять про те, що половина домінантних генів дістається потомству від одного з батьків. Коротше кажучи, це врешті-решт призведе до поширення розглянутого варіанта гена на все населення.

Біолог Стенфордського університету Крістіна Смольке, ще на панелі по генній інженерії у 2016 році попередив, що цей механізм може мати шкідливі та, у крайніх випадках, жахливі наслідки. Генний драйв здатний мутувати у міру проходження через покоління та викликати генетичні порушення, такі як гемофілія або гемофілія.

Як ми читаємо в статті, опублікованій в Nature Reviews дослідниками з Каліфорнійського університету в Ріверсайді, навіть якщо драйв працює, як і планувалося, в одній популяції організму, той самий спадковий ознака може виявитися шкідливим, якщо він якимось чином буде введений в іншу популяцію. той самий вид.

Небезпека також полягає в тому, що вчені створюють генні драйви за зачиненими дверима та без експертної перевірки. Якщо хтось навмисне або ненавмисно введе в геном людини шкідливий генний драйв, наприклад той, який руйнує нашу стійкість до грипу, це може навіть означати кінець виду homo sapiens.

Капіталізм спостереження

Версія антиутопії, яку колишні письменники-фантасти навряд чи могли собі уявити, є реальністю Інтернету, особливо соціальних мереж, з усіма його широко описаними розгалуженнями, що руйнують приватне життя людей, відносини і психологічну цілісність.

Цей світ розфарбовують лише новіші художні перформанси, наприклад те, що ми могли бачити в серіалі «Чорне дзеркало», в епізоді 2016 року «Пірання» (4). Шошана Зубофф, економіст із Гарварда, називає цю реальність повністю залежною від соціального самоствердження та повністю «деприватизованою». наглядовий капіталізм (), і водночас вінцем роботи Google та Facebook.

4. Сцена з "Чорне дзеркало" - епізод "Пірнання"

За словами Зубоффа, Google – перший винахідник. Крім того, він постійно розширює свою діяльність зі спостереження, наприклад, за допомогою, здавалося б, безневинних проектів «розумного міста». Приклад — проект «Найінноваційніший район у світі» компанії Sidewalk Labs, дочірньої компанії Google. пристань у Торонто.

Google планує збирати всі дрібні дані про життя мешканців набережної, їх пересування і навіть дихання за допомогою всюдисущих датчиків моніторингу.

Також важко вибрати інтернет-антіутопію, про яку не може бути й мови у Facebook. Капіталізм спостереження, можливо, був винайдений Google, але саме Facebook вивів його на новий рівень. Це було зроблено за допомогою соціальних та емоційних вірусних механізмів та безжального переслідування навіть тих, хто не є користувачем платформи Цукерберга.

Охороняється ІІ, занурений у віртуальну реальність, що живе з UBI

На думку багатьох футуристів, майбутнє світу та технологій позначено п'ятьма абревіатурами – AI, AR, VR, BC та UBI.

Читачі «МТ», напевно, добре знають, що вони являють собою і з чого складаються перші три. Знайоме також виявляється четвертим, «ВС», коли ми розуміємо, що йдеться про. А п'ятий? УБД – це абревіатура поняття, що означає «універсальний базовий дохід (5). Це державна допомога, що постулюється час від часу, яка буде надана кожній людині, звільненій з роботи, у міру розвитку інших технологій, особливо ІІ.

5. Універсальний базовий дохід - UBI

Швейцарія навіть виносила цю ідею на референдум минулого року, але її громадяни відкинули її, побоюючись, що запровадження гарантованого доходу призведе до повені країни іммігрантами. БОД також несе в собі низку інших небезпек, у тому числі ризик увічнення існуючої соціальної нерівності.

Кожна з технологічних революцій за абревіатурою (див. також:) – якщо вона поширюється та розвивається в очікуваному напрямку – несе величезні наслідки для людства та нашого світу, включаючи, звичайно, величезну дозу антиутопії. Наприклад, вважається, що він може замінити чотирирічні виборчі цикли та призвести до референдуму щодо незліченної кількості питань.

Віртуальна реальність, у свою чергу, здатна виключити частину людства з реального світу. Як це сталося, наприклад, з кореянкою Чан Джі Сон, яка після смерті дочки у 2016 році від невиліковної хвороби відтоді зустрічається зі своїм аватаром у VR. Віртуальний простір також породжує нові види проблем або фактично переносить усі старі відомі проблеми у «новий» світ або навіть у багато інших світів. Якоюсь мірою ми вже можемо спостерігати це в соціальних мережах, де буває так, що надто мало лайків на постах призводить до депресії та суїциду.

Пророчі казки більш-менш

Зрештою, історія створення антиутопічних видінь також вчить обережності у формулюванні передбачень.

6. Обкладинка «Острова в мережі»

Минулого року знімався знаменитий науково-фантастичний шедевр Рідлі Скотта.Мисливець за андроїдами» З 1982 року. Можна обговорювати виконання чи ні багатьох конкретних елементів, але безперечно те, що найважливіше пророцтво щодо існування у наш час розумних, людиноподібних андроїдів, багато в чому переважаючих людей, ще не стало реальністю.

Ми були б готові допустити ще багато пророчих хітів».Нейромантери»тобто романи Вільям Гібсон з 1984 року, який популяризував концепцію "кіберпростору".

Однак у те десятиліття з'явилася трохи менш відома книга (у нашій країні майже зовсім, бо вона не була перекладена польською мовою), яка набагато точніше передбачала сьогоднішній час. Я говорю про роман «Острови в Мережі"(6) Брюс Стерлінг з 1988 року, дія якого відбувається у 2023 році. У ньому представлений світ, занурений у щось схоже на Інтернет, відоме як павутиння. Він контролюється великими міжнародними корпораціями. "Острова в Мережі" примітні тим, що забезпечують контроль, спостереження та монополізацію нібито вільного Інтернету.

Також цікаво передбачати бойові дії, що проводяться із застосуванням безпілотних літальних апаратів (дронів) проти піратів/терористів. Оператори за тисячі кілометрів із безпечними робочими столами — звідки ми це знаємо? Книга не про нескінченний конфлікт з ісламським тероризмом, а про боротьбу з силами, що протистоять глобалізації. Світ Islands in the Net також наповнений споживчими пристроями, які дуже схожі на смарт-годинник та розумне спортивне взуття.

Є ще одна книга 80-х років, в якій, хоч деякі події здаються більш фантастичними, вона добре ілюструє наші сучасні антиутопічні страхи. Цей “Програмні забезпечення для георадарів», Історія Рудого Рукера, дія якого відбувається у 2020 році. Світ, стан суспільства та його конфлікти здаються неймовірно схожими на те, з чим ми маємо справу сьогодні. Є також роботи, відомі як бопери, які здобули самосвідомість і втекли до міст на Місяці. Цей елемент ще матеріалізувався, але бунт машин стає постійним рефреном чорних прогнозів.

Бачення нашого часу в книгах також надзвичайно точні в багатьох відношеннях. Октавія Батлер, особливо вПритчі про сіяча»(1993). Дія починається в 2024 році в Лос-Анджелесі і відбувається в Каліфорнії, зруйнованій повенями, штормами та посухами, спричиненими зміною клімату. Сім'ї середнього та робітничого класу зустрічаються в закритих спільнотах, намагаючись втекти від зовнішнього світу за допомогою звикання наркотиків і комплектів віртуальної реальності. З'являються нові релігії та теорії змови. Караван біженців прямує на північ, щоб уникнути екологічного та соціального колапсу. До влади приходить президент, який використовує передвиборче гасло «Зробимо Америку знову великою» (це гасло Дональда Трампа).

Друга книга Батлера, «Притча про таланти«, Розповідає, як члени нового релігійного культу залишають Землю на космічному кораблі, щоб колонізувати Альфу Центавра.

***

Який урок цього великого огляду передбачень і видінь, зроблених кілька десятиліть тому, що стосуються нашого повсякденного життя?

Ймовірно, річ у тому, що антиутопії трапляються часто, але найчастіше лише частково.