Вона підкрадається непомітно, поступово. Спочатку ми її не бачимо. Потім бачимо, як вона мчить на нас і думаємо, що встигнемо зреагувати, а потім опа, що це було?
Щоб щось помітити, треба зупинитися й озирнутися. Наприклад, озирнутися на зміну ціни людського життя. Це банально, що життя безцінне, що люди з якогось переляку це усвідомлюють і таке інше. Насправді ми маємо справу з постійним збільшенням активного довголіття. Людина, яка втрачає життя, втрачає не все його, а тільки ту частину, яку вона не прожила. І що більше залишається людині жити, то страшніше і неприємніше відчувається її смерть.
І, за останні 100…150 років, життя людини, якщо її не вбивати спеціально, ставало дедалі довшим, а її активність дедалі тривалішою. Також якісно і різко скоротився рівень дитячої смертності. До чого це призвело? До зростання ціни людського життя і до виправданості використання захисних заходів, які були безглузді або недоречні раніше.
От хто з вас може уявити пацанів на велосипедах у шоломах і захисних жилетках? Залежить від країни. І в країнах, де люди живуть довше, а діти доживають до дорослішання частіше, це – звичайна справа. Зараз, у 21-му столітті. Але не 30 років тому. А ремені безпеки, а подушки, а дитячі сидіння? Уся ця повзуча експансія інструментів порятунку, яку ми спостерігаємо останнім часом, – це не що інше, як реакція людей на збільшену цінність їхніх ще не прожитих днів. Дефібрилятори поруч із вогнегасниками на стінах у публічних місцях, системи відеоспостереження, захисний спецодяг у представників професій, що не вважаються небезпечними, лежачі поліцейські – все це з’явилося навколо нас за останні 20 років і ми навіть не помітили, як саме.
А далі буде ще цікавіше. Ні, навряд чи винайдуть “таблетку безсмертя”. Просто навчаться поступово розв’язувати або навчаться уникати проблему за проблемою. Діабет? Рак? Серцево-судинні хвороби? Завжди здорова печінка? Безвідмовні або готові на заміну інші внутрішні органи? Дорого? Страховка є. Люди навіть не помітять, як почнуть жити практично вічно. І це призведе до природного зростання вартості ще непрожитих днів також до нескінченності.
І люди просто перестануть жити так само спокійно і безтурботно, як живемо ми зараз. Як щодо того, щоб заборонити ліфти, адже ліфт з імовірністю 1 до мільйона може зірватися. А що, якщо різко стане страшно вийти на вулицю, адже з імовірністю 1 до мільйона на голову може впасти рояль. А якщо одну мільйонну помножити на нескінченність, то вийде… все одно нескінченність. Ось вона, сингулярність і часу на реакцію в нас уже немає, бо ми навіть не повернулися обличчям до того, що на нас насувається.
Таким чином, щоб продовжувати жити далі, людству доведеться винайти щось, що різко знижує цінність життя людей. Так чи інакше, це вже звучить як похмура антиутопія. І нам варто бути готовим до типового, “по сингулярськи”, розв’язання питання. Ось, як, наприклад, із відеотелефонами. Про них говорили, їх показували у фантастичних фільмах, інженери розробляли рішення, фірми показували на виставках свої зразки. На поштамтах навіть з’явилися відеокабінки, оператори почали придумувати тарифи для такої “ексклюзивної” послуги зв’язку…. А потім, бац, Skype, усім. Безкоштовно. З будь-якої точки світу. Навіть з екранчика в кишені, сидячи в автобусі.
Якщо покрутити в голові варіанти, то найперспективнішим рішенням видається якийсь спосіб оцифрування свідомості й організація її резервного копіювання. Втратив тіло? У свіжого клона завантажують копію тебе і ти знову функціонуєш, так доречно, помолодшавши і підбадьорившись. Страховка покриє витрати. Начебто не антиутопія поки що? А як щодо того, що доступ до цієї технології розв’яже безліч проблем, починаючи від підготовки солдатів – достатньо виховати одного геніального бійця і потім його скопіювати потрібну кількість разів, закінчуючи машинним навчанням усьому, чому потрібно. Професіоналізм? Ха! Досвід? Ха! Ща, з торрентів скачаю. І навіть якщо особисто для себе ти залишаєшся нескінченно дорогим, то для суспільства вже ні. Ти не просто замінний. Тебе можна замінити завжди кращим зразком, а в більшості завдань, пов’язаних із, наприклад, офісною роботою, такому зразку навіть тіло не потрібно видавати. Нехай заробить на своє тіло, сидячи всередині комп’ютера, написанням імейлів і презентацій для корпоративних звітів. А для роботи поза офісом завжди знайдеться відповідний андроїд-аватар, який не потребує їжі, одягу і сексу. І так, ціна якого значно нижча за ціну вирощування живої істоти. Народжувати дітей? Для кого і для чого, і чи всі зможуть знайти дітям місце у світі, де на місцях уже вічно сидять абсолютно ідеальні фахівці, часто не зовсім або вже зовсім не люди?
До речі про штучний інтелект. Адже він теж підкрадається таким же чином. І ми так само навіть не встигнемо зрозуміти, що сталося. Почалося все з “Сірі” і “Ок, Гугл”. Але, поступово ШІ оселиться на наших ноутбуках. Він спочатку буде зайнятий рутинною роботою. Ми його навчимо вести ділове листування за нас. Власне, поступово з такими ж роботами. Ми його навчимо підбирати для нас цікаву інформацію. Потім ми його навчимо робити більш абстрактні, але все також рутинні завдання. Потім бухгалтери людською мовою зможуть пояснювати ШІ всередині ноутбука, що саме і де треба шукати і як саме закривати баланс. Потім знайдеться перший менеджер, який вирішив поїхати у відпустку, залишивши замість себе “того хлопця”, що постійно ввімкнений у розетку. Потім ми довіримо йому планування нашого дозвілля. Потім – вирішення прикладних завдань. Спочатку домогосподарки оцінять здібності ШІ до підбору рецептів страв для наявних інгредієнтів, лікарі довіряться ШІ для діагностики та лікування хвороб, а інженери перестануть ламати голову над черговою задачею та скажуть “ок, гугл, мені потрібен розв’язок задачі утримання плазми в термоядерному реакторі”. ШІ керуватиме нашим дозвіллям, кар’єрою, фінансами. ШІ, сидячи в комп’ютері, від імені та за дорученням господаря, підписуватиме документи, створюватиме підприємства, роздаватиме завдання і формулюватиме завдання іншим людям і машинам.
Якщо раптом якийсь юнак, переситившись реалістичним 3D порно, попросить свій ноутбук розв’язати задачу зі створення достовірного людиноподібного андроїда, то АІ, наприклад, оцінивши наявні в себе в розпорядженні кошти, вирішить знайти у світі ідейних товаришів, створить і зареєструє разом із ними нове акціонерне товариство “Ю. С. Роботікс енд мікенікал мен корпорейшн”, найме персонал і сформулює завдання, залишаючись увесь цей час лише надзвичайно розумним, але все ж таки додатком у комп’ютері. Молодий чоловік, погодившись із планами свого ноутбука, отримає за рік свою безвідмовну і досвідчену Джессіку, а якщо серед засновників-акціонерів була дівчина, то вона отримає надійного і витонченого Дмитра, які, володіючи мізками не гіршими за ноутбук своїх господарів, зможуть цих господарів… замінити.
Ось два, цілком логічних сценарії підкрадання. Навряд чи ми встигнемо оцінити моральні наслідки прийдешніх змін. Навряд чи встигнемо або захочемо до них підготуватися. Але обидва ці, цілком логічні сценарії ведуть нас до одного і того ж фіналу, в якому у людей немає місця на Землі. Чи буде це трагедією? Напевно, ні. Наприклад, зараз населення Європи поступово звикає до того, що суспільство вже не може жити без постійного і, що важливо, постійно зростаючого припливу іммігрантів. І корінні європейці здебільшого вже сприймають це як нормальне явище. У школах дедалі менше дітей, батьки яких народилися в цій країні. На вулицях дедалі більше нетрадиційного, але вже звичного, одягу. На упаковках їжі з’являються написи іноземними мовами, а в парламенті та кабінеті міністрів дедалі частіше з’являються люди, які складали іспити на знання державної мови вже будучи добре дорослими. Це могло б здатися трагедією 100 років тому. Але зараз це поступово перетворюється на норму. Так і з ШІ. Трагедія? Остання жива людина вже не буде це сприймати таким чином.