Долина богів. Історії з Кремнієвої долини

12. Ми будемо Богом

У Кремнієвій долині ця «магія» зосереджена переважно навколо штучного інтелекту. Про штучний інтелект говорять, як про футуристичного Мерліна — чарівника, який одного дня зійде до людської раси й перетворить усіх на високофункціональних роботів. Це принаймні один напрям думки. Є такі, що вірять, ніби люди «розвинуться» до машиноподібних створінь — кіборгів — за допомогою технологій і програмного забезпечення, що запрограмує певні аспекти біологічних і когнітивних функцій. Окрім того, є й такі, що поділяють гуманістичний погляд, відповідно до якого люди використовують технології, щоб перетворитися на ліпших людей, ба навіть людяніших. Звучить схоже, але це дві різні ментальності: є дві різні групи людей, які вірять у кожну з концепцій.

У певному розумінні віра в можливості штучного інтелекту [далі — AI[28]] розділилася на еволюційний AI та гуманістичний AI. Поборники еволюційного штучного інтелекту вірять, що машини переберуть владу над людьми; що чоловіки та жінки природно слабкі й сповнені недосконалостей, і що ймовірно кмітливіша, розумніша машина прийде на зміну нашим скромним людським можливостям і свідомості, обтяженій комплексом провини (за такі злочини, як нищення довкілля, насильство та сексизм), і зробить наш вид ефективнішим і просвітленим.

Гуманісти, що вивчали АІ, нечасто бували у Сан-Франциско, а ті, що бували, вірили в його можливість посилити людей. На їхню думку, люди могли б використовувати вищість свого мозку для володіння та контролю над машинами, ніколи не відмовляючись від власних відчуттів, або панування гуманізму, емоцій і суто людських рис. Вони використовували б технології лише для функціонування на вищому рівні: щоб стати ефективнішими, наприклад, створюючи досконаліше програмне забезпечення й виконуючи більше завдань. Проте на відміну від позиції еволюційного табору, комп’ютери жодним чином не замінять, не поглиблять і не пошкодять людські почуття.

Гуманісти АІ залишали наміри людям. У більшості випадків вони покладали віру й високе покликання на Господа. Вони мали капіталістичний погляд на штучний інтелект, який прагне поліпшувати те, що вже є добрим, — людський інтелект, з додатковим комп’ютерним осмисленням. Натомість прихильники еволюційного АІ вважали, що почуття та емоції зводяться до нейронів, що вмикаються так само, як комп’ютер вмикається від електроструму.

Звести людей до машин, а потім дати їм змогу перебрати над собою владу — спосіб, який знову всіх зробить рівними. Це соціалістичний світогляд, за яким усі ми є просто зв’язками клітин і нейронів, і ніхто не ліпший за іншу людину, хіба має іншу, інколи вдалішу, модифікацію клітин. На їхню думку, було божевіллям вважати, що між людьми існують природно обумовлені відмінності, навіть в інтелекті, адже перша розумна машина буде розумнішою за найбільшого інтелектуала.

Два найбільші авторитети кожного з цих рухів жили на протилежних узбережжях. Футурист і автор книжки «Сингулярність близько: коли люди вийдуть за межі біології» Рей Курцвейл репрезентував еволюційну школу AI Західного узбережжя (хоч вони ніколи б так себе не назвали), тоді як Дейвид Ґелернтер з Єльського університету був одним із небагатьох (хоч і впливових) представників гуманістичної школи АІ. Гуманісти більшою мірою давали собі справу з небезпекою, яку несе в собі штучний інтелект, не в тому сенсі, що «зловорожий АІ» або гаспидські комп’ютери вийдуть з-під контролю й повстануть проти свого позитивного Бога АІ, а в тому сенсі, чи революція машин означатиме занепад людства. Дехто щиро вірив у те, що АІ є небезпечним і загрожує знищенням цінностей, які роблять нас людьми. Вони сприймали такі складники нашого життя, як мистецтво, родина та культура, особистісними поривами за тим, заради чого й варто жити. Вони не вважали, що комп’ютери здатні реплікувати ідею людського прогресу, людського розуму або високого покликання.

У Кремнієвій долині фраза «змінити світ» стала кліше. Проте останніми роками вона перетворилася на «змінити вид», хоча ніхто не може промовити цей рядок аж так часто, щоб перетворити його на кліше. Адже те, чим вони займалися, було перетворенням ідеї зміни того, що означає бути людиною, на систему виміру.

Не так було в Нью-Йорку. Там впливові люди трималися того, що століттями робило людей людьми. Успішні менеджери хедж-фондів перетворювали таунхауси П’ятої авеню на стародавні палаци, купували роялі, які вони бачили у своїх фантастичних візіях про розкішне життя олігархів, як-от останній очільник Salomon Brothers Джон Ґутфройнд, який одного разу затягнув шестиметрову норвезьку ялинку до своєї квартири через балконні двері. Вони їздили на довгі вікенди полювати на куріпок до Англії, навіть якщо в дитинстві проводили суботи в Short Hills Mall[29] у передмісті Нью-Джерсі. Це було ретробагатство, відгомін того, що визнавалося людським у минулому столітті.

У всій країні це століття вважалося вчорашнім днем, уже не кажучи про минуле. Кому потрібні птахи? Що за відсталість — літати через океан, щоб постріляти куріпок у кумедних і незручних костюмах. У Затоці переймалися проблемами людської еволюції, а наступним кроком передбачався дедалі реалістичніший буквальний шлюб людини з машиною. Вищі амбіції й мету мали інші: не купувати найдорожчі будинки, автомобілі або яхти й не ходити на найпрестижніші вечірки, а перевести людський вид на вищий рівень.

Звісно, запрошення на вечірки вони теж хотіли. Проте на початку 2016 року їх нарешті полюбила преса. Тепер Шона Паркера, Ілона Маска та Леррі Пейджа не лише запрошували, а й благали відвідати такі престижні події, як оскарівську вечірку Vanity Fair та бал Costume Institute Ball, організований редакторкою Vogue Анною Вінтур у Музеї мистецтва Метрополітен у Нью-Йорку. (О, і чи не могли б ви також зробити пожертву?) Тож із цим було все гаразд. Тепер можна зосередитися на вищих матеріях.

Вйо! Час для підриву, трансгресії та реінжинірингу — себе й цілого людства. Хоч деякі боги Кремнієвої долини вважали поліпшення виду своєю засадничою метою, вони не могли говорити про це вголос. Натомість їхні посіпаки мусили працювати над цим за допомогою таємних проектів або надійних організацій, де про це можна було говорити. Для Університету сингулярності сингулярність була не просто близькою, а неуникною. Рей Курцвейл був їхнім королем. Він став для них культом.

Курцвейл вважав, що люди з часом залишатимуться молодими, зупинившись в ідеальному віці приблизно 30 років на століття. Він припускав, що таке життя може набриднути, тож виправдовував цей феномен тим, що з неминучим радикальним подовженням життя настане радикальне розширення життя за допомогою нових досвідів, знання, музики та літератури. Штучний інтелект дасть нам змогу опанувати своє життя за допомогою нескінченно великих можливостей, що триватимуть вічно. На випадок, якщо ви загинете в автомобільній аварії, у вас уже буде бекап вашого розуму й тіла, тож вас можна відтворити. Це не жарт! У такий спосіб, на його думку, ми завжди мали би більше варіантів. Він вважав, що не смерть надає життю значення, а культура, творчість, музика та наука: «Смерть перериває науку».

Готуючись до цієї події, він підходить до свого тіла як до складної машини, ковтаючи 250 таблеток на день, раз на тиждень приймаючи через крапельницю в лабораторії гормональні препарати й щодня п’ючи зелений чай літрами. 2013 року 67-річний винахідник переїхав ближче до епіцентру технологічної активності. Він покинув свій дім у бостонському передмісті Ньютон, особняк із картинами Марка Шаґала й голограмами Чеширських котів на стінах, і вирушив до Кремнієвої долини працювати в Google. Діяльність Курцвейла там не була таємницею, але таємницею було те, як він планував створити для людства новий неокортекс. Він сподівався до 2045 року залити людський мозок у пам’ять комп’ютера й розширити його за допомогою технологій, щоби, зрештою, люди й комп’ютери злилися воєдино. Саме тоді людський інтелект збільшиться у мільярд разів завдяки високим технологіям розширення мозку.

Станом на 2015 рік він працював технічним директором, передусім навчаючи машини розуміти те, що науковці називають «природною» мовою. Комп’ютери все ніяк не ставали ліпшими за людей у розумінні контексту питань і мовлення. Вони могли сканувати слова в статті й 56% часу з’ясовувати, що Барак Обама — президент США, тоді як людина прочитає статтю і майже напевне дійде цього висновку. Курцвейл розробляв програмне забезпечення, яке дало б комп’ютерам змогу розуміти мову радше концептуально, ніж просто за ключовими словами. Це була короткотермінова мета — створення ліпшої, більш дискурсивної пошукової функції в Google.

Утім, винахідник творив щось немислиме й раніше. Почнімо з того, що він винайшов першу читальну машину для незрячих, яка перетворювали слова на звуки. Проте по-справжньому його зробили відомим його бестселери «Епоха одухотворених машин. Коли комп’ютери переженуть людський інтелект» (2000) і «Сингулярність близько» (2005). У книжці «Як створити розум. Таємницю людської думки розкрито», опублікованій 2012 року, він описав, як побудувати синтетичне розширення мозку, яке можна під’єднати до хмари. На його думку, настане день, коли наноботи мандруватимуть капілярами нашого мозку й ці комп’ютери завбільшки з еритроцит приєднуватимуться до хмари так само, як айфони.

Перед публікацією книжки «Як створити розум» Курцвейл зустрівся з CEO компанії Google Леррі Пейджем, щоби подарувати йому примірник і спробувати переконати того інвестувати в компанію, яку він хотів створити, з огляду ідей своєї книжки. Пейдж зацікавився, але натомість переконав Курцвейла почати проект у Google, користуючись з ресурсів компанії та водночас зберігаючи незалежний статус. (Відтоді Google продовжує спорудження справжньої лабораторії штучного інтелекту, найнявши дослідника штучного інтелекту Джеффрі Гінтона. 2014 року Google придбав британську компанію DeepMind Technologies, перейменувавши її на Google DeepMind, що для побудови алгоритмів поєднує техніку машинного навчання та нейробіологію. Однак Google, певна річ, шляк трафив, коли Курцвейл уголос заговорив про свої ідеї: компанія бажала відокремити їх від місії та цілей Google. Не приведи Господь кинути тінь на власні прагнення компанії, що точно не передбачали переформатування людей, її дорогоцінних користувачів.)

Деякі ідеї Курцвейла увійшли в мейнстрім. Режисер Спайк Джонз, який 2013 року зняв фільм «Вона» про чоловіка, який зав’язав стосунки з розумною (судячи з голосу — жіночої статі) операційною системою, зізнався, що тексти Курцвейла надихнули його на написання сценарію, зйомки та продюсування фільму. Однак Курцвейл знайшов деякі помилки в цій футуристичній операційній системі, озвученій Скарлетт Йоханссон. На його думку, з її високим емоційним рівнем розуміння вона також мусила мати віртуальне тіло.

Нині реальне тіло Курцвейла відповідає його віку, навіть попри ін’єкції речовин для парентерального харчування і «реальний вік» 40 років. Йому досі кортить перепрограмувати нашу біологію, що, на його думку, почалося у Human Genome Project, зокрема йдеться про регенерацію тканин за допомогою лікування стовбуровими клітинами й виготовлення нових органів 3D-принтером.

Курцвейл добре усвідомлював темну сторону цього технологічнішого майбутнього. «Технології завжди були двосічним мечем», — говорив він. Вогонь допоміг людям поліпшити їхнє життя, але й знищував їхні селища. Проте хоч він і вважав, що технології здатні перепрограмувати нашу біологію для протистояння хворобам, вони також можуть потрапити в руки терористів, які можуть перепрограмувати невинний вірус на смертельний. («Ми не беззахисні проти цього», — додав він, маючи за плечима досвід співпраці з армією США в створенні програми протистояння біологічним загрозам.) Однак його убезпечала тотальна присутність мережевих технологій. На його думку, мільярди людей, озброєні смартфонами, можуть організуватися для розв’язання багатьох проблем.

У будь-якому разі Курцвейл планував і надалі зазирати в майбутнє. «Мета — жити впродовж необмеженого часу», — наполягав він. Його запасний план — законсервувати своє тіло за допомогою кріотехнологій. Проте вважав також: «Мета — щоб це не знадобилося».

На іншому кінці країни, в Єльському університеті, інший науковець, відомий своїм внеском у дослідження штучного інтелекту, Дейвид Ґелернтер, вважав Курцвейла Антихристом, вбачаючи лише темний бік у поглядах свого сучасника. Ґелернтер розцінював прогнози Курцвейла не лише як гнітючі та нігілістичні, а й небезпечні.

Зрештою, Ґелернтер не був типовим представником комп’ютерних наук. Більшу частину часу він просиджував за мольбертом під широким вікном свого будинку у Вудбриджі, штат Коннектикут, і малював. Два його папуги літали по кімнатах, завалених книжками й паперами. Птахи спорадично кричали, а один із них раз по раз виринав із-за дивану й промовляв: «Пікабу». На видноті не було жодних ґаджетів, окрім стаціонарного комп’ютера в кабінеті поруч, якого майже не було видно.

«Я ненавиджу комп’ютери й відмовляюся гратися з ними», — сказав він, готуючись до написання одного з багатьох своїх нападів на Курцвейла, що мав назву «Кінець наукового розуму». «Всіх моїх успіхів у комп’ютерних науках я досягнув завдяки тому, що погано вписувався в цю сферу», — пояснював він, сміючись. Використання комп’ютерів повинно бути більш логічним: «Мені потрібно програмне забезпечення, яке спрацьовує за тридцять секунд».

Ґелернтер щойно запустив нову компанію під назвою Lifestreams. Це була спроба створити приязніший до людини комп’ютер, ніж усі інші. Lifestreams створюватиме більш інтуїтивні та наративні комп’ютери. Інформація буде послідовною, а не розсіяною по всьому монітору у формі іконок і незручних випадаючих меню.

Багато років тому перша спроба комерціалізації його ідей закінчилася провалом, але Ґелернтер звик до невдач. 1993 року він став мішенню поштової бомби Теодора «Теда» Качинскі, відомого як «Унабомбер», який між 1978 і 1995 роками здійснював у США теракти проти людей, залучених у розробку нових технологій. Вибух пошкодив праву руку Ґелернтера й осліпив на праве око. 1997 року він написав книжку «Рисунок життя: пережити Унабомбера» про те, як пройшов через цю травму. Приблизно десятьма роками потому Ґелернтер усе ще мав фізичні проблеми. Він пересувався своєю вітальнею повільно, але на свої слабості не скаржився.

Його турбувало, що люди описували Унабомбера як «хворого» або психічно неврівноваженого «генія», але вагалися називати його «злом». Це спонукало Ґелернтера запитати: «Що означає відмова культури вірити у зло?» і «Що відбувається з суспільством, яке втрачає можливості морально реагувати під час кризи?»

У «Рисунку життя» Ґелернтер перетворив свій біль, каліцтво та подальше одужання на метафору становища країни. Він критикував Сполучені Штати за розбазарювання ресурсів, на яких вони поставали, — релігії, родини та мистецтва — й стверджував, що американська культура радше зосереджена на перетворенні злочину на сенсацію, ніж на вихованні сміливості й характеру.

Штучний інтелект, на його думку, не здатний розуміти характер, хоробрість або будь-що, що робить нас людьми в якісному вимірі. Ґелернтер вигадав персональне гасло для своєї компанії: «Від людей і для людей». Він вважав, що машини ніколи не замінять людей, а наш суб’єктивний, свідомий досвід неможливо запрограмувати. Сума наших знань про комп’ютери підказує нам, що не існує способу їхнього перетворення на свідомі сутності. Їх створюють — або навіть вмикають — з волі людини.

Якби люди створили комп’ютери як помічників для людства, він би ніколи не мусив перезапускати свою стару компанію, щоб зробити їх більш інтуїтивними. У 1990-х Mirror Worlds Technologies не змогла відбутися як бізнес, і 2004 року в неї остаточно закінчилися гроші. За іронією долі, Ґелернтер помітив, що його старі ідеї несподівано втілилися в продуктах Apple. Він був переконаний, що три інструменти Apple — тривимірний графічний користувацький інтерфейс Cover Flow (зокрема, для гортання обкладинок альбомів), система резервного копіювання Time Machine та інтегрована система пошуку Spotlight — виглядали, як винайдене ним програмне забезпечення. Потім, за словами Ґелернтера, юрист знайшов електронного листа від покійного засновника й CEO Apple Стіва Джобса до групи своїх помічників про Mirror Worlds, де були такі слова: «Можливо, це для нашого майбутнього і нам треба терміново отримати ліцензію». (Компанія Apple так ніколи й не отримала ліцензії.)

Це речення стало основою для судового позову з боку патентовласників із Mirror World. (Ґелернтер і його співвинахідник Ерік Фрімен продали свій патент як умову фінансування компанії в 1990-х роках, хоча Ґелернтер утримав 2% частки мінус витрати, за будь-якої компенсації від судового процесу.) 2010 року суд присяжних проголосував на користь Mirror Worlds і зобов’язав виплатити патентовласникам 625 мільйонів доларів компенсації за збитки. Це була одна із п’яти найбільших патентних компенсацій за всю історію США. Однак через шість місяців суддя відхилив цей вердикт. Апеляція неуспіху завершилася успіхом, і в червні 2013 року Верховний суд США відмовив у слуханні справи. Зрештою, у липні 2016 року компанія Apple виплатила відшкодування за мировою угодою: 25 мільйонів доларів за патенти Cover Flow і Time Machine.

Утім, Ґелернтер визнавав, що його ідеї таки могли бути нежиттєздатними десятиліття тому. Просто Apple могла скористатися з них у відповідний час. «Технології не були готові, графічні засоби не були готові й образ мислення людей не був готовий». А тепер він думав, що світ, можливо, спроможний зрозуміти його візію. «Ф. Скотт Фітцджеральд сказав, що в житті американців не буває другого акту, — заявив він. — Але це і є другий акт».

Чи вдасться йому зупинити Рея Курцвейла та його колег — інше питання. Проте, намагаючись змінити напрям використання штучного інтелекту, Ґелернтер сподівався відмовити людей від ідеї еволюції людини до робота й допомогти їм відродити індивідуальну волю та ідентичність. Антикурцвейлівський світ Ґелернтера набагато більше зрозумілий з його книжки «На хвилях розуму» (The Tides of Mind, 2016), ніж з програмного забезпечення.

Джон Бернем опинився радше на гуманістичній стороні спектра. «Проблема зі штучним інтелектом у тому, що це машина, — розповідав він. — Люди створили його з набором сервісних функцій, що звучить загалом непогано, але це передбачає, що інтелект зведено до набору сервісних функцій, і ці дві ідеї поєднуються — й можна отримати розумну істоту без свободи волі. Проте єдиний приклад розумної істоти — тобто нас — передбачає свободу волі».

Станом на 2016 рік Бернем так далеко зайшов у напрямі кваліа[30], що релігія тепер дедалі більше визначала його вибір. Наступного року він остаточно навернеться до католицтва. (Після року в Коледжі Томаса Мора, восени 2016 року, він повернувся до Дартмута вивчати математику.) На його думку, Кремнієва долина відкрила йому цілком новий погляд на людство. І цей погляд змусив його цінувати, що насправді означає бути свідомим — як людина, зокрема. Тепер він зосереджений на всьому, що є в нас незапрограмованого.

У Коледжі Томаса Мора він написав есей про унікальний погляд людини на час. У певному сенсі він був зворотним боком ідей Курцвейла, але в чомусь схожим:

«Людина за своєю природою не може бути суто тілесною, позаяк її неможливо повністю пояснити за допомогою тілесного. Людина сприймає себе, принаймні незначною мірою, частиною божественного одкровення. До ангела, сутності, що живе у Вічності, пророче одкровення не застосовне, бо вони сприймають усю повноту Часу воднораз. Для тварини, що не володіє засобами для уявлення форм поза межами часу, пророче одкровення неможливе. Відповідно до Томи Аквінського, людина визначається як унікальна істота, «що складається з душі та тіла», і ця єдність найчіткіше пояснюється у феноменах, які містять у собі поєднання вічного й тимчасового. Людина — це єдина істота, яка може водночас дивитися на Час і Вічність і через одкровення оцінювати Час із погляду Вічності».

Зі зворотної виграшної позиції Курцвейл перегукується з думками Бернема. «Незабаром ми житимемо вічно, захопимо Всесвіт, пануватимемо у Всесвіті», — казав він. Сингулярність, на його думку, наблизить нас до надприродного. Зрештою, ми вже можемо телепортуватися — принаймні у вигляді голограми. «Космос не дуже розумний, тож ми, врешті-решт, завоюємо Сонячну систему й станемо, по суті, богоподібними». Він ковтнув ще одну допоміжну пігулку й сів у свій гібридний протосамокерований «лексус». «Одного разу ми подолаємо швидкість світла й наблизимося до Бога, як ніколи раніше», — сказав він, вилітаючи з-за рогу на трасу. «Ми будемо Богом».