Людина й комп'ютер

Айзек Азімов — один з найпопулярніших сьогодні письменників-фантастів. Професор, фахівець з біохімії, А. Азімов будує свої твори на основі чіткої й переконливої наукової логіки. Пройняті духом гуманізму, ці твори наштовхують читача на серйозні роздуми. Слід віддати належне письменникові і як знавцеві кібернетики. Видана в нашій країні на зорі розвитку кібернетичної науки, збірка його науково-фантастичних оповідань «Я — робот», напевне, в багатьох молодих читачів викликала великий інтерес до наукових проблем, пов’язаних із створенням «інтелектуальних» комп’ютерів і людиноподібних роботів.

Проблема «людина й комп’ютер» уже віддавна хвилює як учених — філософів, соціологів, — так і письменників-фантастів. У своїх творах А. Азімов торкається в основному таких проблем: Чи може в майбутньому скластися ситуація, коли все більш досконалі, здатні до самонавчання «інтелектуальні» комп’ютери і роботи відмовляться підкорятися наказам людини й почнуть «конфліктувати» із своїми творцями? І друга — якщо, навіть за умови суворого підкорення людині, вдосконалені комп’ютери застосовуватимуться все ширше й ширше, то чи не призведе це до такої залежності людини від них, що може різко знизити чи навіть убити в людині вміння мислити, виявляти ініціативу, сміливо приймати рішення?

У нарисі А. Азімова, як і в більшості подібних його творів автор застерігає від нехтування цими проблемами. Не проповідуючи «страх» перед комп’ютерами, він закликає зробити все, щоб машини завжди були друзями й помічниками людини.

Щодо інших проблем, піднятих у нарисі «Людина й комп’ютер», то тут слід нагадати про ще одну важливу обставину, яка, на жаль, залишилася поза увагою американського письменника-фантаста.

Електронно-обчислювальні машини все більше застосовуються для розв’язання різноманітних економічних завдань у галузях моделювання, аналізу і прогнозування складних систем і ситуацій. Але для соціально-економічної сфери визначальними є вже не методи програмування і не технічні параметри самих машин, а формулювання цілей, заради яких розв'язується те чи те завдання, вибір критеріїв, згідно яких приймаємо чи не приймаємо те або інше рішення. І тут велику роль відіграють соціально-економічні умови, за яких людина здійснює ці процеси. На жаль, ці соціально-економічні закони розвитку суспільства і революційно-перетворююча роль людини в ньому ігноруються А. Азімовим, хоч без врахування цих чинників об’єктивна картина взаємодії людини й машини виглядає неадекватною.

Деякі американські друковані органи твердять, що доля майбутньої війни, успіх в ній залежить від рівня досконалості комп’ютерів у різних країнах. Але ж ми добре розуміємо, що проблеми війни й миру вирішуватимуть не комп’ютери, а люди. Саме від людей залежить, з якою метою використовуватимуться комп’ютери, аби досягнення науки і техніки служили не війні, а миру й прогресу.

ВАЛЕРІЙ ВАЛАХ, учений секретар Наукової ради Академії наук УРСР з проблеми «Кібернетика».

У 20-х роках XVII сторіччя німецький астроном Иоганн Кеплер намагався скласти таблиці, за якими можна передбачити положення планет на небосхилі для будь-якого моменту в майбутньому. Думка була не нова. Подібні таблиці складали ще вавілоняни, стародавні греки, вчені середньовіччя. Для одних таблиці мали астрологічну цінність, для інших це був крок до пізнання годинникового механізму, що править Всесвітом.

Кеплер мав на меті обидві цілі, але завдання його виявилося надзвичайно трудомістким. Він мав зведення ретельних спостережень за планетами в минулому, але мав також нову теорію, яку створив сам: що планети рухаються навколо Сонця не по колових, а по еліптичних орбітах. Для розрахунків потрібно було безліч часу, до того ж довелося б щоразу перевіряти та переперевіряти, чи не вкралася в розрахунки арифметична помилка. Кеплерові вже виповнилося п’ятдесят, а тривалість життя в ті часи була невеликою. Чи встигне він скласти таблиці?

На щастя, шотландський математик Джон Нейпір винайшов систему, яку назвав логарифмічною. 1614 року він випустив довжелезну таблицю, з допомогою якої можна було уникнути трудомістких арифметичних дій — множення та ділення. Це давало велику економію часу.

Кеплер ухопився за таблицю логарифмів, уперше в історії застосувавши її з такою важливою метою. Завдання, як і раніше, лишалось трудомістким, але тепер він принаймні міг скінчити роботу за життя. Його планетні таблиці, видані друком 1627 року, були шедевром тогочасної науки. А за три роки він помер.

Але уявімо, що сталося б, коли Кеплер мав змогу якимось чином скористатись одним з тих комп’ютерів, який виконує арифметичні дії зі швидкістю світла,— в сто мільйонів разів швидше за людину, й притому безпомилково.

Кілька років тому вихідні дані, що ними користувався Кеплер, справді було введено в комп’ютер. З точними діями, на які Кеплер витратив кілька років, навіть користуючись логарифмами, комп’ютер упорався за вісім хвилин!

Чи була машина розумніша за Кеплера? Звичайно ж, ні. Вона тямила не більше від логарифмічної таблиці, зате мала набагато складнішу будову. ЕОМ значно продуктивніша саме тоді, коли необхідно провадити нудні, монотонні, запаморочливі розрахунки, й це залишає людині простір для творчості в будь-якій галузі знання чи мистецтва.

Поява електронної обчислювальної машини в 40-х роках нашого сторіччя була своєрідною революцією в історії людської думки, причому революцією, яка трохи лякає: знімає з людини тягар, до якого настільки звикла, що він немовби став її невід’ємною ознакою. Дехто навіть побоюється, що без цього тягаря людина деградує, та навряд чи це так:

адже перекласти на плечі машини нелюдську працю цілком людяно.

Ми маємо досвід більш ранньої й менш значної революції подібного роду й можемо робити висновки. Двісті років тому вперше з’явилися машини, призначені виконувати виснажливу, справді каторжну працю, яка ставила людину врівень з твариною. Паровий двигун, двигун внутрішнього згорання, електромотор перебрали роботу, яку раніше виконували людські м’язи, причому машини впору-валися з нею швидше й краще. Внаслідок цього стало здобутком усього людства, а не привілеєм купки вельмож, певне дозвілля.

Чи призвела НТР до втрати людяності? Хіба людині було краще в попередні епохи, коли раби, кріпаки або «вільні» селяни все своє коротке гірке життя витрачали на те, щоб важкою постійною працею добувати щоденний хліб для напівголодного існування? А жалюгідна пишнота їхніх панів у доін-дустріальну епоху? Вона також виглядає вбогою за мірками пересічної сучасної людини.

Наука й техніка подвоїли тривалість життя й потроїли здоров’я та комфортабельність існування людини. А що панувало в людському суспільстві доти? Чума та інші хвороби, які призводили до смерті. Рабство. Голод. Виснажлива праця. Жодне суспільство, яке завдяки індустріалізації домоглося вищого рівня життя, добровільно не відмовиться від цього.

Безперечно, індустріалізація породила свої проблеми. Оте піднесення добробуту й разючі успіхи медицини спричинилися до швидкого збільшення населення планети, зрослого споживання ресурсів і виробництва шкідливих речовин, посилення тисняви й скупченості, загального погіршення стану навколишнього середовища.

Втім, усе це почасти є наслідком того факту, що промислова революція вивільнила лише м’язи людини, нічого не додавши мозкові. Ми одержали змогу виробляти більше й більше, але ніяк не навчилися з тією ж ефективністю передбачати наслідки всіх своїх дій.

Певна річ, визволення від надмірної фізичної праці саме по собі було полегшенням і для мозку, бо людина одержала більше вільного часу, більше людей здобуло змогу присвятити творчості все своє життя. Примножилося вчених та інженерів, отож інтенсивність і темпи промислової революції безперервна зростали, вивільнюючи все більше людей для інтелектуальної роботи, дальшого прогресу тощо. Тим-то чимраз швидше й швидше наставали зміни, з’являлися нові й ще новіші досягнення.

Тепер дуже важливо передбачати наслідки, до того ж якомога раніше, щоб бачити переваги того чи того курсу, приймати обґрунтовані раніше рішення про те або те нововведення, вживати тих або тих запобіжних заходів. Але здатність нашого неозброєного мозку передбачати аніскільки не стала більшою, ніж у кам’яному віці.

На те й потрібний був технічний прогрес, щоб допоміг нам прогнозувати, так само як електромотор допомагає м’язам виконувати фізичну роботу. Саме тільки вивільнення для розумової діяльності більшого числа людей не розв’язало проблем, бо, навіть об’єднавши зусилля безлічі умів, неможливо знайти краще рішення за коротший час.

Лише комп’ютер спроможний зняти з людини тягар виснажливих розумових операцій і таким чином здатний розв’язати проблему. Породжений першою промисловою революцією, він починає другу революцію, ще потужнішу й бурхливішу.

Комп’ютер не вміє мислити краще за людину. Навіть найскладніша з досі сконструйованих електронних обчислювальних машин незрівнянно простіша від трьох фунтів людського мозку з його сотнею мільярдів хитромудро взаємосполучених клітин, кожна з яких сама складніша за будь-який комп’ютер.

Людський мозок, проте, має й вади. Хоч він і пристосований до логічних міркувань, творчого процесу й інтуїції, його дошкульне місце — повільність думки. В перебігу еволюції просто не було життєвої потреби в більшій швидкості, ніж вона є. Наш мозок за ту коротку з погляду еволюції мить, яка минула від кам’яного віку до нашої епохи високо-розвиненої технології, не став істотно досконалішим. Через те він просто неспроможний сам упоратися з неймовірно зрослим нині колом проблем.

Жоден неозброєний людський мозок, жодна кількість мозків не здатні нині запустити космічний корабель на Місяць, доставити туди людину й повернути її назад або послати автоматичний зонд на далекий Юпітер.. Звичайно, маючи досить часу, людський мозок міг би це зробити, але- такого часу в нього нема, та й працювати довелося б на виснаження. Електронний же комп’ютер, чиї реле спрацьовують за мільярдну частку секунди, спроможний виконати всю ту обтяжливу й нудну для. людини процедуру, бо він не відчуває нудоти, та й не припускається помилок.

Людський мозок неспроможний ні ефективно управляти сучасною зброєю, ні збалансовувати систему оподаткування в державному масштабі, ані розв’язувати багато найрізноманітніших проблем, що стосуються купівлі-продажу, прибутку-видатку, дебету-кредиту, виробництва-споживання, враховуючи при цьому щохвилинні зміни, без чого неможливе нормальне функціонування промисловості, торгівлі та ділового життя суспільства.

Друга технічна революція додержується курсу першої. Машина перебрала на себе найвиснажливішу фізичну працю, й ні в кого вже не виникає бажання повернутися від екскаваторів назад до лопати. Так і тепер, коли дедалі ширше застосовуються комп’ютери, заміняти їх знову численними арміями бухгалтерів і рахівників аж ніяк не випадає.

Більше того, ми вже просунулися так далеко, що просто неспроможні були б

упоратися старими засобами з. усією безліччю сучасних проблем. Навіть якби кожен мешканець Землі заходивсь енергійно орудувати лопатою, то на спорудження гігантських мостів або автострад, хмарочосів чи гребель пішло б у сотні разів більше часу, ніж при застосуванні машин та механізмів. Так само неможливими виявилися б усі оті досягнення людської думки, які вимагають громіздких обчислень, навіть коли б усе людство, озброївшись авторучками, посідало за розрахунки.

Машини, народжені першою революцією, поступово зменшувались. Якщо спочатку їх використовували тільки на заводах та фабриках, то нині кожен може придбати й використовувати той чи той моторизований пристрій, починаючи від автомобіля й кінчаючи електричною зубною щіткою.

В такий же спосіб (але набагато швидше) відбувся перехід од велетенських монстрів ЕОМ, якими могли володіти лише великі університети та урядові установи, до універсальних міні-комп’ютерів, без яких уже годі уявити собі навіть найдрібніші підприємства. Бо навіть для приватних осіб стало звичкою мати при собі досить дешевий кишеньковий комп’ютер, щоб підраховувати свої витрати, банківські рахунки чи процент податків.

Серед найважливіших завдань комп’ютера одне з перших місць посідає визначення правильної стратегічної лінії людства, щодо проблем, породжених розвитком. Ми тепер, плануючи те або те значне нововведення, напевно, могли б з достатньою чіткістю передбачати всі його можливі наслідки.

Це буде нелегко. Належить навчитись правильно ставити запитання; виробити такий апарат програмування, який дозволить комп’ютерам швидко відповідати на запитання; сконструювати досконалі комп’ютери.

Ми повинні з усім цим упоратися, бо комп’ютери не тільки вдосконалюються, а й стають різноманітнішими та більш ефективними в роботі. Вже є комп’ютери-шахісти, комп’ютери-композитори, комп’ютери-перекладачі. З’являться й комп’ютери — конструктори комп’ютерів і навіть такі комп’ютери, що формулюватимуть наші запитання. Цілком можна уявити собі той день, коли ми зможемо питати в комп’ютера, які запитання слід йому задати, й вмітимемо «націлювати» їх на те, щоб вони самі поліпшували свої програми.

Та коли все це стане реальністю й ми одержимо змогу використовувати досягнення другої, мозкової революції для того, щоб ліквідувати або принаймні звести до мінімуму недоліки, породжені першою, м’язовою революцією, то чи можемо бути певні, що згодом друга революція сама не принесе нових, ще більших нещасть? Зрештою, кожне рішення здебільшого породжує нові проблеми.

Звісно, ми можемо створити суспільство, де буде здійснено мрію про Утопію, але. тільки завдяки комп’ютерам. Та

хіба вже саме це не насторожує? Чи не стануть колись комп’ютери такими досконалими, що врешті перевершать людський розум? Чи не переважать над нами? Чи не винищать усіх нас, щоб самим стати господарями Землі?

Протягом тридцяти п’яти років я в ряді науково-фантастичних оповідань писав про людиноподібні комп’ютери, так званих роботів. Я завжди вірив у те, що комп’ютери лишаться творінням людини, тож у її власних інтересах тримати їх у певних рамках. Так поступово склалися мої «Три Закони робототехніки»:

1. Робот не повинен шкодити людині або допустити, щоб людина своєю бездіяльністю завдала собі шкоди сама.

2. Робот має виконувати накази людини, якщо тільки вони не суперечать Першому Законові.

3. Робот мусить захищати своє існування, якщо це не заходить у протиріччя з Першим або Другим законами.

Я не твердитиму, ніби саме ці закони керуватимуть комп’ютерами майбутнього (хоч не здивувався б, коли б сталося й так), але видається необхідним ужити застережливих заходів. Ідея обережності така ж стара, як і сама техніка. Ніж має колодочку, шпага — ефес, курок — запобіжник, ліфт обладнано автоматичною системою зупинки, будинки споруджують з вогнетривких матеріалів,— отже й комп’ютери мусять мати щось подібне до тих трьох законів.

Втім, комп’ютери — найскладніші з усіх приладів, створених людиною, й вони увесь час ускладнюються. Чи можемо ми довіряти їм? Чи не вийдуть колись вони з-під контролю всупереч усім нашим зусиллям? А коли й не вийдуть і лишаться нашими відданими служниками, то чи не станеться так, що всезростаюча залежність від них поступово вб’є в людині здатність мислити, виявляти ініціативу й взагалі робити те, задля чого створено розум?

Та чи слід нам цього побоюватися? Можна припустити, що з прогресом комп’ютерів прогресуватиме й людський розум. Дотепер еволюція відбувалася шляхом випадкових генних змін і досить грубого природного добору. Інакше кажучи, була дуже повільним процесом, який нерідко заводив у глухі кути.

Тепер ми досягли нової стадії й розквіт генної інженерії дозволяє вірити, що нам пощастить планувати свою власну еволюцію. Причому межі такого втручання визначатимуться не технічними, а виключно етичними факторами: нам доведеться вирішувати, яким, хто й чому бажає стати, нарешті, які критерії цього.

Людство ще не знало делікатніших проблем, і ми, напевно, зможемо сформулювати їх так, щоб удосконалені комп’ютери майбутнього спромоглися з ними впоратись. Користуючись порадами комп’ютерів, навіть маючи приклади того, як розум спрямовує їхні дії, ми віримо, що вдосконалення людського розуму відбуватиметься з допомогою безперервно вдосконалюваного комп’ютера.

Людина й комп’ютер зможуть колись крокувати плече в плече, або, точніше, мозок у мозок. Розум людини з його здатністю до інтуїції та творчості й розум комп’ютера з його швидкістю й точністю зможуть вирішувати будь-які завдання набагато краще, ніж кожен окремо.

І коли такий час надійде, то не стане меж досконалості.

Безперечно, я не втішаю себе ілюзією, що цими нарисами зможу розвіяти страх людини перед комп’ютерами, але я цього прагну. Зрештою, коли врахувати, якої шкоди завдали й завдають людям самі ж люди (не кажучи вже про інших істот) без усяких комп’ютерів, то мені важко уявити собі, що можуть додати до цих страхіть комп’ютери.