Різ Байрон
Четверта доба: розумні роботи, свідомі комп’ютери і майбутнє людства
06.02.2019
рекомендує
Видавництво: Atria Books, Рік випуску: 2018

Четверта доба: розумні роботи, свідомі комп’ютери і майбутнє людства

Рекомендовано Києво-Могилянською Бізнес-Школою
Автори
Різ Байрон
Дата огляду
06 Лютого 2019
Прослухайте огляд
0:00 0:00
988

Основна ідея

Людство вже тричі переживало зміну епох, і в основі цих трансформацій лежала поява нових технологій. Зараз ми стоїмо на порозі «четвертої доби», про прихід якої свідчить поява штучного інтелекту та роботів. Які запитання ставлять перед людством ці зміни? І чого нам варто очікувати?

Пошук істини

Прогнози щодо того, яким буде майбутнє людства, експертів з різних сфер, дуже розумних та освічених людей, розбігаються. І розбіжності дуже великі: зокрема, Ілон Маск та Білл Гейтс бояться штучного інтелекту й вважають, що він несе ризики для самого існування людей. У той же час, Марк Цукерберг та Ендрю Ин (один з найвеличніших розумів сучасності у сфері  ШІ) стверджують, що створювати похмурі сценарії – щонайменше безвідповідально, а хвилюватися щодо нашестя ШІ – те саме, що турбуватися про перенаселення Марса.

Аналогічно думки різняться й щодо автоматизації та роботизації. Думки експертів настільки полярні, що практично суперечать одна одній. Хтось говорить, що всі робочі місця стануть непотрібними, а людство вступить в епоху нової Великої депресії, тому що люди не зможуть конкурувати з роботами. Інші вважають, що в майбутньому з’являться нові, футуристичні робочі місця, але їх вистачить не на всіх – і суспільство розколеться. Ще одна група експертів очікує, що поява роботів підвищить ефективність і оплату праці (як це траплялося раніше, у міру розвитку автоматизації).

І, нарешті, третє питання, у якому вчені не можуть досягти консенсусу, стосується свідомих комп’ютерів – чи зможуть вони стати такими? Хтось вірить, що це неминуче, а хтось активно не погоджується, вважаючи, що «жива машина» – це щось зі світу  фантастики, та в ньому і залишиться.

Людина, яка прагне розібратися в тому, що ж насправді відбувається, і як будуть розвиватися технології надалі, може заплутатися, намагаючись стежити за публічним дискурсом. Невже виходу із цієї безвиході не існує? Автор певен, що він є, і вважає: думки полярні не тому, що експерти мають різну інформацію, а тому що вони вірять у різні речі. Наприклад, прихильники ідеї про те, що комп’ютери стануть свідомими, вірять у те, що люди у своїй основі – теж машини. А значить, рано чи пізно вони зможуть створити механічну людину. Метою цієї книги Різ бачить дослідження тих переконань, які лежать в основі наших поглядів на роботів, автоматизацію, штучний інтелект і розум.

Філософія комп’ютера

На думку автора, «доба» – це період появи нових технологій. У «першу добу» виник вогонь, люди почали готувати на ньому їжу, отримувати більше поживних речовин, і це дало поштовх розвитку мозку. В сутності, вогню ми зобов’язані появою мови.

«Друга доба» знаменується появою сільського господарства – ще однієї технології, яка дозволила людству зробити гігантський стрибок. Їжі стало набагато більше, стало можливим виникнення міст, поняття «приватна власність на землю», кордонів. Якщо в «першій добі» існувала економічна рівність, то «друга» поклала їй край. А також у цей період зародилося рабство.

«Третя доба» почалась п’ять тисяч років тому, коли шумери винайшли писемність (хоча є дані, що вона була винайдена і в Єгипті, і в Китаї приблизно в той же час). Уперше те, що знає людина, стало можливим зберегти й після її смерті. Тепер знання можна було копіювати та переміщувати, а ідеї почали жити поза мозком окремої особистості. У часи «третьої доби» також з’явилися інші винаходи: наприклад, гроші та колесо. І цього виявилося достатньо для формування національних держав та імперій.

Донедавна наш світ жив у «третій добі», – вважає Різ. Незважаючи на те, що з’явилося безліч нових технологій (паровий двигун, електростанції тощо), це не змінило мислення людей так радикально, як це зробила мова, сільське господарство та писемність. На думку автора, усі ці інновації були скоріше еволюційними, ніж революційними. Наприклад, друкарський верстат суттєво змінив світ, однак це був лише дешевший і ефективніший спосіб робити те, що люди вже вміли.

Fourth Age 1 ukr

Прогрес, який спостерігався протягом «третьої доби», ґрунтувався на науковому методі. Його суть спрощено можна описати так: існують загальноприйняті практики одержання знання, а потім його розповсюдження таким чином, щоб одні могли використовувати напрацювання інших, розвиваючи та доповнюючи їхні ідеї. Наука довгий час рухалася саме так: завдяки поступовим удосконаленням роботи попередників. Ісаак Ньютон описав цей процес у такий спосіб: бачити далі, стоячи на плечах гігантів.

Однак згодом дещо почало змінюватися. У 1960-х роках Гордон Мур, один із засновників Intel, помітив, що кількість транзисторів на кристалі мікросхем подвоюється кожні 2 роки. Він спрогнозував, що так триватиме й надалі. Подвоєння кількості транзисторів означає збільшення потужності комп’ютера вдвічі. У цьому факті не було б нічого цікавого, якби Рей Курцвейл не виявив, що комп’ютери подвоювали свою потужність кожні два роки з 1890-х, ще до винаходу транзисторів.

Fourth Age 2 ukr

Закон Мура діє досі, і чому так відбувається – не знає й він сам. Більше того, він припускав, що дія закону порушиться ще 10 років тому, однак цього не трапилося (і невідомо, коли станеться). Ще цікавішим є те, що практично всі типи технологій, а не тільки комп’ютери, підкоряються закону Мура. Їхня потужність може не подвоюватися кожні 2 роки, однак це відбувається регулярно, через якусь фіксовану кількість років.

Серед усіх технологій, які з’явилися протягом «третьої доби», головною є саме комп’ютер. Адже цей пристрій не просто корисний, але й має глибокий філософський зміст для людства. На думку автора, обчислення – це серцебиття всесвіту. Деякі математики навіть вважають, що все навколо ґрунтується на обчисленнях. Урагани та ДНК, сніжинки та піщані дюни – усе це можна обчислити. Можливо, наш мозок – це теж своєрідний комп’ютер, який може робити складні обчислення (але відповідь на це запитання нам поки невідома). Саме комп’ютер відкрив для людства двері у «четверту добу». Комп’ютери допомогли нам створити штучний інтелект. І, разом з роботами, ці технології дозволять нам зробити те, що колись стало можливим завдяки вогню та сільському господарству: змінити своє життя.

Чи почалася вже «четверта доба» по-справжньому? Автор вважає, що ми точно бачимо її світанок, а де саме проходить границя – не так вже й важливо.

Головні запитання «четвертої доби»

Автор виділяє три фундаментальні запитання, відповіді на які важливо шукати в новій епосі. Запитання ці не нові, однак однозначних відповідей на них немає. Вони носять філософський, а не технічний характер: необов’язково стикатися зі ШІ або роботами, щоб розмірковувати про них. Протягом людської історії ці запитання були академічними, на кшталт тих, про які  можна подискутувати з колегами. Однак у «четверту добу» вони набувають практичного значення. Те, що багато сторіч було абстрактним для більшості людей, сьогодні стає центральним для всього людства. Ось ці запитання:

  1. З чого складається всесвіт? Ще стародавні греки замислювалися над цим запитанням, і просунулися у відповіді на нього значно далі, ніж усі наступні покоління. Існували дві основні філософські школи: перша – моністи – були впевнені, що весь всесвіт складається з єдиної субстанції (атомів) і управляється однаковим набором фізичних законів. Монізм також часто називають матеріалізмом. Один з його представників – Демокріт – вірив, що існує лише матерія та порожнеча, і більше нічого. А сучасний прихильник монізму Френсіс Крік запропонував свою гіпотезу, яка говорить: «ви, ваші радощі та печалі, ваші спогади та амбіції, ваше почуття персональної ідентичності та вільної волі – фактично є нічим іншим, як поведінкою величезної кількості нервових клітин і молекул».

Друга школа відома як дуалізм. Її прихильники вірять, що всесвіт складається із двох і більше субстанцій. Звичайно, атоми існують, – але є й щось окрім них. Що саме? Є як мінімум два варіанти: це може бути духовна або фізична субстанція. Представниками дуалізму є Платон і Рене Декарт із його «я мислю, а, значить, існую».

Автор пропонує читачам зупинитися на мить і подумати: до кого ви себе відносите, до моністів або дуалістів?

  1. Чим ми є? Варіантів тут як мінімум три: машини, тварини або люди. Машина – це набір частин, які злагоджено працюють разом. Якщо ми – машини, то в нас є джерело енергії та система виведення відходів, ми самі себе лагодимо та можемо перепрограмувати себе для виконання різних завдань. Прихильники цієї точки зору дивляться на те, що відбувається в нашому тілі, механістично. Наше серце б’ється не завдяки магії, а тому що підкоряється законам біології та фізики. Ми вже можемо розкодувати ДНК і друкувати органи – і це наближає нас до образу машини.

Другий варіант: ми – тварини. Ця точка зору припускає, що живий світ кардинально відрізняється від механістичного. І саме життя робить нас відмінними від машин. Точніше, навіть якщо наші тіла схожі на машини, то ми – це тварини, які населяють ці машини. Машини – не живі, на відміну від нас, а тому ми – не машини. Якщо вам близький цей погляд на природу людини, то перед вами постає важливе запитання: чи можуть комп’ютери стати живими? Чи може щось настільки механістичне отримати іскру життя?

І, нарешті, третя позиція: ми – люди. Вона означає: зрозуміло, наші тіла схожі на машини, і ми живі істоти, схожі на тварин. Однак щось відрізняє нас і від перших, і від других. Хтось вважає, що це душа, хтось каже про здатність людини сміятися. А ще ми – єдиний вид, який готує свою їжу. Інакше кажучи, щось відрізняє нас від тварин, але що саме – питання відкрите.

Тут автор радить зробити ще одну паузу та запитати себе: яка позиція вам найближча? Ким ви вважаєте себе: машиною, твариною або людиною?

  1. Що таке наше «Я»? Коли ви дивитеся на свої дитячі фото, як ви розумієте, що ви – це ви? Коли ви прокидаєтеся вранці, що робить вас тією ж людиною, якою ви були напередодні ввечері? Схожа філософська проблема: у музеї виставлено стародавній корабель. Окремі його частини з часом псуються, їх заміняють новими. Чи залишається цей корабель собою? Якщо наші клітини постійно оновлюються, а ми залишаємося собою – чи означає це, що наше «я» не визначається фізичним тілом?

Відповідаючи на це запитання, автор пропонує вибір із трьох варіантів: «Я» – це хитрий трюк нашого мозку; емерджентний розум; душа. Першої точки зору дотримується більшість учених. Друга ґрунтується на властивості систем, що називається емерджентністю: коли при об’єднанні частин виникає щось, що має нові властивості, відмінні від властивостей окремих елементів. А третя багато в чому перегукується з релігією. Різ запитує в читача: якій версії віддаєте перевагу ви?

Роботи та робота

Проблема, яка хвилює більшість людей сьогодні, – чи відніме автоматизація їхні робочі місця? Автор не пропонує єдиної відповіді, адже багато чого залежатиме від того, які саме прориви у сфері штучного інтелекту відбудуться, які нові матеріали винайдуть учені, як будуть розвиватися сенсорні технології тощо. Також ми не знаємо, наскільки швидко суспільство прийме роботів у ролі працівників, як їх поява відобразиться на споживчих настроях тощо.

Fourth Age 3 ukr

Замість того щоб намагатися спрогнозувати те, що зараз складно оцінити навіть приблизно, автор пропонує прийняти, що можливими є лише три результати:

  1. Роботи та ШІ займуть усі робочі місця (як мінімум 90%). Вони зможуть виконувати будь-які дії краще за людину, тому люди будуть наймати один одного тільки з емоційних або ностальгічних причин. Роботи будуть кращими музикантами, художниками та президентами, ніж люди.
  2. Роботи заберуть частину робочих місць. У цьому сценарії люди поступляться машинам, але не у всьому. Роботи займуть більше місць, ніж створять, вони окупують ритейл, сервіс, логістику, а також потіснять бухгалтерів, лікарів тощо. Однак машини не зможуть бути художниками та виконувати ту роботу, яка пов’язана з емоціями або соціальними навичками.
  3. Роботи та штучний інтелект не віднімуть у людей роботу. Хоча певні місця й зникнуть завдяки автоматизації, однак буде створено не менше нових. І всі бажаючі отримають роботу. Цей сценарій ґрунтується на передумові, що навіть якщо всі завдання, які зараз існують у світі, будуть виконуватися машинами, люди вигадають нові способи створювати те, за що споживачі будуть готові платити.

Кожен із цих сценаріїв ґрунтується на різних передумовах. І кожен з них імовірний, тому поки варто розглядати всі три – доти, доки ми не одержимо більше інформації та не зможемо побудувати точний прогноз.

Джерела розуму

На думку автора, свідомість – найбільш значущий аспект нашого існування. Уявіть собі, що вас викрали інопланетяни та замінили роботом, який виглядає точнісінько як ви. Він виконує ті ж дії, які робили б ви протягом дня. Однак він не відчуває та не думає, він не може відчувати радість, любов, роздратування, гнів. Його єдине завдання – імітувати вас. На думку Різа, єдина різниця між вами та цим роботом – свідомість.

Свідомість відрізняється від відчування. Прості форми життя можуть відчувати біль, коли їх ранять, однак їхні страждання не супроводжуються міркуванням про те, «за що мені це?». Іноді відчуття вважають найнижчою формою свідомості – адже для істоти, яка щось відчуває, принаймні існує «Я», яке це відчуває.

Fourth Age 2 ukr

Також свідомість відрізняється від розуму. Розум, інтелект ґрунтується на міркуваннях, а свідомість – це скоріше про переживання якогось досвіду. Приміром, іноді досвідчені водії настільки поринають у роздуми за кермом, що не пам’ятають про те, як доїхали до пункту призначення. У цьому випадку можна сказати, що вони користувалися своїм розумом, але не вели машину усвідомлено.

Навіщо нам потрібна свідомість і звідки вона виникла? Існує маса теорій та ідей щодо цього. Наприклад, що свідомість – це механізм, який дозволяє нам легко міняти фокус. Можливо, свідомість криється в нашій здатності програвати різні сценарії в розумі. Змія може діяти тільки як змія, опосум – як опосум, і тільки людина може спостерігати за кожною живою істотою та вчитися в неї, уявляючи різні способи дії в тій або іншій ситуації. Також існує теорія про те, що свідомість походить від необхідності нашого виду конкурувати. Адже суперничати простіше, якщо ви здатні «проникнути в голову» конкурента. Таким чином, згодом процес «примірки чужих черевиків» розвинувся у свідомість в її нинішній формі.

Кого можна вважати таким, що має самосвідомість? Проблема в тому, що надійного тесту поки не існує. Компанії та університети працюють над цією проблемою, і згодом, найімовірніше, вона буде вирішена. Навіть переконані дуалісти визнають, що хоча свідомість і може лежати за межами фізичного світу, але вони взаємодіють певним чином – і це можна виміряти.

Чи можуть комп’ютери стати справді свідомими? Інакше кажучи, комп’ютер майбутнього – це річ або жива істота? У 1997 році Гаррі Каспаров програв комп’ютеру в шахи та сказав: «Принаймні, він не зміг насолодитися перемогою». Чи буде здатен на це комп’ютер майбутнього?  Автор наводить декілька теорій, кожна з яких дає свою відповідь на ці запитання.

Найуніверсальнішою з них є теорія слабкої емерджентності Рея Курцвейла. Вона каже про те, що свідомість – це емерджентна властивість складних фізичних систем, яку можна відтворити в комп’ютері. А значить, якщо машина буде здатна відтворити складність людського мозку, то в ній виникне така ж властивість – свідомість. Слабка емерджентність – це результат, який є несподіваним, але пояснюваним. Інакше кажучи, теоретично свідомі комп’ютери можливі, однак поки жодній машині не вдалося наблизитися до емуляції людського мозку.

Що далі?

Життя в «четверту добу» сильно зміниться. По-перше, ШІ та роботи дозволять суттєво знизити ціни на їжу, а значить, з голодом буде покінчено. Штучний інтелект допоможе людям зрозуміти – де і які рослини варто вирощувати, куди їх продавати. Усі сільськогосподарські роботи будуть удосконалені, а значить, продуктивність значно зросте. Найімовірніше, з’являться дешеві технології вирощування штучного м’яса, тому популяція домашньої худоби сильно зменшиться.

По-друге, проблема бідності також може бути вирішена завдяки впровадженню ШІ та роботів. Це не означає, що настане епоха рівності – навпаки, розрив у добробуті може навіть посилитися, однак бідності ставатиме усе менше. З появою та розвитком ШІ смартфон кожної людини стане найкращим у світі лікарем, вчителем, дієтологом, персональним тренером тощо. І все це буде безкоштовним або дуже дешевим. Зараз ми також маємо доступ до величезних масивів інформації, однак інтернет і ШІ сильно відрізняються. Допомога ШІ в прийнятті рішень зробить нас набагато розумнішими за будь-яку людину, яка колись жила на планеті.

Найімовірніше, в «четвертій добі» стане менше воєн (а може, вони зникнуть зовсім). Однак виникне й маса нових викликів, у тому числі етичного характеру. Наприклад, якщо технології дозволять нам змінювати себе, удосконалювати свої тіла – то чи зможемо ми зупинитися? У будь-якому випадку, автор вірить у здатність людства змінити світ на краще. Адже у нову епоху це вже не питання ресурсів, а скоріше питання волі.

988
kmbs
Інтелектуальний партнер проєкту Digest