Риз Байрон
Четвертый век: умные роботы, сознательные компьютеры и будущее человечества
06.02.2019
Издатель: Atria Books, Год выпуска: 2018

Четвертый век: умные роботы, сознательные компьютеры и будущее человечества

Авторы
Риз Байрон
Дата обзора
06 февраля 2019
Читать обзор
Слушайте обзор
0:00 0:00
136

Основная идея

Человечество уже трижды переживало смену эпох, и в корне этих трансформаций лежало появление новых технологий. Сейчас мы стоим на пороге «четвертого века», приход которого знаменует появление искусственного интеллекта и роботов. Какие вопросы ставят перед человечеством эти изменения? И чего нам стоит ожидать?

Поиск истины

Эксперты из разных сфер, очень умные и образованные люди, расходятся в своих прогнозах о том, каким будет будущее человечества. И расходятся очень сильно: в частности, Илон Маск и Билл Гейтс боятся искусственного интеллекта и считают, что он несет риски для самого существования людей. В то же время, Марк Цукерберг и Эндрю Ын (один из величайших умов современности в области ИИ) утверждают, что создавать мрачные сценарии – по меньшей мере безответственно, а волноваться о нашествии ИИ – то же самое, что беспокоиться о перенаселении Марса.

Аналогично мнения расходятся и относительно повсеместной автоматизации и роботизации. Мнения экспертов настолько полярны, что практически противоречат друг другу. Кто-то говорит, что все рабочие места станут ненужными, а человечество вступит в эпоху новой Великой депрессии, потому что люди не смогут конкурировать с роботами. Другие считают, что в будущем появятся новые, футуристические рабочие места, но их хватит не на всех – и общество расколется. Еще одна группа экспертов ожидает, что появление роботов повысит эффективность и оплату труда (как это случалось ранее, по мере развития автоматизации).

И, наконец, третий вопрос, в котором ученые не могут достичь консенсуса, касается разумных компьютеров – смогут ли они стать таковыми? Кто-то верит, что это неизбежно, а кто-то активно не соглашается, полагая, что «живая машина» – это нечто из мира фантастики, и в нем и останется.

Человек, который хочет разобраться в том, что же на самом деле происходит в мире, и как будут развиваться технологии далее, может запутаться, пытаясь следить за публичным дискурсом. Неужели выхода из этого тупика не существует? Автор уверен, что он есть, и считает: мнения полярны не потому, что эксперты обладают разной информацией, а потому что они верят в разные вещи. Например, сторонники идеи о том, что компьютеры станут разумными, верят в то, что люди в своей основе – тоже машины. А значит, рано или поздно они смогут создать механического человека. Целью этой книги Риз видит исследование тех убеждений, которые лежат в основе наших взглядов на роботов, автоматизацию, искусственный интеллект и разум.

Философия компьютера

По мнению автора, «век» – это период появления новых технологий. В «первый век» возник огонь, люди начали готовить на нем пищу, получать больше питательных веществ, и это дало толчок развитию мозга. В сущности, огню мы обязаны появлением языка.

«Второй век» знаменуется появлением сельского хозяйства – еще одной технологии, которая позволила человечеству совершить гигантский скачок. Еды стало гораздо больше, стало возможным возникновение городов, понятия «частная собственность на землю», границ. Если в «первом веке» существовало экономическое равенство, то «второй» положил ему конец. А также в этот период зародилось рабство.

«Третий век» начался пять тысяч лет назад, когда шумеры изобрели письменность (хотя есть данные, что она была изобретена и в Египте, и в Китае примерно в одно и то же время). Впервые то, что знает человек, стало возможным сохранить и после его смерти. Теперь знания можно было копировать и перемещать, а идеи начали жить вне мозга отдельной личности. Во времена «третьего века» также появились другие изобретения: например, деньги и колесо. И этого оказалось достаточно для формирования национальных государств и империй.

До недавнего времени наш мир жил в «третьем веке», считает Риз. Несмотря на то, что появилось множество новых технологий (паровой двигатель, электростанции и т. д.), это не изменило мышление людей так радикально, как это сделал язык, сельское хозяйство и письменность. По мнению автора, все эти инновации были скорее эволюционными, чем революционными. Например, печатный станок существенно изменил мир, однако это был лишь более дешевый и эффективный способ делать то, что люди уже умели.

Fourth Age 1

Прогресс, который наблюдался в течение «третьего века», основывался на научном методе. Его суть упрощенно можно описать так: существуют общепринятые практики получения знания, а затем его распределения таким образом, чтобы одни могли использовать наработки других, развивая и дополняя их идеи. Наука долгое время двигалась именно так: благодаря постепенным усовершенствованиям работы предшественников. Исаак Ньютон описал этот процесс следующим образом: видеть дальше, стоя на плечах гигантов.

Однако со временем что-то начало меняться. В 1960-х годах Гордон Мур, один из основателей Intel, заметил, что количество транзисторов на кристалле микросхем удваивается каждые 2 года. Он сделал предсказание, что так будет продолжаться и в дальнейшем. Удвоение количества транзисторов означает увеличение вдвое мощности компьютера. В этом факте не было бы ничего интересного, если бы Рэй Курцвейл не обнаружил, что компьютеры удваивали свою мощность каждые два года начиная с 1890-х годов, еще до изобретения транзисторов.

Fourth Age 2

Закон Мура действует до сих пор, и почему так происходит – не знает и он сам. Более того, он предполагал, что действие закона нарушится еще 10 лет назад, однако этого не случилось (и неизвестно, когда случится). Еще интереснее то, что практически все типы технологий, а не только компьютеры, подчиняются закону Мура. Их мощность может не удваиваться каждые 2 года, однако это происходит регулярно, через какое-то фиксированное количество лет.

Среди всех технологий, которые появились в течение «третьего века», главным является именно компьютер. Ведь это устройство не просто полезно, но и имеет глубокий философский смысл для человечества. По мнению автора, вычисления – это сердцебиение вселенной. Некоторые математики даже считают, что все вокруг основывается на вычислениях. Ураганы и ДНК, снежинки и песчаные дюны – все это можно вычислить. Возможно, наш мозг – это тоже своего рода компьютер, который может совершать сложные вычисления (но ответ на этот вопрос нам пока неизвестен). Именно компьютер открыл для человечества двери в «четвертый век». Компьютеры помогли нам создать искусственный интеллект. И, вместе с роботами, эти технологии позволят нам сделать то, что некогда стало возможным благодаря огню и сельскому хозяйству: изменить свою жизнь.

Начался ли уже «четвертый век» по-настоящему? Автор считает, что мы точно видим его рассвет, а где именно проходит граница – не столь важно.

Главные вопросы «четвертого века»

Автор выделяет три фундаментальных вопроса, ответы на которые важно искать в новой эпохе. Вопросы эти не новы, однако однозначных ответов на них нет. Они носят философский, а не технический характер: не обязательно сталкиваться с ИИ или роботами, чтобы размышлять о них. На протяжении человеческой истории эти вопросы были академическими, из разряда тех, о которых можно подискутировать с коллегами. Однако в «четвертом веке» они приобретают практическое значение. То, что много столетий было абстрактным для большинства людей, сегодня становится центральным для всего человечества. Вот эти вопросы:

  1. Из чего состоит вселенная? Еще древние греки задавались этим вопросом, и продвинулись в ответе на него гораздо дальше, чем все последующие поколения. Существовало две основные философские школы: первая – монисты – были уверены, что вся вселенная состоит из единой субстанции (атомов) и управляется одинаковым набором физических законов. Монизм также часто называют материализмом. Один из его представителей – Демокрит – верил, что существует лишь материя и пустота, и ничего более. А современный сторонник монизма Френсис Крик предложил свою гипотезу, которая гласит: «вы, ваши радости и печали, ваши воспоминания и амбиции, ваше чувство персональной идентичности и свободной воли – фактически являются ничем иным, как поведением огромного количества нервных клеток и молекул».

Вторая школа известна как дуализм. Ее сторонники верят, что вселенная состоит из двух и более субстанций. Конечно, атомы существуют, – но есть и что-то кроме них. Что именно? Тут есть как минимум два варианта: это может быть духовная или физическая субстанция. Представителями дуализма являются Платон и Рене Декарт с его «я мыслю, а, значит, существую».

Автор предлагает читателям остановиться на мгновение и подумать: к кому вы себя относите, к монистам или дуалистам?

  1. Чем мы являемся? Варианта здесь как минимум три: машины, животные или люди. Машина – это набор частей, которые слаженно работают вместе. Если мы – машины, то у нас есть источник энергии и система выведения отходов, мы сами себя чиним и можем перепрограммировать себя для выполнения разных задач. Сторонники этой точки зрения смотрят на то, что происходит в нашем теле, механистически. Наше сердце бьется не благодаря магии, а потому что подчиняется законам биологии и физики. Мы уже можем раскодировать ДНК и печатать органы – и это приближает нас к образу машины.

Второй вариант: мы – животные. Эта точка зрения предполагает, что живой мир кардинально отличается от механистичного. И сама жизнь делает нас отличными от машин. Точнее, даже если наши тела похожи на машины, то мы – это животные, которые населяют эти машины. Машины – не живые, в отличие от нас, а потому мы – не машины. Если вам близок этот взгляд на природу человека, то перед вами возникает важный вопрос: могут ли компьютеры стать живыми? Может ли нечто столь механистическое получить искру жизни?

И, наконец, третья позиция: мы – люди. Она подразумевает: разумеется, наши тела похожи на машины, и мы живые существа, похожие на животных. Однако нечто отличает нас и от первых, и от вторых. Кто-то считает, что это душа, кто-то говорит о способности человека смеяться. А еще мы единственный вид, который готовит свою пищу. Другими словами, что-то отличает нас от животных, но что именно – вопрос открытый.

Здесь автор советует сделать еще одну паузу и спросить себя: какая позиция вам ближе всего? Кем вы считаете себя: машиной, животным или человеком?

  1. Что такое наше «Я»? Когда вы смотрите на свои детские фото, как вы понимаете, что вы – это вы? Когда вы просыпаетесь по утрам, что делает вас тем же человеком, каким вы были накануне вечером? Похожая философская проблема: в музее выставлен древний корабль. Отдельные его части портятся со временем, и их заменяют новыми. Остается ли этот корабль собой? Если наши клетки постоянно обновляются, а мы остаемся собой – значит ли это, что наше «я» не определяется физическим телом?

Отвечая на этот вопрос, автор предлагает выбор из трех вариантов: «Я» – это хитрый трюк нашего мозга; эмерджентный разум; душа. Первой точки зрения придерживается большинство ученых. Вторая основывается на свойстве систем, называемом эмерджентностью: когда при объединении частей получается нечто, обладающее новыми свойствами, отличными от свойств отдельных элементов. А третья во многом перекликается с религией. Риз спрашивает у читателя: какой версии отдаете предпочтение вы?

Роботы и работа

Проблема, которая волнует большинство людей сегодня, – отнимет ли автоматизация их рабочие места? Автор не предлагает единого ответа, ведь многое будет зависеть от того, какие именно прорывы в сфере искусственного интеллекта произойдут, какие новые материалы изобретут ученые, как будут развивать сенсорные технологии и т. д. Также мы не знаем, насколько быстро общество примет роботов в роли сотрудников, как их появление отразится на потребительских предпочтениях и т. д.

Fourth Age 3

Вместо того чтобы пытаться спрогнозировать то, что сейчас сложно оценить даже примерно, автор предлагает принять, что возможны только три исхода:

  1. Роботы и ИИ займут все рабочие места (как минимум 90%). Они смогут выполнять любое действие лучше человека, поэтому люди будут нанимать друг друга только по эмоциональным или ностальгическим причинам. Роботы будут лучшими музыкантами, художниками и президентами, чем люди.
  2. Роботы заберут часть рабочих мест. В этом сценарии люди уступят машинам, но не во всем. Роботы займут больше мест, чем создадут, они оккупируют ритейл, сервис, логистику, а также потеснят бухгалтеров, докторов и т. д. Однако машины не смогут быть художниками и выполнять ту работу, которая связана с эмоциями или социальными навыками.
  3. Роботы и искусственный интеллект не отнимут у людей работу. Хотя какие-то места и исчезнут благодаря автоматизации, однако будет создано не меньше новых. И все желающие получат работу. Этот сценарий основывается на предпосылке, что даже если все задачи, которые сейчас существуют в мире, будут выполняться машинами, люди придумают новые способы создавать то, за что потребители будут готовы платить.

Каждый из этих сценариев основывается на разных предпосылках. И каждый из них вероятен, поэтому пока стоит рассматривать все три – до тех пор, пока мы не получим больше информации и не сможем построить точный прогноз.

Истоки разума

По мнению автора, сознание – самый значимый аспект нашего существования. Представьте себе, что вас похитили инопланетяне и заменили роботом, который выглядит в точности как вы. Он выполняет те же действия, которые делали бы вы в течение дня. Однако он не чувствует и не думает, он не может испытывать радость, любовь, раздражение, гнев. Его единственная задача – подражать вам. По мнению Риза, единственная разница между вами и этим роботом – сознание.

Сознание отличается от чувствования. Простые формы жизни могут испытывать боль, когда их ранят, однако их страдание не сопровождается размышлением о том, «за что мне это?». Иногда чувства считают самой низкой формой сознания – ведь для существа, которое что-то чувствует, по крайней мере существует «Я», которое это испытывает.

Fourth Age 4

Также сознание отличается от ума. Ум, интеллект основывается на рассуждениях, а сознание – это скорее о переживании некоего опыта. К примеру, иногда опытные водители настолько уходят в размышления за рулем, что не помнят о том, как доехали до пункта назначения. В этом случае можно сказать, что они пользовались своим умом, но не вели машину осознанно.

Зачем нам нужно сознание и откуда оно произошло? Существует масса теорий и идей на этот счет. Например, что сознание – это механизм, который позволяет нам легко менять фокус. Возможно, сознание кроется в нашей способности проигрывать различные сценарии в уме. Змея может действовать только как змея, опоссум – как опоссум, и только человек может наблюдать за каждым живым существом и учиться у него, представляя себе различные способы действия в той или иной ситуации. Также существует теория о том, что сознание происходит из необходимости нашего вида конкурировать. Ведь соперничать проще, если вы способны «проникнуть в голову» конкурента. Таким образом, со временем процесс «примерки чужих башмаков» развился в сознание в его нынешней форме.

Кого можно считать разумным, имеющим самосознание? Проблема в том, что надежного теста пока не существует. Компании и университеты работают над этой проблемой, и со временем, скорее всего, она будет разрешена. Даже самые убежденные дуалисты признают, что хотя сознание и может лежать за пределами физического мира, но они взаимодействуют определенным образом – и это можно измерить.

Могут ли компьютеры стать по-настоящему разумными? Другими словами, компьютер будущего – это вещь или одушевленное существо? В 1997 году Гарри Каспаров проиграл компьютеру в шахматы и сказал: «По крайней мере, он не смог насладиться победой». Будет ли способен на это компьютер будущего? Автор приводит несколько теорий, каждая из которых дает свой ответ на эти вопросы.

Самой универсальной из них является теория слабой эмерджентности Рея Курцвейла. Она говорит о том, что сознание (разумность) – это эмерджентное свойство сложных физических систем, которое можно воспроизвести в компьютере. А значит, если машина будет способна воспроизвести сложность человеческого мозга, то в ней возникнет такое же свойство – сознание. Слабая эмерджентность – это результат, который является неожиданным, но объяснимым. Другими словами, теоретически разумные компьютеры возможны, однако пока ни одной машине не удалось приблизиться к эмуляции человеческого мозга.

Что дальше?

Жизнь в «четвертом веке» сильно изменится. Во-первых, ИИ и роботы позволят существенно снизить цены на пищу, а значит, голоду будет положен конец. Искусственный интеллект поможет людям понять – где и какие растения стоит выращивать, куда их продавать. Все сельскохозяйственные работы будут усовершенствованы, а значит, продуктивность значительно вырастет. Скорее всего, появятся дешевые технологии выращивания искусственного мяса, поэтому популяция домашнего скота сильно уменьшится.

Во-вторых, проблема бедности также может быть решена благодаря внедрению ИИ и роботов. Это не означает, что наступит эпоха равенства – наоборот, разрыв в благосостоянии может даже усилиться, однако бедности будет становиться все меньше. С появлением и развитием ИИ смартфон каждого человека станет лучшим в мире доктором, учителем, диетологом, персональным тренером и т. д. И все это будет бесплатно или очень дешево. Сейчас мы также обладаем доступом к огромным массивам информации, однако интернет и ИИ сильно отличаются. Помощь ИИ в принятии решений сделает нас гораздо умнее любого человека, когда-либо жившего на планете.

Скорее всего, в «четвертом веке» станет меньше войн (а может, они исчезнут вовсе). Однако возникнет и масса новых вызовов, в том числе этического характера. Например, если технологии позволят нам изменять себя, совершенствовать свои тела – то сможем ли мы остановиться? Как бы то ни было, автор верит в способность человечества изменить мир к лучшему. Ведь в новую эпоху это уже не вопрос ресурсов, а скорее вопрос воли.

136