Прийдешня хвиля: технології, влада і найбільша дилема ХХІ століття

Юваль Ной Гарарі називає цю книжку захопливою, стверджуючи, що вона добре написана і важлива.

Нобелівський лауреат Деніел Канеман вважає видання обов'язковим для прочитання.

Білл Гейтс відгукнувся про цю книжку так: «Чудовий посібник для навігації в безпрецедентні часи».

Ця книжка починається з відповіді штучного інтелекту на запитання: «Що наступна хвиля технологій означає для людства?». ШІ стверджує, що людство перебуває на роздоріжжі й має обирати між майбутнім можливостей і майбутнім небезпек. Цей вибір, зроблений у найближчі роки чи десятиліття, визначить, чи подолаємо ми виклики нових технологій, чи станемо жертвами обставин. Решта книжки написана людиною, проте й це незабаром зможуть робити машини, – запевняє автор і закликає всіх готуватися до майбутнього, що вже настає.

В історії майже кожного народу є міфи про потоп, що руйнує все на своєму шляху. Хвилі – це одна з найпотужніших сил на планеті, і йдеться не лише про воду. Історія складається з послідовності метафоричних хвиль: розквіт і падіння імперій, релігій тощо.

Розвиток і поширення технологій також має форму хвиль. Це стане очевидним, якщо придивитися до будь-якої технології: від телефонів до літаків, від гончарства до фотографії. Спочатку інновація постає, вона дорога і доступна небагатьом, але з часом поширюється і дешевшає, а її використання стає простішим та доступним масовому споживачу. 

Яка ж хвиля буде наступною? Мустафа Сулейман вважає, що її визначатимуть дві технології: штучний інтелект і синтетична біологія. Вони забезпечать людству новий світанок , відкриють безліч можливостей для збагачення, проте водночас можуть спричинити нестабільність та навіть катастрофи. Ця хвиля створить найбільший виклик ХХІ сторіччя: наше майбутнє залежить від цих технологій і опиняється під загрозою через них. Автор переконаний, що ця хвиля дійсно стане поворотною точкою нашої історії, і нам потрібно правильно підготуватися до цього. 

Сам Сулейман є засновником двох ШІ-компаній та завжди вважав себе оптимістом. Він згадує, як ще підлітком установив браузер Netscape та був повністю захоплений новим світом, який відкрила перед ним мережа Інтернет. Автор любить технології та вважає їх двигуном прогресу і джерелом гордості людей. Але водночас він вірить, що ті, хто рухають розвиток технологій, мають бути достатньо сміливими, щоб передбачати та брати на себе відповідальність за наслідки.

Технології можуть і мають збагачувати наше життя, але без певного стримування кожен їхній аспект може стати небезпечним або непередбачуваним. Тому людству терміново потрібно шукати відповідь на запитання: «Як стримати і контролювати хвилю, що насувається?».

Технологічні винаходи супроводжували людство з найдавніших часів. Скажімо, спочатку ними були кам'яні інструменти або вогонь, набагато пізніше виникли двигуни внутрішнього згорання. Деякі з винаходів – наприклад, вогонь, – автор називає технологіями загального призначення. Це означає, що вони відкривали шлях до інших інновацій та змін у людській поведінці. Такі технології виходять за межі окремих спільнот, а в їх основі часто лежить певний загальний принцип (скажімо, використання пари для виконання робіт або бінарний комп'ютерний код).

Ми часто сприймаємо технології загального призначення як належне. Мова, писемність, сільське господарство... Не думаємо про те, що кожна з цих інновацій лягала в основу певної хвилі. Однак саме ці три хвилі сформували основу сучасної цивілізації . 

Також нам здається, що технологій загального призначення дуже багато, але насправді автор стверджує, що за всю історію людства їх було лише 24. Ось деякі з них: фермерство, розроблення матеріалів на кшталт заліза і бронзи, друкарський верстат, електрика, Інтернет тощо.

Цікаве спостереження: розмір людської популяції та кількість інновацій пов'язані. Нові винаходи допомагають поставати більшим суспільствам, а великі та взаємопов'язані суспільства стають джерелом експериментування й інновацій. Можливо, ще й тому, що чим більше людей у суспільстві, тим більше спеціалізацій у ньому виникає. Зрештою, усі не можуть займатися землеробством, тому хтось починає розробляти інші ремесла. А більше технологій – означає більші міста. На початку аграрної революції на планеті мешкало 2,4 млн людей. На початку індустріальної епохи їх було вже майже 1 млрд.

Звичайно, не варто вважати, ніби технологічні хвилі йдуть одна за одною. Вони перетинаються й накладаються одна на одну, а ще їх щільність збільшується. Наприклад, за останні сто років їх було вже сім.

Коли ж виникає хвиля? Це стається, коли технологія загального призначення широко розповсюджується. Без поширення винахід залишається лише історичною цікавинкою. Однак щойно процес приходить в рух, хвиля набуває звичної форми. Існує чіткий шаблон, який можна простежити. Скажімо, Гутенберг винайшов друкарський верстат приблизно у 1440 році. І це був єдиний подібний пристрій в Європі. Через 50 років на континенті були вже тисячі верстатів, а книжки почали з'являтися з дедалі більшою швидкістю. Через 100 років після Гутенберга країни на кшталт Італії, Франції та Німеччини випускали 40 млн книжок за 50 років. А у ХVII столітті в Європі надрукували вже 500 млн книжок!

Звичайно, це означало і підвищення попиту, і падіння собівартості. Автор стверджує, що, за його оцінками, винахід друкарського верстата у XV столітті спричинив зменшення собівартості виготовлення книжки у 340 разів. Отже, технології розвиваються, і з кожною успішною хвилею процес поширення набирає обертів, тобто стає швидшим і проникає дедалі глибше. 

Один із найбільших викликів технологій полягає у тому, що їхні творці швидко втрачають контроль над ними, щойно винахід побачить світ. Складно передбачити, що інші люди зроблять з твоєю інновацією. Скажімо, Томас Еді­сон винайшов фонограф, щоб записувати свої ідеї для нащадків та допомагати сліпим, і був шокований, коли публіка почала користуватися ним виключно для прослуховування музики. 

Якщо будь-який винахід потенційно може призвести до непередбачуваних (а часом і руйнівних) наслідків, гостро постає питання стримування. Це означає мати змогу обмежити або, за потреби, припинити використання певної технології на будь-якому етапі її розвитку чи розгортання. Зокрема, й мати змогу зупинити її поширення. Але чи можливо це взагалі?

Упродовж усієї своєї історії людство намагалося забороняти певні технології, які вважало небезпечними. Наприклад, у часи Середньовіччя Папа Римський Урбан ІІ намагався заборонити арбалет, а королева Єлизавета I у наприкінці XVIІ століття – новий тип в'язальної машини (щоб уберегти гільдії). Усі ці спроби були марними. Арбалети існували, доки їх не замінили рушниці, а заборонена в'язальна машина повернулася пізніше й надолужила згаяний час.

Автор робить висновок: коли існує попит, технологія знаходить шлях і своїх користувачів. Звичайно, деякі технології виникають і зникають самі, коли втрачають актуальність. Але успішні дають початок новим винаходам. Зрештою, технології – це ідеї, а ідеї знищити неможливо. А ще технології схожі на моркву перед віслюком: вони завжди обіцяють нам більші, кращі, дешевші результати. Тому наш апетит до них невичерпний.

Один із рідкісних винятків – ядерна зброя. Її вдається стримувати, але це непроста історія, сповнена страшних моментів. Та й досі існує багато ризиків, що можуть мати катастрофічні наслідки. Отже, неприємна правда така: людство намагалося сказати «ні» технологіям, але успіх можна вважати максимум частковим. А сьогодні перед нами стоїть найбільший виклик – навчитися стримувати силу тенології, водночас використовуючи її потенціал для служіння людству.

У центрі наступної хвилі перебуває штучний інтелект, проте саме це поняття виникло вже доволі давно, у 1955 році, і тоді здавалося чимось далеким. До прориву було ще понад пів століття: він стався у 2012 році завдяки системі AlexNet та глибинному навчанню. Глибинне навчання використовує нейромережі, дещо схожі на ті, що існують в людському мозку. І навчаються подібні ШІ-системи, коли їхні нейромережі тренують на великих обсягах даних. У випадку AlexNet це були зображення.

Після цього штучний інтелект став пріоритетом в академічних, урядових та корпоративних середовищах. Творця AlexNet найняв Google. Великі технологічні компанії у США та Китаї поставили машинне навчання у фокус своїх R&D-ініціатив. А Google, зрештою, переключилась на стратегію «ШІ на першому місці».

Сьогодні ми свідки масового розгортання ШІ. Щосекунди збираються величезні масиви різноманітних даних, і вони використовуються для навчання ШІ-системи. І з кожним днем користуватися штучним інтелектом стає дедалі простіше. Автор прогнозує, що за декілька років ШІ зможе спілкуватися, дискутувати, діяти у реальному світі так само, як люди. Сенсорні системи машин не поступатимуться нашим. І, зрештою, ШІ стане частиною соціальної тканини.

Упродовж наступних п’яти років у цю сферу спрямовуватимуться великі інвестиції. Над проблемами ШІ працюють найрозумніші люди на планеті, тому ми можемо очікувати гігантських стрибків уперед. Уже доволі скоро ШІ зможе переносити знання з однієї сфери на іншу, як це роблять люди. Якщо сьогодні, спілкуючись зі штучним інтелектом, ми бачимо лише проблиски саморефлексії та самовдосконалення, то незабаром це зміниться. Підключені до мережі Інтернет системи ШІ зможуть не лише спілкуватися, але й виконувати безліч завдань.

Також автор згадує про синтетичну біологію як ще один напрям розвитку технологій, що покладе початок новій хвилі. Сьогодні відбуваються численні експерименти: віруси, що продукують бактерії, білки, що можуть очищувати брудну воду, органи з пробірки, водорості, що здатні прибирати вуглець з атмосфери, тощо.

Деякі з інновацій викликають цілу низку етичних питань. Скажімо, у Китаї вже народилися діти з «відредагованим» геномом. Це шокувало світову наукову спільноту, адже є порушенням етичних норм. Та навіть тут одностайності не було: не всі науковці висловилися за мораторій на подібні експерименти.

Деякі винаходи синтетичної біології вже міцно вплелися у наше повсякдення. Наприклад, у США генно-модифіковані організми становлять 2% економіки. Їх використовують у сільському господарстві та фармацевтиці. І це – лише початок. Компанія McKinsey прогнозує, що 60% фізичного внеску в економіку робитимуть біоінновації .

Не можна оминути й тему роботів, тобто фізичного тіла штучного інтелекту. Почасти роботи вже стали нашою реальністю: нескладно уявити собі машини (скажімо, автоматизовану руку), що збирає деталі на конвеєрі, або робота, який працює на складах. Дослідницький підрозділ Google займається розробкою роботів, які виконуватимуть хатню роботу (складатимуть брудний посуд чи прибиратимуть розкидані речі зі стільців). Ця компанія вже побудувала сотні машин, які вміють сортувати сміття і протирати столи. Це нове покоління роботів зможе реагувати на голосові команди людини.

Існує ще багато сфер, де роботи потенційно можуть принести користь людству. Наприклад, замінити поліцейських, знешкоджувати вибухові пристрої тощо.

Автор переконаний, що всі описані технології у найближчі 50 років будуть поєднуватися у нові способи. На нас чекає багато проривів на перетині сфер. Наприклад, розвиватимуться нанотехнології, з'являтиметься дедалі більше наномашин, що виконуватимуть свої функції з надзвичайно високою швидкістю.

На думку автора, хвиля, розвиток якої ми спостерігаємо сьогодні, має певні особливості. І їх потрібно розуміти, щоб визначати ризики й переваги подальшого розвитку технологій.

1. Асиметрія. Нові технології завжди створювали нові загрози і прибирали бар'єри. Скажімо, винахід гармат дозволяв маленькій кількості солдат зруйнувати замок. А одна друкарня могла випускати тисячі книжок. Зараз цей ефект значно посилився. Нова хвиля створює дешевші, доступніші та легше масштабовані технології. Цікаво, що один із прикладів, які наводить автор, – це українська аеророзвідка й використання нашими військовими дронів для боротьби з російськими окупантами.

2. Гіпереволюція. Для успішного стримування технологія має розвиватися з керованою швидкістю, щоб суспільство могло її зрозуміти й адаптуватися до неї. Так, скажімо, сталося з автомобілями. Проте сьогодні все відбувається набагато швидше. Програмне забезпечення еволюціонує набагато швидше, ніж будь-які інновації у минулому. Фактично ми маємо справу із розвитком технологій, що відбувається у режимі реального часу.

3. Багатоцільове використання. Одна з найцікавіших сфер застосування ШІ – це автоматизований винахід ліків. Алгоритми можуть шукати серед величезного масиву потенційних нових молекул ті, що матимуть цінність для лікування певних хвороб. Так, у 2020 році ШІ вже «просіяв» 100 млн молекул та винайшов перший антибіотик, народжений машинним розумом. Він називається halicin та потенційно може лікувати туберкульоз.

Звичайно, цей процес можна використати і навпаки: замість шукати ліки – виробляти отрути, що вбиватимуть. Так само майже всі технології можна застосувати для військових, а не лише цивільних цілей. Бо що потужніша технологія, то більшим має бути наше занепокоєння щодо різних її застосувань.

4. Автономність і дещо більше. Багатоцільове застосування не є чимось новим для людства: навіть звичайний ніж можна використовувати і для нарізання овочів, і для вбивства. А ось автономність унікальна саме для нинішньої хвилі. Упродовж історії технологія була лише інструментом, а незабаром ми можемо побачити, як інструмент оживе. Автономні автомобілі за певних обставин вже можуть їздити з мінімальним внеском водія або взагалі без нього. Звичайно, поки це неможливо з юридичних чи страхових міркувань, але теоретично така можливість вже існує.

На думку автора, у наступній хвилі закладено парадокс: з одного боку, ми не можемо повністю осягнути, як працює технологія («зазирнути під капот» штучному інтелекту), але можемо її створювати та використовувати. Нейромережі штучного інтелекту рухаються у бік автономії, а те, як це відбувається, занадто складно для нас. Ми не можемо з'ясувати, чому ШІ прийняв певне рішення, яким був його шлях. GPT-4 та решта схожих систем, фактично, є для нас «чорними ящиками». ШІ вже шукає шляхи до вдосконалення своїх алгоритмів. Що станеться, коли ці його зусилля будуть поєднані з автономними діями у мережі?

Дехто вбачає у державних регулюваннях шлях до стримування хвилі. Проте автор не вірить, що одна країна (або навіть група держав) можуть вирішити цю проблему. Ба більше, він вважає, що стримування прийдешньої хвилі неможливе у нашому нинішньому світі. Щоб отримати таку змогу, потрібно втілити серйозні зміни. І навіть у цьому випадку не існує жодних гарантій успіху.

Автор пропонує декілька ідей стосовно того, що могло б зробити людство. Наприклад, створити щось на кшталт програми «Аполлон» у сфері безпеки ШІ. Нам потрібно зробити цю технологію максимально безпечною. ШІ можна порівняти з атомною енергетикою: попри декілька катастроф, станції дуже безпечні, існують установи, що, дотримуючись визначених стандартів, стежать за їхнім станом.

Наприкінці книжки автор зазначає, що попри всі докази того, що стримування неможливе, він усе ж залишається оптимістом. Людство все ще має шанс змінити контекст, у якому розгортається нова технологічна хвиля. Але для цього знадобляться зусилля і бізнесів, і вчених, і урядів. Утім найбільший виклик ХХІ століття цього вартий.