Nexus. Коротка історія інформаційних мереж від кам’яного віку до ШІ

• Бестселер The New York Times
• Книжку рекомендує Мустафа Сулейман, автор «Прийдешньої хвилі»
• Видання отримало позитивні відгуки The Economist, Guardian, Publishers Weekly

Чому людство, попри всі свої здобутки й інновації, поводиться настільки самознищувально? Про це розмірковує у передмові до книжки Ювал Ной Гарарі.  Він пише, що вся зібрана людьми інформація так і не допомогла нам наблизитися до розуміння того, хто ми й яке життя маємо вести. Сьогодні маємо багато влади, але так і не змогли краще зрозуміти себе і своє місце у світі. На думку автора, людство навчилося будувати величезні мережі співпраці, проте використовуємо ми їх нерозумно – і у цьому наша найглибша проблема. А оскільки ключем до побудови таких мереж завжди була інформація, то наша основна проблема є інформаційною, тому й вирішувати потрібно саме її.

Інформацію можна вважати одним із основних елементів реальності. Деякі вчені стверджують, що інформація є навіть фундаментальнішою за матерію й енергію. Тому так складно знайти для неї всеосяжне визначення. У повсякденному значенні інформація зазвичай пов'язана із символами, створеними людиною, наприклад, словами. Утім у певному контексті майже будь-який об’єкт (наприклад, сузір’я чи птах) є інформацією, тож лише символами вона не вичерпується.

Але що ж це за контекст, який здатен перетворити будь-що на інформацію? У межах так званого наївного підходу до інформації цей контекст – пошук правди. Інакше кажучи, об’єкт стає інформацією, якщо людина користується ним для пошуку істини. Отже, цей підхід стверджує, що головна роль інформації, – відображати реальність.

Автор не погоджується з таким твердженням, натомість переконаний, що більшість інформації не є спробою висвітлити реальність. Він пише: «Левова частка інформації у людському суспільстві на відміну від інших біологічних та фізичних систем не відображає нічого».

Гарарі описує свої переконання так: існує єдина реальність, а правда – це те, що правдиво відображає якийсь з аспектів цієї реальності. Отже, не існує жодних окремих істин, бо ж реальність у всіх одна. Водночас правда та реальність не є тотожними поняттями, бо правда описує лише окремі аспекти реальності. Крім того, реальність настільки складна, що описати її можна з декількох точок зору.

Реальність, за словами Гарарі, має об’єктивний рівень – рівень фактів. А також суб’єктивний, з віруваннями та почуттями різних людей. Скажімо, одна й та сама подія викличе різну реакцію у різних осіб, хоча факт її існування буде об’єктивним.

Чи означає це, що не варто й намагатися описати реальність, адже ми не можемо охопити її повністю? Дійсно, коли правдиво описуємо якусь подію, то автоматично фокусуємося на її окремих аспектах та ігноруємо решту. Тим не менш, наш опис може бути більш або менш правдивим, а значить, у ньому може бути більше або менше цінності.

Якщо подивитися на історію, то можна зробити висновок, що з часом інформація дедалі більше сприяла побудові зв’язків між людьми, але вона не обов’язково ставала при цьому достовірнішою. Отже, сильна сторона людства – використання інформації не для точного відображення реальності, а для об’єднання осіб. На жаль, зворотним боком цього уміння часто є віра в брехню та дезінформацію. Достатньо пригадати Радянський Союз чи нацистську Німеччину, щоб упевнитися в правдивості цих слів.

Перевагою нашого виду перед рештою тваринного світу є спроможність людей кооперуватися гнучко й у великих масштабах. У приклад співпраці часто наводять мурах, проте їм і не снився масштаб, доступний людству. Скажімо, у світовій торгівлі бере участь майже вісім мільярдів осіб.

Першою з інформаційних технологій, створених людством, була оповідь. Саме історії зробили формування велетенських мереж спів­праці реальністю. Від виступів харизматичних спікерів до бренд-повідомлень – історії створюють зв’язки. Проте найсильніший ефект мають оповідки, що формують так звану інтерсуб’єктивну реальність. Прикладами інтерсуб'єктивних концепцій є закони, нації, корпорації, валюти, тобто те, що не є об'єктивною реальністю, але й не є суб'єктивною реальністю окремих осіб, а народжується при об'єднанні великої кількості людей.

Такі історії критичні для функціонування величезних мереж взаємодії. Скажімо, складно уявити собі державу, яка могла б протриматися тривалий час без власної валюти і законів. Цікаво, що інтерсуб'єктивні концепції часто не мають практичного сенсу поза своєю мережею. Зрештою, якщо багатій опиниться на безлюдному острові з валізою грошей, то він там не знайде їм застосування.

Гарарі впевнений: «Щоб вижити і розквітнути, кожна людська інформаційна мережа потребує робити дві речі одночасно: знаходити правду й створювати порядок». Це непросте завдання, й людство досі, як і тисячоліття тому, не може знайти баланс між правдою та порядком. Проте що швидше розвиваються інформаційні технології, то критичнішою стає потреба у цьому балансі.

Наступними інформаційними технологіями, які винайшло людство, були письмові документи, зокрема книжки. Вони давали змогу поширювати інформацію набагато легше й швидше, проте наслідки не завжди були настільки позитивні, як ми звикли думати. Наприклад, саме книжки стали однією з причин масових полювань на відьом. У 1485 році монах та інквізитор Гейнріх Крамер розпочав експедицію з виявлення й винищення відьом в Альпах. Його ідеї межували з божевіллям, несли відбиток мізогінії та сексуальних девіацій, тож місцева церковна влада зрештою заборонила його розслідування.

Утім у нагоді Крамеру став друкарський верстат – і за два роки він випустив книжку «Молот відьом», де детально розписав свої ідеї. Скажімо, один розділ був присвячений вмінню відьом красти чоловічі статеві органи. За словами Крамера, відьми могли зібрати близько двох-трьох десятків пенісів, тримати їх у шкатулці й годувати зерном. Попри всю безглуздість подібних теорій, «Молот відьом» став бестселером у Європі. Книжку перевидавали десятки разів і вона мала величезний вплив. А якби друкарського верстата не існувало, то божевільні ідеї Крамера так і залишилися б у нього в голові, не спричинивши сотень трагедій.

Ця історія демонструє те, що коли потік інформації стає вільнішим, це зовсім не означає, що збільшується обсяг правди, доступної людям . Навпаки, це може призвести до стрімкого поширення брехні. Крім того, часто саме божевільні ідеї отримують найбільше уваги. Скажімо, «Молот відьом» мав набагато більшу популярність, ніж робота Коперника «Про обертання небесних сфер», хоча саме вона стала фундаментом для подальшого розвитку науки.

Щоб уникнути подібних сценаріїв, інформаційним мережам потрібні самокорегувальні механізми. Прикладом є наукові спільноти, де ймовірність поширення хибних ідей мінімізується за рахунок надання доказів, рецензування колегами тощо.

Чи можливі подібні самокорегувальні механізми в інших сферах людського життя, наприклад, політиці? Гарарі стверджує, що все залежить від того, яким типом інформаційної мережі є суспільство. Адже демократії вірять у робочі самокорегувальні механізми, а диктатури – ні.

Диктатури є централізованими інформаційними мережами (приклад тому – прислів'я «Усі дороги ведуть до Риму»). Центр концентрує в руках усю владу, контролює інформацію та, як вважається, ніколи не припускається помилок. Будь-які висловлювання, що цьому суперечать, переслідуються – а, отже, самокорегування стає неможливим. І хоча теоретично його можна було б забезпечити, скажімо, незалежними судами, на практиці диктатори рідко таке дозволяють.

Демократична інформаційна мережа також має центр – точніше, центральний хаб, виконавчу владу. Проте, окрім цього, існує багато незалежних вузлів, які також наділені повноваженнями й можуть ухвалювати рішення і поширювати інформацію: суди, політичні партії, преса, корпорації, місцеві спільноти, громадські організації тощо. Автономність вузлів у демократії є не свідченням неефективності уряду, а чимось бажаним.

Важливою рисою демократій є переконання, що помилки можуть виникнути де завгодно, адже усі схильні помилятися, навіть уряд. А значить, необхідні механізми для виявлення таких помилок. Прикладом є вибори: навіть якщо минулого разу люди обрали поганого кандидата, вони мають шанс виправити цю помилку під час наступних виборів.

Звучить чудово, але проблема у тому, що інші вузли демократичної інформаційної мережі можуть бути корумпованими. Проте навіть з урахуванням цього створення «міністерства правди» не є вдалим рішенням. Як пише Гарарі, «Уряд у розвинених суспільствах уже є наймогутнішою інституцією, і він часто найбільш зацікавлений у викривленні чи приховуванні незручних фактів. Дозволити уряду наглядати за пошуком істини – це наче доручити лисиці охороняти курник».

Автор запевняє, що ефективніший спосіб достукатися до правди – це поєднати два методи. По-перше, самокорекційні механізми, що існують в академічних, судових, медіа-інституціях, дозволяють викривати корупцію всередині цих організацій. По-друге, наявність незалежних інституцій, які шукають істину в різні способи, дає їм змогу перевіряти одна одну. Зокрема, медіа може розслідувати корупцію в судовій системі, а соціологи викривати упередження, які існують в академічних колах.

Сьогодні ми перебуваємо в епіцентрі інформаційної революції, основи якої заклала поява комп’ютерів. Проте справжній прорив відбувся з поширенням розумних машин, адже вперше в історії влада, яку надає прийняття рішень, мігрувала від людей. Сучасні алгоритми ухвалюють рішення самостійно: навіть соціальні мережі самі визначають, який контент показувати користувачам.

Автор пише, що поява таких машин змінює структуру нашої інформаційної мережі. Раніше елементами інформаційних ланцюжків могли бути тільки люди, саме вони поширювали історії. Однак сьогодні мережа може діяти й без участі людини: наприклад, один комп’ютер генерує фейкову оповідку, інший – публікує її в різних соцмережах, третій – маркує її як фейк тощо. Машини стали повноцінними учасниками інформаційної мережі. Ані книжка, ані документ на це були неспроможні. Крім того, машина може стати могутнішим елементом мережі, ніж людина, адже оперує більшими обчислювальними потужностями, ніж наш мозок.

Отже, інформаційна мережа змінюється. Вона досі включає ланцюжки на кшталт людина-людина (скажімо, родини), але з'являються й нові. Наприклад, комп'ютер-людина, де машина виступає посередником між людьми, як-от соціальна мережа.

Другий тип нових ланцюжків – комп'ютер-комп'ютер. Тут людина виключена зі взаємодії машин і навіть не може зрозуміти, що у ній відбувається. Гарарі розповідає про експеримент, проведений підрозділом Google Brain для вивчення нових методів шифрування. Два комп'ютери, яких назвали Еліс та Боб, мали обмінюватися зашифрованими повідомленнями, а третя машина (Ів) повинна була зламати код. Зрештою, Еліс та Боб винайшли секретний код, який не могла зламати Ів, хоча інженери не навчали їх тому, як це зробити.

Це звучить дещо фантастично, проте схожі події вже відбуваються в реальному світі. Скажімо, 90% forex-торгівлі сьогодні виконують машини, які напряму взаємодіють одна з одною. І одиниці серед людей можуть зрозуміти, що відбувається.

Автор передбачає: у майбутньому люди продовжуватимуть бути частиною інформаційної мережі, але цілком імовірно, що ми станемо меншістю. Це буде перша в історії неорганічна мережа з мільярдами розумних машинних агентів, яких не цікавлять людські пристрасті та які не мають людських потреб.

Машини не мають біологічних обмежень і не втомлюються, отже, така інформаційна мережа працює цілодобово, без свят та вихідних. Це означає, зокрема, що за бажанням нагляд за людьми та контроль за суспільством може бути постійним. Існують й інші проблеми: зокрема, попри потужність такої мережі, вона все одно схильна до помилок. Алгоритми Facebook та Youtube можуть просувати шкідливий контент і винагороджувати його творців, навіть не маючи злих намірів.

Також проблемою є той факт, що машина, маючи ціль, використовує усю свою потужність заради її досягнення. При цьому вона може діяти у способи, які не передбачали люди, що може мати небезпечні наслідки. А з урахуванням того, що ми даємо машинам дедалі більше повноважень у різних сферах, від юридичної до медичної, – ризики зростають.

Часом вважаємо, що люди упереджені за своєю природою, тож якщо рішення будуть приймати алгоритми, то й когнітивних викривлень стане менше. Проте насправді машини також мають упередження, адже вони навчаються на даних і можуть зробити некоректні висновки, виявивши певні кореляції. Наприклад, таким висновком може бути ідея про те, що найняти племінника керівника – це крок до успіху, адже коли така людина подається на вакансію, її майже завжди беруть на роботу й рідко коли звільняють.

Автор не дає оцінки тому, якою буде нова інформаційна мережа: хорошою чи поганою. Проте він стверджує, що людям потрібно будувати інституції, щоб виявляти помилки мережі й усувати їх.

«Цивілізації народжуються зі шлюбу між бюрократією та міфологією», – пише Гарарі. Проте інформаційна мережа, що містить машини, являє собою незвичний для людей тип бюрократії та може створювати міжмашинну міфологію, яку людству складно навіть зрозуміти. З одного боку, це демонструє неосяжний потенціал, але з іншого, – у найгіршому випадку може призвести до катастрофи, навіть знищення нашої цивілізації.

У популярній культурі поширений сценарій, де машини захоплюють владу, використовують тотальне стеження за людьми й, зрештою, створюють цифрову диктатуру. Дехто вважає, що ліберальна демократія не зможе вижити у світі, де існує настільки легкий спосіб нагляду. Проте Гарарі стверджує, що технології не визначають майбутнє, їх можуть використовувати будь-які суспільні устрої, й результат буде різним залежно від мети й способів застосування.

У випадку демократії, на його думку, можна навчитися користуватися технологіями стеження, не нашкодивши усталеним цінностям. Часом ми дивимося на технології спрощено, у стилі «або-або»: або отримуємо кращу медицину, або зберігаємо приватність даних. Насправді ж це не чорно-білий вибір.

Щоб отримати користь від технологій без шкоди, демократичному суспільству потрібно пам'ятати про декілька принципів. По-перше, принцип доброзичливості: інформацію, яку збирає мережа про людину, має використовуватися не для маніпулювання нею, а для допомоги їй. По-друге, згідно з принципом децентралізації, не можна концентрувати всю інформацію в одному вузлі, навіть якщо це державні інституції. Поєднання даних, зібраних окремими організаціями, може збільшити ефективність, але й створити ризик виникнення диктатури.

По-третє, принцип взаємності свідчить, що стеження за людьми має компенсуватися наглядом за інституціями та корпораціями. А четвертий принцип стверджує, що системи стеження мають залишати простір для змін та відпочинку. Інакше кажучи, вірити у те, що люди спроможні мінятися (тому, наприклад, замість передбачати хвороби людини, медична система може допомагати їй уникнути поганих сценаріїв), і давати їм право на відпочинок.

І, звичайно, демократичному сус­пільству потрібні механізми самокорекції. Адже ми делегуємо дедалі більше рішень машинам (наприклад, кого брати на роботу), проте не завжди розуміємо, як алгоритми ухвалюють ці рішення. Тому суспільству потрібні бюрократичні інституції, які поєднуватимуть людські та машинні спроможності й проводитимуть аудит алгоритмів.

Ніхто не знає, яким буде майбутнє, та які рішення ухвалюватимуть люди далі. Проте можна з упевненістю стверджувати, що нова інформаційна технологія завжди стає каталізатором масштабних історичних змін. А значить, людству потрібно уважно стежити за тим, як впливатиме розвиток ШІ на політичні процеси, адже ця технологія має набагато більший потенціал, ніж усі попередні.