Эти люди станут бесполезны. Известный историк Юваль Ной Харари — о пяти главных проблемах человечества. Полная версия выступления в Давосе

28 января, 11:08

 

 10151

Цей матеріал також доступний українською [1]

 

Юваль Ной Харари: Когда у вас достаточно данных, вам уже не нужно отправлять солдат

Thetimes.co.uk

Полная версия выступления Юваля Ноя Харари [3] на Всемирном экономическом форуме в Давосе

В третьем десятилетии 21 века человечество столкнулось с таким множеством проблем и вопросов, что теперь на них сложно сфокусироваться. Я хочу обратить внимание на проблемы, угрожающие выживанию нашего вида. Это ядерная война, экологический коллапс и технологический прорыв. Ядерная война и экологический коллапс — уже знакомые нам угрозы, поэтому позвольте объяснить, в чем заключается менее известная нам угроза технологического прорыва. Мы столько слышим о пользе технологий будущего, и это, конечно, так, но они также могут разбалансировать человеческое общество и изменить сам смысл человеческой жизни разными способами — от создания мирового бесполезного класса до возникновения колониализма данных и цифровой диктатуры.

1. Бесполезный класс. Сначала мы можем столкнуться с потрясениями на социальном и экономическом уровнях. Автоматизация скоро уничтожит миллионы рабочих мест, и хоть новые рабочие места, безусловно, будут созданы, неизвестно, смогут ли люди приобрести необходимые знания и навыки вовремя.

Например, вы 50-летний водитель грузовика, утративший работу из-за системы беспилотного управления. Есть варианты новой работы — создавать программное обеспечение, например, или учить инженеров йоге. Но как 50-летний водитель грузовика создаст себя заново в качестве разработчика софта или учителя йоги? И людям потребуется делать это не однократно, а вновь и вновь в течение всей жизни, поскольку автоматизационная революция — это не разовое событие, после которого рынок труда уляжется и вернется к балансу.

Скорее всего, нас ждет каскад все больших изменений, если учесть, что искусственный интеллект еще и близко не раскрыл свой потенциал. Рабочие места будут исчезать, появятся новые, но затем и эта работа изменится и исчезнет. Если раньше люди боролись с эксплуатацией, то в 21 веке будут по-настоящему бороться с ненужностью. И гораздо хуже быть ненужным, чем эксплуатируемым. Побежденные в этой борьбе пополнят ряды бесполезного класса. Эти люди будут бесполезны, конечно, не в глазах семьи и друзей, а с точки зрения экономической и политической системы. Бесполезный класс будет отделен растущей пропастью от все более могущественной элиты.

2. Неравенство и колонии данных. Революция искусственного интеллекта (ИИ) может стать причиной беспрецедентного неравенства не только между классами, но и между странами. В 19 веке несколько стран, такие как Великобритания и Япония, индустриализировались первыми, что позволило им завоевывать и эксплуатировать другие страны. Если мы будем неосторожны, это же ждет нас в 21 веке благодаря ИИ.

Речь не о сценарии, сошедшем со страниц научной фантастики, где роботы бунтуют против людей. Разговор идет о гораздо более примитивном ИИ, которого все же достаточно, чтобы нарушить мировое равновесие.

Просто подумайте, что произойдет с экономикой развивающихся стран, если в Калифорнии дешевле будет производить ткани или автомобили, чем в Мексике. И что произойдет с политикой вашей страны, если через 20 лет кто-то в Сан-Франциско или Пекине будет знать обо всей медицинской и личной истории каждого политика, судьи и журналиста, включая все любовные похождения, психологические слабости и коррупционные действия. Остается ли такая страна независимой или она превратится в колонию данных? Когда у вас достаточно данных, вам уже не нужно отправлять куда-то солдат, чтобы контролировать страну.

3. Цифровая диктатура. Следующая угроза, с которой мы можем столкнуться — это расцвет цифровых диктатур, неустанно следящих за каждым. Эта угроза может быть изложена в виде простой формулы, на мой взгляд, определяющей жизнь в 21 веке: Б х В х Д=ВХЧ. В ней «Б» означает биологические знания, «В» — вычислительную мощность, «Д» — данные. Результатом умножения будет «ВХЧ» — возможность хакнуть человечество. Если у вас достаточно знаний по биологии, вычислительной мощности и данных, вы сможете хакнуть мое тело, мозг и всю мою жизнь, вы будете знать меня даже лучше, чем я знаю себя. Вы сможете знать мой тип личности, мои политические взгляды, сексуальные предпочтения, слабости моей психики, глубочайшие страхи и надежды.

Система, которая понимает нас больше, чем мы сами, сможет предугадывать наши чувства, решения и принимать решения за нас. Множество тиранов и правительств прошлого мечтали об этом, но им не хватало вышеупомянутых знаний, мощностей и данных, чтобы хакнуть миллионы людей. Это было не под силу ни Гестапо, ни КГБ. Но скоро некоторые корпорации и правительства смогут систематически хакать человечество.

Пора привыкнуть к мысли, что больше мы не загадочные души, а животные, которых можно хакнуть. Умение хакать людей, конечно, может быть использовано во благо, например, в здравоохранении. Но если эта сила попадет в руки Сталина 21-века — а в мире достаточно тех, кто хочет примерить эту роль — результатом станет худший тоталитарный режим в истории человечества. Только представьте себе Северную Корею через 20 лет, в которой все будут вынуждены носить биометрический браслет, постоянно следящий за давлением, пульсом, мозговой деятельностью. Если слушая выступление великого лидера, вы злитесь, но при этом улыбаетесь и аплодируете — власть будет знать об этом и может отправить вас в подобие ГУЛАГА уже на следующее утро.

Если такие режимы тотальной слежки будут существовать, не думайте, что кто-то останется в безопасности. Власть СССР в сталинский период следила за коммунистической элитой больше, чем за кем-либо. Будущие режимы тотального контроля будут похожи — чем выше ваше положение в иерархии, тем больше за вами следят. Хотите ли вы, чтобы ваш гендиректор или президент знали, что вы на самом деле думаете о них? Поэтому все человечество, включая элиту, заинтересовано в предотвращении возникновения таких цифровых диктатур. […]

Даже если нам удастся предотвратить возникновение цифровых диктатур, возможность хакнуть людей может изменить само понятие человеческой свободы. Чем больше мы полагаемся на ИИ в принятии решений, тем больше власть смещается к алгоритмам.

Это происходит уже сейчас: сегодня миллиарды узнают о новостях из Facebook, верят в подлинность информации, которую принес алгоритм Google. Теперь Netflix решает, что вы посмотрите, а алгоритмы Amazon и Alibaba/Aliexpress — что купите. В недалеком будущем похожие алгоритмы могут выбрать за вас работу или партнера, дадут ли вам кредит и поднимет ли центральный банк процентную ставку. И если вы спросите, почему вам не дали кредит или почему банк не поднял процентную ставку, ответ будет один и тот же: «Компьютер сказал нет». Так как ограниченному человеческому мозгу не хватает знаний, вычислительной мощности и данных, люди просто не смогут понять решения компьютера.

Поэтому даже, казалось бы, в свободных странах, люди потеряют контроль над собственными жизнями и перестанут понимать государственную политику. Даже сегодня финансовую систему понимает около 1% людей. Через несколько десятилетий этот процент будет равняться нулю.

4. Философский кризис. Мы, люди, привыкли думать о жизни, как о драме принятия решений. Во что превратится значение человеческой жизни, если большинство решений будут принимать алгоритмы. У нас даже нет философских моделей для понимания такого существования!

Обычный спор между философами и политиками раньше выглядел так: философы делятся множеством фантастических идей, а политики в ответ терпеливо объясняют, что для того, чтобы воплотить эти идеи в жизнь, им не хватает средств. Теперь мы оказались в противоположной ситуации, мы на пороге философского банкротства. Революции-близнецы — инфо- и биотехнологий — подарили политикам и бизнесменам возможность создать ад или рай, а философам трудно концептуализировать то, как новый рай или ад будет выглядеть, и это очень опасная ситуация.

5. Разумный замысел. В грядущие десятилетия технологии могут не только изменить экономику, политику и философию, но и биологию. ИИ и биотехнологии дадут нам богоподобные возможности, мы даже сможем создавать абсолютно новые формы жизни. После 4 млрд лет формирования органической жизни путем естественного отбора, мы оказались на пороге новой эры, где неорганическая жизнь сформирована разумным замыслом. Наш разумный замысел станет новой движущей силой эволюции.

Поэтому пользуясь новыми богоподобными силами созидания, мы можем совершить ошибки вселенского уровня. Возможно, правительства и корпорации будут использовать технологии для усиления необходимых им человеческих навыков, таких как ум и дисциплина, в то же время пренебрегая другими человеческими навыками, такими как сочувствие, художественная чувствительность и духовность. Результатом может стать раса очень умных и очень дисциплинированных людей, которым при этом будет не хватать сочувствия, умения творить и духовной глубины.

Конечно, это не пророчества, а просто то, что может произойти. Использование технологий ни в коем случае не предопределено. В 20 веке люди использовали технологии индустриальной революции, чтобы построить очень разные общества — фашистскую диктатуру, коммунистический режим, либеральную демократию — то же самое произойдет в 21 веке. ИИ и биотехнологии, безусловно, изменят мир, но мы можем использовать их, чтобы создавать очень разные общества.

Все три экзистенциальных проблемы, с которыми мы столкнулись — это мировые проблемы, которые требуют мирового решения. Когда любой лидер говорит: «Моя страна прежде всего», мы должны напоминать этому лидеру, что страна не сможет самостоятельно предотвратить ядерную войну или остановить экологический коллапс. И нет страны, которая может регулировать деятельность ИИ и биоинженерии самостоятельно. Любая страна может сказать: «Эй, мы не хотим разрабатывать роботов-убийц или заниматься генной инженерией младенцев, мы хорошие! Но не наши враги, им нельзя доверять, возможно, они будут это делать, поэтому мы сделаем это первыми». Если мы позволим такой гонке вооружений идти в областях вроде ИИ и биоинженерии, уже не важно, кто в ней победит, потому что проигравшим будет человечество.

К сожалению, как раз тогда, когда мировое сотрудничество нужно больше, чем когда-либо, некоторые из самых могущественных стран и мировых лидеров сейчас специально этому противодействуют. Лидеры вроде президента США Дональда Трампа говорят нам, что между национализмом и глобализмом есть неотъемлемое противоречие, поэтому нужно выбрать национализм, но это опасная ошибка! Нет никакого противоречия между национализмом и глобализмом, потому что национализм — это не о том, чтобы ненавидеть иностранцев. Национализм — это о любви к своим согражданам, и в 21 веке, чтобы защитить безопасность своих сограждан, необходимо сотрудничать с иностранцами.

Хороший националист 21 века должен быть и глобалистом. Глобализм — это не создание глобального правительства, отказ от всех народных традиций или открытие границ для бесконечных мигрантов. Глобализм — это подчинение некоторым глобальным правилам. Правилам, которые не отрицают уникальность каждого народа, а лишь регулируют отношения между ними. И хорошая модель — это Чемпионат мира по футболу. Это соревнование между странами, где люди яро болеют за свою национальную команду, но в то же время это и потрясающий пример мировой гармонии. Франция не может играть в матче с Хорватией, если эти страны не согласятся с одними и теми же правилами игры. Это глобализм в действии, если вам нравится Чемпионат мира по футболу — вы уже глобалист.

Закон «джунглей». Тысячи лет люди жили по закону «джунглей», находясь в состоянии повсеместной войны. Закон «джунглей» гласил, что велика вероятность того, что между двумя любыми соседствующими странами в следующем году начнется война. Мир означал только временное отсутствие войны. Когда мир был, например, между Афинами и Спартой или Францией и Германией — это значило, что сейчас они не воюют, но в следующем году вполне могут начать.

Тысячи лет люди думали, что это неизбежно, но за последние несколько десятилетий человечество смогло сделать невозможное — нарушить закон и сбежать из «джунглей». Мы создали либеральный мировой порядок, основанный на правилах, который, несмотря на множество недостатков, позволил войти в самую процветающую и мирную эпоху в человеческой истории. Изменилось само понимание слова «мир», теперь это не временное отсутствие войны, а её маловероятность.

Сейчас в мире есть множество стран, которые почти невозможно представить воюющими друг против друга в следующем году. Например, Франция и Германия. В некоторых областях мира, конечно, идет война, но это не должно искажать мировую картину. Сейчас во время боевых действий погибает меньше, чем от суицида, а порох представляет меньшую опасность, чем сахар. Большинство стран, с некоторыми исключениями, например, Россией, даже не мечтают о завоевании и аннексии соседей, поэтому большинство стран может позволить себе тратить лишь 2% ВВП на оборону и тратить гораздо больше на образование и здравоохранение.

Мировой порядок сейчас похож на дом, в котором все живут, но никто его не чинит. Он может продержаться еще несколько лет, но если мы продолжим в том же духе — он разрушится, и мы вернемся в «джунгли».

Мы забыли, что это такое, но поверьте мне как историку, вы не хотите возвращаться туда. Там гораздо хуже, чем вы думаете. Да, наш вид эволюционировал в этих «джунглях» — и даже процветал тысячи лет, но вернувшись туда с новыми технологиями 21 века, мы, скорее всего, уничтожим себя. Конечно, даже если мы исчезнем, это не станет концом света. Что-то нас переживет, например, крысы, которые в свое время смогут восстановить цивилизацию. Может, крысы тогда смогут поучиться на наших ошибках, но я больше полагаю надежды на мировых лидеров, а не на крыс.

Источник: Новое время [4]