Мир понемногу погружается в цифровое будущее: вещи обретают кремниевый мозг, сети обрабатывают и распространяют немыслимые объемы информации, жизнь перетекает в виртуальную среду. А как цифровая среда обитания меняет нас самих? Не ослабевает ли наш разум по мере того, как машины учатся решать интеллектуальные задачи за нас? Точно, конечно, никто не скажет, но задуматься об этом лучше уже сейчас. Со своими страхами за будущее «человека разумного» мы пришли к футурологам, исследующим перспективы взаимодействия человека с информационными технологиями
Андрей Константинов. Редактор отдела науки РР. В прошлом психолог.
Павел Лукша. Профессор практики Московской школы управления СКОЛКОВО, основатель международного think-tank в области образования Global Education Futures. В 2012-15 гг. - программный директор одного из крупнейших в мире проектов по обучению мышлению о будущем - Форсайт-флота. Идеолог проекта «Атлас новых профессий» и со-основатель Российской группы Нейронета.
Петр Левич. Директор департамента взаимодействия науки, технологий и общества Московского технологического института. Специалист по технологической этике и социальным аспектам внедрения новых технологий. Член рабочей группы «Нейронет» Национальной технологической инициативы.
Угроза № 1: Мы становимся поверхностными
Андрей Константинов: Первая угроза, на которую я бы хотел обратить ваше внимание, связана с тем, что мы страшно перегружены информацией. У меня постоянно открыто в браузере сразу страниц двадцать, но обычно я их так и не прочитываю. Мы вообще все меньше читаем, в основном очень короткие тексты — некогда углубляться, информации слишком много. За наше внимание конкурирует огромное количество ресурсов, его всячески пытаются привлечь, а значит, мы неизбежно приходим к дефициту внимания. Как сказал Нассим Талеб, «информационная эпоха похожа на словесно несдержанного человека: чем больше он говорит, тем меньше его слушают». И вот мы все меньше слушаем, становимся все более поверхностными.
Павел Лукша: Это одна из самых больших проблем, которые принесла информационная эпоха. Как и в предыдущие эпохи, мы будем вынуждены адаптироваться к новой среде. И сейчас проблема даже не столько в колоссальном давлении информационной среды на человека, сколько в том, что мы еще не адаптировались, у нас нет навыков и знаний, помогающих успешно жить и развиваться в этой среде.
Сформировать эти навыки — очень большая и важная проблема, но нам может помочь то, что в арсенале человечества некоторые подобные умения уже есть. Это практики управления вниманием, практики, которые позволяют отключаться от ненужных или раздражающих стимулов, источников информации. Такие практики были элитными, они были доступны, например, монахам. А в информационном обществе они должны войти в арсенал каждого человека. Знаете, кстати, кто сейчас является передовиками тренировки практик осознанности в западном мире? Технологические компании типа Фейсбука, которые вводят это обучение в программу подготовки своих инженеров, которым придется проводить максимум времени в цифровой среде под сильнейшим информационным давлением.
Петр Левич: Считаете, что мы больше не хотим ни во что углубляться… Но «глубина» в данном случае — очень размытое понятие, как ее измерить? Не буду отрицать существование опасностей, о которых вы говорили, но хочу обратить ваше внимание на то, что эти отрицательные явления — издержки позитивных, благодаря которым мы научились намного лучше обрабатывать информацию. Так эволюционно сложилось, что мы склонны концентрироваться на опасностях, подсознание подталкивает нас к осторожному восприятию изменений.
Лукша: Важно докопаться до причин происходящего, а они лежат далеко не только в технологиях. Мне кажется, главная причина — это устройство общества, которому нужны именно «поверхностные» люди, не склонные к рефлексии, самостоятельному анализу информации, которую выдают внешние источники.
Левич: Звучит как теория заговора! Ну и кому же выгодно, чтобы мы глупели?
Лукша: Общество структурируется вокруг определенных групп интересов. Почему мы пытаемся развивать именно эти типы технологий, а другие нет? Это следствие того, что при принятии решений о выборе технологической стратегии учитываются те или иные группы интересов. И да, если фигуру жены какого-то рэпера обсуждают гораздо активнее, чем Нобелевские премии, это в том числе результат целенаправленной работы этих групп интересов. Они во многом определяют формат, в котором развивается информационное общество, — в частности, упрощаются коммуникации.
Левич: А можно ли с уверенностью утверждать, что коммуникация упрощается?
Лукша: Возьмем для примера сдвиг, который произошел в цифровых коммуникациях, когда мы перешли с платформ типа Живого Журнала на платформы типа Фейсбука. В Живом Журнале коммуникация была рефлексивной: ты не мог просто «лайкнуть» чужое сообщение — приходилось отвечать комментарием, завязывалась дискуссия… А социальные сети наподобие Фейсбука предполагают два основных типа коммуникации — лайк, то есть «мне понравилось», и репост, то есть «вот, смотрите». В результате скорость передачи информации возросла, а рефлексивность, глубина анализа снизилась.
Константинов: В Живом Журнале тексты были раз в десять длиннее, чем в Фейсбуке, а новое поколение все чаще предпочитает проводить время даже не в Фейсбуке или ВКонтакте, а на платформах вроде Твиттера и Инстаграма, где текста в принципе мало.
Вообще я повсюду наблюдаю признаки смещения акцента с мышления на основе текста к визуальному мышлению. Раньше личность образованного человека формировалась под влиянием романов и других развернутых повествований, была такой же многогранной, усваивалось много сложных сценариев поведения. Понятийное мышление абстрактно, то есть может подниматься над частными случаями и находить в них общее. Теперь мышление становится более визуальным, твиттеры и инстаграмы нас к этому подталкивают. Возникла практика коммуникации на основе изображений, когда мы обмениваемся мемами и эмодзи, и вообще мы все больше предпочитаем смотреть картинки или совсем коротенькие видео. Не станет ли в итоге наше мышление конкретным и примитивным, словно у дикаря?
Лукша: Тревожит, что текстовая культура упрощается, но ведь визуальная культура открывает перед нами и новые возможности. Визуальный язык может охватывать гораздо более емкие смыслы, а эволюция языка схематизации — одна из важных движущих сил в развитии новых типов мышления. Визуальные средства коммуникации способны включать в себя текст, вырастать над ним. Мы можем создавать схемы, к узлам которых подключены картинки, видео, выступления, статьи в Википедии и многое другое. Возможно, визуальное мышление — как раз наш шанс усложнить свою деятельность.
Но это не произойдет автоматически — нам понадобятся протоколы, которые позволят войти в эту сложность, иначе мы будем получать примитивные линейно устроенные фейсбуки и твиттеры, служащие совсем другим целям. Под их влиянием люди теряют умение «думать длинно» и писать большие тексты, им стало труднее удерживать в голове сложные конструкции. А тем временем мир становится все сложнее. Как быть с тем, что мы все меньше способны сознательно контролировать сложнейшие системы, созданные нами?
Левич: Коллеги, это вполне понятная и весьма популярная сейчас риторика, но давайте задумаемся — если нам все труднее работать со сложными системами, то кто же тогда создает все более сложные механизмы? Конечно, никто не в состоянии удержать в уме всю информацию о Большом адронном коллайдере, и без умных машин мы бы его не создали. Но, по-вашему, получается, что мы поторопились его строить, что стоило бы рефлексивно подождать, пока наш мозг эволюционирует до стадии, когда мы смогли бы построить коллайдер без помощи компьютеров? Понятно, что в обозримом будущем мы бы его не построили вообще! Так что выбор именно таков: или вовсе не создавать сложные системы, или делегировать часть своих когнитивных функций компьютерам, оставив себе задачу более высокого уровня — целеполагание. Задачу, кстати, более интересную, чем запоминание десятков тысяч соединений деталей.
Угроза № 2: Мы превращаемся в машины
Константинов: Другую опасность я как раз вижу в том, что мы отдаем функции собственной психики техническим устройствам. Мы делегируем свою память жесткому диску компьютера и записной книжке телефона. Делегируем свое понимание иностранного языка автоматическому переводчику. Делегируем свою способность считать калькулятору, способность ориентироваться на местности — навигатору и так далее. При этом сами мы все хуже считаем, ориентируемся, запоминаем — глупеем.
Я тоже готов ответить на вопрос, кому выгодно, чтобы мы глупели — это выгодно нашему организму. Мозг, как известно, с эволюционной точки зрения стоит дорого — он съедает четверть всей потребляемой организмом энергии, рожать ребенка с большой головой очень тяжело и опасно. Кстати, мозг людей уже довольно сильно уменьшился за последние несколько десятков тысяч лет, с тех пор как стали развиваться технологии — разве это не настораживает? Зачем нам большой мозг, если мы делегируем все больше его способностей технике?
В связи с делегированием машинам функций психики встает и другая важнейшая проблема, я ее называю объективацией. Суть в том, что какая-то таинственная человеческая функция вдруг становится очень простой и управляемой, механической. В одной из серий «Черного зеркала», известного британского фантастического сериала, как раз посвященного угрозам цифровых технологий, у героев объективирована память — они могут находить и просматривать любые фрагменты своих воспоминаний как видеоролики на диске компьютера, показывать их другим. И оказывается, что в таком мире, где очень непросто что-то скрывать от близких или обманываться насчет себя, нормальные человеческие взаимоотношения тоже не получается построить. Потому что человек во многом и состоит из иллюзий, тайн, недосказанностей. А объективируя свою память или мышление, мы сами превращаемся в машины. Даже если не поглупеем, а, наоборот, поумнеем благодаря нашим гаджетам. Их ведь уже и сейчас называют «экзокортексом», то есть вынесенной наружу корой нашего мозга. Вот меня и пугает, что эти машины, которые составляют экзокортекс, превращают в машины и нас.
Левич: А так ли ценно остаться человеком? Мне не очень важно, будут ли меня называть человеком или киборгом. Пускай дразнят киборгом, для меня гораздо важнее мои возможности, мои способности. И кстати, технологии чаще всего не заменяют функции психики, а дополняют их. Например, устройства и программы, заточенные на обработку больших данных, при применении их вместе с нашим мозгом в совокупности усиливают наши когнитивные возможности. Разве не прекрасно, что эти устройства наделяют нас способностями, позволяющими делать то, что мы хотим?
Лукша: Вопрос в том, кто в этой ситуации будет хотеть — может быть, просто одна из наших «деталей»? Наши желания — это продукт миллиардов лет биологической эволюции. Мы не вполне понимаем, во что влезаем, когда начинаем менять геном, и в случае с мозгом тоже плохо представляем, с чем имеем дело. Наши знания сейчас сильно отстали от наших технических возможностей — тот самый эффект обезьяны с гранатой, которая не понимает, что с этой гранатой делать, рано или поздно выдергивает чеку и взрывается.
Я согласен, что делегирование своих способностей искусственным устройствам — важный этап нашей эволюции. Но, мне кажется, он должен протекать как-то более осознанно. Мы должны внимательно наблюдать за последствиями этого делегирования. Например, когда-то мы делегировали функции воспитания школе — получилось неплохо, но там все-таки люди работают. А если мы делегируем их планшету, мы ведь еще не знаем, что при этом происходит с психикой ребенка, с его отношениями с родителями и обществом. Вот он в два года пытается позвать маму, используя раздвигающий жест пальцами — «приближение». Не появятся ли у него сложности, связанные с различением виртуального и реального мира?
Можно, занимая позицию Петра, сказать: «Ну и прекрасно — это следующий шаг развития». Я не против развития, только хотелось бы лучше понять, что мы развиваем, оценить последствия. Если мы сами себя конструируем, перешли к искусственной эволюции, — значит, мы должны осознанно ею управлять. Но этого нет вообще, есть только группы интересов, продвигающие какие-то товары или идеи. Сейчас направление нашей эволюции определяют не наши сознательные цели, а чьи-то экономические интересы — и в этой логике с Живого Журнала на Фейсбук мы перешли в первую очередь потому, что бездумные репосты и высокая скорость обмена информацией помогают быстрее продавать товары.
Константинов: Может быть, нужно вообще говорить не об эволюционном развитии людей, а о деградации? Согласны ли вы с недавно возникшей в англоязычном мире поговоркой «We live in the era of smart phones and stupid people», то есть «телефоны умнеют, а мы глупеем»?
Левич: В этих опасениях нет ничего нового. Они возникли с изобретением письменности, которой мы тоже делегировали какие-то функции сознания и памяти: можно не помнить, а записать. Затем наступили, казалось бы, совсем плохие времена для памяти — книгопечатание, потом Интернет, Википедия… Что же, наша память все это время слабела?
Думаю, что, делегируя технике функции нашей психики, мы не становимся более ленивыми или глупыми — наоборот, мы получаем возможность работать с более сложными системами, оставляем себе самые творческие элементы проектов. Компьютер обрабатывает информацию, чтобы мы могли работать с метаинформацией, с задачами более высокого уровня.
Вот пример. Утром мне пришли в голову интересные мысли по поводу предстоящей дискуссии, но если б я не записал их на ноутбук, то многое бы забыл. Мог бы, конечно, тренировать память, осваивать мнемотехники. Но компьютер помог мне сосредоточиться не на приемах запоминания, а на содержании нашего разговора, то есть выйти на более высокий уровень работы с информацией. И это работает — ведь технический прогресс не замедляется, мы учимся делать все более сложные вещи.
Лукша: А мне кажется, мы действительно можем столкнуться с массовым оглуплением. Ведь повышение уровня сложности вызовов, стоящих перед нашим интеллектом, не происходит автоматически. Делегировав рутинную работу компьютеру, мы чаще всего погружаемся в очень простые развлечения, тратим высвободившееся время на репост котиков, а не на сложные задачи.
Приведу «производственный» пример: я много общаюсь с людьми, которые занимаются проектированием так называемой «индустрии 4.0», то есть следующего этапа развития промышленных технологий — речь об умных заводах, в которых, условно говоря, 99% операций будут выполняться роботами. Так вот, там есть две парадигмы. В одной из них завод максимально автономен, главная задача работника — нажать кнопку включения-выключения. А другая парадигма говорит: мы должны повышать компетенции работников, чтобы они могли эффективней работать, программируя и обслуживая эти сложные процессы. Это предполагает изменение модели подготовки рабочих: если все пустить на самотек, она не осуществится. Мы должны быть готовы отвечать за последствия тех выборов, которые делаем, и не тешить себя иллюзией, что эволюционный скачок произойдет сам собой.
Делегирование функций компьютеру способно помочь лишь тем, кто к этому подходит осознанно. Работа с потоками информации лучше удается людям, у которых есть навыки информационной гигиены. В частности, очень многие деятельные люди, в том числе из мира Кремниевой долины, не имеют аккаунтов ни в Фейсбуке, ни в Твиттере. Потому что это отвлекает.
Угроза № 3: Мы добровольно встраиваемся в Матрицу
Константинов: Угроза, пугающая меня больше прочих, связана с тем, что мы все больше удовлетворяем свои потребности в виртуальном мире. Получить лайк за пост в Фейсбуке гораздо легче, чем получить одобрение от человека в реальной жизни. Проще удовлетворить потребность в общении с помощью чата, половые потребности — с помощью порно, потребность действовать и побеждать — с помощью игр. Виртуальные посредники очень сильно уменьшают расстояние между желанием и вознаграждением, мы перестаем совершать усилия. А мне кажется, что цивилизация во многом основана на способности человека сделать усилие, отложить удовлетворение потребности на потом. Эта способность связана с самой молодой и самой человеческой зоной нашего мозга — с лобными долями. Они очень медленно созревают, ребенок долго учится управлять собой. Не становимся ли мы безвольными существами, теряя важнейшую для нас как для людей способность совершать осознанное усилие, концентрировать внимание, не поддаваться сиюминутным импульсам?
Левич: А зачем откладывать удовольствие на потом, если его можно получить сразу, а после заняться каким-то более полезным делом? Если мы потратим меньше времени на все эти одобрения друг друга, на поиск девушки, на получение сексуального удовлетворения, то у нас останется больше времени на то, чтобы, к примеру, двигать науку вперед. На что мы на самом деле потратим освободившееся время — конечно, вопрос. Важно, что технологии расширяют наше пространство выбора. Никто же не запрещает вам искать сексуального партнера за пределами Интернета, но теперь есть дополнительная опция — сделать это быстрее в сети.
Константинов: Так многие и вовсе перестают искать партнера, сбегая от реальности в Интернет. Внутри каждого из нас сидит обезьянка, которая вообще не хочет напрягаться, чтобы получить желаемое, — и ей все проще добиться своего.
Левич: У нас есть и более высокие мотивы. Всегда есть те, для кого важнее еда и секс, и те, кому больше всего хочется получить Нобелевскую премию. Важно, чтобы у нас была свобода выбора, возможность делать то, что мы хотим, — и технологии ее увеличивают. А уж чего именно мы хотим — вопрос не к технологиям, хотя это не значит, что его решением не нужно заниматься.
Лукша: Свобода выбора легко ограничивается и направляется интерфейсами вроде ленты Фейсбука, загоняющими тебя в «мягкий» коридор возможностей, оставляющий иллюзию полной свободы выбора. Эти интерфейсы широко используют для того, чтобы продавать товары, или чтобы в обществе не было революций, или чтобы следить за всеми и вовремя вынимать из стада «паршивых овец».
И напротив, я не уверен, что ограничение свободы выбора — всегда зло. Информация может оказаться для неготового к ней общества столь же травмирующей, как огненная вода для эскимосов. Как в свое время мы споили народы, оказавшиеся восприимчивыми к алкоголю, так и сейчас можно уничтожить общества, еще не адаптировавшиеся к искусам цивилизации, не способные им противостоять.
Константинов: Мне кажется, что свобода, понятая как вопрос выбора того, что приятно, как свобода следовать «принципу удовольствия», ведет нас прямиком в Матрицу из одноименного фильма, когда мы будем лежать в своих ячейках и возбуждать себе зоны удовольствия. Собственно, мы это уже и делаем, сидя и лежа за компьютером.
Лукша: Именно. Наш «свободный» выбор направляет и ограничивает хорошо спрятанная внутри нашего мозга машина желаний. Мы запрограммированы своей телесностью, генами — и, кстати, не только своими: например, наши пищевые привычки во многом определяют бактерии, живущие у нас в пищеварительном тракте. Как тут работает свобода выбора? Приводит к эпидемии ожирения по всему развитому миру. Потому что мы выбираем сахар — продукты, в которые добавлен сахар, лучше покупаются. Сахар стали добавлять в огромное количество продуктов, его потребление в западном обществе в ХХ веке переживало экспоненциальный рост. Потом это осознали как серьезнейшую проблему, с которой теперь борются: запрещают производителям добавлять сахар выше определенного количества, устанавливают штрафы, ведут пропаганду. «Свободный» выбор может иметь очень серьезные последствия для общества просто потому, что обезьянка любит сладенькое.
Левич: У меня возникает вопрос: а кому, если не себе самому, я готов разрешить контролировать свою свободу?
Константинов: Мне кажется, важнейший вопрос скорее в том, можно ли каким-то образом обрести свободу, прежде всего — от наших внутренних «машин желания». Недаром слово «воля» означает не только способность преодолевать себя, но и свободу.
Левич: Зачем мне ее обретать, если я не чувствую себя несвободным? Мне нравится ощущать себя свободным, а если кто-то ограничивает мою свободу, я стараюсь из-под этого контроля уйти. Неужели вы и правда хотите внешнего контроля?
Угроза № 4: Мы служим собственному аватару
Константинов: Четвертая и последняя угроза, о которой я бы хотел сегодня упомянуть, связана с так называемой «цифровой личностью». Психологи часто выделяют два аспекта понятия «личность». С одной стороны, личность — это какой я на самом деле: каковы истинные мотивы, управляющие моим поведением. А с другой — это маска, мое социальное лицо, которое я специально создаю, чтобы презентовать себя другим. И вот я опасаюсь, что сейчас из-за социальных сетей происходит очень сильный перекос в сторону личности-маски, или персоны, как ее называют психологи. Мы столько сил и времени тратим, выращивая собственного виртуального клона, без устали занимаемся самопиаром, зарабатываем лайки, наслаждаемся ими, вместо того чтобы реализовывать свой подлинный потенциал.
Левич: В беспокойстве о «неподлинности» опять же нет ничего принципиально нового — разве только то, что наша публичная личность все более отделяется от нашей телесности. Вы, конечно, знаете термин «коннектом» — совокупность нейронных связей в мозге. В недавней статье я предложил аналогичный термин «силиконом» — для совокупности всех цифровых следов, которые мы оставляем в сети: наших публикаций в соцсетях, переписки и так далее. И оказывается, что силиконом — это более активная часть нашей личности, чем телесная, потом что она может вступать во взаимодействие с тысячами людей в день в интернете. Получается, то, что я публикую в соцсетях, может быть даже важнее того, как я выгляжу и говорю.
Константинов: Самое интересное начнется, когда наша виртуальная личность сама начнет расставлять лайки и комментировать.
Левич: Именно! Мы еще будем отправлять наших аватаров в виртуальные школы, где их будут прокачивать с помощью нейросетевых технологий глубокого обучения. Сначала они будут совершать за нас покупки в сетевых магазинах, сами выбирая что купить, потом вести за нас всю переписку, кроме самой важной…
Константинов: Так они и жить за нас начнут, как Электроник за Сыроежкина в известном фильме.
Левич: Особенно интересно поразмышлять над тем, что они смогут жить за нас в виртуальной среде, после того как мы умрем. В будущем в виртуальной реальности, возможно, будет непросто понять, сколько вокруг вас живых людей, а сколько цифровых призраков.
Лукша: Это уже не прогноз, а реальность. В сети и сейчас есть несколько ботов, созданных на основе цифровых следов умерших людей. Классический пример — зомби, между прочим. Помните «проблему философского зомби» — как понять, есть ли сознание у того, с кем вы общаетесь, если он по всем параметрам ведет себя как человек? Скоро эта проблема станет для нас насущной!
Но не записывайте меня в ретрограды. Я как раз считаю, что будет очень удобно делегировать своему цифровому отпечатку разные рутинные задачи вроде покупок — ведь мы каждый раз в основном покупаем одни и те же продукты. И даже с точки зрения развития человеческого потенциала виртуальный аватар может быть полезен — это очень неплохое описание того, что за личность я представляю собой сейчас. На следующем шаге я смогу в своем цифровом портрете увидеть, какие у меня есть профессиональные компетенции, и мне порекомендуют курсы, где я смогу эти компетенции развивать или приобретать недостающие. То есть возникнут рекомендательные сервисы, помогающие нашей личности развиваться, подобно тому как сейчас YouTube рекомендует мне подходящие для меня видеоролики.
Эпилог: Как не деградировать
Константинов: У меня последний вопрос: что делать, чтобы не деградировать, а, наоборот, развиваться?
Лукша: На самом деле цифровые технологии — это в первую очередь не угроза, а наш шанс на эволюционный скачок: именно с ними связаны самые прорывные процессы в образовании, развитии мышления, коммуникации. Но чтобы воспользоваться этим шансом, нужно осознать эту историю на уровне общества, внедрить уже в школы практики, которые будут отвечать на вызовы информационной цивилизации. Речь об информационной гигиене, практиках управления вниманием, развитии способностей творить, сотрудничать. Думаете, достаточно научить детей школьным предметам, и они будут готовы к жизни в этом мире? Нет!
С другой стороны, необходимо вводить в систему управления — в корпорации, в государство — контур, который можно условно можно назвать технологической этикой, то есть тему осознанного выбора и правильного конструирования экспериментов с новыми технологиями, чтобы лучше понимать, к каким последствиям они ведут.
Левич: Я согласен с Павлом по поводу важности осознанного отношения к своим действиям, но также хочу подчеркнуть ценность индивидуальной свободы выбора: если ее не будет, то и осознанность вряд ли принесет счастье. Ну а если кто-то действительно хочет изменить мир, то цифровые технологии могут ему помочь как никогда раньше.