Дигитализация и искусственный интеллект: Конец человечества
Фото: Shutterstock.com
Дигитализация и искусственный интеллект: Конец человечества

Если эволюция превращает чисто биологического homo sapiens в неактуального, что придет за ним? Пост-человеческий "хомо деус", чьи способности ранее были зарезервированы только для бога? Или просто дигитальный калькулятор? 

Является либерализм вершиной дигитальной эры? Или же ему придется столкнуться с оптимизированным алгоритмом – машиной по принятию решений"? – Мысленный эксперимент. 

Будет ли наша повседневная жизнь полностью дигитализирована? Будут ли наши чувства и мысли, станет ли среда, в которой мы живем считываться сканерами мозга? Будем ли мы общаться с нашим окружением посредством внедренных в тело имплантатов? – В этом нет никаких сомнений. 

И это открывает перед нами совершенно новую, неизведанную и серьезную перспективу – перспективу создания внешней для нашего "Я" машины, которая будет нас физически и психологически знать – знать нас лучше, чем мы сами. Эта машина будет знать что мы едим, покупаем, читаем, смотрим и слушаем, будет измерять наши настроения , страхи и нужды. У этой машины будет полная картина о нас, картина, в которой ничего не будет пропущено. 

И на самом деле все еще куда хуже. Этот чужой образ будет не только более подробным и объемным, чем мы можем представить. Он будет лучше нас самих. Потому что он даже не существует как объект, и сводится к полезной фикции, с помощью которой мы описываем сами себя. 

Новая супермашина 

Израильский историк Юваль Харари недавно выдвинул эту идею. Он, совершенно справедливо, указал на то, что наше эго состоит из нарративов, с помощью которых мы пытаемся создать минимальную связь и логичность в хаосе воспринимаемого нами мира. Опыт и воспоминания, которые могут этому помешать – убираются с монитора восприятия. Идеология, таким образом – не истории, навязанные темными силами, но истории, с помощью которых мы сами себя постоянно обманываем. 

Исследования мозга подтвердили постструктуралистскую идею о том, что мы состоим из историй, которые мы рассказываем самим себе и о себе. Эти истории – запутанная сборка-солянка, нестабильное многообразие, которое не держит вместе никакое "Я". В то же время, исследования показывают направление к выходу из этой ловушки – путем превращения качественной проблемы в проблему количественную: тот, в распоряжении которого достаточно данных о том, что происходит с людьми знает человека лучше, чем он сам себя знает. 

В нашем случае, это означает, что именно из-за того, что машина читает нас как механический алгоритм, слепо и бессознательно, она в состоянии выдавать решения, которые будут больше подходить внешним реалиям, чем наши собственные решения. Прежде всего, она будет принимать в расчет наши желания и нужды. Машина в состоянии распознать все непоследовательности, измерить все бессвязности, и обходится с ними куда более рационально, нежели наше фиктивное "Я". 

Предположим, я должен решить – жениться или нет. Машина получит и проанализирует все эмоции, которые меня мучают, запишет все прошлые разочарования и всю боль, о которой я сам , скорее всего, предпочел бы забыть. После этого она подобьет баланс и вынесет хорошо продуманное и обоснованное решение – да или нет. Таким образом, уровень разводов резко сократится. 

Но не должно ли это частное знание распространится и на принятие политических решений? В то время, как мое фиктивное "Я" может легко соблазниться речами популистов и демагогов, машина запомнит мои прошлые разочарования, и зарегистрирует противоречия между моими сиюминутными страстями и постоянными убеждениями. Она поможет мне разрешить текущие кризисы, и тем самым увеличить последовательность в процессе принятия мною важных решений. Короче говоря, почему бы машине не голосовать вместо меня? 

И здесь мы затрагиваем ключевой пункт либерализма – суверенное, автономное и последовательное "Я". Если свобода прежде всего означает свободу выбора, и современный либерализм не оставляет в этом никаких сомнений, не должны ли именно либералы приветствовать появление подобной машины, которая сделает возможным для индивида принятие рациональных решений, тех решений, которые наиболее всего подходят этим индивидам? Тут стоит процитировать Харари: 

"Чтобы либерализм имел смысл, "Я" должно иметь один голос , потому что если у меня – больше, чем один аутентичный голос, как я буду знать, каким голосом пользоваться в избирательном участке, в супермаркете и на ярмарке невест? Но в тот момент, когда в нашем распоряжении оказывается система, которая реально меня лучше знает, будет скорее глупо оставлять какой-либо авторитет в руках остатков "Я". Либеральные привычки типа выборов превратится в анахронизм, потому что Google окажется в состоянии лучше представлять меня, чем я сам" 

Что из всего этого следует? – По меньшей мере, три вещи. 

Во-первых, весьма возможно, что хотя обрабатывающий данные суперкомпьютер не является всемогущим и безошибочным, в среднем, он выбирает лучшие решения, нежели наш ум. Возьмите, для примера, медицину, где уже сегодня он ставит диагноз лучше, чем семейный врач. На фондовом рынке программы, которые вы можете загрузить бесплатно превращают финансового эксперта в моду вчерашнего дня. Итак, когда индивиду это удобно, он делегирует по меньшей мере половину своих полномочий о принятии решений машине. Его жизнь улучшается. Он теряет сам себя – но добровольно, исходя из высшего благоразумия. 

Конечно же, во всем этом нет ничего нового. В философии и науке это – давняя традиция, ставить под сомнение свободу воли – и она существует по меньшей мере столько же, сколько сами эти дисциплины. Тем не менее, все сомнения о существовании реально свободной воли никогда еще не влекли за собой практических последствий. Даже те, кто подобно Ричарду Докинзу или Стефену Пинкеру отрицали свободу воли в качестве фигового листа либерализма, становились сторонниками политического либерализма в тот момент, когда речь заходила об организации общества. Потому что какова будет альтернатива – немногие просвещенные, которые также не являются свободными, действующими помимо воли всех остальных? 

В свете появления новой всемогущей мега-машины у этой интеллектуальной игры появляется новый поворот. Если либерализм относится к собственным постулатам серьезно, он должен опираться на подобную машину – потому что она принимает за индивидов лучшие решения, чем они могут принять сами. Харари задается правомерным вопросом – могут ли демократия и свободный рынок пережить изобретение подобной машины? Превратятся ли демократия и свободный рынок в дигитально контролируемые институты? 

Во-вторых: в тот момент, когда людей подсоединят к подобным машинам, человек потеряет свою ценность. Сознание и понимание, равно как способность к чувству и сочувствию, способность к принятию решений – все это окажется разомкнутым, прекратят быть единым целым. Права человека – тоже на кону. Если эволюция превращает чисто биологического homo sapiens в неактуального, что придет за ним? Пост-человеческий "хомо деус", чьи способности ранее были зарезервированы только для бога? Или просто дигитальный калькулятор? Новое сознание или слепой интеллект? 

В-третьих, изобретение подобных машин приведет к радикальному расколу общества – такому, о котором не смел помыслить и сам Маркс. Радикальный раздел произойдет между всеми теми, кто получит выгоды от биотехнологии и машинного интеллекта, и теми, кто продолжит жить в качестве примитивного хомо сапиенс. Наибольшая опасность заключается в возникновении небольшой элиты очень хорошо оснащенных людей, которые благодаря машинам, смогут не только переделать себя самих, но также будут владеть инструментами дальнейшей оптимизации. Они могут подчинить других своей воле. У немногих будет вся мощь интеллекта, а у большинства – ничего, кроме доброй старой человеческой дури. Это – угроза человеческому равенству. 

Для меня подобные перспективы совершенно не кажутся розовыми. Конечно же, либерализм немедленно предлагает объяснения – по меньшей мере он верит, что они у него есть. Он использует латентную ментальную перегрузку, исходя из предположения о базовом человеческом благоразумии – то есть опирается на то, что человек продолжает сам себя переоценивать. В конечном счете, согласно либеральному взгляду на мир – суперкомпьютеры – не более чем машинные фантазии человека, который всегда ошибался и всегда будет ошибаться. Так что все в порядке? 

Это – успокаивающий ответ, который был годным очень долгое время, внезапно стал очень пыльным. Человечество входит в новую эру. Мы это заметили, но не готовы признать, Пока не готовы. 

Славой Жижек, Neue Zurcher Zeitung

Источник: PostSkriptum
counter
Comments system Cackle