По СЛАВЕЙ ЖИЖЕК*
Развитие искусственного интеллекта приведет к концу капитализма, каким мы его знаем.
Открытое письмо института Будущее жизни Требование о шестимесячной предупредительной паузе в развитии искусственного интеллекта уже подписали тысячи высокопоставленных лиц, в том числе Илон Маск. Подписанты опасаются, что лаборатории искусственного интеллекта «застряли в безудержной спешке» по разработке и внедрению все более мощных систем, которые никто, включая их создателей, не может понять, предсказать или контролировать.
Чем объясняется взрыв паники среди определенного слоя элит? Очевидно, что в основе этой истории лежат контроль и регулирование. Но кем? Во время предложенного полугодового перерыва, когда человечество сможет оценить риски, кто будет его защищать? Поскольку лаборатории искусственного интеллекта в Китае, Индии и России продолжат работу (возможно, тайно), глобальные публичные дебаты по этой проблеме немыслимы.
Несмотря на это, мы должны рассмотреть, что здесь поставлено на карту. В своей книге 2015 г. Homo DeusИсторик Юваль Харари предсказал, что наиболее вероятным последствием появления искусственного интеллекта будет радикальное разделение — гораздо более сильное, чем разделение на классы — внутри человеческого общества. Очень скоро биотехнология и вычислительные алгоритмы объединят усилия в производстве «тел, мозгов и разума», что приведет к увеличению разрыва «между теми, кто знает, как развивать тела и мозги, и теми, кто этого не делает». В этом мире «те, кто встал на поезд прогресса, обретут богоподобные способности созидания и разрушения, а оставшиеся будут обречены на вымирание».
Паника, которую отражает письмо об искусственном интеллекте, является частью страха перед тем, что даже те, кто находится в «поезде прогресса», не смогут его оседлать. Наши современные цифровые феодальные хозяева напуганы. Однако они хотят не публичных дебатов, а соглашения между правительствами и технологическими компаниями, чтобы сохранить власть на своем месте.
Массовое расширение возможностей искусственного интеллекта представляет собой серьезную угрозу для тех, кто находится у власти, в том числе для тех, кто разрабатывает, владеет и контролирует искусственный интеллект. Это указывает не что иное, как конец капитализма, каким мы его знаем, что проявляется в перспективе самовоспроизводящейся системы искусственного интеллекта, которая будет требовать все меньше и меньше ресурсов. затраты агентов-людей (алгоритмическая торговля на рынке — только первый шаг в этом направлении). Нам остается выбирать между новой формой коммунизма и неконтролируемым хаосом.
Новый chatbots предложит многим одиноким (или не очень одиноким) людям бесконечные вечера дружеских бесед о фильмах, книгах, кулинарии или политике. Если использовать мою старую метафору, у людей будет версия кофе без кофеина, газировки без сахара в версии искусственного интеллекта: дружелюбный сосед без темных секретов, Другой, который просто приспособится к вашим потребностям. Здесь присутствует структура фетишистского отрицания: «Я очень хорошо знаю, что разговариваю не с реальным человеком, но я чувствую себя таковым — и без каких-либо связанных с этим рисков!»
В любом случае, внимательное изучение письма об искусственном интеллекте показывает, что перед нами очередная попытка запретить невозможное. Это старый парадокс: мы, люди, не можем участвовать в постчеловеческом будущем, поэтому мы должны запретить его развитие. Чтобы сориентироваться перед лицом этих технологий, мы должны задать старый ленинский вопрос: свобода, для кого что делать? В каком смысле мы были свободны раньше? Не были ли мы уже гораздо более контролируемыми, чем мы думали? Вместо того, чтобы жаловаться на угрозу нашей свободе и достоинству в будущем, возможно, нам следует задуматься о том, что означает свобода сейчас. Пока мы этого не сделаем, мы будем вести себя как истерики, которые, по словам французского психоаналитика Жака Лакана, отчаянно ищут хозяина, но такого, над которым мы сможем доминировать.
Футурист Рэй Курцвейл предсказывает, что из-за экспоненциального характера технического прогресса нам вскоре придется иметь дело с «духовными» машинами, которые не только продемонстрируют все признаки самосознания, но и намного превзойдут человеческий интеллект. Однако мы не должны путать эту «постчеловеческую» позицию с парадигматически современной заботой о том, чтобы завоевать тотальное технологическое господство над природой. Вместо этого мы наблюдаем диалектическое обращение этого процесса.
Сегодняшние «постчеловеческие» науки больше не стремятся к господству. Его убеждение вызывает удивление: какие эмерджентные, случайные и незапланированные свойства приобретут модели искусственного интеллекта «черного ящика»? Никто не знает, и в этом кайф — или, на самом деле, банальность — всего этого предприятия.
Так, в начале этого века французский инженер-философ Жан-Пьер Дюпюи обнаружил в новой робототехнике, генетике, нанотехнологиях, искусственной жизни и искусственном интеллекте странную инверсию традиционной антропоцентрической надменности, которую допускает технология: «Как мы можем объяснить что наука стала настолько «рискованной» деятельностью, что, по мнению некоторых ведущих ученых, сегодня представляет собой главную угрозу выживанию человечества? Некоторые философы отвечают на этот вопрос, говоря, что мечта Декарта — «стать господином и владыкой природы» — не оправдалась и что мы должны срочно вернуться к «царству владычества». Они ничего не поняли. Они не видят, что технология, складывающаяся на нашем горизонте посредством «конвергенции» всех дисциплин, направлена именно на недоминирование. Завтрашний инженер станет учеником чародея не по небрежности или невежеству, а по собственному выбору.
Человечество создает своего собственного бога или дьявола. Хотя исход нельзя предсказать, одно можно сказать наверняка. Если нечто подобное этому «постчеловечеству» возникнет как коллективный факт, наше мировоззрение потеряет все три своих определяющих и пересекающихся предмета: человечество, природу и божественность. Наша человеческая идентичность может существовать только на фоне непроницаемой природы, но если жизнь станет чем-то, чем можно полностью управлять с помощью технологий, она потеряет свой «естественный» характер. Полностью контролируемое существование — это существование, лишенное смысла, не говоря уже о случайности и обаянии.
То же самое, конечно, касается любого чувства божественного. Человеческий опыт «бога» имеет смысл только с точки зрения человеческой конечности и смертности. Когда мы превращаемся в гомо деус и мы создаем свойства, которые кажутся «сверхъестественными» с нашей старой человеческой точки зрения, «боги», какими мы их знаем, исчезнут. Вопрос в том, что, если что, останется. Будем ли мы поклоняться созданному нами искусственному интеллекту?
У нас есть все основания опасаться, что техно-гностические видения постчеловеческого будущего являются идеологическими фантазиями, скрывающими бездну, которая нас ожидает. Излишне говорить, что потребуется намного больше, чем шестимесячный перерыв, чтобы гарантировать, что люди не станут неуместными, а их жизни бессмысленными в не столь отдаленном будущем.
*Славой Жижек, профессор философии в Европейской высшей школе, он является международным директором Гуманитарного института Биркбека при Лондонском университете. Автор, среди прочих книг, В защиту безнадежных дел (бойтемпо).
Перевод: Даниэль Паван.
Первоначально опубликовано на портале Project Syndicate.
Сайт A Terra é Redonda существует благодаря нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
Нажмите здесь и узнайте, как
