По СЛАВЕЙ ЖИЖЕК*
Проблема не в том, что чат-боты глупы; в том, что они недостаточно «глупы»
Нет ничего нового в «чат-ботах», которые способны поддерживать разговор на естественном языке, понимать основные намерения пользователя и предлагать ответы на основе заранее определенных правил и данных. Однако за последние месяцы его возможности резко возросли, что привело многих в панику и отчаяние.
Много было сказано о чат-ботах, предвещающих конец студенческих диссертаций. Но вопрос, который требует большего внимания, заключается в том, как чат-боты должны реагировать, когда собеседники-люди используют агрессивные, сексистские или расистские высказывания, чтобы побудить бота представить в ответ свои собственные непристойные фантазии. Должен ли искусственный интеллект быть запрограммирован так, чтобы он на одном уровне отвечал на поставленные перед ним вопросы?
Если мы решим, что следует применить какой-то контроль, мы должны определить, насколько далеко должна зайти цензура. Будут ли запрещены политические позиции, которые некоторые сектора считают «оскорбительными»? А как насчет выражений солидарности с палестинцами на Западном Берегу? Утверждение, что Израиль является государством апартеид (что бывший президент Джимми Картер однажды вписал в название книги)? Будет ли все это заблокировано, потому что оно «антисемитское»?
На этом проблема не заканчивается. Как предупреждает нас писатель и художник Джеймс Брайдл, новый искусственный интеллект «основан на массовом присвоении существующей культуры», и вера в то, что он «действительно обладает знаниями или несет смысл, активно опасна». Поэтому мы должны быть очень осторожны с новыми генераторами изображений искусственного интеллекта. «В своей попытке понять и воспроизвести человеческую визуальную культуру во всей ее полноте, — замечает Брайдл, — [они], кажется, также воссоздали наши самые большие страхи. Возможно, это всего лишь признак того, что эти системы на самом деле очень хорошо имитируют человеческое сознание, даже проникая в ужасы, скрывающиеся в глубинах нашего сознания: наши ужасы грязи, смерти и коррупции».
Но насколько хорошо новые искусственные интеллекты напоминают человеческое сознание? Рассмотрим бар, который недавно объявил о специальной акции на следующих условиях: «Купи одно пиво по цене двух и получи второе пиво совершенно бесплатно!» Для любого человека это, очевидно, шутка. Типичное предложение «купи один, получи один бесплатно» переработано и теперь аннулируется. Это выражение цинизма, который оценивается как комическая честность с целью увеличения продаж. Один Chatbot Сможете ли вы это понять?
«Чертовство» представляет собой аналогичную проблему. Хотя слово обозначает то, что нравится делать большинству людей (совокупление), оно приобретает и отрицательное значение («Нас пиздец!», «Пошел ты!»). Язык и реальность путают. Готов ли искусственный интеллект распознать такие различия?
В своем эссе 1805 года «О постепенном формировании мыслей в процессе речи» (опубликованном посмертно в 1878 году) немецкий поэт Генрих фон Клейст перевернул популярное высказывание о том, что нельзя открывать рот, чтобы говорить, если у тебя нет четкого представления о чем говорить: «итак, если мысль выражена сбивчиво, это ни в коей мере не означает, что такая мысль была задумана сбивчиво. Напротив, возможно, что идеи, выраженные наиболее запутанными способами, являются именно теми, которые были продуманы с наибольшей ясностью».
Эта связь между языком и мышлением чрезвычайно сложна. В отрывке из одной из своих речей в начале 1930-х годов Иосиф Сталин предлагает радикальные меры по «выявлению и беспощадной борьбе даже с теми, кто выступает против коллективизации только в своих мыслях – да, именно это я имею в виду, мы должны бороться даже с мыслями людей». Можно смело предположить, что это предложение не было подготовлено заранее. Позволив себе увлечься моментом, Сталин сразу осознал, что он только что сказал. Но вместо того, чтобы отступить, он решил продолжить свою гиперболу.
Как позже заявил Жак Лакан, это был один из случаев, когда истина неожиданно проявляется в акте высказывания. Луи Альтюссер выявил аналогичный феномен в отношениях между принятие e сюрприз. Тот, кто внезапно осознает («принятие») идеи, вы будете удивлены тем, чего вы достигли. Опять же, способен ли на это любой чат-бот?
Проблема не в том, что чат-боты глупы; просто они недостаточно «глупы». Дело не в том, что они наивны (неспособны к иронии и размышлению); дело в том, что они недостаточно наивны (не замечают моментов, когда наивность маскирует проницательность). Таким образом, реальная опасность заключается не в том, что люди принимают чат-ботов за реальных людей; а о чат-ботах, заставляющих реальных людей говорить как чат-боты – неспособных замечать нюансы и иронию, одержимо говорящих именно то, что, по их мнению, они хотят сказать.
Когда я был моложе, мой друг обратился к психоаналитику за лечением после травматического опыта. Представления этого друга о том, чего такие аналитики ожидают от своих пациентов, были клише, и первый сеанс он провел, создавая ложные «свободные ассоциации» о том, как он ненавидел своего отца и хотел его смерти. Реакция аналитика была наивной: он занял наивную «дофрейдистскую» позицию и отчитал моего друга за неуважение к отцу («Как можно так говорить о человеке, который сделал тебя таким, какой ты есть?»). Эта ложная невинность послала четкий сигнал: я не покупаюсь на ваши ложные «ассоциации». Сможет ли чат-бот понять этот подтекст?
Вы, наверное, не поймете, потому что он похож на интерпретацию князя Мышкина из книги Роуэна Уильямса. Идиот по Достоевскому. Согласно общепринятой трактовке, Мышкин-"идиот" - это "положительно хороший и красивый человек", которого довели до одиночного безумия жестокие жестокости и страсти реального мира. Однако в радикальной интерпретации Уильямса Мышкин представляет собой око бури: каким бы добрым и святым он ни был, именно он вызывает хаос и смерти, свидетелями которых он становится, из-за своей роли в сложной паутине отношений вокруг него.
Дело не в том, что Мышкин — наивный простак. Но его особый тип тупости делает его неспособным осознавать ее губительные последствия для других. Он плоский персонаж, который буквально разговаривает как чат-бот. Его «доброта» основана на том, что он, подобно чат-боту, реагирует на вызовы без иронии, предлагая банальности, лишенные всякой рефлексивности, воспринимая все буквально и полагаясь на мысленный механизм самодополняемых ответов, а не на формирование идей. По этой причине новые чат-боты прекрасно уживаются с идеологами всех мастей, начиная отпросыпалсясовременник националистов «МАГА», которые предпочитают продолжать спать.
*Славой Жижек, профессор философии в Европейской высшей школе, он является международным директором Гуманитарного института Биркбека при Лондонском университете. Автор, среди прочих книг, В защиту безнадежных дел (бойтемпо).
Перевод: Даниэль Паван.
Первоначально опубликовано на портале Project Syndicate.
Сайт A Terra é Redonda существует благодаря нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
Нажмите здесь и узнайте, как
