По ЮВАЛЬ НОА ХАРАРИ*
A Искусственный интеллект вторгся в операционную систему человеческой цивилизации
Страх перед искусственным интеллектом (ИИ) преследует человечество с самого начала компьютерной эры. До сих пор эти страхи были сосредоточены на машинах, которые используют физические средства для убийства, порабощения или замены людей. Однако в последние два года появились новые инструменты искусственного интеллекта, которые неожиданным образом угрожают выживанию человеческой цивилизации. Искусственный интеллект приобрел некоторые замечательные способности манипулировать и генерировать язык, будь то слова, звуки или изображения. Таким образом, искусственный интеллект вторгся в операционную систему нашей цивилизации.
Язык — это материал, из которого сделана почти вся человеческая культура. Права человека, например, не вписаны в нашу ДНК. Скорее, это культурные артефакты, которые мы создаем, рассказывая истории и сочиняя законы. Боги не являются физическими реальностями. Скорее, это культурные артефакты, которые мы создаем, изобретая мифы и сочиняя священные писания.
Деньги также являются культурным артефактом. Банкноты — это просто кусочки цветной бумаги, а в наши дни более 90% денег — это даже не банкноты, а просто цифровая информация на компьютерах. Что придает деньгам ценность, так это истории, которые нам рассказывают банкиры, министры финансов и криптовалютные гуру. Сэм Бэнкман-Фрид, Элизабет Холмс и Берни Мэдофф не были особенно хороши в создании реальной ценности, но все они были чрезвычайно компетентными рассказчиками.
Что произойдет, когда нечеловеческий разум станет лучше среднего человека рассказывать истории, сочинять мелодии, рисовать картинки, писать законы и писания? Когда люди думают о ChatGPT и других новых инструментах ИИ, их часто привлекают примеры, например, школьники, использующие ИИ для написания своих эссе. Что будет со школьной системой, когда дети сделают это? Но этот тип вопросов упускает из виду более общую картину. Забудьте о школьных сочинениях. Подумайте о следующей президентской гонке в США в 2024 году и попытайтесь представить влияние инструментов искусственного интеллекта, которые могут быть созданы для массового производства политического контента, фальшивых новостей и писаний для новых культов.
В последние годы культ QAnon объединился вокруг анонимных онлайн-сообщений, известных как «Q падает». Последователи собирали, почитали и интерпретировали эти Q падает как священный текст. Хотя, насколько нам известно, все Q падает предыдущие были составлены людьми и боты только способствовали их распространению, в будущем мы можем увидеть первые в истории культы, чьи почитаемые тексты были написаны нечеловеческим разумом. Религии на протяжении всей истории заявляли о нечеловеческом источнике своих священных книг. Вскоре это может стать реальностью.
На более прозаическом уровне мы можем вскоре вести длительные онлайн-дискуссии об абортах, изменении климата или российском вторжении в Украину с существами, которых мы считаем людьми, но на самом деле являемся ИИ. Проблема в том, что нам совершенно бессмысленно тратить время на попытки изменить высказанные мнения. морда искусственного интеллекта, в то время как искусственный интеллект мог бы оттачивать свои сообщения настолько точно, что у него были бы хорошие шансы повлиять на нас.
Благодаря своему владению языком искусственный интеллект может даже устанавливать близкие отношения с людьми и использовать силу близости, чтобы изменить наши мнения и мировоззрения. Хотя нет никаких указаний на то, что у ИИ есть собственная совесть или собственные чувства, чтобы способствовать ложной близости с людьми, ИИ достаточно заставить их чувствовать себя эмоционально привязанными к нему.
В июне 2022 года Блейк Лемуан, инженер Google, публично заявил, что Chatbot LaMDA, над которым он работал, стал разумным. Это спорное утверждение стоило ему работы. Самое интересное в этом эпизоде было не мистером. Лемуана, который, вероятно, был подделкой. Скорее, это была его готовность рискнуть своей прибыльной работой ради Chatbot искусственного интеллекта. Если искусственный интеллект может заставить людей рисковать своей работой ради него, что еще он может побудить их сделать?
В политической битве за умы и сердца самым эффективным оружием является близость, а искусственный интеллект только что обрел способность массово производить интимные отношения с миллионами людей. Все мы знаем, что за последнее десятилетие социальные сети стали полем битвы за контроль человеческого внимания. С новым поколением искусственного интеллекта поле битвы смещается от внимания к близости. Что произойдет с человеческим обществом и человеческой психологией, когда ИИ сразится с ИИ в битве за фальшивые интимные отношения с нами, которые можно использовать, чтобы убедить нас голосовать за определенных политиков или покупать определенные продукты?
Даже не создавая «ложной близости», новые инструменты искусственного интеллекта окажут огромное влияние на наши мнения и мировоззрения. Люди могут использовать одного ИИ-советника в качестве полного и всезнающего оракула. Неудивительно, что Google в ужасе. Зачем искать его, когда я могу просто спросить у оракула? Новостная и рекламная отрасли также должны быть в ужасе. Зачем читать газету, если я могу просто попросить оракула сообщить мне последние новости? И какой смысл в рекламе, когда я могу просто попросить оракула сказать мне, что купить?
И даже эти сценарии не отражают общей картины. То, о чем мы говорим, потенциально является концом человеческой истории. Не конец истории, а только конец ее части, где доминируют люди. История — это взаимодействие между биологией и культурой; между нашими биологическими потребностями и желаниями в таких вещах, как еда и секс, и нашими культурными творениями, такими как религии и законы. История — это процесс, посредством которого законы и религии формируют пищу и секс.
Что произойдет с ходом истории, когда искусственный интеллект возьмет верх над культурой и начнет создавать истории, мелодии, законы и религии? Более ранние инструменты, такие как печать и радио, помогали распространять культурные идеи людей, но они никогда не создавали собственных новых культурных идей. Искусственный интеллект принципиально отличается. Искусственный интеллект может создавать совершенно новые идеи, совершенно новую культуру.
Сначала искусственный интеллект, скорее всего, будет имитировать человеческие прототипы, с которыми его обучали в младенчестве. Но с каждым годом культура искусственного интеллекта будет смело идти туда, куда раньше не ступала нога человека. На протяжении тысячелетий люди жили в снах других людей. В ближайшие десятилетия мы можем обнаружить, что живем в снах инопланетного разума.
Страх перед искусственным интеллектом преследовал человечество лишь в последние несколько десятилетий. Но на протяжении тысячелетий людей преследовал гораздо более глубокий страх. Мы всегда ценили способность историй и изображений манипулировать нашим сознанием и создавать иллюзии. Следовательно, с древних времен люди боятся оказаться в ловушке мира иллюзий.
В XNUMX веке Рене Декарт опасался, что, возможно, злобный демон заманил его в ловушку в мире иллюзий, создавая все, что он видел и слышал. В Древней Греции Платон рассказал знаменитую «Аллегорию пещеры», в которой группа людей закована в цепи на всю жизнь внутри пещеры перед глухой стеной. Экран. На этом экране они видят различные проецируемые тени. Заключенные путают видимые иллюзии с реальностью.
В древней Индии буддийские и индуистские мудрецы указывали, что все люди жили в ловушке Maya – мир иллюзий. То, что мы обычно считаем реальностью, часто является просто фикцией в нашем собственном уме. Люди могут вести целые войны, убивая других и желая быть убитыми, из-за своей веры в ту или иную иллюзию.
Революция искусственного интеллекта ставит нас лицом к лицу с демоном Декарта, с пещерой Платона и с Maya. Если мы не будем осторожны, мы можем оказаться в ловушке за завесой иллюзий, которую мы не сможем разорвать или даже осознать, что она там.
Конечно, новую мощь искусственного интеллекта можно использовать и в благих целях. Я не буду распространяться об этом, потому что люди, которые разрабатывают искусственный интеллект, уже много говорят об этом. Работа таких историков и философов, как я, состоит в том, чтобы указывать на опасности. Но, безусловно, искусственный интеллект может помочь нам бесчисленными способами, от поиска новых лекарств от рака до поиска решений экологического кризиса. Вопрос, с которым мы сталкиваемся, заключается в том, как обеспечить, чтобы новые инструменты ИИ использовались во благо, а не во зло. Для этого нам сначала нужно оценить истинные возможности этих инструментов.
С 1945 года мы знали, что ядерные технологии могут генерировать дешевую энергию на благо людей, но они также могут физически уничтожить человеческую цивилизацию. Поэтому мы пересмотрели весь международный порядок, чтобы защитить человечество и обеспечить использование ядерных технологий в первую очередь во благо. Теперь нам предстоит иметь дело с новым оружием массового уничтожения, которое может уничтожить наш ментальный и социальный мир.
Мы все еще можем регулировать новые инструменты ИИ, но действовать нужно быстро. В то время как ядерные бомбы не могут изобрести более мощные ядерные бомбы, искусственный интеллект может экспоненциально создавать еще более мощный искусственный интеллект. Важнейшим первым шагом является требование тщательной проверки безопасности, прежде чем мощные инструменты искусственного интеллекта станут общедоступными.
Точно так же, как фармацевтическая компания не может выпускать новые лекарства, не проверив их краткосрочные и долгосрочные побочные эффекты, технологические компании не должны выпускать новые инструменты ИИ, пока они не будут признаны безопасными. Нам нужен эквивалент Управление по продовольствию и медикаментам для новых технологий, а нам это было нужно еще вчера.
Не приведет ли замедление публичного развертывания ИИ к отставанию демократий от более безжалостных авторитарных режимов? Это как раз наоборот. Нерегулируемое развертывание ИИ создаст социальный хаос, который пойдет на пользу автократам и разрушит демократии. Демократия — это разговор, а разговоры зависят от языка. Когда искусственный интеллект вторгается в язык, он может разрушить нашу способность вести осмысленные разговоры, тем самым разрушая демократию.
Мы только что нашли инопланетный разум здесь, на Земле. Мы мало что знаем об этом, за исключением того, что это может уничтожить нашу цивилизацию. Мы обязаны положить конец безответственному развертыванию инструментов ИИ в общественной сфере и регулировать ИИ до того, как он будет регулировать нас. И первое правило, которое я бы предложил, — сделать так, чтобы искусственный интеллект обязательно раскрывал, что он искусственный интеллект. Если я разговариваю с кем-то и не могу сказать, человек это или искусственный интеллект, это конец демократии.
Этот текст был создан человеком. Или это не так?
Ювал Ноа Харари профессор истории Еврейского университета в Иерусалиме. Автор, среди прочих книг, Sapiens - Краткая история человечества (Компания писем).
Перевод: Фернандо Лима дас Невеш.
Первоначально опубликовано на портале журнала Экономист.
земля круглая существует благодаря нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ
