По ЭУДЖЕНИО БУЧЧИ*
Шестимесячное перемирие в исследованиях искусственного интеллекта ничего не решит. Посмотрите нежно и сострадательно на мир вокруг вас, ибо он исчезнет в одном дыхании.
За последние несколько недель израильский историк Юваль Ной Харари написал пару статей, в которых утверждается, что искусственный интеллект (ИИ) «взломал» «операционную систему» человеческого вида. Это метафора: «операционная система» здесь означает язык. Машина наконец-то доминировала в наших формах выражения и общения – и опасность, которую это представляет, беспрецедентна, колоссальна, больше, чем все, что мы знали раньше.
Юваль Ной Харари рассуждает с неотразимой ясностью. Автор мировых бестселлеров, таких как Homo Sapiens (опубликовано в Бразилии издательством Companhia das Letras) обладает даром делать некоторые из самых мучительных дилемм нашего времени приятными, доступными и даже увлекательными. Первая из статей, первоначально опубликованная в The New York Times, был переведен в газетах и Бразильские сайты.
Вскоре после этого писатель возглавил транснациональную петицию с призывом к шестимесячному перемирию в исследованиях искусственного интеллекта. Затем он вернулся к обвинению с новым текстом, на этот раз в английском еженедельнике. The Economist (28 апреля), размещено на португальском языке на сайте земля круглая, с тем же посланием: технология, способная овладеть человеческим языком, имеет все необходимое, чтобы заманить в ловушку все человечество.
Спор продолжается. Все мифы, все религии и все культуры, существующие или когда-либо существовавшие на лице Земли, состоят не из аминокислот и хромосом, а из языковых знаков. Эти знаки представляют собой «операционную систему» нашей системы веры, нашего художественного выражения и нашей идентичности – они являются тканью нашего сознания. Скоро, программные обеспечения e аппаратные средства Те, кто возьмет под свой контроль эту «систему», смогут нами командовать. Именно поэтому, по мнению многих хорошо информированных людей, искусственный интеллект по разрушительному потенциалу не уступает ядерному оружию.
Но это еще не половина едва начавшейся заупокойной мессы. Если мы посмотрим на этот вопрос напрямую, то заметим, что Юваль Харари мог бы сказать больше, чем он сказал. Развитие так называемого обучение с помощью машиныЯ большие данные и самопрограммируемое оборудование следует неудержимым курсом. Никакая петиция не сможет остановить это. Точка невозврата, возможно, уже позади.
Чтобы понять необратимость технологического процесса, полезно вспомнить другой процесс, юридический, описанный Францем Кафкой. Независимо от наличия или отсутствия доказательств, законный заговор продолжался, и никто не мог его остановить. Технология, как и право, является творением человека. Однако в отличие от закона он становится сильнее, поскольку дегуманизирует и освобождается от людей.
Мартин Хайдеггер почувствовал нечто подобное, когда говорил о силе техники в первой половине ХХ века. Триста лет назад Томас Гоббс заметил, что Государство, одержимое чудовищем Левиафаном, будет делать все, что захочет, против того, кого захочет. Ощущение, что человеческая изобретательность создает «монстров», живущих собственной жизнью, не ново. Адам Смит представлял себе такую «невидимую руку», дергающую за ниточки рынка. Карл Маркс обнаружил «автоматический субъект», спрятанный в некоторой нише между товаром и капиталом.
Реальность доказала их правоту. Бюрократия, которую Макс Вебер видел с ноткой оптимизма, вскоре деградировала до сталинизма и поглотила его родителей, как бы подтверждая проклятие романа. Франкенштейн, 1818 года, в котором Мэри Шелли изобразила существо, подчиняющее себе творца. В трагедиях Древней Греции судьба, не имевшая правительства, называлась судьбой. В современности это можно назвать бессознательным. Мысль даже понимает, что созерцает, но остановить это невозможно.
И вот мы лицом к лицу с искусственным интеллектом. Вероятность его приручения невелика. Ей удалось вывести человеческий язык из области носителей из плоти и крови. Он, язык, который мог существовать только благодаря нам, теперь сможет жить вне нас. Давайте не будем недооценивать масштабы этого маленького шага, который станет огромным скачком для технологий. Лингвист Фердинанд де Соссюр учил, что тот, кто изобретает язык и пускает его в обращение, теряет над ним контроль. Вскоре мы можем потерять контроль над машинами, которые научились говорить на нашем языке.
Искусственный интеллект автоматизирует протоколы, созданные человеком, и извлекает из них эффективные прогнозы, причем все быстрее и в больших масштабах. Он растет и усложняется в бункеров частный и непрозрачный большие технологии – или в подземельях тщательно охраняемых государственных тайн, тоже непрозрачных. Сегодня не существует политической силы, которая могла бы разрушить эти две непрозрачности одновременно. Нет, шестимесячное перемирие ничего не решит. Наши шансы невелики.
Посмотрите нежно и сострадательно на окружающий мир, ведь он исчезнет в одном дыхании.
* Юджин Буччи Он профессор Школы коммуникаций и искусств USP. Автор, среди прочих книг, Неопределенность, эссе(аутентичный).
Первоначально опубликовано в газете Штат Сан-Паулу.
земля круглая существует благодаря нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ
