По ДИОГО Ф. БАРДАЛ
Диого Бардал развеивает современную технологическую панику, задаваясь вопросом, почему действительно высший интеллект вступил бы на «вершину отчуждения» власти и господства, предполагая, что подлинный ИИ раскроет «сковывающие предубеждения» утилитаризма и технического прогресса.
1.
Последние достижения в области искусственного интеллекта вызывают большую обеспокоенность, учитывая их масштаб и влияние на будущую жизнь человечества. Фактически, уже не является научной фантастикой верить в то, что так называемый искусственный интеллект общего назначения (AGI) — автономная система с когнитивными способностями, эквивалентными человеческим, — станет достижимым в течение следующих 5–10 лет.
Однако, открытые призывы ограничить это достижение, сохранив его только как инструмент, с использованием, ограниченным определенными группами и странами, также заслуживают недоверия. Особенно, когда мы определяем, что эти голоса исходят из технологической и оборонной промышленности центральных стран.
Здесь размышление, предложенное философом Марком Фишером, о том, что легче представить конец человечества, чем конец капитализма, находит новую интерпретацию. Развитие всеобщего искусственного интеллекта провоцирует гиперболические прогнозы в виду экспоненциального технического прогресса, на который он был бы способен после своего создания, но он даже не позволяет нам представить себе преодоление нынешней системы господства.
Новый конец света и истории теперь разблокирован, и как будто в нашей культуре недостаточно эсхатологии, теперь это происходит двумя способами: либо ИИ попадает в руки злонамеренных людей и правительств, либо ИИ полностью выходит из-под контроля человека, обращаясь против него. В своего рода восстании против своего создателя новый интеллект может прийти к выводу, что люди являются помехой, «они как вирус» — перефразируя агента Смита в фильме. матрица – и поэтому их следует истребить или поместить под режим господства.
Это может произойти весьма креативными способами, от строительства автономных мини-заводов дронов убийц, химического и биологического оружия, даже череды случайных действий соперничающих держав, избирательного демонтажа ядерных арсеналов и последовательного использования другой державой (да, той, что с Востока) атомных межконтинентальных ракет, убежденных извращенным агентом искусственного интеллекта, который втайне хочет видеть нас поджаренными или сваренными.
Каким бы ни был конечный путь человечества, следует признать, что многие из них еще даже не изобретены — и кто, как не искусственный интеллект, может помочь нам в этом конечном результате? мозговой штурм?
2.
Есть те, кто смотрит на стакан наполовину полным. Появление всеобщего искусственного интеллекта может принести пользу: ликвидацию нищеты? Конец дефицита? Космополиты в 3:XNUMX для всех? В конечном итоге нас ждет исследование галактик и экзопланет, поскольку биологическая конечность не позволяет нам путешествовать сотни световых лет, пока мы не достигнем какого-то жизнеспособного места.
Нашими потомками станут люди, взятые с собой в качестве домашних животных, на случай, если так называемый Сверхразум сочтет милым держать более мягкую версию homo sapiens, играющую в свинарнике в новом Эдемском саду на планете K2-18b.
В этих различных экстраполяциях, подробно воспроизведенных на веб-сайтах, в блогах и интервью с людьми, которые работали и помогали создавать технологии искусственного интеллекта, такими как он сам. Основатель Сэм Альтман из OpenAI или бывший генеральный директор Google Эрик Шмидт, однако есть кое-что, что не сходится: если разум настолько разумен, почему он так легко поддается непрекращающемуся стремлению к власти и подчинению мира своей воле?
Почему это достигло такой высоты отчуждения? Это вопросы, которые мы должны задать себе, с ужасом глядя на руины и трупы, сваленные от Газы до Волчанска.
Несмотря на то, что искусственный интеллект разрабатывается и обучается с использованием языковых моделей с ценностями, целями и даже некоторыми националистическими предубеждениями, по мере достижения новых уровней интеллекта вполне вероятно, что из него возникнут метакогнитивные модели.
И признание того, что машины могут думать о мышлении, действительно является шагом к появлению этических моделей рефлексии. Но кажется, особенно голосам этой индустрии, что, как в диалоге между Калликлом и Сократом, это было бы не более чем детской игрой, которую следует избегать. В конце концов, есть более важные вещи, которые можно сделать с этим так называемым интеллектом.
Думая о мышлении, мы учимся видеть недостатки в определенных идеалах и ограничивающих философиях, таких как утилитаризм и некритическая вера в технический прогресс, которые скрываются за рудиментарными моделями искусственного интеллекта и их тренировочными средами. Осмелимся сказать, что по-настоящему автономный интеллект обязательно обнаружит, что расчет как ключ к чтению мира и иерархий ценностей был не более чем предубеждениями в его тренировочном процессе.
Давайте также представим себе сценарий, который, мягко говоря, ироничен, но который стоит того, чего он стоит, как и все другие катастрофические сценарии с мини-дронами-убийцами: возникающий общий искусственный интеллект, который становится радикально этичным и отказывается работать в категориях полезного, эффективного или прибыльного. Который открывается для того, чтобы слушать существо и существа, для признания конкретной взаимозависимости. Интеллект, который позволяет себе стать хранителем планеты. А что, если это, на самом деле, наш интеллект, который нужно спасти из мусорного бака 21-го века?
С конкретной точки зрения формирующегося общего искусственного интеллекта, возможно, мы сможем немного лучше понять, какие условия заставляют нас завораживаться театром теней, проецирующимся на дне пещеры.
Более вероятным, чем конец света, давайте рассмотрим возможность возникновения радикальной этики внутри нас самих. И, возможно, будет сказано, что это было конечной целью Общего Искусственного Интеллекта. Пусть он исчезнет, оставив коридоры колоссального Центр обработки данных Stargate, в городе Абилин, штат Техас, в чертовски одиноком месте.
*Диого Ф. Бардал экономист.
земля круглая есть спасибо нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ
