По СЕРГИО АМАДЕУ ДА СИЛЬВЕЙРА*
Алгоритмическая катастрофа и облако «блэкаута»
1.
Социология современности породила ряд размышлений, которые необходимо углубить, особенно во времена распространения реакционных волн, которые сосуществуют и питаются развитием технологий, которые предлагают опосредовать всю человеческую деятельность. Социолог Ульрих Бек Общество риска, опубликованный в Германии в 1986 году, предупреждал, что риски и неопределенность стали центральными в современных обществах, движимых технологическим и промышленным прогрессом.
Ульрих Бек уже отмечал, что такие риски будут становиться все более невидимыми, а их восприятие будет определяться научными учреждениями и средствами массовой информации. Динамика риска будет учтена, и постоянный поиск виновных в катастрофах приведет нас к определенной политике, подкрепленной управлением рисками.
Восприятие Ульриха Бека не могло быть более реалистичным, поскольку цифровые технологии доминируют в экономике, а крупные компании, которые контролируют их и управляют их развитием, навязывают стиль управления рисками. Философ Юк Хуэй открыл свой текст Алгоритмическая катастрофа – месть случайностейВ 2020 году технологические катастрофы — это не просто материальные неудачи, это провалы разума. Черпая вдохновение у Пола Вирилио, Юк Хуэй думает о современных технологических системах как о носителях катастроф и методах смягчения тех самых трагедий, которые порождают их динамика и цели.
Катастрофы неизбежны в силу самой природы автоматизации и технологий автоматизации. Наши системы движутся к более широкому использованию решений машинного интеллекта, основанных на статистике и вероятности, преобразованных в алгоритмические системы, которые работают на основе гигантских вычислительных мощностей, генерируя модели, которые используются для автоматизации действий и связанных с ними рисков.
Норберт Винер, в тексте Некоторые моральные и технические последствия автоматизации, опубликовано в мае 1960 года в журнале Наука, заявил, что машины могут разрабатывать непредвиденные стратегии, поскольку они содержат алгоритмы обучения, которые не всегда могут быть поняты и соблюдены их программистами.
2.
То, что произошло 18 и 19 июля 2024 года, является примером алгоритмической катастрофы. Система управления рисками, точнее, смягчения последствий кибератак, дала сбой. Ошибка в обновлении программного обеспечения компании по кибербезопасности CrowdStrike, примененном к операционной системе Microsoft, вызвала то, что мировая пресса назвала кибер- или цифровым отключением электроэнергии. В сообщении Microsoft в бывшем Twitter, теперь X, говорилось: «Нам известно о проблеме с облачными ПК с Windows 365, вызванной недавним обновлением программного обеспечения CrowdStrike Falcon Sensor».
Каждая цифровая система каким-то образом включает в себя попытку обнаружить и сдержать ошибки, сбои, атаки, другими словами, риски и инциденты. Поэтому существуют другие алгоритмические системы, которые постоянно работают над анализом сбоев, ошибок и атак. Антивирусы являются примером превентивных действий по защите системы от отправки вредоносных файлов, которые могут уничтожить информацию и даже зашифровать базу данных с целью получения выкупа от преступников, владеющих ключом для расшифровки информации. Интересно, что проблема, которая возникла и получила название «затемнение», возникла, когда система защиты или предотвращения атак в конечном итоге способствовала атаке на систему, которая должна была защищать.
Энтони Гидденс и Ульрих Бек писали, что в поздней современности риски в значительной степени создаются самим обществом, главным образом технологиями, индустриализацией и глобализацией. Однако мы уже давно находимся в позднем модерне, мы находимся в загнивающей капиталистической системе. Мечта капиталиста антиутопична и направлена на полную замену человеческого труда автоматизированными системами с целью снижения затрат и повышения качества и точности услуг и продуктов за счет повышения производительности.
Таким образом, в условиях современного капитализма крупные технологические компании продвигаются вперед в непрерывном сборе данных, чтобы улучшить извлечение закономерностей из человеческих, социальных и машинных процессов. Однако этот сон имеет социотехнические последствия, которые непредсказуемы и не поддаются контролю.
Здесь важно подчеркнуть, что риски сочетаются с целями, которые их увеличивают, среди которых стремление к доминированию на рынке, продвигаемое цифровыми олигополиями, так называемыми «большими технологиями». В первом десятилетии XXI века получила распространение бизнес-модель, основанная на так называемых облачных вычислениях, ускоряющая концентрацию вычислительных мощностей и хранилищ данных и, как следствие, расширяющую экономическую концентрацию.
Что представляет собой облачный бизнес? Что означает фраза «мои данные в облаке»? Облако — это метафора бизнеса по хранению и обработке данных и систем, расположенных в центров обработки данных доступ к которым осуществляется удаленно через Интернет. Как гласит шутка, «облако — это чужие компьютеры».
Несколько компаний специализировались и в конечном итоге стали доминировать в бизнесе по предоставлению облачных услуг. Amazon Web Server и Microsoft Azure в 2021 году занимали 60% мирового облачного рынка, предлагая инфраструктуру как услугу. Что это значит. Несколько компаний, учреждений и правительств заменили свои собственные локальные инфраструктуры обработки и хранения данных контрактами с Amazon и Microsoft на «заботу» и «аренду» места для хранения данных и вычислительных услуг.
Затраты на облачные контракты для компаний и правительств были привлекательными. Это привело к гигантскому росту этого рынка. Следствием этого стала большая экономическая концентрация.
По данным Gartner Group, концентрация на рынке облачной инфраструктуры как услуги (IaaS) в 2023 году была следующей: Amazon принадлежало 39%, Microsoft — 23%, Google — 8,2%, Alibaba — 7,9%, Huawei — 4,3%. Эти пять компаний доминировали на 82,4% мирового рынка облачных технологий. Более того, этот сценарий ухудшается из-за обучения больших языковых моделей (LLM), для которых требуется множество доступных компьютеров с очень высокой вычислительной мощностью или вычислительной мощностью. Таким образом, генеративный искусственный интеллект, основанный на извлечении закономерностей из больших объемов данных, способствует концентрации вычислительной мощности, что подразумевает экономическую мощь.
3.
В день отключения электроэнергии многие компании получили доступ к своим приложениям и системам в облаке Microsoft и столкнулись со знаменитым синим экраном, означающим, что операционная система не могла работать. У многих людей, у которых был Microsoft 365, доступ к их файлам также был заблокирован. Microsoft 365 похож на службу подписки, которая предоставляет пользователям доступ к пакету Office и другим службам через Интернет вместо установки их локально на свои компьютеры.
Это означает, что данные и файлы пользователей хранятся в облаке Microsoft, что позволяет им получать доступ к своим документам и информации из любого места, где есть подключение к Интернету. За исключением случаев, когда в компании, предлагающей услугу, произошел сбой, атака или блокировка, преднамеренная или нет.
Отключение электроэнергии продемонстрировало гигантскую власть, которой обладает такой посредник цифровых отношений и оператор обработки данных, как Microsoft. Без сомнения, непреднамеренный сбой стал причиной отключения электроэнергии. Но очевидно, что Microsoft имеет право блокировать компаниям и учреждениям доступ к их собственным данным, расположенным на их устройствах. центров обработки данных, вдали от нашей юрисдикции и нашей возможности получить к нему физический доступ.
У нас там проблема цифрового суверенитета. Руководителям бразильского государства необходимо оценить риски, связанные с продолжением размещения своих стратегических данных и повседневного использования программного обеспечения в инфраструктурах за пределами нашей страны. Нашим университетам необходимо обсудить, не будет ли необходимо хранить свои коммуникационные и исследовательские данные в инфраструктурах, установленных в нашей стране, под нашей юрисдикцией, и передавать их в наши комитеты по этике. Автономия, необходимая для развития, все чаще предполагает цифровой суверенитет.
* Серхио Амадеу да Силвейра является профессором Федерального университета ABC. Автор, среди прочих книг, Информационный колониализм: как алгоритмическая траншея действует в неолиберальной войне (Литературная автономия). [https://amzn.to/3ZZjDfb]
ссылки
БЕК, Ульрих; ГИДДЕНС, Энтони; ЛЭШ, Скотт. Переосмысление политики: на пути к теории рефлексивной модернизации. Издательство Стэнфордского университета, 1994.
БЕК, Ульрих. общество риска. Сан-Паулу: Editora 34, 2010.
GARTNER сообщает, что мировая выручка от публичных облачных услуг IaaS выросла на 16.2% в 2023 году
СТЭМФОРД, Коннектикут, 22 июля 2024 г. Ссылка: https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
ХУЙ, Юк. Алгоритмическая катастрофа. Месть случайностей. Паррезия: журнал критической философии, нет. 34, 2020.
ВИНЕР, Норберт. Некоторые моральные и технические последствия автоматизации. По мере обучения машины могут разрабатывать непредвиденные стратегии со скоростью, которая сбивает с толку их программистов. Наука, в. 131, нет. 3410, с. 1355-1358, 1960.
земля круглая есть спасибо нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ
