По АНДРЕ КАМПОС РОША*
Соображения о влиянии цифровых преобразований
Одним из основных аспектов цифровой революции является преобразование многочисленных повседневных событий и явлений — событий, звуков, изображений, документов и т. д. — в двоичный язык, 0 и 1, компьютеров, которые, таким образом, могут анализировать, измерять, сравнивать. и генерировать предсказания или воспринимать закономерности и отношения между вещами в мире, которые иногда оказываются странными для здравого смысла.
В этом процессе возникает новая культурная установка, отмеченная радикальным разрывом с предыдущими формами жизни. Посмотрите, например, на нашу смартфоны, эти компактные и мощные устройства, которые сопровождают нас от пробуждения до сна и создают устаревшие впечатления, которые до недавнего времени составляли основу нашей повседневной жизни, теперь превзойдены бешеным темпом цифровой трансформации.
Кто и сегодня выходит из дома с кошельком, полным документов, если то, что относится к нашей личной жизни, должным образом упаковано и сжато в нашем биты информации с наших электронных устройств? Кто помнит, когда в последний раз они поднимали руку, чтобы заказать такси, возможно, в мучительном ожидании, учитывая, что на рынке частных перевозок все больше доминируют цифровые платформы? Что будет с банкнотами и монетами (а также с маленькими денежными поросятами, которыми мы украшали наши жилища) или даже с физическими картами, если наши финансовые операции и средства пространственной ориентации будут непосредственно интегрированы в нашу жизнь? ум?
Дематериализуя и объединяя вещи в единый объект, смартфоны изобразить подчинение ритма изменений в наших привычках и условностях динамике цифровых инноваций. Более того, эти артефакты, истинные синтезы недавних технических завоеваний, обличают от перетасовки сфер работы и свободного времени до точки неразличения (что такое социальная сеть, как не смесь досуга и развлечения с пространством для профессиональной деятельности). реклама и реклама?), поскольку те же обычные привычки и поведение вписаны в финансовые, технические, юридические и операционные механизмы, которые поддерживают и направляют цифровую вселенную. Поскольку существует очевидный дисбаланс сил в способности и инициативе по его формированию, мир, показанный нам на экранах, не является нейтральным изображением. Он разработан в соответствии с интересами тех компаний и учреждений, которые контролируют наши данные. Хотя мы осознаем, что, входя в эту вселенную, мы отказываемся от своей частной жизни и близости, условия сделки не всегда ясны. Следствием этого является то, что для того, чтобы действовать компетентно в повседневной жизни, мы зависим от набора технических акторов, которых мы не знаем, лидеров вселенной, чья операционная логика непрозрачна для нас, и чьи последствия для нашей субъективности неясны. едва начинаю осознавать.
Так было не всегда… Как свидетельствует иранский блогер и активист Хоссейн Дерахшан (2015), сегодня мы переживаем гибель гиперссылка. английское слово ссылке. дает представление о пути, ярлыке, соединении. время гиперссылка это было время, когда всемирная паутина он ценил децентрализацию, разрушение иерархий, создание большой навигационной системы узлов и сетей. Это был золотой век личных блогов, «окна в жизни, о которых мы мало знали, мостов, которые соединяли разные существования друг с другом и тем самым преобразовывали их» (Дерахшан, 2015). Это больше не так.
В мире после кризиса 2008 года инфраструктура западной цифровой экосистемы управляется пятью крупными компаниями, расположенными на западном побережье США: Alphabet/Google, Facebook, Amazon, Apple и, в меньшей степени, Microsoft. . Ядром этой системы является корпоративный (Dijck, Poell and Waal, 2018). Хваленые идеалы «калифорнийской идеологии» Силиконовой долины, которые в любопытной смеси бунта и проступка в стиле Новый левый с предпринимательством высокотехнологичные, провозглашенные ценности открытости и обмена (Барбрук и Кэмерон, 2015), являются не чем иным, как воспеванием перед лицом той агрессивности, с которой эти большие технологии расширять свой бизнес в сети, покупая стартапов и налаживание партнерских отношений, блокирование пути других платформ и принуждение их ценой своего выживания к тому или иному подключению к ним. Известно, что его главный актив — особенно в случае с Alphabet/Google, Facebook и Amazon — это данные, предоставленные пользователями. С их помощью эти компании могут извлекать необходимые знания для продажи третьим сторонам персонализированной рекламы, которая достигает намеченных целей с точностью до миллиметра.
По этой причине они стремятся, прежде всего, привлечь наше внимание, все более дефицитный ресурс в сегодняшнем возбужденном обществе, полном экранов (Türcke, 2010) и который, будучи непередаваемым, становится все более ценным. Создавать ценность, производить необходимую информацию для расширения своего бизнеса, это имеет жизненно важное значение для этих компаний. большие технологии что мы как можно дольше остаемся привязанными к их платформам — отсюда и сетование Дерахшана (2015) на то, что социальные сети, в отличие от блогов прошлых лет, носят закрытый, самореферентный характер, поскольку они склонны обрабатывать родные тексты и изображения, непосредственно опубликованные на их домены с гораздо большим уважением, чем те, которые размещены за их пределами. И методы убеждения, которые они используют, составляют «поворотный момент» в маркетинговых стратегиях, делая идеологические приемы «классической культурной индустрии», на которые указывают Адорно и Хоркхаймер (1985), кажутся детской игрой.
На протяжении XNUMX-го века маркетинговые стратегии были направлены прежде всего на то, чтобы потребитель отождествлял себя с продуктами: сигареты Marlboro очень хорошо сочетались с надменной и независимой личностью; маргарин был идеальной пищей для благополучного и гармоничного семейного окружения. В настоящее время, сочетая передовые вычисления и большие данные со знанием поведенческая экономика и когнитивно-поведенческих наук, эти крупные компании не только стремятся создать размышления ценные вещи о нас, но гораздо более решительным образом изменить то, кто мы есть, повлиять на нашу личность, чтобы мы стали гораздо более предсказуемыми людьми, легкой добычей запутанных механизмов ее алгоритмического управления (Бентес, 2019).
Замкнувшись в цифровых пузырях, мы становимся гораздо более политически радикальными, неспособными воспринять множественные взгляды и различные точки зрения на данный предмет. Попавшись на крючок этой сверхиндустрии воображаемого, по выражению Эудженио Буччи (Eugenio Bucci, 2021), в чьих методах доминирования содержится весь лексикон бихевиористской психологии — обусловленность, триггеры, переменные вознаграждения, архитектура принятия решений и т. д., втянутые в эти механизмы зависимости, так что мы часто оказываемся в бесконечных движениях нажав e прокрутки на YouTube, Facebook или Instagram, которые соблазняют нас непреодолимой силой.
Здесь решающее значение имеет не столько содержание, сколько форма; или, как напоминает нам исследователь СМИ Маклюэн (1967), средство — это сообщение. Модель коммуникации, представленная сетями, которая обращается к бессознательному и эмоциям, является революционным фактором в современном культурном ландшафте. Согласно исследованиям нейронауки, наш мозг пластичен и податлив, его сеть синапсов формируется нашими привычками. Таким образом, с точки зрения интеллектуальной истории, Интернет — это сила, которая изменила наше мнение (Carr, 2010). Множественность своих стимулов способствует отвлеченному и поверхностному мышлению, которое, связанное с давлением неолиберального капитализма на производительность, порождает различные психические патологии, связанные с многозадачности, усталость и дефицит внимания (Han, 2017). В этой сверхбыстрой системе доставки и вознаграждения, которая поощряет повторение физических и умственных действий, наш разум поглощается посередине. Следовательно, не только технологии являются нашими расширениями, но и мы сами становимся расширениями технологий.
Из-за этого переплетения культуры, экономики и техники следует подвергнуть сомнению обоснованность того рационального и хорошо информированного индивидуума, с которым либеральная теория всегда думала об обществе и политике. Какое место вдумчивого и обдуманного выбора, когда мы погружены в среду, способствующую распространению поддельные новости и теории заговора, не зная наверняка, среди обилия быстро циркулирующей информации, где искать «истину» фактов? Как можно говорить об «автономном субъекте», когда мы превращаемся в частицы, расположенные в алгоритмической сети, способной обусловливать наши вкусы и желания и направлять наши действия?
С централизацией информации в руках ограниченной группы большие технологии, в результате правительства и корпорации становятся гораздо более могущественными, чем мы. И в связи с этим принципиальными кажутся две характеристики алгоритмического управления в эпоху больших данных и искусственного интеллекта. Во-первых, следует отметить, что алгоритмы представляют собой не что иное, как наборы инструкций, ряд шагов, которые преобразуют определенные входные данные (затраты) в некоторый предполагаемый результат (выходы). Что-то банальное, например, рецепт шоколадного торта, можно рассматривать как алгоритм. Рецепт состоит из набора инструкций, целью которых является преобразование определенных входных данных, ингредиентов (яйца, мука, дрожжи и т. д.) в готовый продукт, теплый пирог, готовый к употреблению. Грубо говоря, особенность систем искусственного интеллекта в том, что они снабжены входными и выходными данными, а алгоритмы ищут наилучшие средства — наилучший набор шагов — для достижения поставленной цели. (В тривиальном случае торта алгоритм как бы, столкнувшись с ингредиентами и готовым тортом, искал наилучшие способы выполнения задачи с точки зрения использования ингредиентов, оптимизации затрат, экономии времени, и т.д.)
Поэтому, питаемые большими базами данных и усиленные современными вычислительными мощностями, эти системы обладают огромными возможностями для повышения эффективности, то есть для нахождения оптимальных и подходящих путей между средствами и целями, какими бы они ни были, до такой степени, что в них заключается в несколько иррациональной и антиутопической возможности — широко используемой в научно-фантастических сериалах и романах — превзойти или превзойти «цели», для которых они были, в принципе, запрограммированы.
AlphaGo, программное обеспечение искусственного интеллекта, разработанное Alphabet/Google для победы над чемпионом мира по Go (гораздо более сложная настольная игра, чем шахматы) Ли Седол не только обыграл южнокорейского мастера, сделав явно абсурдные ходы, но и вскоре после этого потерпел поражение от своей новой версии AlphaGoZero. Что нового в AlphaGoZero по сравнению с его предшественником, так это то, что он научился многим трюкам и приемам у великих геймеров Go играя миллионы игр против себя, получая только чистую доску и правила игры. Этот метод обучения, при котором машина обходится без примеров из реального мира, учась самостоятельно решать сложные задачи, несомненно, представляет собой большой шаг к неизведанному ее когнитивным способностям (Knight, 2017). И подобные ресурсы могут использоваться в разных секторах общества, что приводит нас ко второй из перечисленных здесь характеристик: легкости, с которой определенные приложения искусственного интеллекта могут быть перенесены из одного контекста в другой, отделяясь от их первоначального использования.
Приложение FindFace, разработанный Александром Кабаковым, позволял пользователям делать загружать фотографий неизвестных людей и сравнить их со всеми изображениями, размещенными в российской социальной сети Vkontakte, просеивая миллиарды из них менее чем за секунду. Когда они упакованы и доступны для широкой публики, приложение его уже использовал фотограф для опознания незнакомцев в московском метро, а также группа женоненавистников-сексистов, чтобы преследовать и преследовать секс-работниц. В итоге Кабаков подписал контракт с мэрией Москвы на использование своего алгоритма распознавания лиц в 150.000 2017 камер видеонаблюдения по всему городу (Greenfield, XNUMX).
Действительно, приложения искусственного интеллекта, такие как FindFace Кабакова доказали свою эффективность в служении авторитаризму во всем мире. Их большое преимущество перед традиционными средствами принуждения и запугивания заключается в том, что они молчат и, следовательно, допускают гораздо более широкий и систематический тип господства. Если авторитарное правительство хочет подавить оппозицию, больше нет необходимости мобилизовать большой контингент вооруженных до зубов полицейских сил. Помимо связанных с этим затрат и рисков, эффективность этих средств сталкивается с биологическими ограничениями человеческого тела, хотя, как напоминает нам Крари (2014), их преодоление является одной из целей неолиберального капитализма, работающего круглосуточно и без выходных.
Люди голодны и хотят пить: их запасы энергии конечны. Автоматизированные системы искусственного интеллекта безжалостны и вездесущи, они вызывают изменение поведения и создают важный сдерживающий эффект даже при отсутствии физического насилия. Применительно к крупным городам язык алгоритмов — это наблюдение, превентивный контроль и масштабируемое обнаружение аномалий. Зная, что за ними наблюдают, зная, что алгоритмы обнаружения кластеров в реальном времени, которые определяют, когда сформировалась большая группа людей, используются правительствами или даже боты искусственный интеллект просматривает их информацию в поисках сообщений с критикой режима, люди будут чувствовать себя вынужденными подчиниться (Feldstein, 2019).
Роль новых технологий в государственной слежке уже некоторое время является предметом споров, по крайней мере, с тех пор, как Эдвард Сноуден в 2013 году раскрыл механизмы глобальной слежки, используемые АНБ.Управление национальной безопасности) Североамериканский. Также известно, как социальные сети, такие как Facebook и Twitter, способствовали росту авторитаризма и появлению новых правых популизмов во всем мире, о чем свидетельствует деятельность Cambridge Analytica в Brexit и на выборах Дональда Трампа в 2016. Хотя существуют правовые механизмы, с помощью которых западные либеральные демократии могут противостоять таким злоупотреблениям, вводя правила и штрафы на крупных платформах или принимая законы о защите персональных данных, нетрудно представить, несмотря на заявления об обратном, демократические правительства, уступающие соблазн использовать технологии искусственного интеллекта для нарушения прав граждан. И, хотя они внедрили «механизмы прозрачности», такие как проверка новостей, трудно поверить, что цифровые платформы и социальные сети совершают радикальный поворот в сторону демократии, поскольку модель слежки и извлечения данных является ядром и смыслом существования. être своего бизнеса.
Кроме того, здесь присутствует соответствующий геополитический компонент, который будет иметь основополагающее значение для определения направления развития технологий в ближайшие годы. В Китае — второй по величине экономической мощи в мире и мировом лидере в революции 5G — использование искусственного интеллекта является частью более широкой системы контроля, лежащей в основе Коммунистической партии Китая. Там союз великих технологических корпораций — Alibaba, Tencent и Baidu, большие технологии Доминирование в азиатском гиганте, уникальное для компаний-конкурентов Кремниевой долины, — у государства оно такого масштаба, что ему нет параллели в западном мире. Помимо «более традиционных» методов принуждения и цифровой слежки, используемых, например, для подавления мусульманского меньшинства Уйгурский в провинции Синьцзян — замкнутое телевидение с камерами, оснащенными распознаванием лиц, подключенными к Wi-Fi-снифферам, которые просеивают контакты, электронные письма, фотографии и видео в социальных сетях — Китай создает поистине оруэлловскую национальную систему социального кредита, в которой люди репутация оценивается, и те, кто не «ходят по линии» (сплетничают, переходят не ту улицу или даже имеют грязный сад), могут видеть, что их шансы получить работу или даже поступить в хорошую школу поставлены под угрозу. Принимая во внимание грандиозный проект Нового шелкового пути, символ его стремления бросить вызов западному либеральному порядку, Китаю следует расширить радиус своего влияния, экспортируя свои модели управления в другие страны; и, по сути, они уже используются в таких разных местах, как Зимбабве, Малайзия или Сингапур (Feldstein, 2019).
* Андре Кампос Роша является докторантом социальных наук в PUC-MG.
ссылки
Адорно, Теодор; ХОРКХАЙМЕР, Макс. Диалектика Просвещения: философские фрагменты. Рио-де-Жанейро: Хорхе Захар, 1985.
БАРБРУК, Ричард; КЭМЕРОН, Энди. Калифорнийская идеология. 1995. Доступно по адресу: http://www.comune.torino.it/gioart/big/bigguest/riflessioni/californian_engl.pdf.
БЕНТС, Анна. Алгоритмическое управление вниманием: зацепи, узнай и убеди. В: ПОЛИДО, Фабрицио; АНЖОС, Лукас; БРАНДАО, Луиза (орг.). Политика, Интернет и общество. Белу-Оризонти: Справочный институт в Интернете и обществе, 2019 г.
БУЧЧИ, Юджин. Супериндустрия воображаемого: как капитал превратил взгляд в работу и присвоил себе все видимое. Белу-Оризонти: аутентичный, 2021 г.
КАРР, Николас. Отмели: что Интернет делает с нашим мозгом. Нью-Йорк: WW Norton & Company, 2010.
КРЭРИ, Джонатан. Поздний капитализм и конец сна. Сан-Паулу: Cosac Naify, 2014.
ДЕРАХШАН, Хоссейн. Спасите интернет. ПИСЕАГРАММА, Белу-Оризонти, № 08, стр. 52–55, 2015 г.
ДАЙК, Хосе ван; ПОЭЛЛ, Томас; ВААЛ, Мартейн де. Платформенное общество, Нью-Йорк: издательство Оксфордского университета, 2018.
ХАН, Бюнг-Чул. общество усталости. Петрополис, RJ: Голоса, 2017.
ГРИНФИЛД, Адам. Радикальные технологии: дизайн повседневности. Лондон: Книги стихов, 2017.
ФЕЛЬДШТЕЙН, Стивен. Как искусственный интеллект трансформирует репрессии. 2019. Доступно по адресу: https://medium.com/funda%C3%A7%C3%A3o-fhc/como-a-intelig%C3%AAncia-artificial-est%C3%A1-transformando-a-repress%C3%A3o-c1bdba0bbacf.
РЫЦАРЬ, Уилл. AlphaGo Zero показывает, что машины могут стать сверхчеловеками без посторонней помощи. 2017. Доступно по адресу: https://www.technologyreview.com/2017/10/18/148511/alphago-zero-shows-machines-can-become-superhuman-without-any-help/.
МЛУХАН, Маршалл. Среда — это сообщение. Список эффектов. Нью-Йорк: Bantam Books, 1967.
ТУРКЕ, Кристоф. Взволнованное общество: философия ощущений. Кампинас, SP: Editora da Unicamp, 2010.
