По ЭУДЖЕНИО БУЧЧИ*
Если процессы принятия решений в демократических обществах будут захвачены невежеством, созданным искусственным интеллектом, человечество окажется под серьезной угрозой.
В конце прошлой недели у нас появилась еще одна новость о темном использовании световых технологий. На этот раз банда использовала инструменты глубокая подделка осуществить миллионный переворот, который оказался весьма успешным. Глубокая подделкаКак вы хорошо знаете, так называются эти подделанные видеоролики, которые кажутся такими же искренними, как металлическая речь ведущих новостей. Национальный журнал. Это фальшивые видео, но настолько изысканно фальшивые, настолько кристально чистые, что создают правдоподобные, надежные, совершенные и неопровержимые изображения событий, которых никогда не было.
Они повсюду. На экране мобильного телефона знаменитости произносят фразы, которые они не говорили в реальном мире, не говоря уже об общественных деятелях, демонстрирующих оргиастические жесты, которых – к счастью или к несчастью – на самом деле никогда не существовало. А сейчас произошло то, что те же самые иллюзионистские ресурсы убедили сотрудника финансового сектора транснациональной корпорации в Гонконге, что его босс посредством телеконференции приказал немедленно перевести 25,6 миллиона долларов на неизвестный счет. Парень подчинился, состояние ускользнуло и местная полиция ищет ущерб и воров. Судя по всему, некоторые аресты уже произведены.
Вы можете подумать, что этого недостаточно. Может быть, вы скажете, что в преступлении нет ничего удивительного. высокотехнологичные и что, поскольку мир грязен, злые дела требуют услуг нововведений, будь то кусок камня, кураре, пишущая машинка или, в более современном смысле, смартфон. Тем не менее, было бы разумно рассмотреть еще один эпизод, на этот раз немного более интригующий.
В декабре робот напал на инженера на конвейере одного из предприятий Tesla в США. Машина даже вонзила стальные когти в руку ничего не подозревающего человека. Объяснения пришли предвзято, невольно и до сих пор остаются сомнения относительно того, что и как произошло. Что там произошло? Была ли это ошибка программирования? Если гипотеза верна, то смазанный монстр не находился на службе у недобросовестного преступника, а действовал бы самостоятельно, как если бы он обладал свободой воли или, по крайней мере, безумным произволом. Это, на самом деле, более интригующе.
Теперь представьте себе комбинацию или совпадение первой и второй новостей. Представьте себе виртуального робота ( морда, как говорится), что требует создания искусственных образов, удовлетворяющих жаждущее любопытство зрителей. Иногда это нематериальное существо работало под командованием предположительно людей.
Однако в других случаях, благодаря замечательным достижениям автоматизации, наше кибернетическое существо способно автономно изобретать захватывающие дух вещи, во многом подобно тому, как алгоритм Spotify с его хорошо обученными автоматизмами способен выбирать музыку, которую вы будете слушать. , следующий, и сделайте это правильно. Представьте себе тогда, морда который манипулирует глубокая подделка чтобы доставить удовольствие извращенным сетчаткам самых разгневанных толп, которые наслаждаются страданиями тех, кому они посвящают свою самую ядовитую ненависть и которые во имя своей безусловной ненависти принимают за окончательную истину любое возмущение, подтверждающее их предрассудки и их недостатки.
Вы представляли? Теперь идите дальше. Это необходимо. Всемирный экономический форум (ВЭФ) пошел еще дальше. В январе Всемирный экономический форум назвал дезинформацию и инструменты ее распространения самым большим риском, с которым человечество столкнется в ближайшие два года. Этот риск реален, коварен и маячит прямо за углом от вашего дома. В 2024 году более двух миллиардов избирателей будут призваны решать судьбы 58 стран, включая Россию, Мексику, Индию и США. Полпланеты пойдет на выборы только в 2024 году, согласно статистике, в год крупнейших выборов за всю историю. Если индустриализированная ложь продолжит наносить ущерб, который она уже наносит, произойдет совокупная катастрофа.
Больше нет возможности не увидеть это. Если процессы принятия решений в демократических обществах будут похищены невежеством, созданным искусственным интеллектом, человечество действительно окажется под серьезной угрозой. Всемирный форум прав, этого нельзя отрицать. Пока, правда, речь идет лишь о риске, но этот риск не что иное, как «маленький грипп». Это по-настоящему. Если дезинформация восторжествует, демократия породит свою противоположность и будет ею поглощена. И у нас нет недостатка в практических тестах, доказывающих неизбежность наихудшего сценария. В наши дни я настаиваю на этом: дезинформация – это сила.
Могут ли электронные схемы и цифровые носители служить во благо? Да, очевидно, могут. Есть учет Кампаний Братства, виртуальные телемедицинские консультации, сверхсложные модели прогноза погоды. Любая техника может служить добрым делам. Но безуправная или отданная прихотям капитала беззаконная техника приведет нас к худшему из обрывов. Мыслители, подобные Гюнтеру Андерсу, который понимал извращения Просвещения, ощущали появление апокалипсиса, вызванного этой техникой. Но то, что произойдет, если мы ничего не предпримем, будет еще более удивительным.
* Юджин Буччи Он является профессором Школы коммуникаций и искусств USP. Автор, среди других книг, Неопределенность, эссе: как мы думаем об идее, которая нас дезориентирует (и ориентирует в цифровом мире) (аутентичный). [https://amzn.to/3SytDKl]
Первоначально опубликовано в газете Штат Сан-Паулу.
земля круглая существует благодаря нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ
