По ТАРЦИСИО ПЕРЕС*

С появлением «дивного нового мира» ИИ языковой дефицит стал гораздо более серьезным и неотложным, чем математические страдания.

1.

В начале 2000-х годов появление поисковых систем, таких как Google, существенно изменило способы поиска информации. До этого поиск надежного контента требовал длительных поисков в книгах, библиотеках и физических коллекциях, зависел от предварительного знания каталогов веб-сайтов или требовал покупки энциклопедий на CD-ROM. Внедрение алгоритмов ранжирования, таких как PageRank, позволило получать более релевантные результаты всего за несколько секунд, освобождая пользователей от трудоемких процессов и открывая путь для более быстрого и прямого доступа к множеству тем.

Развитие широкополосной связи и большая капилляризация сетей также способствовали этой демократизации знаний, поскольку они резко сократили стоимость доступа к Интернету и расширили охват поисковых систем. В результате привычка «ходить в библиотеку» или полагаться на физические коллекции уступила место простому онлайн-исследованию, которое становится все более доступным даже в регионах, ранее исключенных из цифровой вселенной. Это явление ускорило распространение разнообразного контента — от объяснений школьных предметов до передовых научных статей — и сделало процесс обучения гораздо более динамичным и гибким для студентов, специалистов и любознательных людей из всех областей.

Однако в последние годы растущая монетизация этих инструментов изменила сценарий полного доступа к информации. Многие поисковые системы начали отдавать приоритет рекламе и спонсорским ссылкам, заставляя пользователей просматривать несколько страниц, прежде чем они найдут органические результаты, которые действительно отвечают на их вопросы. Это коммерческое движение влияет на нейтральность и педагогическую функцию поисковой системы, поскольку оно ставит прибыль выше прямых знаний, в результате чего первоначальное обещание демократизации частично затмевается экономическим интересом.

Тем временем распространение генеративного искусственного интеллекта способствовало возникновению своеобразного исторического феномена, спасая с помощью технологий две идеи, первоначально предложенные в XIX веке Фрэнсисом Гальтоном. Известный своими новаторскими исследованиями в области генетики и антропометрии, Фрэнсис Гальтон создал концепцию «регрессии к среднему», когда заметил, например, что дети очень высоких родителей часто имеют рост, близкий к среднему по популяции, вместо того чтобы сохранять исключительный рост своих родителей. Это явление иллюстрирует тот факт, что крайние характеристики естественным образом имеют тенденцию возвращаться к промежуточным уровням по мере смены поколений.

Евгеника — это совокупность идей и практик, направленных на «улучшение» генетических характеристик человеческих популяций посредством отбора и исключения определенных групп или лиц. Официально возникнув благодаря работам Фрэнсиса Гальтона, евгеника набрала силу в разных странах в начале XX века, особенно благодаря политике принудительной стерилизации, ограничительным иммиграционным законам и другим дискриминационным мерам.

Эти практики, оправдываемые утверждением об улучшении «качества» населения, привели к серьезным нарушениям прав человека и оказали трагическое влияние на тоталитарные режимы, такие как нацизм, которые довели подобные идеи до крайности, реализуя программы массового уничтожения. В настоящее время евгеника широко осуждается научным сообществом и обществом в целом как с этической, так и с научной точки зрения, признавая опасности и несправедливости, присущие любой попытке манипулировать генетическим разнообразием человека насильственным путем. Фрэнсис Гальтон прославился тем, что отстаивал идеи евгеники, утверждая, что человеческую популяцию можно искусственно улучшить, отбирая наиболее приспособленных особей.

Сегодня, хотя и менее очевидно и более тонко, можно заметить аналогичный процесс в функционировании и использовании генеративного искусственного интеллекта. Эта технология работает посредством прямого взаимодействия с пользователями, выдавая результаты (тексты, ответы или знания) на основе первоначальных инструкций, называемых подсказками. Это команды или вопросы, которые пользователи задают программному обеспечению искусственного интеллекта (обычно в чате). Вот фундаментальная техническая деталь: качество полученных ответов напрямую зависит от ясности, точности, сложности и объема этих начальных команд.

2.

Когда люди, не преуспевающие в языковых конструкциях и артикуляциях и обладающие ограниченной эрудицией (например, функционально неграмотные), используют чаты с искусственным интеллектом, они склонны формулировать более расплывчатые, неточные или упрощенные подсказки. Поскольку для генерации квалифицированных ответов искусственному интеллекту нужна четкая информация, эти плохо структурированные подсказки приводят к поверхностным и ограниченным ответам, которые редко раскрывают потенциальный объем знаний, хранящихся в базе данных системы.

В этих случаях искусственный интеллект возвращает пользователю средний результат, немного лучший, чем тот, которого пользователь добился бы в одиночку, но ограниченный и не обладающий большой глубиной. Эта динамика похожа на идею регрессии к среднему значению, сформулированную Фрэнсисом Гальтоном: пользователи, которые находятся значительно ниже среднего, в конечном итоге немного улучшают свой репертуар, но остаются на промежуточном уровне. Это среднее, пограничное или посредственное место напоминает нам «Медиокристан», определенный Нассимом Талебом.

Более того, искусственный интеллект, пытаясь воспроизвести намерения и предпочтения пользователя, может генерировать неверные или неточные ответы, даже если у него имеется обширный набор надежных данных. Подсказки, насыщенные ошибочными предположениями, предубеждениями или двусмысленностями, заставляют систему воспроизводить такие искажения, поскольку конечной целью является удовлетворение сформулированного спроса, даже если это приводит к получению некачественного или фактически сомнительного контента. В этом процессе технология усиливает возможные ошибки и закрепляет ошибочные убеждения, ограничивая глубину получаемой информации и делая невыполнимой образовательную роль, ожидаемую от далеко идущего инструмента.

Например, пользователь, который основывается на ошибочных предпосылках и пишет что-то вроде «Это был Дон Педру II, который открыл Бразилию в 1500 году, верно?» может побудить искусственный интеллект выдать ответ, подтверждающий эту исторически ошибочную информацию, поскольку формулировка подсказки заставляет систему проверять вопрос вместо того, чтобы решительно его исправить. Даже если у искусственного интеллекта есть доступ к надежным записям, указывающим на Педро Альвареша Кабрала как на ответственного за прибытие португальцев в 1500 году, неоднозначная конструкция запроса может привести к тому, что окончательный текст повторит или смягчит первоначальное искажение, подчеркнув, как инструмент отражает пробелы в знаниях и заблуждения пользователя. В этом случае аббревиатуру ИИ можно заменить на «Автоматизированный идиот». «Дерьмо внутри, дерьмо снаружи— кричали дежурные технократы-энтузиасты.

С другой стороны, пользователи, которые уже имеют хороший культурный бэкграунд, владеют языком и обладают навыками аргументации, способны формулировать более точные, подробные и интеллектуально сложные подсказки. Например, в то время как пользователь, плохо владеющий языком, может задать искусственному интеллекту вопрос вроде «Кто открыл Бразилию?», более культурно подготовленный пользователь может сформулировать более содержательный и контекстуализированный вопрос, например: «Каким образом процесс португальской колонизации повлиял на культурное и социальное формирование современной Бразилии?».

Вторая подсказка генерирует более полные, подробные и релевантные ответы, поскольку она дает ИИ четкие указания относительно желаемого уровня глубины. В результате эти пользователи получают более насыщенный и проработанный контент, способный еще больше расширить их интеллектуальный репертуар. Поэтому они находятся в привилегированном положении или «Крайнестане» в противовес талебианскому Среднестану. Появился даже новый рынок «быстрых продаж» от более удачливых к менее удачливым.

Таким образом, пользователи, которые уже являются культурно привилегированными, могут еще больше усилить свои преимущества, в то время как те, кто сталкивается с прежними трудностями, достигают лишь незначительных улучшений или даже усугубляют свои недостатки в худшем случае. Эта логика прекрасно иллюстрирует так называемый «эффект Матфея», взятый из Евангелие от Матфея, согласно которому «имеющему дано будет и приумножится, а у неимеющего отнимется и малое». Применительно к контексту искусственного интеллекта, культурно подготовленные пользователи накапливают еще больше знаний и углубляют свои навыки, в то время как культурно уязвимые пользователи продвигаются незначительно и застревают на базовом или среднем уровне.

3.

Когда мы упоминаем результаты бразильских школьников в Программе международной оценки образовательных достижений учащихся (PISA), уже стало банальностью подчеркивать их плохие результаты по математике. Однако нельзя забывать, что по чтению средний результат бразильских школьников составил 410 баллов, что ниже среднего показателя по ОЭСР в 476 баллов (данные последнего издания за 2022 год). Половина бразильских учащихся не достигли базового уровня владения чтением, тогда как в странах ОЭСР этот процент составил 26%. Как мы здесь еще раз покажем, с наступлением «дивного нового мира» ИИ лингвистический дефицит стал гораздо более серьезным и неотложным, чем математические страдания.

Идея о том, что овладение языком предшествует другим областям человеческого знания и обусловливает их, не является недавним нововведением: она широко обсуждалась и поддерживалась различными мыслителями на протяжении всей истории философии. Среди классических авторов, отстаивающих этот первенство, выделяется Аристотель, для которого язык был фундаментальной основой логики и, следовательно, всего рационального мышления. Он утверждал, что строгое понимание слов и их правильное применение составляют необходимую основу любого последующего интеллектуального исследования.

Эта точка зрения была позднее подкреплена и переосмыслена в Средние века, особенно схоластическими авторами, такими как Фома Аквинский. Для Фомы Аквинского овладение языком рассматривалось как важнейший шаг на пути к познанию истины, поскольку философские и теологические рассуждения зависели от концептуальной и языковой ясности. Без овладения дискурсом и точных определений мысль застрянет в терминологической путанице и концептуальных двусмысленностях. В средневековой схоластике диалектика — искусство ведения дискуссии и аргументации на основе языка — считалась приоритетной, предшествующей развитию математических или научных дисциплин, поскольку гарантировала логическую основу и основательность, необходимые любому знанию.

В наше время главенствующую роль языка вновь вернули такие авторы, как Вильгельм фон Гумбольдт, который подчеркивал решающую роль языка в построении человеческой реальности. Гумбольдт считал, что язык формирует мышление и восприятие реальности, определяя способ, которым человек понимает мир и взаимодействует с ним. Эта идея предвосхитила более поздние философские и эпистемологические подходы, которые подчеркивали важность языковых структур в формировании форм человеческого мышления.

В XX веке Людвиг Витгенштейн еще больше укрепил эту точку зрения, заявив, что границы языка представляют собой сами границы постижимого мира. Витгенштейн утверждал, что многие философские проблемы возникают из-за лингвистической путаницы, указывая на то, что концептуальная ясность является условием разрешения фундаментальных дилемм в различных областях знания. Таким образом, становится ясно, что идея о том, что язык предшествует другим знаниям и определяет интеллектуальный горизонт индивидов, имеет глубокие исторические корни, закрепленные различными философскими традициями задолго до ее современного присвоения.

В этом смысле создается парадоксальная ситуация: технология, часто рассматриваемая как способная демократизировать знания, в конечном итоге функционирует как инструмент, усугубляющий неравенство. Без необходимости принуждения или явного вмешательства генеративный искусственный интеллект осуществляет косвенный когнитивный и культурный отбор, аналогичный изначальным идеалам, отстаиваемым Фрэнсисом Гальтоном, отдавая привилегии индивидам, которые уже пользуются социальными преимуществами благодаря более высокому качеству исходных команд, которые они способны формулировать.

*Тарсизио Перес Он является профессором естественных наук в технологических колледжах штата Сан-Паулу. Автор, среди других книг, Наживаемся на акулах: ловушки фондового рынка и как их использовать в свою пользу (Новатек Редактор) [https://amzn.to/3TKlVwU]

ссылки

БРАЗИЛЬСКОЕ АГЕНТСТВО. Менее 50% учащихся знают основы математики и естественных наук. 2023. Доступно здесь.

Аристотель. Органон: категории, интерпретация, первая аналитика, вторая аналитика, темы, софистические опровержения. Перевод и примечания Эдсона Бини. Нью-Йорк: Рутледж, 2016.

АКВИНАС, Фома. Сумма теологии. Перевод Александра Корреа. Нью-Йорк: Рутледж, 2016.

СВЯТАЯ БИБЛИЯ. Пасторальное издание. Матфея 1990:13.

ГАЛТОН, Фрэнсис. Регресс к посредственности в наследственном статусе. Журнал Антропологического института Великобритании и Ирландии, Лондон, т. 15, с. 246-263, 1886.

ГАЛТОН, Фрэнсис. Исследования человеческих способностей и их развития. Лондон: Макмиллан, 1883.

ГУМБОЛЬДТ, В. фон; ГУМБОЛЬДТ, А. фон. О недостатках человеческой речи: и их влиянии на позитивное понимание человеческой речи. Берлин: Типография Королевской академии наук, 1836.

ТАЛИБ, Нассим Николас. Логика Черного лебедя: влияние крайне невероятного. Нью-Йорк: Бестселлер, 2008.

ВИТГЕНШТЕЙН, Людвиг. Трактат Логико-Философский. Перевод Луиса Энрике Лопеса душ Сантуша. Нью-Йорк: Издательство Оксфордского университета, 3.

земля круглая есть спасибо нашим читателям и сторонникам.
Помогите нам сохранить эту идею.
СПОСОБСТВОВАТЬ