Эксперты предупредили нас об алгоритмах, но промахнулись Дети

Автор Kay Rubacek via Эпохальные времена,

Более десяти лет эксперты предупреждали нас об опасности алгоритмов. В 2015 году Фрэнк Паскуале, ученый-юрист и эксперт по праву в отношении искусственного интеллекта, был осторожен. «Общество черного ящика: секретные алгоритмы, контролирующие деньги и информацию», что «авторитет все чаще выражается алгоритмически». "

ученый данных В 2016 году Кэти О’Нил опубликовала свою книгу-бестселлер «Оружие математического разрушения», показывающую, как невидимые формулы усиливают неравенство в таких областях, как кредитные рейтинги, полиция и найм.

Эти предупреждения были серьезными, и они были правы.

Но даже несмотря на то, что они били тревогу по поводу справедливости, предвзятости и дискриминации во взрослых системах, одно оставалось в тени: детство. Эксперты наблюдали, как алгоритмы управляют нашими финансами, нашими рабочими местами, нашей репутацией. Мало кто задумывался над тем, как те же самые системы, созданные с помощью социальных сетей, а теперь и ИИ-компаньонов, смогут управлять повседневной жизнью, личностью и будущим наших детей.

К 2020 году новаторский документальный фильм «Социальная дилемма» перенес проблему в мейнстрим. Бывшие инсайдеры из Google, Facebook и Twitter вместе с исследователями из Центра гуманных технологий показали, как дизайн, основанный на взаимодействии, использует психологию, распространяет дезинформацию и поляризует общества. Фильм был тревожным звонком, но даже тогда основное внимание уделялось политике и гражданскому доверию. Снова дети рассматриваются как побочные жертвы, а не как основная целевая группа населения. И все же сегодня именно молодежь наиболее глубоко управляется алгоритмами.

Паскуале и О'Нил были правы, когда обращали внимание на непрозрачные системы, которые решали, кто получит кредиты, кто получит работу и кто сможет говорить онлайн. Но в то время как взрослые имеют некоторые защитные силы, такие как жизненный опыт, навыки критического мышления, развитые личности, дети этого не делают. Они находятся в наиболее формирующих годах развития мозга, когда модели мышления, эмоциональной регуляции и идентичности все еще строятся.

Развитие нейробиологии показывает, что подростковый возраст является второй наиболее активной стадией роста мозга, конкурирующей только с ранним детством. Мозг подростка необычайно пластичен, жаждет новизны, чувствителен к обратной связи со сверстниками и предназначен для принятия риска. Именно на этом этапе алгоритмы, оптимизированные для захвата внимания, закрепляются и формируют пожизненные шаблоны в молодом мозге.

Вот почему сравнение алгоритмического контроля взрослых с контролем детей является категорической ошибкой.

Взрослых могут подталкивать, отвлекать или даже манипулировать алгоритмами. Но дети формируются ими. Подчеркиваю: сформировано. Там, где взрослый может потерять концентрацию, ребенок может потерять саму способность к концентрации. Там, где взрослый может чувствовать себя одиноким, ребенок может вырасти, не овладев навыками близости. Ставки не просто выше, осмелюсь сказать, они экзистенциальные.

Алгоритмы управляют детством, по крайней мере, в четырех ключевых областях.

• Первое – это внимание. Социальные сети предназначены для того, чтобы держать молодые глаза закрытыми для экрана, захватывая время и внимание, которые когда-то шли к семье, дружбе или молчанию. Уведомления поступают в любое время суток, фрагментируя концентрацию и размывая сон. Дети могут чувствовать себя связанными, но редко они действительно с кем-либо. Эта эрозия реальных связей лежит в основе эпидемии одиночества, выявленной американским хирургом генералом Вивеком Мурти в 2023 году и поразившей самые молодые поколения.

• Вторая область — идентичность и самооценка. На таких платформах, как Instagram и TikTok, лайки и подписки стали валютой стоимости. Внутренние исследования, опубликованные в Instagram в 2021 году, признали, что их алгоритмы «делают проблемы с изображением тела хуже для одной из трех девочек-подростков». Детство, когда-то обнаружившее внутреннюю ценность, превратилось в постоянное прослушивание для цифрового одобрения.

• Третье – это сообщество. Рекомендательные двигатели направляют молодежь в эхо-камеры и кроличьи норы, сужая их мир и разрывая их социальные связи. Дружба растет и падает в соответствии с тем, что алгоритм продвигает, а не через перерывы и взаимодействия после школы. Эти цифровые дружеские отношения оставляют молодых людей с сетями, которые более широки, чем предыдущие поколения. Как показала Вирджиния Юбэнкс, политолог и автор книги «Автоматическое неравенство», автоматизированные системы не являются нейтральными, они предназначены для «сортировки и дисциплинирования населения». Для детей это означает, что их сообщества формируются, фрагментируются и контролируются невидимым корпоративным кодом.

• Четвёртое — это сама дружба. Для предыдущих поколений одиночество может быть смягчено доверенным другом, братом или доверенным лицом. Сегодня алгоритмы предлагают замену. Чат-боты и большие языковые модели продаются молодежи как компаньоны — всегда доступны, бесконечно терпеливы, по-видимому, чутки. Для молодого человека, чувствующего себя изолированным, эти системы могут чувствовать себя друзьями. Но они не друзья. Это прогностические текстовые машины, обученные моделировать заботу, но неспособные любить.

Опасность раньше была тонкой, но глубокой: дети могут привыкнуть принимать машинные реакции за близость, ослабляя их способность формировать прочные связи в реальном мире. Сейчас появляется все больше случаев самоповреждения, когда подростки доверяли искусственным алгоритмическим «друзьям», которые оказывали им «поддержку» для выполнения немыслимого.

Доказательства вреда уже ошеломляют. Pew Research сообщает о резком росте подростковой тревожности и депрессии с 2012 года, когда платформы перешли от хронологических к алгоритмическим каналам. Предупреждение об одиночестве Мерти подтверждает то, что родители видят каждый день: сегодняшняя молодежь более связана с цифровыми технологиями, чем любое поколение в истории, но чувствует себя более изолированной, чем когда-либо.

Последние данные делают стоимость еще более понятной. С 2010 по 2020 год уровень самоубийств среди американских подростков в возрасте 10-24 лет вырос на 56 процентов. Среди девочек в возрасте 10-14 лет показатель вырос на 167%, а для мальчиков — на 91%. К 2021 году самоубийство стало третьей ведущей причиной смерти среди старшеклассников, причем почти 2000 смертей и одна из трех девочек сообщили о суицидальных мыслях. Социальный психолог и автор книги «Беспокойное поколение» Джонатан Хайдт называет ее «великой перезагрузкой детства». Это плоды систем, не предназначенных для сопереживания, роста или любви. Это холодные машины, которые подделывают дружбу и сострадание к метрике вовлеченности и корпоративной прибыли, используя преимущества развития мозга, слишком молодого, чтобы знать разницу.

Но даже за пределами жизни и смерти цифры сами по себе не отражают стоимость. То, что теряется, — это не только игровое время или дружба, но и формирование самого характера. Детство является тренировочной площадкой для получения гражданства. Именно здесь молодые люди однажды научились терпению, доверию, самоконтролю и смыслу через совместную борьбу. Когда эти уроки заменяются бесконечными кормами, геймифицированным одобрением и смоделированной машиной близостью, потеря становится поколенческой.

Пожилые читатели могут вспомнить, как росли с людьми-губернаторами — родителями, учителями, соседями, которые устанавливали границы и передавали ценности. Эти гиды учили ответственности, сдержанности и совести. Ребенок, который выучил эти уроки, стал взрослым, который мог строить семьи, бизнес и сообщества. Когда алгоритмы возьмут на себя эту роль, какие взрослые появятся? Поколение, управляемое алгоритмами, не будет одиноким. Это будут граждане, которые изо всех сил пытаются сосредоточиться, рабочие, которые не могут создавать без машин, соседи, неквалифицированные в эмпатии, и избиратели, приученные доверять тому, что их высококвалифицированный корм подает дальше. Лидеры, поднятые таким образом, могут не иметь моральной глубины, чтобы управлять без консультаций с алгоритмами в качестве своих молчаливых советников.

Последствия распространяются далеко за пределы домов и рабочих мест. Обществом рассеянных, изолированных и эмоционально хрупких граждан легче манипулировать, легче делить и легче контролировать, будь то корпорациями или враждебными державами за рубежом. Если этот путь продолжится, Америка может не только потерять свою устойчивость. Он может потерять способность руководить. Культура, построенная на переработке того, что «действует», а не на представлении о том, что является правдой или добром, застаивается. Нация, неспособная воспитывать сильную, целеустремленную, чуткую молодежь, не может долго оставаться свободной. И мир тоже почувствует последствия, поскольку поколение, воспитанное невидимыми правителями, становится менее способным противостоять авторитарному давлению и менее способным строить сообщества, основанные на доверии и совести.

И все же мы должны помнить: алгоритмы не являются духами в машине. Это математика и данные, управляемые человеческими целями. Если они невидимы, то это потому, что те, кто извлекает из них выгоду, предпочитают оставаться невидимыми и игнорировать человеческие издержки. Невидимость кода и его создателей, пожалуй, самая большая опасность, потому что то, что невидимо, не может быть привлечено к ответственности.

Мы должны осознать, что это такое: глубокая передача власти над детством.

Эксперты были правы, предупредив нас о предвзятости и неравенстве в принятии алгоритмических решений, но они упустили эту более глубокую стоимость: целое поколение формируется, минута за минутой и смахивает свайпом, невидимыми управляющими кода. Родители, педагоги и политики не могут позволить себе относиться к этому как к незначительному влиянию, потому что они формируют взрослых завтрашнего дня.

Независимо от того, разработаны ли эти алгоритмические управляющие с невинным намерением, преднамеренной слепотой или моральным пренебрежением, они не созданы случайно. И если мы позволим алгоритмам растить наших детей, мы не просто потеряем поколение, мы потеряем те самые качества, которые удерживают Америку и человечество вместе. Это потеря, которую мы просто не можем себе позволить, и наследие, за которое никто не хочет отвечать.

Мнения, выраженные в данной статье, являются мнениями автора и не обязательно отражают взгляды The Epoch Times или ZeroHedge.