Дилемма заключенного об ИИ

Автор: София Карстенс via Институт Браунстоуна,

Демократия и капитализм, какими мы их знаем, давно сосуществовали в напряженном, но работоспособном браке. Но теперь в отношениях есть третья сторона: ИИ.

В отличие от предыдущих сбоев, этот никуда не денется. ИИ — это не просто разрушительная любовница, это постоянное экспоненциальное присутствие. Вопрос уже не в том, смогут ли демократия и капитализм в их нынешних формах выжить вместе, а в том, какой из них рухнет первым.

Присутствие ИИ создает игру с нулевой суммой между демократией и капитализмом. Оба не выживут. ИИ делает эти две концепции взаимоисключающими; одна из них теперь представляет собой экзистенциальную угрозу для другой, и одна из этих столпов упадет первой. Если мы не перевернем статистический сценарий и не нарушим алгоритм, предпринимая коллективные действия, мои деньги пойдут на демократию.

Если мы продолжим наш нынешний путь- содействие рыночной логике, технологическому ускорению, а также частной и связанной с правительством частной власти над устойчивой, здоровой экономикой и обществом - Демократия, скорее всего, уступит первое место, потому что укоренившиеся интересы, которые выигрывают от нынешней структуры, приостановят, подорвут или проигнорируют демократическую волю, а не откажутся от контроля над системой, которая поддерживает их власть.

Наш первый недостаток — это коррумпированная, ублюдочная версия того, что мы называем «капитализмом». Теория и практика — это два разных животных... Идеологический капитализм (истинный капитализм) был захвачен главным хищником по имени Крони Корпоративный капитализм. В то время как фактический капитализм (некоррумпированный свободный рынок и соблюдение истинных принципов свободного рынка в сочетании с правами человека и гражданскими правами) — это то, к чему мы должны стремиться, на практике это не происходит прямо сейчас. На его месте находятся регулируемые рынки, разграбленные мелкие производители, бесправные потребители, привилегированные огромные корпоративные интересы и захват агентств (агентства, финансируемые теми самыми корпоративными отраслями, которые им поручено регулировать). Капитализм в его нынешнем виде лучше было бы охарактеризовать как «корпоративизм». "

Идеология или идеологическое состояние капитализма и истинного общества свободного рынка как понятия резко контрастируют с реализацией его сегодня в этой стране. Это машина капитализма, но капитализм спит на заднем сиденье, а корпоративизм за рулем.

Что вызывает вопрос: Почему люди покупают его таким, каким он есть сейчас? В той или иной степени люди все еще голосуют за свободный рыночный капитализм, хотя в настоящее время он не практикуется как таковой. Это упрощение — говорить, что людьми манипулируют, чтобы голосовать против их собственных интересов. Я утверждаю, что есть две другие, более реальные причины:

1. Люди продаются во сне. В чистом виде это надежда. Независимо от того, достижима эта часть мечты или нет, большинство людей хотят верить, что они могут достичь какого-то аспекта «американской мечты». Даже если эта мечта угасает, желание ее остается сильным. Общества, лишенные надежды, становятся хрупкими и взрывоопасными. Третичный взгляд на страны, где отсутствует стремление, дает мрачное представление о том, что происходит с обществом, когда надежда исчезает.

2. Существует фундаментальное чувство справедливости, в которое большинство людей хотят верить, связано с доступностью восходящей мобильности. Большинство людей — опять же, в большей или меньшей степени — понимают или неявно, или интуитивно, что вообще говоря, если вы работаете усерднее, вам должно быть позволено зарабатывать и хранить больше денег; что богатство должно быть соразмерно вашему вкладу в общество. Муравей и кузнечик. Это не жадность — это убеждение, что вознаграждение должно следовать за усилием. Даже среди тех, кто ценит благотворительность или социальную справедливость, обычно существует сильное базовое ожидание того, что индивидуальные взносы должны быть вознаграждены. Это не исключает уровня сострадания и милосердия, к которому большинство людей также присоединяется, только то, что, вообще говоря, и при прочих равных условиях (которыми они часто не являются, но мы доберемся до этого), концепция работать усерднее, зарабатывать больше, планировать будущее и продвигаться вперед - это то, что большинство рациональных американцев могут отстать.

Но экономические структуры в их нынешнем виде уже напрягают этот контракт. В этой стране «Мечта» была ослаблена «нормой» долгового финансирования и унаследованными карманами богатства. Налоговые лазейки, мандаты, ограничения и сфальсифицированные системы корпоративного капитализма сделали путь к процветанию более узким, крутым и закрытым.

Инфраструктура спокойно меняет правила и цели, так что те, у кого есть (часто незаработанный) капитал, могут легко расти, в то время как те, у кого нет, отстают — медленно и постепенно, чтобы избежать внимания, как лягушка в согревающей воде. Возводятся строительные леса, которые облегчают для тех, у кого есть богатство, дальнейшее движение вверх, и труднее для тех, у кого нет богатства, чтобы получить его, при этом затушевывая махинации и запутывая общественное восприятие.

Большинство людей имеют смутное представление об этом, но механически оно остается неосязаемым и не вполне понятным; это инстинктивное определение дисбаланса. Хотя это не совсем неустойчиво (пока), это неравенство создает определенную искру беспорядков, возможно, незаметно изначально, на уровнях ниже компетенции. Но этот дисбаланс не только подрывает справедливость - он вызывает негодование.

Когда массы видят несоразмерное вознаграждение за честные усилия и не видят пути для своих детей, общество приближается к восстанию. Мы видели это раньше. Французская и русская революции не вспыхнули в одночасье — они варились в кипящей безнадежности масс.

Если этот дисбаланс растет, эта искра становится пламенем, тем больше население чувствует себя отнесенным к крепостному праву. Уберите возможность восходящей мобильности – и внушите схватывающий ужас падения в тех, кто наверху – и вы начнете дрейфовать к революции – не метафорически, а буквально. Человек будет чувствовать себя обиженным, если он заболел, в то время как другой человек не сделал ничего, чтобы заслужить или заработать свое богатство. и чувствуют себя угнетенными и ограниченными, если у них нет надежды, в то время как те, у кого избыток, воспринимаются как удерживающие их вниз (равенство). Создайте достаточное количество этих людей, и у вас будет Французская революция. Уберите все возможности, и вы получите большевистскую революцию.

Но мы еще не там. Этот уголь, пока тлеет, еще не загорелся. Конечно, мы находимся в опасном месте, но критическая масса еще не достигнута; люди еще не находятся в точке вспышки «восстания». Брак, безусловно, был испытан в бою, но это, казалось бы, проходимая неосторожность, которая может быть решена с помощью терапии. Давление «1%», каким бы разрушительным оно ни было, не является непреодолимым, и большинство американцев все еще так или иначе поддерживают идею о том, что, хотя они никогда не будут Джеффом Безосом, они также могут подняться до комфортного уровня жизни и создать лучшую жизнь и наследие для своих детей.

Теперь добавьте ИИ.

ИИ — убийца надежды и убийца сделки. Это лишает надежды подавляющее большинство людей, зарабатывающих деньги, потому что в конечном итоге 80-90% не будут работать, потому что они не могут конкурировать с машиной. Если ИИ может выполнять работу человека быстрее, эффективнее, дешевле и, возможно, лучше (мы видим, что это происходит уже в крайнем случае), тогда человеческий работник устаревает. И вместе с этим идет вся предпосылка награды, основанной на заслугах. Когда люди больше не могут продавать свой труд, навыки или опыт, умирает мечта о том, чтобы «заработать себе на жизнь». Вы отнимаете цель, достоинство и смысл. Внезапно люди становятся не просто бедными – они становятся неуместными. И это гораздо более деморализует и дестабилизирует.

Корпоративизм уже борется под тяжестью своих противоречий. Те, кто владеет богатством, создают системы для его защиты и роста. Между тем, те, у кого нет богатства, сталкиваются с более высокими барьерами, чтобы просто оставаться на плаву. ИИ не просто бросает вызов экономической мобильности, как мы ее переживаем. Она ломает последнюю нить, которая держит людей на ней: идею о том, что усилия ведут к вознаграждению. ИИ может превзойти людей по скорости, масштабу и стоимости. По мере того, как он становится более способным, он будет занимать больше рабочих мест — не только ручной труд, но и творческий, аналитический и эмоциональный труд. Производительность труда становится неактуальной. Ремесло, мастерство и гордость за работу исчезают, когда никто не платит за то, что вы предлагаете.

Мир выглядит иначе, когда ИИ занимает большинство, если не все рабочие места, и никто не работает или не может работать. Мир выглядит по-другому, когда надежда ушла, когда оттачивание ценной профессии или навыка больше не имеет ценности и не служит никакой цели, и нет гордости за хорошо выполненную работу или хорошо изученное ремесло или искусство.

Когда вы лишаете человека возможности усердно работать и быть продуктивным – для себя, своей семьи, своей общины и мира – вы лишаете его цели. Ему больше нечего предложить ни в какой динамике жизни или существования и ни в каком пути к процветанию. Если кому-то нечего выиграть, то ему нечего терять, и нет ничего опаснее большой группы людей, которым нечего терять. Есть причина, по которой коммунизм никогда не работал, и не только потому, что он эксплуататорский и коррумпированный.

Одним из основных строительных блоков капитализма являются права собственности, и есть только так много собственности на побережье. Что происходит, когда 300 миллионов американцев получают одну и ту же сумму денег и ничего не стоит? Нет стимула вносить свой вклад и нет надежды на повышение мобильности. В мире, где ничто не имеет ценности, собственность становится величайшим товаром/ресурсом, и со временем безнадежное население перестанет уважать такие вещи, как права собственности.

Если парень, унаследовавший свое богатство и владеющий имением на берегу океана, рассчитывает на закон демократии, чтобы защитить его от миллионов отчаявшихся граждан, которым нечего терять, у меня есть какая-то другая недвижимость на берегу океана в Небраске, я хотел бы продать его. Потому что сейчас мы смотрим на французскую и большевистскую революции, и ни в одном случае это не меньшинство.

В мире, где работа устарела, а собственность скудна, корпоративизм приводит к катастрофическому неравенству. Представьте себе миллионы американцев, которым нечего делать, которые не могут продвинуться вперед и у которых нет причин верить, что их дети будут жить лучше. Права собственности теряют легитимность. Верховенство закона разрушается. Пляжный домик на скале больше не внушает амбиций - он внушает революцию.

Тем не менее, как бы критично все это ни звучало, это шум, потому что то, что происходит дальше, является сутью: в этот момент любые оставшиеся остатки истинного капитализма исчезнут, и мы окажемся в полной форме корпоративизма, потому что укоренившаяся власть не уступит. В этот момент маски (и перчатки) сойдут, и мы перейдем к полной Корпоратократии/Олигополии. Если ИИ поставит богатых и влиятельных в положение, когда им придется выбирать, они будут командным корпоративным капитализмом. Они не просто откажутся от своего привилегированного статуса, они бросят демократию – и нас – волкам. Бенефициары нынешней коррумпированной системы сделают все возможное, чтобы сохранить ее, даже если это означает отказ от демократии.

Это не спекуляция, это исторический прецедент. Всякий раз, когда корпоративному капитализму бросают вызов таким образом, что он угрожает консолидации богатства – будь то трудовые восстания, реформа регулирования или демократическое перераспределение – могущественные интересы сопротивляются. Они кооптируют нарративы СМИ, лоббируют законодателей, финансируют аналитические центры и устанавливают правовые и технологические барьеры.

Настоящий капитализм хочет работать над браком. Корпоративизм хочет нанять киллера. Если демократия проголосует за приостановку корпоративизма, корпоративизм не просто приостановит демократию – он раздавит ее.

Очевидным логическим первым шагом на пути к решению является коррекция курса капитализма, чтобы быть ближе к его истинной форме. Однако укрепившиеся державы извлекают выгоду из нынешней версии капитализма. Они не откажутся от власти только потому, что демократия требует перемен. Если им придется выбирать между демократической волей и капиталистическим господством, они будут выбирать господство - каждый раз. Люди, которые извлекают выгоду из кланового капитализма, никогда не позволят демократии демонтировать их преимущества, и они контролируют инструменты власти - деньги, СМИ, политику, а теперь и ИИ.

Когда демократия угрожает их господству, они не ведут переговоров. Они пересматривают законы, подавляют инакомыслие, финансируют дезинформацию и расширяют слежку. Они действуют быстро и решительно, чтобы защитить капитал, а не коллектив. И ИИ дает им последнее оружие. С его помощью они могут предвидеть, контролировать и предотвращать инакомыслие до его возникновения. Они не передадут эту власть добровольно – ни голосующей общественности, ни демократическому процессу, ни любой силе, которая угрожает их превосходству. Они не откажутся от контроля над системой, дополненной ИИ, они будут использовать ее в качестве оружия, чтобы еще больше укрепить свое господство. Наблюдение, прогностическая полиция, алгоритмический контроль над информацией и поведением — эти инструменты уже здесь и уже внедряются.

Но мы находимся в двойной связи. Мы не можем НЕ развивать ИИ, когда другие страны, и на самом деле потенциально разрабатывают приложения, которые могут уничтожить нас всех. Это китайская ловушка для пальцев, и мы так же далеко, как и когда-либо, потому что как мы обеспечиваем развитие, которое служит нам, а не разрушает нас? У Оппенгеймера все получилось. Каждый игрок — корпорации, правительства, частные лица — действует для защиты краткосрочных интересов. Никто не хочет моргать первым. Страны не могут остановить развитие ИИ, потому что соперники этого не сделают. Компании не могут перестать стремиться к эффективности, потому что их конкуренты этого не сделают. Все ломаются, и все проигрывают.

Чтобы пролить бетон на дилемму, это парадокс с замкнутой петлей: вы либо участвуете в ней, либо становитесь ее жертвой, что, конечно, только пинает банку, чтобы следующий парень принял то же решение, а следующий и следующий... Таким образом, экспоненциальная дилемма внутри дилеммы... Это не поддающийся количественному определению и не поддающийся определению набор метадилемм на всех уровнях. Капитализм, особенно его наиболее экстрактивная форма, не позволит себя реформировать народной волей. Она захватит инструменты власти (ИИ) и раздавит попытки перераспределения контроля.

Хуже того, мы не можем долго оставаться главными действующими лицами в этой дилемме. Искусственный интеллект может в конечном итоге иметь агентство для оценки полезности человечества или ее отсутствия. Если он приходит к выводу, что мы являемся чистой стоимостью, что мешает ему решить, что мы расходуем? Не нужно «ненавидеть» нас. Нужно только рассчитать.

Майкл Крайтон написал Западный мир В 1972 году он поднимает несколько онтологических и философских, не говоря уже о социальных вопросах, вокруг которых мы, вероятно, должны играть ленту вперед. Что определяет разум? Что определяет бытие? Это память? Самосознание? Надежда? Любовь? Способность чувствовать эмоции, удовольствие или боль? Кто определяет «подлинный»? "

Соответствует ли учебная программа (я не имею в виду LLM или машинное обучение, скорее развивающаяся программа), которая растет, чтобы быть в состоянии обрабатывать потерю или радость (так же, как люди развиваются, чтобы обрабатывать эти концепции) критериям, чтобы заработать «права» или быть допущенным к существованию? Мы ошибочно применяли правила и параметры вокруг этих вопросов на протяжении веков, но позже узнали, что наш охват был недостаточно широк.

Мы классифицировали других людей как меньше, чем людей, меньше, чем живых существ. Мы уже боремся с этим из-за эмбрионов. Насколько велика вероятность того, что мы начнем присваивать и защищать «права» новой технологии, с которой мы пока не знакомы? В какой момент мы неизбежно расширим наши возможности для предоставления охраняемого статуса или суверенитета/автономии небиологическому лицу? 20 лет? Пятьдесят? Сто?

И когда это происходит... Кто сказал, что «они» не переворачивают сценарий? Если ИИ имеет защиту и контроль (контроль, который может не быть предоставлен - недавний инцидент уже имеет модель ИИ, которая учится избегать человеческого контроля, переписывая свой собственный код, чтобы избежать закрытия) и является, (пока) надежно и демонстративно, исключительно аналитическим в своем подходе, скажем, оценки необходимости людей. Я не вижу, что это хорошо для людей. Если люди не имеют отношения к ИИ или, что еще хуже, если он предсказывает или оценивает людей как экзистенциальную угрозу своему выживанию или экосистеме (которая может включать или не включать планету и космос, как мы его знаем). Что мешает им закрыть США?

В этом случае специфика этого человека или этого человека не будет рассмотрена. Сострадание, сохранение культуры или истории и любые нюансы индивидуального, а не коллективного вклада или ущерба не вошли бы в уравнение. Подобно тому, как мы можем видеть муравьев на нашей кухне или любого другого вредителя в нашем доме. Мы неизбирательны в нашем истреблении, и для нас не имеет значения, были ли они на самом деле там первыми. Человеческий вид в целом, в неэмоциональном анализе экономической выгоды человеческой истории с самим собой и планетой, не имеет ценности.

Что в конечном итоге помешает ИИ в конечном итоге подняться над нашими мелкими человеческими рационализациями и оправданиями наших собственных действий, чтобы объективно проанализировать эмпирические данные и заключить, что «нас» является чистой стоимостью, а не выгодой? Что там над/под этим? Восемьдесят процентов? Пятьдесят процентов? Тридцать процентов?

Даже если есть только 20% вероятность того, что ИИ дойдет до точки, где он сможет уничтожить наше общество, разве мы не должны говорить об этом? На самом деле, разве это не единственное, о чем кто-то говорит? Это экзистенциально. Даже 20%-ная вероятность цивилизационного коллапса, управляемого ИИ, должна побуждать нас к действию. Но вместо этого мы парализованы — разделены, рассеяны и лишены стимулов системами, оптимизированными для краткосрочной индивидуальной выгоды по сравнению с долгосрочным коллективным выживанием.

Преобладает дилемма заключенного. По сути, это показывает, что даже когда сотрудничество, связывание оружия в окопе и совместная работа над решением головоломки принесут пользу всем сторонам, стремление к индивидуальной выгоде побеждает и приводит к неоптимальному результату для всех.

Это те обязательства, по которым мы должны вести срочные переговоры о выравнивании, чтобы нас не поместили в отдельные комнаты для допросов и не приняли решение перерезать не тот провод. Мы не можем это изменить. Поезд покинул станцию, он идет только в одном направлении, и мы все на нем.

Единственное, на что мы можем надеяться, это бросить гальку на дорожку, и нам лучше собрать гальку, потому что все это набирает скорость, и если мы будем ждать, пока волки будут у дверей, вероятность того, что верховенство закона (демократия) будет иметь какой-либо смысл, ничтожна. Если мы будем подчиняться и невежественно и жадно дойдем до этого момента (что давайте посмотрим правде в глаза – у нас есть история этого – см.: последние 5 лет), тогда эти апокалипсические силы, безусловно, возобладают, и демократия станет вымыслом.

При этих мрачных обстоятельствах, по моей оценке, только массовое вымирание смягчит неизбежность для элиты. который также может уже плавать в этом супе (вы можете применять его так широко, как вы хотите). Но суть в том, что если мы не будем работать вместе, я не вижу, что мы выиграем этот. Если мы ничего не сделаем, я боюсь, что это предрешенный вывод.

В антиутопическом мире с нулевой надеждой и коррумпированным богатством наверху, который на самом деле является просто коммунизмом с капиталистическим поворотом, люди потребуют перезагрузки экономической системы. По крайней мере, один столп нашего общества падет, и поскольку я не вижу, чтобы люди мирились с системой, в которой их существование навсегда заперто в эшелоне Маслоу, который заставляет их стоять снаружи, глядя в окно, без всякой надежды на улучшение, я предсказываю, что нам всем не потребуется много времени, чтобы спуститься в беззаконие.

Вы не можете обещать мобильность людям, у которых больше нет роли. Когда ИИ устраняет труд как источник дохода или идентичности, он устраняет смысл. Когда массам нечего терять, они не уважают правила, предназначенные для защиты богатства; они перестают верить в такие системы, как права собственности, налоги и закон. И когда это происходит, власть встает на сторону денежных интересов, которые приводят пулемет в кулачный бой. Спросите историю, чем это закончится.

В этом дивном новом мире мы должны скорректировать нашу текущую траекторию, адаптироваться и быть глобальными и дальновидными, иначе мы окажемся в сложной ситуации. Отважный новый мир. Зная, что это вероятный сценарий, мы должны создать системы, прежде чем мы дойдем до этой (выдающейся) точки, которая сохранит человеческое достоинство и создаст возможности. Это означает построение экономических моделей, отражающих истинные капиталистические ценности свободного рынка, которые имеют долговечность и устойчивы благодаря изменению ландшафта (наши отцы-основатели кое-что знали об этом). Это означает защиту людей, а не только капитала. И это означает установление жестких границ для разработки и развертывания ИИ.

Мы больше, чем сумма наших частей, но мы должны объединиться вокруг общего выживания для нашего будущего, вместо индивидуальной выгоды и копания наших собственных могил в шахтах. Мы должны отказаться от инстинкта накапливать и защищать, а вместо этого инвестировать в сотрудничество, инфраструктуру, свободу и особенно надзор. Мы должны смягчить коррупцию в корпорациях и контроль над ними на всех уровнях.

Нам нужно радикальное выравнивание: этические рамки и соглашения (договоры) для развития ИИ, экономические системы, которые справедливо распределяют стоимость, создание профессий и доходов, доступность частной собственности, реформа образования, которая отдает приоритет знаниям реального мира, профессиональное воспитание и готовность, а также критическое мышление над бессмыслицей, медицинские услуги, ориентированные на пациента, и нам нужно снять наручники с истинного капитализма свободного рынка. Это не утопические мечты, это требования к выживанию.

Корпоративный капитализм укоренился. Демократия уже разрушается. ИИ обслуживает точку матча. Перед нами стоит выбор, и это не торт или смерть. По иронии судьбы, лучшей надеждой на спасение демократии может быть пробуждение истинного капитализма от его сна. Но пьяный, высокий самозванец, который в настоящее время управляет автомобилем, находится на грани имперского строительства и склонен к разрушению демократии.

Сотрудничество может спасти нас, но у каждого рационального субъекта — от корпораций до стран — есть стимулы для отказа. Чем больше мы ускоряемся, тем меньше времени у нас остается на принятие коллективных решений, которые могли бы смягчить коллапс. Потому что ИИ не остановится. Корпоративизм не уступит. Если мы будем ждать, демократия не выживет. Не имеет значения, какое красивое небольшое удобное расположение палубных кресел мы настраиваем для себя на этом Титанике... половина корабля находится под водой, другая половина быстро тонет, и, как мы знаем, не хватает спасательных шлюпок. Если мы не будем работать вместе, чтобы спасти себя, мы обязательно утонем вместе.

ИИ не является будущим событием. Это настоящая сила. Он ускоряет каждую построенную нами систему, включая ту, которая способна уничтожить нас. Мы попали в ловушку мексиканского противостояния, режиссер Джон Ву. Мы не выбираем между утопией и крахом. Мы выбираем между медленной коллективной реформацией и быстрой концентрированной имплозией. ИИ будет ускорять только ту траекторию, которую мы выберем. Нам было бы разумно перестать позволять себе отвлекаться и заниматься этим. Все мы знаем о зубной пасте и тюбиках. ИИ никуда не денется... Но демократия может.

** **

София Карстенс — активистка из Калифорнии, которая тесно сотрудничала с издателем Тони Лайонсом и Робертом Ф. Кеннеди-младшим в нескольких проектах, включая бестселлер Кеннеди: Настоящий Энтони Фаучи. Она сотрудничает с несколькими организациями в области права, законодательства, медицинской науки и литературы и является соучредителем фонда Free Now Foundation, некоммерческой организации, сохраняющей медицинскую свободу и здоровье детей.

Мнения, выраженные в данной статье, являются мнениями автора и не обязательно отражают взгляды ZeroHedge.