Будет ли ИИ захватывать мир?

Автор: Джеймс Рикардс, Daily Reckoning

Как вы знаете, искусственный интеллект (ИИ) — это ярость в наши дни. С точки зрения рынка, это, безусловно, связано с динамикой пузыря.

И я считаю, что ведущий производитель чипов для искусственного интеллекта Nvidia вот-вот будет забит, что может спровоцировать гораздо более широкий крах рынка, начинающийся завтра днем, вскоре после 4 часов вечера.

Но с более широкой точки зрения, Новости полны историй о том, как машины с огромной вычислительной мощностью и ослепляющей скоростью обработкиимея доступ к миллиардам книг и документов и возможность обучаться самостоятельно, Они готовы захватить весь мир.

Это правда? Я изучал ИИ и его потенциал в течение многих лет, поэтому у меня более глубокое понимание ИИ, чем у обычного говорящего человека.

Я на самом деле провел время, посещая третий по скорости неправительственный суперкомпьютер в мире (компьютер HiPerGator AI в Университете Флориды) в рамках проекта по применению обобщенного суперинтеллекта и ИИ к задачам национальной безопасности.

Насколько продвинутым становится ИИ? Насколько близко это приближение к грубому паритету с человеческим интеллектом? И какие опасности она представляет для человечества?

We Can Just Pull the Plug (По крайней мере, сейчас)

Экспериментаторы теперь представляют себе машины, которые живут своей собственной жизнью и нападают на людей и цивилизацию. Но важно помнить, что если машина берсерк, вы можете просто вытащить вилку.

Апологеты потенциала ИИ утверждают, что затягивание вилки не будет работать, потому что ИИ будет предвидеть эту стратегию и «экспортировать» себя на другую машину в сценарии «поймай меня, если сможешь». Отключение одного местоположения не остановит появление кода и алгоритмов в другом месте и продолжение атаки.

Возможно. Но с этим есть все виды логистических проблем, включая наличие достаточного количества машин с необходимой вычислительной мощностью, тот факт, что альтернативные машины, вероятно, будут окружены брандмауэрами и цифровыми рвами, а также множество проблем с конфигурацией и совместимостью.

Так что пока вы можете просто вытащить вилку. На самом деле, предлагается ряд мер предосторожности, чтобы ограничить потенциальный ущерб от ИИ, но при этом использовать его огромные преимущества.

Это не техническая статья, но эти гарантии включают прозрачность. (чтобы третьи лица могли выявить недостатки), надзор, ослабленная форма состязательной подготовки (чтобы машина могла решать проблемы, не замышляя против нас в свободное время), модификация на основе одобрения (машина должна «запрашивать разрешение» перед активацией автономного машинного обучения), рекурсивное моделирование вознаграждения (машина движется только в определенных направлениях, где она получает «похлопывание по голове» от людей) и других аналогичных инструментов.

Конечно, ни одна из этих гарантий не работает, если сила, стоящая за ИИ, злокачественна и на самом деле хочет уничтожить человечество.. Это все равно что отдать атомное оружие в руки отчаявшегося Адольфа Гитлера. Мы знаем, что произошло бы дальше.

Джеймс Бонд с ИИ

Решение в этом случае было бы более политическим, судебным и оборонным. Сбор разведданных будет играть огромную роль. Конечно, это быстро превращается в войну между машиной и машиной разведки сбора и обмана.

Представьте себе Джеймса Бонда с гиперкомпьютером вместо Walther PPK. Более непосредственная угроза ИИ менее серьезная, но тем не менее тревожная, особенно для инвесторов.

Инвесторы должны быть осторожны, полагаясь на системы GPT для финансовых консультаций, несмотря на их огромную вычислительную мощность. Результат никогда не бывает лучше, чем входы, а рыночные входы усеяны плохими моделями, ложными предположениями, плохими прогнозными записями и предубеждениями.

Мусор, мусор.

Например, ИИ уже программируется с проснувшейся идеологией. Вы, наверное, помните нелепый генератор изображений Gemini от Google, который изображал черных викингов, пап-женщин и другие абсурдные изображения. Вы можете представить себе антиутопическое будущее, которое может создать проснувшийся суперинтеллект.

Пробуждение 1984

Вы, вероятно, знакомы с классическим антиутопическим романом Джорджа Оруэлла. Девятнадцать восемьдесят четыре(часто публикуется как 1984 год. Он был написан в 1948 году; название происходит от обращения последних двух цифр в 1948 году.

Оруэлл создал оригинальный словарь для своей книги, большая часть которого является общим, если сардоническим, использованием сегодня. Такие термины, как «Полиция мысли», «Большой брат», «двойное мышление», «новояз» и «дыра памяти» — все они происходят из Девятнадцать восемьдесят четыре.

Оруэлл предполагал, что это предупреждение о том, как некоторые страны могут развиваться после Второй мировой войны и начала холодной войны. Он, конечно, был обеспокоен сталинизмом, но его предостережения касались и западных демократий.

Когда наступил 1984 год, многие вздохнули с облегчением, что пророчество Оруэлла не сбылось. Но этот вздох облегчения был преждевременным. Кошмарное общество Оруэлла сегодня существует в форме коммунистического Китая.

1984 Приезжает в Китай

Китай имеет большую часть аппарата тоталитарных обществ, описанных в книге Оруэлла. Китай усердно работает над ИИ, используя программное обеспечение для распознавания лиц и повсеместное цифровое наблюдение, чтобы отслеживать своих граждан. Интернет подвергается цензуре и мониторингу. В реальной жизни полиция будет арестовывать вас за выражение мнений, противоречащих правительству или его политике.

В то время как худшие излишества Китая не произойдут в США или в том, что происходит на Западе в наши дни, менее экстремальные аспекты китайского государства наблюдения могут.

И хотя вас могут не арестовать за выражение непопулярных мнений или оспаривание существующих догм (по крайней мере, пока), вы можете столкнуться с другими санкциями. Вы можете потерять работу и найти другую практически невозможно. Отмените культуру.

Но это не только Китай. Основатель мессенджера Telegram Павел Дуров был арестован в аэропорту Франции. Очень возможно, что правительство США сыграло свою роль в аресте вместе с ЕС.

Власти утверждают, что Telegram пропагандирует детскую порнографию и другие отвратительные действия. Но на самом деле Дуров был арестован, потому что не соглашался с запросами западных властей о цензуре определенной информации и точек зрения. Кроме того, он не будет предоставлять властям информацию о производителях этого контента (Telegram предлагает производителям варианты шифрования).

Именно по этой причине Дуров был арестован. Илон Маск следующий?

«Покажи мне человека, и я покажу тебе преступление»

Здесь, в США, многие консервативные участники соцсетей были закрыты или отстранены не за угрозы или вульгарность или пропаганду детской порнографии, а за критику «прогрессивных» взглядов (хотя критика с некоторыми острыми краями).

Между тем, люди с прогрессивными взглядами могут сказать почти все в социальных сетях, включая неявную поддержку насилия. Но ничего не происходит.

Проблема в том, что тенденция очень быстро движется в этом направлении, и ее трудно остановить. И современные технологии наблюдения за гражданами уже существуют.

Например, камеры с новейшей технологией наблюдения могут обнаруживать и сопоставлять миллионы лиц в режиме реального времени с точностью более 99%. Их рекламируют как антитеррористические и антикриминальные инструменты.

Но как сказал безжалостный начальник сталинской тайной полиции Лаврентий Берия: «Покажите мне человека, и я покажу вам преступление». Легко видеть, что власть злоупотребляют, чтобы нацелиться на обычных граждан.

(Кстати, Берия в конечном итоге докажет свою точку зрения, поскольку позже он был арестован и казнен за измену.)

Возвращаясь к ИИ, Проблема в том, что как только плохие актеры начинают заполнять литературу вводящей в заблуждение информацией, а предубеждения разработчиков проникают в код, становится ясно, что ИИ может быть инструментом тирании.

В целом, ИИ — это то, за чем нужно следить, и мы должны задавать важные вопросы. Но мы не должны беспокоиться о том, что он захватит мир в ближайшее время.

Вместо этого мы должны беспокоиться о том, чтобы стать похожими на коммунистический Китай.