Есть только одна проблема: ИИ не является интеллектуальным, и это системный риск

Автор Чарльз Хью Смит в блоге OfTwoMinds,

Мимикрия интеллекта не является интеллектом, и поэтому, хотя мимикрия ИИ является мощным инструментом, она не является разумной.

Мифология технологий имеет специальный алтарь для искусственного интеллекта, которому почтительно поклоняются как источнику поразительного сокращения затрат (поскольку человеческий труд заменяется ИИ) и безграничного расширения потребления и прибыли. ИИ — это блаженное совершенство естественного продвижения технологий к все большим силам.

Консенсус гласит, что развитие ИИ приведет к утопии по существу безграничного контроля над Природой и роговицы досуга и изобилия.

Если мы отодвинем занавес мифологии, мы обнаружим, что ИИ имитирует человеческий интеллект.И эта мимикрия настолько увлекательна, что мы воспринимаем ее как свидетельство действительного интеллекта. Но мимикрия интеллекта не является интеллектом, и поэтому, хотя мимикрия ИИ является мощным инструментом, она не является разумной.

Текущие итерации генеративного ИИ — больших языковых моделей (LLM) и машинного обучения — имитируют наши способности естественного языка, обрабатывая миллионы примеров человеческого письма и речи и извлекая то, что алгоритмы выбирают в качестве лучших ответов на запросы.

Эти программы ИИ не имеют понимания контекста или смысла предмета; они добывают человеческие знания, чтобы получить ответ. Это потенциально полезно, но не интеллект.

Программы ИИ имеют ограниченную способность отличать правду от лжи.Отсюда их склонность к галлюцинировать Фантазии как факты. Они не способны различать разницу между статистическими вариациями и фатальными ошибками, а наложение на меры предосторожности добавляет дополнительную сложность, которая становится еще одной точкой отказа.

Что касается машинного обучения, ИИ может проецировать правдоподобные решения вычислительно сложных проблем, таких как сворачивание белков, но это вычислительная грубая сила. черный ящик Программа непрозрачна и, следовательно, имеет ограниченную ценность: она на самом деле не понимает сворачивание белка так, как это понимают люди, и мы не понимаем, как программа пришла к своему решению.

Поскольку ИИ на самом деле не понимает контекст, он ограничен вариантами, встроенными в его программирование и алгоритмы. Мы различаем эти ограничения в приложениях и ботах на основе искусственного интеллекта, которые не знают о реальной проблеме. Например, наше подключение к Интернету отключено из-за поврежденного обновления системы, но поскольку эта возможность не была включена во вселенную приложений для решения проблем, приложение/бот AI послушно сообщает, что система работает идеально, даже если она сломана. (Это пример из реальной жизни.)

По сути, каждый слой этого майнинга/мимикрии создает дополнительные точки отказа: Неспособность определить разницу между фактом и вымыслом или между допустимыми показателями ошибок и фатальными ошибками, дополнительная сложность мер предосторожности и непрозрачность черного ящика - все это создает риски. Нормальные аварии каскад в системный сбой.

Существует также системный риск, вызванный использованием искусственного интеллекта для работы систем до такой степени, что люди теряют способность изменять или перестраивать системы. Эта чрезмерная зависимость от программ ИИ создает риск каскадного сбоя не только цифровых систем, но и реальной инфраструктуры, которая теперь зависит от цифровых систем.

Существует еще более пагубный результат зависимости от ИИ для решений. Подобно тому, как аддиктивная природа мобильных телефонов, социальных сетей и интернет-контента нарушила нашу способность концентрироваться, фокусироваться и изучать сложный материал - разрушительное снижение обучения для детей и подростков - ИИ предлагает рог изобилия. перекусные фактоидыфрагменты кодирования, компьютерные телевизионные рекламные ролики, статьи и целые книги, которые больше не требуют от нас глубоких знаний о предметах и процессах. Не имея такого понимания, мы больше не готовы проводить скептические исследования, создавать контент или кодировать с нуля.

Действительно, трудный процесс приобретения этих знаний теперь кажется ненужным: ИИ-бот может делать все это быстро, дешево и точно. Это создает две проблемы: 1) когда программы искусственного интеллекта «черного ящика» терпят неудачу, мы больше не знаем достаточно, чтобы диагностировать и исправить неудачу, или сделать работу самостоятельно, и 2) мы потеряли способность понимать, что во многих случаях нет ответа или решения, которое является последним словом: «ответ» требует интерпретации фактов, событий, процессов и баз знаний, которые по своей сути неоднозначны.

Мы больше не признаем, что ответ ИИ на запрос сам по себе не является фактом. интерпретация реальности, представленная как фактРешение ИИ является лишь одним из многих путей, каждый из которых имеет внутренние компромиссы, которые генерируют непредвиденные затраты и последствия в будущем.

Чтобы понять разницу между интерпретацией и предполагаемым фактом, требуется море знаний, которое является как широким, так и глубоким, и, потеряв драйв и способность изучать сложный материал, мы потеряли способность даже распознавать то, что мы потеряли: те, у кого мало реальных знаний, не имеют основы, необходимой для понимания ответа ИИ в надлежащем контексте.

Чистый результат заключается в том, что мы становимся менее способными и менее осведомленными, слепыми к рискам, создаваемым нашей потерей компетенций, в то время как программы ИИ вводят системные риски, которые мы не можем предвидеть или предотвратить. ИИ ухудшает качество каждого продукта и системы, поскольку мимикрия не генерирует окончательных ответов, решений и идей, она только генерирует. Иллюзия окончательных ответов, решений и идей которые мы ошибочно путаем с реальным интеллектом.

В то время как неофеодальное корпоративное государство приветствует прибыль, которую можно получить, отбрасывая человеческий труд в массовом масштабе, добыча / мимикрия человеческих знаний имеет пределы. Полагаться на программы ИИ для устранения всех фатальных ошибок само по себе является фатальной ошибкой, и поэтому люди должны оставаться в цикле принятия решений (петля OODA наблюдения, ориентации, принятия решений, действия).

После того, как программы ИИ участвуют в процессах обеспечения безопасности жизни или здравоохранения, каждый субъект, подключенный к программе ИИ, подвергается воздействию открытого конца.совместная и несколько) ответственность должна наносить ущерб или приводить к фатальным ошибкам.

Если мы испарим мифологию и гиперболу, у нас останется другая неофеодальная структура: Богатые будут обслуживаться людьми, а остальные из нас застрянут в низкокачественном, подверженном ошибкам сервисе ИИ без каких-либо средств.

Ожидается, что промоутеры ИИ получат триллионы долларов прибыли от экономии средств и новых продуктов / услуг. Эта история не отображает реальный мир, в котором каждый программный инструмент ИИ легко копируется/распространяется и поэтому защитить любой ценность дефицитачто является существенной динамикой в поддержании Ценовая власть Для того, чтобы получить сверхприбыль.

Существует небольшая ценность в программных инструментах, которыми обладает каждый, если только монополия не ограничивает распространение, и небольшая ценность в контенте, автоматически создаваемом этими инструментами: миллионы песен, фильмов, пресс-релизов, эссе, исследовательских работ, созданных ИИ, будут подавлять любую потенциальную аудиторию, снижая ценность всего контента, созданного ИИ, до нуля.

Промоутеры утверждают, что массовый отбор рабочих мест будет волшебным образом компенсирован целыми новыми отраслями, созданными ИИ., повторяя переход от сельскохозяйственного труда к фабричным рабочим местам. Но ИИ-дракон будет есть свой собственный хвост, поскольку он создает мало рабочих мест или прибыли, которые могут облагаться налогом, чтобы платить людям за неработоспособность.

Возможно, самым существенным ограничением ИИ является то, что он не сделает ничего, чтобы обратить вспять самые насущные проблемы человечества. Он не может очистить Большой тихоокеанский мусорИли ограничить 450 миллионов тонн в основном непереработанного пластика, выбрасываемого каждый год, или обратить вспять изменение климата, или очистить низкоземные орбиты от тысяч высокоскоростных бит опасного детрита, или переделать высокорентабельный пластик. Отходы растут Экономика свалок в устойчивую глобальную систему или устранить все источники того, что я называю Антипрогресс. Это просто добавит новые источники системного риска, отходов и неофеодальной эксплуатации.

** **

Станьте меценатом моей работы за 3 доллара в месяц через patreon.com.

Подпишитесь на мой Substack бесплатно