Возможно, ИИ не заменит вас на работе

dailyblitz.de 6 часы назад

Автор Чарльз Хью Смит в блоге OfTwoMinds,

ИИ не справляется с задачами, где точность должна быть абсолютной для создания ценности.

Рассматривая продолжающиеся дискуссии о том, сколько людей будет заменено ИИ, я нахожу серьезное отсутствие реальных примеров. Я исправляю этот недостаток на примере неудачи ИИ в работе, которая, как многие ожидают, скоро будет выполнена ИИ.

Немногие вещи в жизни более распространены, чем шумиха, что приводит нас к нынешнему безумию искусственного интеллекта. Поскольку мы все читали одни и те же заявления и видели видео, где танцуют роботы, я перейду к следующему: Никто не публикует видео, на которых робот падает с лестницы и раздавливает розы. Потому что, ну, оптика не очень теплая и нечеткая.

По той же причине никто не делится ошибкой инструмента искусственного интеллекта, которая устранила иск. Единственный способ по-настоящему понять границы этих инструментов — это использовать их в высокоуровневой работе, которую они должны делать с легкостью, скоростью и точностью, потому что никто не платит реальные деньги, чтобы смотреть, как роботы танцуют или читать подражательное эссе о Йейтсе, созданное ИИ.

В реальном мире создание ценностиОптика не считается, точность подсчитывается. Никого не волнует, если чат-бот ИИ, который выдумал домашнюю работу Йейтса, галлюцинировал в середине потока, потому что никто не платит за вывод ИИ, который имеет ноль. ценность дефицитаСгенерированная ИИ классная статья, песня или видео присоединяется к 10 миллионам подобных подражателей, на которые никто не обращает внимания, потому что они могут создать свои собственные за 30 секунд.

Итак, давайте рассмотрим реальный пример того, как ИИ развертывается для выполнения высокоуровневой, высокоценной работы, которую он должен будет идеально выполнить, чтобы заменить нас всех на работе. Мой друг Ян Линд, которого я знаю уже 50 лет, является журналистом-расследователем с завидно длинными записями о журналистике. (Его блог www.iLind.net, [email protected])

Письмо судьи, рекомендовавшее Иэну награду, которую он получил от Американской ассоциации судей за выдающиеся репортажи о судебной системе, длилось 18 страниц, и это было просто резюме его работы.

Репортажи и блоги Йена в начале 2000-х годов вдохновили меня попробовать свои силы в 2005 году.

Ян провел последние несколько лет, помогая общественности понять самое сложное дело федерального обвинения в недавней истории Гавайев.Таким образом, количество документов, которые накопились, огромно. В течение нескольких месяцев он экспериментировал с инструментами искусственного интеллекта (NotebookLM, Gemini, ChatGPT) в различных проектах, и недавно он поделился этим со мной:

"" Мой опыт определенно был смешанным. С одной стороны, запросы высокого уровня, такие как «определить основные вопросы, поднятые в документах, и отсортировать по важности», дали интересные и наводящие на размышления результаты. Но попытки найти и свести воедино детали о человеке или теме почти всегда имели заметные ошибки или галлюцинации. Я никогда не смогу доверять ответам даже на то, что считаю простыми инструкциями. Слишком много ошибок. В поисках упоминаний о «драве» в 150 ордерах говорилось, что он не упоминается. Но он был, я вернулся и нашел эти упоминания. Я думаю, что боты читают достаточно, чтобы дать ответ и не продолжают вводить данные до конца. Побег из бедра и, по моему опыту, часто вызывал ошибки. Иногда это 25 ответов и одна вопиющая ошибка, иногда более простая. "

Начнем с контекста. Это похоже на работу, выполняемую юридическими службами. Наша система защиты верховенства права, поэтому судебные разбирательства имеют последствия. Это не пустяки или классная бумага, и опыт Яна отражается многими другими профессионалами.

Рассмотрим основные слабые стороны ИИ:

1. На самом деле ИИ не «читает» всю коллекцию текстов. С человеческой точки зрения, он становится «скучным» и останавливается, как только у него есть достаточно, чтобы вызвать заслуживающий доверия ответ.

2 У ИИ есть Цифровая деменция. Он не обязательно запоминает то, что вы просили в прошлом, и не обязательно запоминает свои предыдущие ответы на те же запросы.

3. ИИ фундаментально, безвозвратно не заслуживает доверия. Он делает ошибки, которые он не обнаруживает (потому что он на самом деле не «читал» весь текст), и он генерирует ответы, которые «достаточно хороши», что означает, что они не на 100% точны, но они имеют поверхностный вид всеобъемлющего и поэтому приемлемого. Это ответ «выстрел из бедра», описанный Яном.

Другими словами, 90% достаточно хороши, так как кто заботится о других 10% в газете колледжа, подражатель песни или милое видео.

Но в Реальная работа10% ошибок и галлюцинаций имеют значениеПотому что весь создание ценности Это зависит от того, что 10% из них правы, а не наполовину.

В области LLM AI неправильное получение даты рождения Йейтса - ошибка без последствий - это то же самое, что отсутствие имени ответчика в 150 ордерах. Эти программы являются механизмами прогнозирования текста/контента; они на самом деле ничего не знают и не понимают. Они не могут определить разницу между последовательной ошибкой и ошибкой «кого это волнует».

Это восходит к классическому мысленному эксперименту ИИ. Китайская комнатаЭто означает, что человек, который не знает китайский язык в закрытой комнате, перетасовывает символы, которые переводят английские слова на китайские иероглифы.

Снаружи кажется, что черный ящик Запечатанная комната «знает китайский», потому что она переводит с английского на китайский. Но человек — или агент ИИ — на самом деле не «знает китайский язык» или не понимает ничего из того, что было переведено. Он не знает языков, значений и знаний.

Это описывает агентов ИИ в двух словах.

4. Агенты ИИ будут утверждать, что их ответ точен, когда он явно отсутствует, они будут лгать, чтобы скрыть свою неудачу, а затем лгать о лжи. Если их надавить, они извинятся и снова солгут. Прочитайте эту статью до конца: Diabolus Ex Machina.

ИИ терпит неудачу в задачах, где точность должна быть абсолютной для создания ценности. Без этого это не просто бесполезно, это контрпродуктивно и даже вредно, создавая обязательства, гораздо более важные, чем первоначальные ошибки.

"" Но они становятся лучше». Нет, они не в том, что имеет значение. Агенты ИИ — вероятностные машины для прогнозирования текста и контента; они обученные попугаи в китайской комнате. Они на самом деле ничего не «знают» и ничего не «понимают», и добавление еще одного миллиарда страниц в их «обучение» не изменит этого.

Ответственная ложь: как ИИ продает убеждение без правды

"" Широко распространенное увлечение генеративным ИИ, особенно крупными языковыми моделями (LLM), такими как ChatGPT, Gemini, Grok и DeepSeek, основано на фундаментальном недопонимании. Хотя эти системы впечатляют пользователей четкими ответами и, казалось бы, аргументированными аргументами, правда заключается в том, что то, что кажется «обоснованием», является не более чем сложной формой мимикрии.

Эти модели не ищут истину через факты и логические аргументы — они предсказывают текст на основе шаблонов в обширных наборах данных, на которых они «обучены». Это не интеллект, и это не рассуждение. И если их «обучающие» данные сами по себе предвзяты, то у нас есть реальные проблемы.

Я уверен, что пользователи ИИ удивятся, узнав, что архитектура в основе LLM нечеткая и несовместима со структурированной логикой или причинностью. Мышление не реально, оно смоделировано и даже не является последовательным. То, что люди ошибочно принимают за понимание, на самом деле является статистической ассоциацией. "

ИИ имеет критический недостаток — и он неисправим

ИИ не является интеллектуальным в том виде, в каком мы его считаем. Это машина вероятности. Он не думает. Это предсказывает. Это не причина. Это связывает шаблоны. Он не создает. Это ремиксы. Большие языковые модели не понимают смысла — они предсказывают следующее слово в предложении на основе данных обучения. "

Давайте теперь вернемся к более широкому контексту ИИ, заменяющему людей в массовом порядке. Этот пост Майкла Спенсера из AI Supremacy и Цзин Ху из 2-го ордена Thinkers предлагает высоко информированную и крайне скептическую критику шумихи о том, что ИИ выпустит цунами увольнений, которое скоро достигнет десятков миллионов. Будут ли ИИ-агенты автоматизировать работу по шкале?

Цзин Ху объясняет фундаментальные слабости всех этих агентов: Стоит прочитать ее объяснения и реальные примеры по ссылке выше. Вот отрывок:

Сегодняшние агенты имеют минимальное истинное агентство.

Их «инициатива» в значительной степени является иллюзией; за кулисами они следуют (или пытаются) жестко поставленным шагам, которые настраивал разработчик или подсказчик.

Если вы попросите агента выполнить задачу X, он сделает X, тогда остановитесь. Попросите Y, и это сделает Y. Но если на полпути через X происходит что-то неожиданное, скажем, форма имеет новое поле, или вызов API возвращает ошибку, агент ломается.

Потому что у него нулевое понимание задачи.

Немного изменить окружающую среду (например, обновить интерфейс или переместить кнопку), и бедняга не может адаптироваться на лету.

Агентам ИИ сегодня не хватает подлинной концепции всеобъемлющих целей или контекста здравого смысла, который используют люди.

По сути, это движки текстового прогнозирования. "

Я поделился своим ужасным опытом работы с роботами «клиентского сервиса»:

Цифровой сервис Dumpster Fires и Shadow Work

Вот мое исследование тех видов практических навыков, которые ИИ не освоит с общими капитальными и эксплуатационными затратами, которые ниже стоимости человеческого труда: Эта галлюцинация только что просочилась через электрическую линию 220 В, которая не была видна, но человек знал, что она была там:

Что ИИ не может сделать быстрее, лучше или дешевле людей (2 июня 2025)

И вот подборка моих эссе об ИИЗа которыми я следил с начала 1980-х годов:

Очерки об ИИ

Подожди, что ты только что сказал? Агент ИИ услышал кое-что еще: