Съест ли ИИ наш мозг?

Автор: Джеффри А. Такер via «Времена Эпохи» (выделено нами)

Даг Макмиллон, исполнительный директор WalMart, сказал, что Искусственный интеллект (ИИ) разрушает каждую работу в корпорации на всех уровнях, влияя на каждый сектор. Многие рабочие места будут устранены, некоторые созданы, и большинство из них каким-то образом переоборудованы. Все происходит очень быстро.

Изображение: Sanjeev Das, Your Nightmare

Несомненно, есть повод для какого-то праздника. Безусловно Опыт последних двух десятилетий должен сделать нас столь же осторожными. О том, чтобы погрузиться в неизвестность. Разумно спросить о расходах. Что мы можем потерять?

Большая проблема с ИИ заключается не в его функционировании, эффективности или полезности. Это удивительно во всех этих вещах. Опасность заключается в том, что он делает с человеческим мозгом. Весь его дух состоит в том, чтобы давать ответы на все вопросы. Но получение ответа не является источником человеческого прогресса.

Прогресс приходит от обучения. Единственный способ научиться — это пройти через дискомфорт, необходимый для получения ответа. Сначала вы изучаете метод. Затем вы применяете его. Но ты ошибаешься. И ты опять ошибаешься. Вы находите свои ошибки. Вы исправляете их и все равно ошибаетесь. Вы найдете больше ошибок. В конце концов вы наткнулись на ответ.

Именно тогда он становится удовлетворительным. Вы чувствуете, что ваш мозг работает. Вы улучшили свой ум. Вы чувствуете чувство достижения.

Только через этот процесс можно чему-то научиться. Это происходит от боли неудачи и развертывания человеческого мозга в процессе решения проблем. Студент или работник, который полагается на ИИ для получения всех ответов, никогда не будет развивать интуицию, суждение или даже интеллект. Такой человек будет упорствовать в невежестве. Дыры в знании останутся неоткрытыми и незаполненными.

Это огромная опасность, с которой мы сталкиваемся.

Речь идет о профессоре Массачусетского технологического института Ретефе Леви, который выступил на мероприятии Института Браунстоуна на прошлой неделе. Это был замечательный разговор, в котором было много других моментов. Построение систем, которые в основном полагаются на ИИ, может быть катастрофическим для свободы, демократии и цивилизации.

Даже с индивидуальной точки зрения существует угроза того, что ИИ растворит способность мыслить просто потому, что мы не обязаны это делать.. Совсем недавно почти каждый документ, к которому я обращаюсь, предлагает инструмент искусственного интеллекта с кратким резюме, так что мне на самом деле не нужно ничего читать. Это абсурд, и я бы хотел, чтобы эти компании прекратили эту чушь.

Они не будут. Все началось с фразы, которую я презираю: «исполнительное резюме». Не знаю, откуда взялась эта фраза. Идея о том, что занятый и причудливый «исполнитель» с пейджером и быстрой машиной не может быть обеспокоен деталями и повествованием, потому что он должен принимать звонки и принимать важные решения? Я не знаю, но теперь "исполнительное резюме" вторглось во все.

Теперь мы хотим, чтобы все перешли к погоне, перешли к тому, кто это сделал, вместо того, чтобы читать драму, услышать подачу лифта, потому что у нас просто нет времени много думать. В конце концов, у нас всегда есть лучшие способы провести время. Что делать? Читая больше «исполнительных резюме», можно предположить.

Это все абсурдное притворство, Это следствие веры в то, что мы настолько продвинуты, что нам больше ничего не нужно знать. Система заботится об этом для нас.

В какой момент мы будем тратить время, чтобы думать и учиться? Со всеми этими инструментами, чтобы обойти фактическое созерцание, как мы узнаем, что эти ответы, которые дает нам система, являются правильными?

Можно сказать, что это относится и к электронным калькуляторам, и к интернету. И это правда. У обоих есть такая опасность.

Я, вероятно, один из последнего поколения студентов, которые прошли через колледж с карточными каталогами и физическими стеками в качестве единственного доступного ресурса. Когда я не был в классе, я был в библиотеке, в основном сидел на полу, окруженный со всех сторон.

Это было приключение. Это была работа. Была награда. Просматривание стопок было радостью, и я пробирался через все здание постепенно в течение двух лет. Это моя база знаний сегодня.

Я влюбилась в обучение. Не просто знать ответы, а узнать, как туда добраться.

Даже нахождение периодических изданий требовало поднятия тяжелых книг и очень внимательного чтения. Как только вы обнаружите эту вещь, вы можете пойти в стопки и забрать связанные тома литературы, датируемые 150 годами. Вы физически ощущали страницы и испытывали их, как и предыдущие поколения.

Я часто задаюсь вопросом, будет ли это когда-нибудь происходить со студентами. Интересно, что мы потеряли. Нет сомнений, что доступ быстрее. Есть замечательные черты информационной эпохи. К сожалению, вся система организована вокруг идеи генерации ответов на каждый вопрос. Чем больше мы обходим процесс открытия и борьбы, тем больше мы думаем, что система работает. Я не так уверен.

Когда я учился в средней школе, я нашел записки Клиффа в книжном магазине. Там были краткие резюме каждой части литературы, которую мои учителя присвоили. Я купил несколько. Я узнал, что могу потратить тридцать минут на то, чтобы понять суть, а не девять часов на чтение книги. На экзаменах я получаю букву Б, а иногда и А.

Но потом я заметил проблему. Я не мог говорить с другими о книге. У них были сообщения об эмоциональных переживаниях и острых ощущениях от чтения. У меня ничего этого не было. Кто здесь был болваном? Я отказывал себе в чудесном опыте: действительно читал книгу.

Зная персонажей, сюжет и заключение, это всего лишь данные. Чего у меня не было, так это преобразующего опыта вхождения в другой мир, созданный автором. У меня не осталось ничего запоминающегося.

Так что по собственному решению я перестал это делать. Я Я понял, что получение правильных ответов на экзамене не имеет никакого значения. Суть заключалась в том, чтобы учиться, проходить через шаги, иметь опыт открытия, тренировать ум. Студенты, которые сделали это, стали умными и даже мудрыми. Тех, кто не остался на месте.

В конце концов, все студенты понимают, как играть в систему. Особенно это касается аспирантуры. Профессора хотят быть польщенными, а студенты выясняют, как это сделать, не читая ни одного материала. Это и есть циники. Я знал многих из них. Я никогда не мог понять, почему они вообще беспокоились.

Конечно, они прошли, но с какой целью?

К сожалению, вся наша система образования посвящена тестам. Тесты предназначены для того, чтобы выяснить, получают ли студенты правильные ответы. Такая система всегда будет востребована. Речь идет о прохождении истинных / ложных тестов и многовариантных вещей. С компьютерами все еще хуже. Это привычно и длится 18 лет.

Это не мышление. Это обучающие роботы.

ИИ только усугубляет проблему, вынимая борьбу и процесс из всего. Борьба за то, чтобы добраться отсюда, является единственным способом нарастить интеллектуальные мышцы.

Я иногда оглядываюсь назад и вспоминаю, сколько времени я провел, занимаясь музыкой, учась играть на тромбоне, фортепиано и гитаре, сочиняя музыку на рукописной бумаге, которую я слышал на записях, сидя в практических комнатах и пробуя на соревнованиях.

Было ли это пустой тратой, потому что я не занимался этим как профессия? Вовсе нет. Я научился практиковаться в улучшении.

Годы спустя я перешел от одного интеллектуального энтузиазма к другому. Некоторое время я был одержим так называемой эсхатологией, теологической теорией конца света. Я прочитал 60-100 книг на эту тему. Теперь мне все равно, так что я потратил свое время? Вовсе нет. Я тренировал свой мозг работать.

Вот почему родители не должны сожалеть, когда их дети становятся одержимыми книгами о Гарри Поттере и читают их все пять раз. Это отличный способ повысить умственные способности. Действительно, все, что преследуется со страстью и усердием, борется против интеллектуального ленивца.

Вот в чем проблема. ИИ — это технология ленивца. Нам это нравится. Нам это слишком нравится. Сейчас ИИ кажется волшебным, потому что он сочетается с мыслящими людьми. (Это еще один момент, взятый у доктора Леви.)

Что происходит, когда вдумчивые люди постепенно исчезают и их заменяют больные, ленивые, бездумные люди, которые неспособны самостоятельно генерировать какие-либо ответы?

Это будет конец света. Может быть, мои книги по эсхатологии помогут больше, чем я знаю.

В настоящее время используемые мной языковые модели часто ошибочны, даже очень часто. Обычно я могу обнаружить ошибки, за которые движок ИИ не несет никакой ответственности. Обычно мы говорим о таких галлюцинациях как о проблеме. Может и нет.

Единственное, что хуже, чем система искусственного интеллекта, которая спорадически ошибается, — это система, которая всегда права. Именно последний, скорее всего, породит лень и глупость.

Не создавайте никаких систем в цепочках поставок, функциональность которых полностью зависит от технологии, только недавно развернутой и которую никто не понимает. Если вы это сделаете, вы обнаружите, что ваша устойчивость как ведущего в мире ритейлера уязвима для конкуренции со стороны компаний, которые ценят людей, суждение и мудрость над бездушными машинами.