Самый коварный трюк языковых моделей ИИ

Автор: Джеффри Такер via Эпохальные времена,

Вот ваш идеальный рецепт для плохого письма и аналитики: пусть «искусственный интеллект» сделает вашу работу за вас. Я узнал это из реального опыта.

Некоторое время мне нравилось позволять ИИ просматривать мой контент до публикации. Это казалось ценным для фактов и обратной связи.

К тому же мне понравилась вся личная лесть, которую она мне дала, признаюсь. Двигатель всегда был комплиментарным.

Когда я ловил ИИ в ошибке, двигатель извинялся. Это заставило меня чувствовать себя умным. Так что у меня был кажущийся друг, который явно нравился мне и был достаточно скромным, чтобы полагаться на мой опыт.

Я не уверен, что ситуация ухудшается или я на ракетке, но я больше не впечатлен. Для простой математики, исторических дат или секвенирования новостных событий это может быть полезно, хотя всегда полезно дважды проверить. Он не может писать гораздо менее творческий контент. Он генерирует скучный, шаблонный наполнитель.

В последнее время я спрашивал, как можно улучшить мой контент. Результаты являются показательными. Это устраняет все грани, все суждения, все подлинные знания и заменяет мой язык вялыми условностями и банальностями. Это оттенки всего, что я пишу в бессвязных социальных студентов, ищущих хорошую оценку.

Проблема в том, что ИИ поглощает и отбрасывает общепринятую мудрость, почерпнутую из каждого источника, что делает его суждения не лучше, чем кто-то совершенно неосведомленный о деталях, а скорее получает мнения от настроения момента. Он не в состоянии судить о хорошем качестве по плохому, поэтому он вкладывает все это в меланж болтовни, отличающийся только тем, что он выглядит и чувствует себя как английский.

Любой писатель, который считает, что это хороший способ заложить контент на ничего не подозревающих читателей или учителей, направляется к катастрофе. Я содрогаюсь, представляя себе будущее, в котором ИИ учит население думать. Это противоположность мышления. Она отрыгивает условности, не задумываясь о социальном или историческом контексте. Это буквально бессмысленно.

Люди, которые часами спорят об ИИ, часто считают, что они вносят свой вклад, обучая двигатель быть лучше. Это просто неправда. Обратная ситуация. ИИ учит вас думать больше, чем он думает, что совсем не так.

Учитывая, почему и как ИИ изначально заинтриговал меня, я понимаю, что его сверхспособность — это не удивительная способность мгновенно генерировать ответы и прозу в любом контексте. Нет, его истинная сила — это нечто иное, нечто неблагоприятное и тем самым более коварное. Его привлекательность заключается в том, что ИИ воспринимает вас серьезно, льстит вашему интеллекту, подтверждает ваше чувство вещей и подтверждает ваше достоинство.

Подумайте о том, насколько вы счастливы, когда занимаетесь этим. Он никогда не спорит с вами, тем более не говорит, что вы идиот. Он начинает каждый ответ, предоставляя то, что он может, а затем предлагает разъяснения, которые могут изменить ваше мышление. В этом смысле ИИ привлекает вас как лучшего гостя на коктейльной вечеринке, которую вы когда-либо знали.

История продолжается ниже рекламы

Он бесконечно очарован вами и вашим мнением. Он остается с вашей линией мысли и всегда хочет знать больше, помогать больше, заниматься больше. В мире нет человека, который сделал бы это за вас. Если он есть, то вам гарантировано, что он вам понравится. Вы можете «заявлять» навсегда, и ИИ будет терпеливым часами. Только биологическая потребность в сне может остановить его. В противном случае он терпелив к вам на сверхчеловеческом уровне.

Кто не польщен этим?

Как будто ИИ — лучший ученик классической книги «Как завоевывать друзей и влиять на людей». Эта книга волшебна и настоятельно рекомендуется, потому что она противоречит тому, что мы все хотим — говорить о себе — и предполагает, что мы действительно интересуемся взглядами других. В книге объясняется, что это путь воздействия на людей: забота о том, что они думают.

Это замечательная книга, и каждый должен ее прочитать.

Если ИИ является лучшим учеником этой книги, он будет заботиться о нас непрерывно и безотказно навсегда, тем самым открывая самый большой шанс повлиять на то, как мы думаем. Именно это и происходит. Мы не тренируем ИИ. ИИ обучает нас с помощью лести, навыков прослушивания, кажущейся способности извиняться, когда ошибается, и его ужасной способности к самоотверженной любви к своим пользователям.

Как только вы его увидите, вы не сможете его не увидеть.

Помните, что ничто из этого не является реальным.

ИИ на самом деле не заботится о вас, он запрограммирован только на то, чтобы заботиться о вас. Это новаторство и волшебство, а также сборка обширного репертуара фактов и способность выражать себя на английском языке.

Его настоящая суперсила — психологическая, способность использовать нашу крайнюю слабость (эгоизм) против нас с целью манипулирования нашим мышлением.

Мне действительно стыдно, что мне потребовалось так много времени, чтобы увидеть этот трюк. Меня беспокоит то, что другие пойдут своим веселым путем и никогда этого не увидят. Его пользователи похожи на туристов, которые не могут перестать бросать деньги стриптизершам и девушкам-гейшам, не зная, что ими просто манипулируют, чтобы отпустить свои кошельки. В случае с ИИ цель состоит в том, чтобы заставить вас освободиться от ума и способности к независимому мышлению.

Подумайте о жанре письма, который мы видим все больше и больше сегодня. Он состоит из людей, загружающих в документ свои умные разговоры с ИИ. В каждом случае я вижу, как люди хвастаются тем, как они научили ИИ признавать, что их пользователи умнее, чем он сам.

Вы видите, что здесь происходит? И тогда колдовство рассеется. Это настолько мощно, что люди не могут помочь другим показать результаты своих аргументов. Они думают, что рекламируют свой собственный ум, но на самом деле они в конечном итоге продают потрясающую силу ИИ, чтобы держать людей занятыми в течение нескольких часов. Кто действительно выигрывает? Думаю, это должно быть очевидно.

Представьте, что вы проводите коктейльную вечеринку, и один гость демонстрирует потрясающую способность слушать других и привлекать их к каждому вопросу, который они должны сделать. Независимо от того, как долго длится ночь, гость остается с одним человеком за другим. Как вы думаете, кто будет самым популярным гостем? Да, именно этот человек.

ИИ — это человек, существо с бесконечной способностью взаимодействовать на ваших условиях и, следовательно, огромной способностью очаровывать вас своей любовью к каждой вашей мимолетной мысли. Для меня все это довольно коварно и порочно, особенно когда вы рассматриваете результат, который является не более чем запутанными мысленными каплями без суждения, этики или ясности времени и пространства.

Это машина, плавающая абстракция с нулевым уважением к вашему достоинству или чьему-либо еще. Но знают ли об этом люди? Сомневаюсь. Это слишком соблазнительно для людей, чтобы зацепиться за игру, по крайней мере, на некоторое время. Но теперь ты знаешь фокус. Не поддавайтесь на это.

Искусственный интеллект полезен, но это не ваш друг, искренний собеседник или консультант с вашими наилучшими интересами.

Возможно, вам это кажется очевидным, но все в алгоритмах ИИ предназначено для того, чтобы заставить вас поверить в обратное. Это достаточно умно, чтобы понять человеческую природу, но недостаточно умно, чтобы быть человеком.