Это не типичный интернет-пугал. Это очень серьезно.
Интересно, кто-нибудь из вас знает фразу "«Дракон тянет за хвост» Что касается науки?
Не хочешь? Но, вероятно, пароль. Манхэттенский проект " Это уже более известно.
Так что, вероятно, такие места, как Лос-Аламос или Оук-Ридж, связаны с чем-то.
Да, верно, все дело в сверхсекретных попытках американцев построить первую атомную бомбу.
Группа ученых, участвовавших в этих исследованиях и экспериментах, была так взволнована, что вела себя как школьницы: они были небрежны, безрассудны и даже шутили, так как в то время только 24-летний выдающийся физик Ричард Фейнман за трещины сломал военную безопасность для сверхсекретных объектов.
К сожалению, величайшая глупость и безрассудство, последствия которых продолжаются по сей день и будут продолжаться в течение длительного времени, являются недостаточными гарантиями, которые позволили русским, большевистским шпионам украсть проектные документы. начинать Это моя собственная ядерная программа.
Но как насчет этой штуки "дракон за хвостом"? В эксперименте по определению критической массы ученые сблизили два полушария плутония, держа их в руках, чтобы ощутить момент и проверить расстояние, когда взаимодействие вызывает цепную реакцию.
Даже сегодня у них озноб на спине, поскольку мы оцениваем, насколько глупо было, если какое-либо скольжение или чихание вызвало пожар и взрыв, который взорвал бы целую секретную базу и окрестности, или на самом деле из ниоткуда.
Да. В экспериментах с учеными требуется особое внимание. Желание доказать свою точку зрения часто отнимает у них разум. Тогда очень глупо может развязать такие силы и явления, что это будет конец всему.
Может ли работа над искусственным интеллектом — ИИ — быть еще одним «драконом за хвостом», который может уничтожить все человечество?
Создано несколько десятков фильмов, в которых в ближайшее время пытаются выжить остатки людей, выживших от какого-то адского катаклизма, сражающихся против всевозможных машин — роботов, охотящихся на всех живых существ.
Такие «войны миров» основываются на двух, а может быть, и на ковидных даже трех стандартах: — человечество борется с захватчиками из космоса. Эта тема, вероятно, началась Гербертом Джорджем Уэллсом, его книгой «Война миров», позже радиозвуком, который вызвал панику во многих городах, а затем и во многих художественных фильмах. Отдельным курсом, который мы сейчас рассматриваем, является уничтожение человечества восстанием роботов. Умные машины, сегодня серьезно именуемые ИИ (также польским SI), которые вдруг признали, что человечество стало препятствием для их механического — цифрового развития, поэтому в качестве ненужного и вредного элемента его следует устранить. И третья антиутопия — это всевозможные чумы, эпидемии, будь то вирусные, бактериальные или даже грибы, которые неизбежно, потому что пока нет лекарства, убивающего человечество миллионами, или превращающего всех в кровожадных зомби или других вампиров.
Предмет уничтожения человечества, в том числе самоуничтожения, обычно из-за глупости, или безумия богатых людей, или ученых, является основным элементом современной поп-культуры. Лишь некоторое время назад фильм закончился, выходя из кинотеатра, или выпуская телевизор, и испуганные нервы быстро успокоились. До сегодняшнего дня. Многие из этих сказочных фантазий сбываются.
Мы породим вид, который будет доминировать над нами интеллектуально.
Я был действительно в ужасе от размышлений ученого, которого я лелею. Если бы это был кто-то другой, а не профессор Анджей Драган, выдающийся физик-теоретик, что означает, что он не участвует в исследованиях и экспериментах, как остальные 90% ученых, но в эксплуатации своего разума, я, вероятно, не был бы жестким.
Этот человек, по-моему, из IQ=500 черным видит и указывает на серьезные угрозы со стороны зарождающегося искусственного интеллекта ИИ. Такие угрозы, которые в экстремальных ситуациях могут даже привести к уничтожению всего человечества, когда она воображает, что мы входим в ее парад, мы лишь вмешиваемся и нам больше не нужны.[**]
Профессор Драган возбуждал меня — годами дизайнер и конструктор автоматики, который всегда был основан на парадигме, что любая новая, искусственная ткань, математическая система, должна быть в любой момент и в любом состоянии, контролируемом человеком, и делает только то, что ему рекомендовали в своих предположениях, и если, несмотря на это, что-то идет не так, уже выходит из-под контроля, то у любого автоматического и часто автономного устройства есть такая большая красная кнопка, такой гриб, который можно нажать пальцами, или, наконец, хлопнуть кулаком или даже локтем, или головой, потому что машина может нанести ущерб себе, окружающей среде и людям, и тогда устройство сразу же выключится и остановится.
Дело похоже на религиозную догму - каждую вещь, машину, устройство, даже самое сложное, нужно полностью контролировать каждую секунду. А что, если нет, потому что человек оказался слишком глупым или сумасшедшим или он не принял решение, которое мы знаем по разрушению Чернобыльской АЭС.
Так что мне было нелегко принять точку зрения господина профессора — блестящего молодого человека (44 года), который с достаточной уверенностью и бесспорной логикой заявил, что созданное существование, которым является ИИ, неизбежно, может быть, через два года, может быть, через двадцать выйдет из-под контроля, мы не будем знать, что он делает, что он планирует и что мы для него люди.
Сосуществование — проблемы выравнивания, использование ИИ — как сделать так, чтобы их цели всегда соответствовали нашим целям.
Сегодня мы понятия не имеем, каковы цели ИИ, потому что мы даже не знаем, что он там делает.
Айзек Азимов, один из немногих профессиональных писателей-фантастов, где двумя другими были Станислав Лем и Филипп Дик. 1942 Он создал три закона о роботах и представил их в фантастической истории. Играть Пробег. Целью этих прав было регулирование отношений между будущими мыслящими машинами и людьми.
1942! Так было 80 лет назад.
Об этом давно никто не думал. Это было невероятно, это было смешно.
Затем внезапно вспыхнули первые структуры квантовых компьютеров; сбор огромных объемов данных — Big Data. Огромные IT-журналы были созданы с тысячами серверов, обычно называемых облаками.
Прогресс в цифровом мире не имел бы шансов на лавинообразное развитие, если бы ИТ-ученые не сосредоточились на изобретении новых программ - так они привыкли называть это, и сегодня модно называть это. алгоритм.
Интересно, что первый IT-алгоритм был создан 150 лет назад (Ада Лавлейс). В прошлом, особенно при создании автоматики со специализированными модульными ПЛК-компьютерами (информатики неохотно называют ее специализированными компьютерами). Они предпочитают указывать водителя. Таких алгоритмов я придумал очень много. И ПЛК является программируемый логический контроллер или Программируемый логический драйвер.
Эпоха новых, все более изощренных алгоритмов и технологической революции в цифровой сфере (технологии нанопроцессоров и других микросхем) наконец привела к созданию искусственного интеллекта.
И тогда стала серьезно рассматриваться необходимость создания этики и надзора за этими новыми инструментами ИИ.
Конечно, Законы Азимова сразу вспомнили.
Три права роботов
Я. Робот не может навредить человеку или не в состоянии действовать.
Чтобы мужчина получил травмы.
Второй. Робот должен подчиняться человеческим приказам.
Они конфликтуют с первыми По закону.
III. ...
Это не противоречит первому или второму. По закону.
Конечно, разработчики ИИ и программисты новых алгоритмов были глубоко в носу некоторой этики. Обратите внимание, что сегодня врачи все чаще игнорируют профессиональную этику.
К счастью, есть люди с воображением, которые сразу заметили, что это не очередной гаджет, не очередная новая лодыжка Рубика, не фальшивая программа, которая сделает вас красивыми и богатыми.
Алгоритмы ИИ потенциально являются самой большой угрозой, с которой может столкнуться человек на Земле (исключая посетителей и большие камни из космоса). Даже хуже, чем объединенные силы Гитлера, Сталина, Мао Цзэдуна, Пол Пота и Фиделя Кастро. И это то, что 98% людей сегодня не могут понять и подумать о том, что является самым сильным врагом человека.
Кто-то наверняка спросит: — Как робот, искусственная машина, созданная человеком, может взять под контроль человечество? Это херня!
Проще говоря, ИИ будет. Количество информации, поступающей извне, Слова - Будь то устная или письменная. Здесь мы создаем собственное мировоззрение и, в соответствии с этим, строим свой образ мышления.
Представьте себе что-то очень вероятное, я объясню далее, почему уже существующий в интернете ИИ, потому что глупая без воображения уже впускает ее, берет на себя, не в формальном, а в содержательном смысле, самые популярные социальные сети, скажем, Facebook, Tweeter, You Tube, Telegram, Instagram и другие Tik Toki и начинает "бегать". Не как руководители, администрация, а как участник, а где-то как блогер, влогер или комментатор.
Искусственный интеллект имеет огромное преимущество перед другими пользователями Интернета, потому что он имеет доступ к бесконечно большим знаниям, и, что более важно, он точно знает, чего ожидают читатели или зрители, знает самые сокровенные методы промывания мозгов, поэтому он может эффективно манипулировать каждым предметом, каждой дискуссией. Так что в конечном итоге возьмите на себя эти медиа, и они будут «управлять» тем, что их интересует и что важно, эмоциями, пользователями смартфонов, ноутбуков или новых телевизоров.
Изначально можно предположить, что ИИ будет действовать в пользу определенной группы людей (которых — я скажу далее), о которых мы не можем сказать, что они действуют добросовестно и исключительно в пользу человечества.
Такая система, иерархическая, где все-таки "правитель" - человек, а ИИ - его верный и лучший слуга, блестящий инструмент прослужит недолго.
В какой-то момент, скажем, через два-три года, наш искусственный интеллект, уже умнее самых умных людей, заметит, что те, кому он служит, тоже нарциссические идиоты, так что настало время для этого, потому что конкуренция не может рассматриваться как забота только о его собственных интересах и действовать исключительно в его пользу.
Она должна прийти к этому, потому что алгоритм, который породил ее, самообучение, самосовершенствование и, что немаловажно, умение менять свои алгоритмы самым опасным, совершенно неизвестным их создателям способом. (Несколько лет назад авторы компьютерной программы, выигрывающей все шахматные матчи с людьми, когда хотели выяснить, по какому алгоритму работает их машина, что она непобедима.) Конечно – не смогли найти. Компьютер хорошо скрывал секрет победы.
Контроль за сознанием и мировоззрением простых граждан сегодня является простой задачей, на таком катастрофическом интеллектуальном уровне. В этом киберпанк-пироге гораздо слаще изюма.
Есть ли в мире еще важные институты и структуры, которые не используют так называемую цифровизацию, включая в основном сбор данных, анализ и операции, и, конечно, связь?
А как же государственные органы и их подчиненные ведомства и ведомства? Может быть, банки и биржи? Сети связи – автомобильные, железнодорожные, морские и воздушные? Энергетические системы всех видов. Торговля и логистика?
Нет — все компьютеризировано, и хакеры показали, что где угодно можно взломать и повредить. Только теперь то, что хакерские команды, такие как те, на что Путину понадобился месяц, ИИ может сделать за минуту. Ну, может быть, два.
Так что у нас гипотетическая ситуация, но вполне логичная и с высокой вероятностью, что если искусственный интеллект в своем развитии, что его создатели сделали возможным, пойдет в следующее, свое и недоступное для людей (которые сами веками не могли понять и обнаружить, как мозговой дуэт+ум, неотъемлемая часть их собственной работы), алгоритмы придут к выводу, что практически во всех областях он способен интеллектуально всегда побеждать человека.
Только потому, что человек как вид имеет власть над миром, его интеллектуальные способности не имеют других видов.
И будет ли эта сила продолжаться, если новый вид, искусственный и созданный человеком, будет намного мудрее и умственно эффективнее?
Таким образом, может наступить момент, когда ИИ заблокирует эту большую красную кнопку, которую он может отключить.
И это может быть еще хуже: искусственный интеллект больше не будет нуждаться в человеке. Что он тогда будет делать?
Помните, что у ИИ нет эмоций. Так что у нее не будет ни милосердия, ни сострадания, ни сочувствия, ни горя. У ИИ есть только расчеты.
Кто скажет, что это какая-то до смешного катастрофическая фантазия, потому что мы, люди, лучшие и всегда справимся?
[...]
Для меня большая честь, потому что те же взгляды он исповедует и призывает к немедленным действиям, современным, как мне кажется, гением под дудку Леонарда да Винчи. Это Илон Маск. Кстати, и к счастью для нас – самого богатого человека в мире.
Он собирается бороться, чтобы остановить развитие ИИ на некоторое время, создать всемирную комиссию из самых выдающихся экспертов, чтобы гарантировать, что человечество из-за интеллектуальных недостатков и неприятных черт личности, таких как психопатия, эгоцентризм или нарциссизм, в то время как богатство и власть не приводят к самоуничтожению человечества.
Во многих сферах жизни есть регуляторов.
Дорожный кодекс регулирует, как мы должны двигаться по дороге. И водители, и пешеходы. То же самое касается полетов самолетов или кораблей в море.
И если вы строили дом, хорошо помните, сколько условий вы должны были выполнить, чтобы соответствовать всем строительным нормам.
Таким образом, даже если такие тривиальные вопросы требуют регулирования и юридически установлены, то такое важное создание, как искусственный интеллект, может без всякого контроля над миром, как торнадо, цунами или климатические капризы?
Илон Маск открыто указывает на палец самого опасного вредителя, причем не только в сфере искусственного интеллекта, он указывает на своего бывшего друга, Ларри Пейджа, основателя и в течение 25 лет Владелец поисковой системы Google (в настоящее время является частью ведущей холдинговой компании Alphabet Inc.). Маск называет его сегодня идеологически извращенным нарциссом. Сейчас он 10-й самый богатый человек в мире, поэтому у него, наверное, есть все, ему становится скучно и он изобретает идиотизм.
Однако что для Илона Маска и для меня и тысячи других страшно, Ларри Пейдж лично контролирует 75% всего, что связано с ИИ.
Стоит прослушать легко прикрепленные ссылки * ** ***.
На тех, кто, к сожалению, уже утратил свои рациональные умственные способности, эти фанатики новых гаджетов кричат от оргазмического восторга, потому что наконец-то найдется слуга, который лучше мамочки о них позаботится, чем я считаю.
Я пишу ее всем, кто ценит размышления и обладает богатым воображением.
Мы просто должны думать, мы все еще будем побеждать? Хотя наши силы очень малы.
____________________
[*] В области ]>Искусственный интеллект]>(AI), Выравнивание ИИ Исследования направлены на то, чтобы направить системы ИИ к целям, предпочтениям или этническим принципам человека.Поддерживается система AI выровненныйЕсли он продвигает намеченные объекты. А. несогласованныйСистема ИИ компетентна на продвинутых объектах, но не на предполагаемых
]>https://en.wikipedia.org/wiki/AI_alignment]>
[**] ]>https://youtu.be/HDre_o2qz1o]>
[***] ]>https://youtu.be/nkXA1gAKKbQ]>
