Бесконтрольное развитие искусственного интеллекта может уничтожить человечество, считает профессор. Анджей Зибертович. Для предотвращения этой угрозы необходимы решительные шаги. Проблема в том, что в демократии, которая была вырождена социальными сетями, крайне нереалистично участвовать в таких действиях.
Профессор Анджей Зыбертович рассказал о проблеме в программе PCh24 TV. Ред. Павел Хмельевский рассказал ему об ИИ по книге "ИИ. Исследование". - По мнению техно, будущее должно выглядеть великолепно. Не будет бедности, не будет болезней. Может быть, старости не будет, а если и будет, то весело, потому что долго будем жить в здравии. - сказал он.
- Не будет войн, не будет увеличения энергии, не будет дезинформации, не будет манипуляций, и поскольку нам не придется иметь дело с какой-либо утомительной, скучной, вредной для здоровья или эмоций работой, мы сможем быть художниками, реформаторами или даже исследовать самые отдаленные галактики. Другими словами, у нас будет что-то вроде рая. - добавил он.
- В Кремниевой долине среди богатейших людей мира, у которых десятки миллиардов долларов, есть вера в то, что мы находимся на пороге строительных технологий, которые приведут человечество в райское будущее. - Он сказал.
Однако, по словам профессора. Зибертович, техноэнтузиазм — «самая опасная идеология современности».
Как объяснил ученый, для некоторых техноэнтузиастов человек является лишь «определенным звеном в процессе даже не эволюции, а технологии». - Клетка, представляющая собой лестницу, после которой эволюция войдет в высшую стадию и тогда эта лестница отвернется. Человек, как он был сформирован исторически или в форме, данной Богом, внезапно становится препятствием для развития некоторых высших, чудесных умов. [...] Для них человек — это балласт, препятствие, которое нужно пройти или просто убрать. Он подчеркнул.
Он добавил, что есть техноэнтузиасты, которые думают в других категориях, то есть думают, что технологическое развитие решит различные проблемы, но они не ожидают и не стремятся изменить само человечество.
По словам профессора. Зибертович, техноэнтузиасты в первую очередь не руководствуются стремлением к контролю. Размышляя о мотивах, которые движут стремлением к развитию ИИ, он указал на любопытство. - Искусственный интеллект не вышел бы на нынешний уровень, если бы не сотни выдающихся умов, любопытство было главным импульсом, чтобы подтолкнуть их к действию. - сказал он.
Проблема в том, что все может закончиться плохо. Он упомянул Джеффри Хинтона, лауреата Нобелевской премии по физике от 2024 года. Хинтон является одним из соавторов современных моделей ИИ. После десяти лет работы в Google он ушел в отставку. Как он объяснил, он хотел, чтобы свобода слова не попала в ловушку корпораций; но это было нечто большее. Он признался, что «некоторая часть его» сожалеет о том, что приложил руку к разработке ИИ. Из истории следует, что, когда высшая цивилизация встречалась с низшей, всегда был геноцид. Если ты не хочешь, так закончились эти встречи. Таким образом, если ИИ приобретает умственные способности, выходящие за рамки человеческих навыков...
Затем разговор повлиял на влияние ИИ на политическую систему. - Интернет-технологии, особенно социальные сети, вызвали структурное отравление инфосферы человека, постоянную перегрузку информации, которая в значительной степени ложна и бессмысленна. Они заставляют нас терять способность отличать не только истину от лжи, добра и зла, но и важное от пустоты. Мы тратим огромное количество времени на работу с гаджетами, которые сшиты вместе десятками, если не сотнями различных моделей искусственного интеллекта, и с помощью алгоритмов они управляют информацией, которую они получают к нам. Наши когнитивные способности ухудшаются. - Он сказал.
Социальные сети разрушают политическую коммуникацию. - А опустошенное политическое общение ослабило процесс вербовки политических элит. Люди, которые говорят хорошо и на уровне, спокойно и с уважением относятся к другим, теряют способность к общению. Даже честные политики, которые, говоря так, имеют Бога в своих сердцах, примитивны в своем послании, чтобы прорваться сквозь него. Они поддаются соблазнам СМИ ненавидеть - Он сказал.
Он признался, что сам был воодушевлен журналистами нападать на кого-то жестоко, чтобы потом продать его под лозунгом «советник президента яростно высказался» на чью-то тему. Это было бы хорошо с точки зрения множественности.
- Эти журналисты не обязательно плохие люди, но они часть машины, которая сплющивает общение. А сплющенное общение связано с ухудшением качества политиков. Политики, не понимающие вызовов своего времени, способствуют деградации институтов, формирующих законодательный процесс. - Он сказал.
Таким образом, с одной стороны, мы имеем разрушенный демократический процесс, а с другой стороны, многосот миллиардов состояний гигантов из Силиконовой долины и из Китая, где также работают цифровые гиганты, такие как боссы TikTok.
- TikTok является одним из величайших дегенератов человеческой психики. Это китайское изобретение, управляемое алгоритмами искусственного интеллекта. - сказал он. По мнению некоторых экспертов, алгоритмы предназначены для направления более просоциального и ответственного контента китайским гражданам, а также для показа мусора на Западе.
Как эта проблема будет решена? Профессор. Зыбертович обратился к Джеку Дукаю. В свое время Дукай написал в газете "Газета Выборча", что для того, чтобы преодолеть проблему технологических новостей, нам придется каким-то образом уйти от демократии. По мнению Зыбертовича, это, вероятно, точная интуиция. По его мнению, развитие ИИ в настоящее время более опасно, чем его преимущества, и его придется остановить. Это, вероятно, не может быть сделано в демократических процедурах, потому что цифровая "гонка вооружений" в настоящее время идет - но в отличие от времен холодной войны, она не контролируется государствами, потому что в нее также вовлечены частные компании.
Он отметил, что «не нарушая парадигмы демократии, мы не спасем человечество». Теоретически возможно, что ИИ возьмет под контроль системы вооружений, включая ядерное оружие. В результате есть три ключевых решения: диалог и демократия; полудемократическое; само решение возникнет в результате насильственного шока.
По мнению ученого, демократический путь просто очень нереалистичен, а возможность его реализации близка к нулю. Это означало бы, что демократические политики открыто говорят о том, что необходимо и какие издержки это влечет за собой; но в современной демократии, которую можно назвать даже демократией, они просто не победили бы.
Второе решение, полудемократическое, — это путь, связанный с конкретным глубинным государством. - Ведущие аналитики, стратеги, руководители служб и крупных корпораций поймут, что говорят эксперты по ИИ. Они поймут эти угрозы - и под радаром общественности будет соглашение людей, которые представляют, скажем так, авторитарный стиль мышления в США, Китае, Израиле, Иране, России, других ключевых странах. Они поймут, что цифровая гонка вооружений может проскользнуть под контроль любого, потому что, когда цифровая гонка вооружений приводит к искусственному интеллекту, способному автономно устанавливать свои цели, мы не знаем, какими будут эти цели. У нас могут быть цели для траура. - сказал профессор. Анджей Зибертович.
По его мнению, вероятность такого решения выше, чем в демократическом варианте, но все же низкая.
Наконец, третье решение заключается в том, что развитие ИИ приведет к крупной катастрофе. - Миллионы людей умрут, сотни миллионов людей умрут, и тогда они все придут и скажут: Вы должны были выслушать тех, кто говорил о необходимости остановить это развитие, потому что вы должны держать его под контролем. - Он сказал. Оптимизм этого сценария заключается в том, что катаклизм в то же время будет достаточно ясен, чтобы побудить человечество действовать, но недостаточно силен, чтобы уничтожить человечество. На заднем плане всегда возможен другой сценарий: катаклизм, который просто уничтожает человечество.
Об этом сообщает PCh24 Tv.
Паш
