Папа Римский Лео предупреждает об искусственном интеллекте, поскольку исследователь Массачусетского технологического института находит 90% вероятности экзистенциальной угрозы

В своей первой официальной аудиенции в качестве вновь избранного понтифика, Папа Лев XIV назвал искусственный интеллект (ИИ) одним из самых важных вопросов, стоящих перед человечеством.

Папа Лев XIV празднует мессу с Коллегией кардиналов в Сикстинской капелле в Ватикане в пятницу, на следующий день после его избрания 267-м понтификом Римско-католической церкви. (Ассошиэйтед Пресс / The Associated Press)

"" В наши дни, — заявил папа Лев, — церковь предлагает каждому сокровищницу своего социального учения в ответ на очередную промышленную революцию. и разработкам в области искусственного интеллекта, которые создают новые вызовы для защиты человеческого достоинства, справедливости и труда;" Он связал это заявление с наследием энциклики его тезки Льва XIII 1891 года. Обсуждение Novarumкоторый адресован Права трудящихся и моральные аспекты капитализма.

Его замечания продолжили направление, намеченное покойным Папой Франциском, который в своем ежегодном послании о мире 2024 года предупредил, что ИИ — не хватает человеческих ценностей сострадания, милосердия, морали и прощения. слишком опасно развиваться неконтролируемо. Фрэнсис, который скончался 21 апреля, призвал к международному договору о регулировании ИИ и настаивал на том, что технология должна оставаться «ориентированной на человека», особенно в приложениях, связанных с системами оружия или инструментами управления.

«Экзистенциальный» Угроза ?

Поскольку беспокойство углубляется в религиозной и этической сферах, Такая же актуальность находит отклик в научном сообществе.

Макс Тегмарк, физик и исследователь ИИ в Массачусетском технологическом институте, провел отрезвляющую параллель между рассветом атомного века и современной гонкой за развитие искусственного сверхинтеллекта (ASI). В новой статье в соавторстве с тремя студентами MIT, Тегмарк ввёл понятие «комптонной константы» — вероятностную оценку того, избежит ли АСИ человеческого контроля. Он назван в честь физика Артура Комптона, который, как известно, рассчитал риск воспламенения атмосферы Земли в результате ядерных испытаний в 1940-х годах.

Макс Тегмарк, профессор физики и исследователь ИИ в Массачусетском технологическом институте, сказал, что необходимо согласовать глобальные режимы безопасности ИИ. Фото: Horacio Villalobos/Corbis/Getty Images

«Компании, строящие сверхинтеллект, должны также вычислить константу Комптона, вероятность того, что мы потеряем над ней контроль.- сказал Тегмарк Хранитель. Недостаточно сказать: «Мы чувствуем себя хорошо». Они должны рассчитать процент. "

Тегмарк рассчитал 90% вероятности того, что высокоразвитый ИИ будет представлять экзистенциальную угрозу.

В документе содержится призыв к компаниям, занимающимся ИИ, провести оценку риска, столь же строгую, как и та, которая предшествовала первому испытанию атомной бомбы, когда Комптон, по сообщениям, оценил вероятность катастрофической цепной реакции «чуть меньше», чем один из трех миллионов.

Тегмарк, соучредитель Института будущего жизни и ярый сторонник безопасности ИИ, утверждает, что Вычисление таких вероятностей может помочь создать «политическую волю» для глобальных режимов безопасности.. Он также является соавтором Сингапурский консенсус по глобальным приоритетам исследований безопасности ИИВместе с Йошуа Бенджио и представителями Google DeepMind и OpenAI. В докладе излагаются три основных направления исследований: измерение реального воздействия ИИ, определение предполагаемого поведения ИИ и обеспечение последовательного контроля над системами.

Это новое обязательство по снижению рисков ИИ следует за тем, что Тегмарк назвал неудачей на недавнем саммите по безопасности ИИ в Париже.где вице-президент США Дж. Вэнс отверг опасения, утверждая, что будущее ИИ «не будет выиграно из-за кручения руками о безопасности». Тем не менее Тегмарк отметил возрождение сотрудничества: "Чувствуется, что мрак из Парижа ушел, и международное сотрудничество возобновилось."