Человек и нейросеть: иерархия интеллекта
Ольга Зонова с Папой Франциском на международной конференции Фонда Centesimos Annus Pro Pontifice 22 июня 2024 года
Обращение Его Святейшества Папы Римского Франциска к участникам международной конференции Фонда Centesimos Annus Pro Pontifice 22 июня 2024 года появилось на страницах журнала Leaders Today неслучайно. Главный редактор издания Ольга Зонова вместе со своим супругом, членом правления упомянутого фонда Франческо Сансоне участвовала в этом высоком собрании, где парадоксальным образом нашла отражение тема нашего нового номера «Образ будущего» — в контексте взаимодействия человека с искусственным интеллектом.
Традиционно главе Ватикана был представлен свежий номер журнала Leaders Today, с тем, чтобы донести до понтифика текущую ценностную повестку России: о приоритетном в настоящее время сбережении нашего народа и благополучии наших семей, жизни и достоинстве человека мы писали как на русском, так и на английском и итальянском языках. Папа Франциск ознакомился с ключевыми материалами номера и, думается, мы оставили свой след в сердце западнохристианской культуры… Публикуем размышления Его Святейшества о перспективах влияния умных технологий на нашу жизнь – некоторые тезисы оказались нам неожиданно близки.
«Выражаю благодарность президенту фонда, доктору Анне Марии Тарантоле, и тепло приветствую всех участников ежегодной международной конференции Фонда Centesimos Annus Pro Pontifice «Генеративный искусственный интеллект и технократическая парадигма: как способствовать благополучию человечества, защите природы и миру во всём мире».
<…>
Выступая на саммите «Большой семерки», я выделил важнейшие аспекты искусственного интеллекта, подчеркнув, что ИИ – это инструмент в руках человека, и он должен оставаться таковым. Подобно другими инновационным инструментам, ИИ демонстрирует способность человечества превзойти себя, стремление к ещё бо́льшим достижениям, и таким образом, потенциал грандиозных трансформаций, как положительных, так и отрицательных. В последнем случае ИИ может способствовать усилению технократической парадигмы и культуры растрачивания, усугублять неравенство между передовыми и развивающимися странами и делегировать машине принятие важнейших решений, касающихся жизни человека. Поэтому я постулирую абсолютную необходимость этического развития и использования ИИ и призываю политиков предпринять конкретные действия, чтобы направить продолжающееся развитие технологий на службу всеобщему братству и миру.
<…>
Нужно совместными усилиями определить границы инноваций и сделать так, чтобы развитие ИИ не принесло вреда человечеству. Стивен Хокинг, известный космолог, физик и математик, сказал в интервью Би-би-си 2 декабря 2014 года, что «развитие полностью искусственного интеллекта будет означать конец рода человеческого. ИИ заживёт своей собственной жизнью, перепроектируя себя со всё возрастающей скоростью. Люди, ограниченные медленной биологической эволюцией, не смогут конкурировать с ИИ и будут вытеснены». Разве мы этого хотим?
Фундаментальный вопрос, который мы задаём, заключается в следующем: для чего предназначен искусственный интеллект? ИИ предназначен для удовлетворения потребностей человечества, улучшения благосостояния и целостного развития людей или задача ИИ – обогащать и укреплять власть, уже сконцентрированную в руках нескольких технологических гигантов, несмотря на угрозы человечеству?
Ответ на этот вопрос зависит от ряда факторов и разных аспектов, требующих углублённого рассмотрения. Я хотел бы отметить некоторые из них в качестве стимула для продолжения исследований.
- Есть потребность изучить тонкий и стратегический вопрос ответственности за решения, принимаемые с помощью ИИ; для этого потребуются усилия со стороны представителей разных отраслей философского знания и права, равно как и других дисциплин.
- Необходимо определить адекватные стимулы и средства эффективного регулирования для того чтобы, с одной стороны, поощрять этическую инновацию, полезную для прогресса человечества, а с другой стороны – препятствовать появлению нежелательных эффектов или ограничить их.
- Необходимы скоординированные усилия, охватывающие весь сегмент образования, профессиональной подготовки и коммуникаций, направленные на расширение знания и повышение осведомлённости о правильном использовании ИИ и на обучение будущих поколений с детского возраста тому, как оценивать такой инструментарий.
- Следует также тщательно изучить влияние ИИ на рынок труда. Призываю членов фонда Centesimos Annus и всех, принимающих участие в его инициативах, действовать активно, каждому в своей области, в плане организации профессиональной переподготовки и выработки мер помощи, чтобы люди, потерявшие работу в связи с внедрением ИИ, могли приобрести новую специальность.
- Положительные и отрицательные эффекты ИИ в области безопасности и защиты персональных данных также требуют тщательного изучения.
- Необходимо принимать во внимание и более детально исследовать воздействие ИИ на социальные и когнитивные способности и поведение людей. Нельзя допустить, чтобы эти качества ухудшались или обуславливались технологическим инструментом, контролируемым теми, кто им владеем или управляет.
- И наконец, признавая, что данный перечень далеко не исчерпан, необходимо также учитывать колоссальное потребление энергии, требующееся для разработки ИИ, особенно с учётом проблемы энергетического перехода, с которой человечество столкнулось в настоящее время.
Дорогие друзья! Будущее экономики, цивилизации и человечества как такового формируется на основе технологических инноваций. Нам нельзя упустить шанс думать и действовать по-новому, с помощью наших душ, сердец и рук, двигаясь, тем самым, к такой модели инноваций, где человеческое достоинство является приоритетом. Инновации должны содействовать развитию, благополучию человека и мирному сосуществованию, защищая при этом наиболее обездоленных. Это означает создание нормативно-правовых, экономических и финансовых условий, ограничивающих монопольную власть немногих и обеспечивающих выгоды инноваций для всего человечества.
<…>
В заключение хотел бы поставить сложную задачу: уверены ли мы, что нужно продолжать называть «умным» то, что этим не является. Давайте поразмышляем и спросим себя – неправильное использование этого слова является действительно важным, по-настоящему человеческим или мы уже сдаём позиции технократической власти?
Благословляю всех Вас и желаю всяческих успехов в вашей деятельности».
Перевела с английского Ольга Ткаченко
