Монах Паоло Бенанти носит простую серую рясу своего средневекового францисканского ордена, занимаясь одним из самых актуальных вопросов современности: как управлять искусственным интеллектом, чтобы он обогащал — а не эксплуатировал — жизнь людей.
Бенанти — главный специалист Ватикана по технологиям, и к его мнению прислушивается Папа Франциск, а также некоторые из лучших инженеров и руководителей Кремниевой долины.
Имея инженерное образование, докторскую степень по моральному богословию и страсть к тому, что он называет «этикой технологий», 50-летний итальянский священник выполняет срочную миссию, которую он разделяет с Франциском, который в своем ежегодном послании о мире на 2024 год призвал к заключению международного договора для обеспечения этичного использования технологий ИИ.
«В чем разница между человеком, который существует, и машиной, которая функционирует?» — сказал Бенанти в интервью The Associated Press на этой неделе во время перерыва в Папском Григорианском Университете, где он преподает такие курсы, как моральное богословие и биоэтика, студентам, готовящимся к священству. «Это, возможно, величайший вопрос нашего времени, потому что мы являемся свидетелями вызова, который с каждым днем становится все более глубоким с машиной, которая очеловечивается».
Бенанти является членом Консультативного органа ООН по искусственному интеллекту, а также главой итальянской правительственной комиссии, которой поручено дать рекомендации по защите журналистики от фальшивых новостей и другой дезинформации. Он также является консультантом Папской академии жизни Ватикана.
Бенанти говорит, что он помогает «лучше разъяснять Святому Отцу более технические термины» во время их встреч. Его знания пригодились во время встречи в Ватикане в 2023 году между Франциском и президентом Microsoft Брэдом Смитом, которая была посвящена тому, как искусственный интеллект может помочь или навредить человечеству.
Франциск и Смит также обсуждали искусственный интеллект «на службе общего блага» во время встречи несколькими годами ранее, согласно Ватикану. Поскольку папство уделяет большое внимание тем, кто живет на задворках общества, Франциск ясно выразил свою обеспокоенность тем, что технологии искусственного интеллекта могут ограничить права человека, например, негативно повлияв на прошение покупателя жилья об ипотеке, на прошение мигранта о предоставлении убежища или на оценку вероятности повторения преступления преступником.
«Совершенно очевидно, что если мы выберем некоторые данные, которые не будут достаточно инклюзивными, то мы получим некоторые варианты, которые не будут инклюзивными», — сказал Бенанти, чей религиозный орден был основан в начале 13-го века Святым Франциском Ассизским, который отказался от земных богатств и занимался благотворительностью.
По словам монаха, компания Microsoft впервые обратилась к Бенанти несколько лет назад, чтобы узнать его мнение о технологиях. В 2023 году Смит провел подкаст с Бенанти в Риме, описав монаха как «одно из самых увлекательных сочетаний в мире» с точки зрения его опыта в области инженерии, этики и технологий, в дебатах об искусственном интеллекте.
Бенанти, которому не хватило одного года до получения степени инженера в Римском университете Сапиенца, когда он бросил учебу — а также свою девушку — чтобы присоединиться к францисканцам в свои 20 лет, рассказал о том, как ИИ может стать «действительно мощным инструментом» для снижения стоимости медицины и расширения возможностей врачей, чтобы помочь большему количеству людей.
Но он также рассказал об этических последствиях технологии, которая может обладать теми же возможностями, что и человек, а возможно, и большими.
«Это проблема не использования (ИИ), а проблема управления», — сказал монах. «И именно здесь вступает в силу этика — поиск правильного уровня использования в социальном контексте».
Бенанти отметил, что большая часть данных, на основе которых создается ИИ, поступает от низкооплачиваемых работников, многие из которых живут в развивающихся странах, укоренившихся в истории колониализма и эксплуатации рабочей силы.
«Я не хочу, чтобы это время запомнилось как сезон, когда мы извлекали когнитивные ресурсы из глобального Юга», — сказал он. Если изучить «лучшие инструменты, которые мы производим в области ИИ» на Западе, то можно увидеть, что ИИ «обучается с помощью низкооплачиваемых работников из англоязычных бывших колоний».
Как управлять ИИ — это вопрос, который пытаются решить страны по всему миру. Европейский Союз стал первопроходцем в конце прошлого года, когда участники переговоров заключили соглашение, открывающее путь к юридическому надзору за технологиями ИИ.
В Италии премьер-министр Джорджия Мелони, обеспокоенная тем, что ИИ может привести к потере рабочих мест, сделает эту технологию главной темой саммита G-7, который пройдет в этом году в Италии. В рамках этих усилий Мелони в четверг встретился с основателем Microsoft Биллом Гейтсом в Риме, и на этой встрече присутствовал Бенанти.
Со своей стороны, монах сказал AP, что регулирование искусственного интеллекта не должно означать ограничение его развития.
«Это означает, что они должны быть совместимы с той хрупкой системой, которой является демократия, и которая сегодня кажется самой лучшей системой», — сказал Бенанти.
