Папа Лев XIV готовит к публикации свою первую энциклику – новую религиозно-философскую доктрину Католической церкви, где искусственный интеллект (ИИ) выступает в качестве главной проблемы новой промышленной революции. Будущая публикация папы римского должна призвать человечество поставить человеческое достоинство, трудовые права и этику в центр гонки искусственного интеллекта.
Ватикан приготовил миру очередную сенсацию. Верующие и журналисты из ватиканского «пула» с нетерпением ожидают выхода новой папской энциклики под рабочим названием «Magnifica Humanitas» («Великолепие человечности», лат.). Новый религиозно-философский труд может стать главным манифестом эпохи ИИ и самым масштабным религиозно-философским документом за всю современную историю Церкви.
В своей энциклике папа римский Лев XIV отсылает читателей к идеям своего предшественника папы Льва XIII, издавшего в 1891 году энциклику Rerum Novarum – ответ римской католической церкви на первую промышленную революцию Европы. Тогда папа Лев XIII попытался выразить отношение церкви к проблеме эксплуатации рабочих заводов, концентрации капитала в руках собственников-предпринимателей, разрушении традиционного уклада жизни, работы и конфликте между человеком и машиной.
По мнению папы Льва XIV человечество сегодня входит во вторую стадию начавшегося ещё в конце XIX века конфликта, переросшего в противостояние человека и компьютерного алгоритма, человеческого сознания и машинной логики, субъективности и цифровых систем управления. Происходит постепенная «утрата человека», утеря им центрального места в системе реальности. Все решения в новом мире принимает не человек, а машина (см. случай с обстрелом начальной школы девочек в Иране, произошедшим по сгенерированному ИИ Palantir ошибочному плану). Смыслы приобретаются не опытом, а формируются на базе данных и аналитики компьютерной системы и заложенных в нём алгоритов.
Особенную обеспокоенность Ватикана вызывает ИИ-сгенерированный контент и разрушение доверия к реальности.
В связи с этим римская католическая церковь уже ввела ряд ограничений на использование ИИ среди своего клира, установив запрет на ИИ-проповеди, ограничения на использования манипулятивного ИИ, усиленную защиту данных и призыв к более осторожному использованию генеративного контента. В результате полученная и обработанная машиной реальность интерпретируется не человеком, а компьютером. Носителем истины, опыта и знаний получается не человек, а ИИ, относящийся к человеку как к объекту моделирования и создающая под него реальность. Человек в этой системе начинает жить по создаваемым компьютером законам и подчиняться их логике.
В связи с этим Святой престол уже сейчас активно разрабатывает систему цифровой защиты – правила и механизмы контроля и проверки достоверности информации – позиционируя себя как глобальный арбитр реальности. В систему войдут требования обязательной маркировка ИИ-контента, подтверждения происхождения информации, проверки авторства, подлинности и неизменности контента, прозрачности алгоритмов и необходимости разграничения человека и компьютера. Публикуя подобную доктрину Ватикан видит свою роль не просто как религиозный институт, а как один из главных «архитекторов доверия», потенциально участвуя в формировании будущих механизмов арбитража реальности.
