Оставаться людьми в эпоху алгоритмов

В энциклике Magnifica humanitas Папа Лев XIV призывает развивать технологии, не позволяя сердцу деградировать.

В эпоху искусственного интеллекта, когда человеческое достоинство рискует оказаться в тени под натиском огромных, неподконтрольных концентраций технологической власти и новых форм дегуманизации, Папа Лев XIV напоминает о «насущном долге» оставаться глубоко человечными. В эпоху поляризации и насилия, когда всё шире распространяется «культура силы» и война реабилитируется как инструмент международной политики, Преемник св. Петра призывает развивать технологии, «не позволяя сердцу деградировать». Он приглашает принять ограниченность и уязвимость человеческой природы, не усматривая в них, как это делает технократическая идеология, ошибку, которую следует исправить. Святейший Отец побуждает смотреть на мир не глазами власть имущих, а снизу – глазами страждущих, прежде всего самых обездоленных. Глазами Бога, Который принял на Себя нашу слабость и преобразил её в пространство спасения, ибо «даже когда машины превосходят по эффективности, в центре истории остаётся человеческое лицо, просящее, чтобы на него посмотрели».  

Magnifica humanitas, первая энциклика Льва XIV, прежде всего не является аналитическим текстом об искусственном интеллекте и не углубляется в технические детали постоянно развивающихся процессов. Это, скорее, «сумма», которая применяет принципы социального учения Церкви к нашим временам – эпохе ИИ, закрепляя и обновляя ключевые положения Учительства. В то же время документ разоблачает тех, кто, уповая на абсолютную свободу рынков и новых технологий, склонен считать лишь частным мнением Папское учение о необходимости совместного человеческого управления ИИ, о целостной экологии, об экономических структурах, превращающихся в «структуры греха», и об отвержении войны.

Папа, принявший имя автора Rerum novarum, призывает каждого взять на себя активную роль в эпоху цифровой ревоюции: «цивилизация любви» созидается благодаря стойкой совокупной верности во многих малых делах, которая сдерживает дегуманизацию. Эта задача касается всех и каждого напрямую.
Лев XIV напоминает: «Несправедливость рождается не только из-за ошибочных решений отдельных лиц, но и из-за структур, механизмов, экономических и культурных укладов, порождающих неравенство»; «нечеловечно развитие, которое увеличивает потребление одних, перекладывая издержки и раны на других, или обрекающее целые регионы на подчинённое положение». Именно это, к сожалению, происходит сегодня как в сфере новых технологий, так и в отношении ресурсов, которых они требуют.

В энциклике подчёркивается, что «достоверной доктриной» Церкви остаётся социальная функция частной собственности. К благам, предназначенным для всех, сегодня «мы должны причислить и новые формы собственности: патенты, алгоритмы, цифровые платформы, технологическую инфраструктуру, данные», дабы не возникали и не укреплялись новые формы отвержения и лишения свободы. Технология по своей сути не является просто инструментом: она становится критерием и «берётся определять, что имеет значение, а что можно отбросить», сводя «людей к винтикам системы, которую нужно делать всё более производительной».

Сегодня контроль над платформами, инфраструктурой, данными и вычислительными мощностями «принадлежит не государствам, а крупным экономическим и технологическим игрокам», которые устанавливают условия доступа, правила прозрачности и сами возможности участия. Сосредоточиваясь в руках немногих, такая власть «склонна становиться непрозрачной и ускользать от общественного контроля», неся угрозу искажённого развития, «порождающего новые зависимости, отчуждение, манипуляции и неравенства».

Папа подчёркивает важность преодоления теории «справедливой войны» и призывает подчинить применение искусственного интеллекта в военной сфере строжайшим этическим ограничениям: «Не существует алгоритма, способного сделать войну нравственно приемлемой». Кроме того, ИИ стал ключевым фактором формирования общественного мнения через манипулирование изображениями и контентом, что делает всё более сложным различение правды и лжи. Много неопределённости несёт и рынок труда. Поэтому энциклика напоминает, что уже нельзя полагаться лишь на «невидимые рычаги» рынка: именно политика должна направлять экономико-технологическую динамику к общему благу, содействуя достойному труду, социальной интеграции и справедливому распределению плодов инноваций.

Оставаться людьми, управлять процессами, избегая и в этой сфере монополий, которые в конечном итоге умножают власть немногих за счёт судеб большинства: вот путь, предложенный Папой Римским. Он не возводит баррикады и не отвергает огульно использование ИИ. Святейший Отец прямо указывает на его многочисленные достоинства и полезные формы применения, но объясняет, что недостаточно ставить лишь этический вопрос о благих или пагубных целях.

Необходимо вмешиваться на ранних этапах, спрашивая, как устроена система и какой образ человека и общества заложен в данных и моделях, которыми она руководствуется. Для этого требуются надлежащие правовые рамки, независимый надзор, просвещение пользователей и, прежде всего, «политика, не отрекающаяся от своего призвания». В противном случае перемены будут подчиняться лишь технократической логике, выглядеть «необходимыми и неизбежными», а правила де-факто станут диктовать те, кто владеет данными, инфраструктурой и вычислительными мощностями.

Поэтому необходимо «разоружить» ИИ, то есть «разорвать тождественность между технической мощью и правом на управление». Не ради отказа от технологий, а чтобы предотвратить их доминирование над человеком: они должны стать предметом обсуждения, споров и, следовательно, пригодными для жизни. Именно для того, чтобы не изменить нашей человечности, столь хрупкой и «великолепной».

Андреа Торниелли