Ватикан призвал к постоянному контролю за искусственным интеллектом
«Во всех сферах, где людям приходится принимать решения, здесь также маячит тень зла», –
Документ, одобренный Папой Римским:
– предостерегает, что технологии следует использовать для дополнения человеческого интеллекта, «а не для замены его»,
– призывает учитывать «моральные и этические соображения» во всех сферах применения ИИ,
– осуждает вызываемое ИИ «вредное чувство изоляции» и «особые проблемы» у детей, «потенциально побуждающие их развивать модели взаимодействия, в которых человеческие отношения рассматриваются как транзакционные, как если бы они общались с чат-ботом»,
– предупреждает, что ИИ может быть использован для продвижения «технократической парадигмы» — веры в то, что мировые проблемы могут быть решены только с помощью технологий, «которые не улучшают жизнь для всех, а вместо этого создают или усугубляют неравенство и конфликты»,
– предостерегает, что технологический прогресс не должен заменять человеческий труд, поскольку «это было бы губительно для человечества»,
– обеспокоен по поводу использования ИИ в дистанционно управляемом оружии, что приводит к «ослаблению восприятия разрушений» от его применения и «ещё более холодному и отстранённому отношению к огромной трагедии войны»,
– предупреждает о «концентрации власти над основными приложениями искусственного интеллекта в руках нескольких влиятельных компаний».
Ватикан также опасается, что ИИ может разрушить доверие, на котором строится общество, из-за своей способности распространять дезинформацию:
«Фейковые СМИ, созданные искусственным интеллектом, могут постепенно подрывать основы общества. Этот вопрос требует тщательного регулирования, поскольку дезинформация — особенно через СМИ, контролируемые искусственным интеллектом или находящиеся под его влиянием, — может распространяться непреднамеренно, усиливая политическую поляризацию и социальные волнения.
Такой широко распространённый обман — это не пустяк; он затрагивает саму суть человечества, разрушая основополагающее доверие, на котором строятся общества»