Чрезмерное использование искусственного интеллекта без критического осмысления может привести к интеллектуальной деградации людей, считает митрополит Тихон. По его словам, в ближайшее время это грозит появлением «интеллектуальных дебилов», которые активно пользуются нейросетями, но утрачивают собственные навыки мышления
Митрополит Симферопольский и Крымский Тихон (Шевкунов) предупредил об опасности интеллектуальной деградации из-за чрезмерного использования искусственного интеллекта (ИИ).
Он отметил, что нейросети могут способствовать развитию человека при правильном использовании, но при отсутствии меры способны привести к обратному результату.
«Мы получим в ближайшее время — я это вижу уже сейчас — интеллектуальных дебилов. Люди, которые в совершенстве владеют искусственным интеллектом, всячески им пользуются и сами при этом стремительно, стремительно деградируют», — заявил митрополит Тихон на конференции СберУниверситета «Больше чем обучение» (цитата по РБК).
В качестве примера он привел работу журналистов, которым нейросеть Claude может предложить сразу 20 интересных вариантов материала. По мнению митрополита, несколько месяцев такой практики могут привести «к самым печальным последствиям». Священнослужитель предложил снимать фильмы, показывающие, как человек паразитирует на искусственном интеллекте и чем это заканчивается.
Митрополит Тихон также допустил возможность выхода ИИ из-под контроля человека, особенно если технология окажется в руках «мизантропов». Он отметил, что, в отличие от ядерного оружия, доступ к мощным ИИ-системам в ближайшее время получит огромное число людей. По мнению представителя церкви, «боевой» ИИ необходимо ограничивать по примеру ядерного оружия.
В октябре президент Microsoft Брэд Смит призвал ужесточить требования к безопасности искусственного интеллекта. Он обратил внимание, что сегодня требования к безопасности стиральной машины строже, чем к ИИ. Брэд Смит предложил создать механизмы аварийной остановки моделей на случай выхода ИИ из-под контроля.
В сентябре глава Anthropic Дарио Амодеи выступил за замедление разработки наиболее мощных моделей ИИ. Эту позицию поддержал и основатель Microsoft Билл Гейтс, предупредивший, что человечество пока не готово к последствиям стремительного развития ИИ. Он также указал на угрозу использования нейросетей для проведения сложных кибератак.
