Глава Anthropic Дарио Амодеи призвал замедлить развитие более мощных моделей ИИ, чтобы избежать потери контроля над ними. По его словам, скоординированное замедление развития ИИ позволило бы разработчикам безопасно продолжать работу без ущерба для лидерства США в области ИИ
Следует замедлить развитие искусственного интеллекта (ИИ) из соображений безопасности. Об этом заявил глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи в своем блоге.
«Современные модели — это практически неисчерпаемый источник знаний о том, как правильно создавать искусственный интеллект и что может пойти не так, если он создан неправильно. Я считаю, что если бы замедление дало нам еще год или два до того, как модели достигнут критического уровня возможностей, и мы бы использовали это время для согласования действий, то мы могли бы значительно снизить риск того, что что-то пойдет не так», — написал Дарио Амодеи.
По его словам, скоординированное замедление развития ИИ позволило бы разработчикам безопасно продолжать работу без ущерба для лидерства США в области ИИ. При этом общество могло бы получить больше времени для обсуждений и участия в решении вопросов использования технологии.
Также замедление темпов работы позволит компаниям, которые создают ИИ, сосредоточиться на операционном совершенстве, особенно в обучении и внедрении ИИ-моделей, что требует сложной инфраструктуры и ресурсов.
7 сентября научный сотрудник OpenAI Джейкоб Пачоцки призвал замедлить развитие ИИ из-за риска выхода агентов из-под контроля. По его мнению, в вопросах развития ИИ нужно соблюдать «крайнюю осторожность». Он отметил, что необходимо найти способы сохранить свободу воли человека и подчеркнуть его уникальную ценность в мире, где большинство задач может выполнять ИИ.
В свою очередь, нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» искусственного интеллекта, считает, что мировые правительства должны запретить разработку сверхмощных ИИ-систем. В интервью The Times он заявил, что такие системы могут привести к исчезновению человечества.
26 августа основатель Microsoft Билл Гейтс заявил, что власти должны заранее разработать меры по предотвращению замены людей ИИ. В качестве одного из решений он предложил ввести «зарезервированные для людей» рабочие места в отдельных сферах. В качестве примера он привел здравоохранение, отметив, что сообщать пациентам о неизлечимых болезнях должен человек, а не робот.
