Проект ведется совместно с нейробиологом, академиком РАН Константином Анохиным.
На первом этапе эксперимента ученые проверили, может ли базовая языковая модель формировать стабильные предпочтения без обучения, и обнаружили, что нет. На основном этапе модель будут стимулировать к рассуждению и рефлексии, обучая ее на собственных размышлениях, отметили в «Яндексе». Нейросеть попытается сформировать внутренние убеждения, похожие на человеческие, например, отвечая на вопрос о любимом цвете аргументированно.
Компания рассчитывает получить первые результаты до конца года, пишет РБК со ссылкой на представителя корпорации. В «Яндексе» предполагают, что если модель будет глубоко рефлексировать над каждым вопросом, то у нее могут появиться свои предпочтения. В дальнейшем она сможет дообучаться с помощью своих собственных размышлений, считают разработчики. В компании назвали проект «научным поиском», отметив, что в ходе работы гипотезы и методология могут видоизмениться.
Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов заявил, что люди «учат собственную нейронную сеть непрерывно», в то время как нейросеть развивается исключительно на чужих «мыслях». Он выразил надежду, что обучение нейросети на собственных рассуждениях может привести к появлению у модели собственной точки зрения и внутренних убеждений. «Или может даже нечто более того», — сказал Александр Крайнов.
Компания считает, что устойчивые предпочтения модели могут отражать внутреннюю картину мира, схожую с личностью человека. Эксперимент «Яндекса» направлен на изучение человеческого мышления и возможностей ИИ выходить за рамки статистики, создавая концептуальные обобщения. Компания рассчитывает, что новые подходы к ИИ могут решить задачи, недоступные текущим моделям, и приблизить развитие осознанного мышления.
Больше новостей читайте в нашем телеграм-канале @expert_mag
