что такое когнитивная архитектура

Что такое когнитивная архитектура

В этом разделе размещены обзоры когнитивных архитектур и моделей, связанных с исследованиями в предметной области «Интеллектуальные системы и искусственный интеллект» и доступных дистанционно для ознакомления.

Оглавление

Патрик Лэнгли, Джон Лэйрд, Сет Роджерс. Когнитивные архитектуры: вопросы и проблемы исследований (перевод)

Когнитивные архитектуры: вопросы и проблемы исследований
Патрик Лэнгли, Джон Лэйрд, Сет Роджерс

Перевод КА01: Тимофеев А.В. (ред.), Тимофеев В.Ф., Project-AI.org Team, 2013 г.

Источник: Pat Langley /a, John E. Laird /b, Seth Rogers /a, Cognitive architectures: Research issues and challenges, Cognitive Systems Research Volume 10, Issue 2, June 2009, Pages 141–160. doi:10.1016/j.cogsys.2006.07.004
/a Computational Learning Laboratory, Center for the Study of Language and Information, Stanford University, Stanford, CA, USA
/b EECS Department, The University of Michigan, Ann Arbor, MI, USA

1. Предыстория и мотивация

Когнитивная архитектура определяет базовую инфраструктуру интеллектуальной системы. Вкратце, архитектура включает в себя те аспекты когнитивного агента, которые постоянны во времени и в различных областях применения.

Они, как правило, включают в себя:
— краткосрочную и долгосрочную память, в которых хранится содержимое об убеждениях (beliefs), целях и знаниях агента;
— представление элементов, которые содержатся в этих видах памяти, и их организацию в крупномасштабные ментальные структуры;
— функциональные процессы, которые действуют в этих структурах, в том числе механизмы обеспечения производительности, которые их используют, и механизмы обучения, которые их изменяют.

Поскольку содержимое видов памяти агента может меняться с течением времени, можно было бы не рассматривать знания и убеждения, закодированные в них для того, чтобы быть частью архитектуры этого агента. Так же, как различные программы могут работать на одной и той же архитектуре компьютера, так и различные базы знаний и убеждения могут быть интерпретированы одной и той же когнитивной архитектурой. Существует также прямая аналогия с архитектурой здания, состоящего из постоянных частей, таких как его основание, крыша и помещения, а не с мебелью и техникой, которые можно перемещать или заменять.

Как мы увидим, альтернативные когнитивные архитектуры могут отличаться в части конкретных предположений, которые в них сделаны по этим вопросам, так же, как различные здания отличаются схемами своего расположения. В дополнение к принятию различных обязательств о том, как представлять, приобретать или использовать знания и убеждения, могут потребоваться альтернативные структуры, более или менее встроенные в этот архитектурный уровень, так же, как в некоторых зданиях полки и шкафы вставлены в их стационарных сооружения, тогда как у других те же функции выполняются с помощью сменной мебели.

Исследования когнитивных архитектур важны, потому что они поддерживает главную цель искусственного интеллекта и когнитивной науки: создание и понимание искусственных агентов, которые поддерживают те же возможности, что и люди. Некоторые работы сосредоточены на моделировании инвариантных аспектов человеческого познания, в то время как в других работах архитектуры рассматриваются в качестве эффективного пути к созданию интеллектуальных агентов. Тем не менее, эти цели не противоположны друг другу; когнитивная психология и искусственный интеллект имеют долгую историю строительства на основе других идей [Langley, 2006], и исследования когнитивных архитектур сыграли ключевую роль в этом полезном обмене идеями.

В некотором смысле, когнитивные архитектуры составляют антитезу экспертным системам, которые обеспечивают квалифицированное поведение в узко определенном контексте. В противоположность этому, исследование архитектур направлено на широту охвата через разнообразный набор задач и областей. Что более важно, оно предлагает учет интеллектуального поведения на системном уровне, а не на уровне методов отдельных компонентов, предназначенных для решения специализированных задач. Ньюэлл [Newell, 1973b] убедительно доказывает это для исследования системного уровня в когнитивной науке и искусственном интеллекте, утверждая «Вы не можете играть с природой в игру на 20 вопросов и победить».

Вместо проведения микроисследований, которые адресованы лишь к одному вопросу в один момент времени, мы должны пытаться объединить множество полученных данных на единой теоретической основе, а затем переходить к проверке и уточнению этой теории.

Начиная с этого призыва к действию, наблюдается постоянный поток исследований когнитивных архитектур. Это движение было изначально связано с определенным классом архитектур, известных как продукционные системы [Newell, 1973b], [Neches, Langley, Klahr, 1987] и направленных на объяснение психологических явлений, причем многие нынешние архитектуры-кандидаты по-прежнему имеют ту же форму и аналогичные интересы.

Тем не менее, в течение последних трех десятилетий появилось множество других классов архитектур, которые меньше озабочены поведения человека, а делают совершенно разные предположения о представлении, организации, приобретении и использовании знаний.

По крайней мере, три проведенных симпозиума собрали приглашенных исследователей в этой области [Laird, 1991], [VanLehn, 1991], [Shapiro & Langley, 2004], и было издано, по крайней мере, два сборника статей [Sun, 2005], [VanLehn, 1991].

Это движение вышло за пределы фундаментальных исследований в коммерческий сектор с приложениями в виде правдоподобных агентов, действующих в среде тренажеров-симуляторов (например, [Tambe et al., 1995]), компьютерных обучающих систем [Koedinger, Anderson, Hadley, & Mark,1997] и интерактивных компьютерных игр (например, [Magerko, Laird, Assanie, Kerfoot, & Stokes, 2004]). Несмотря на этот прогресс, остается необходимость дополнительных исследований в области когнитивных архитектур. По мере созревания искусственного интеллекта и когнитологии, они раздробились на ряд четко определенных поддисциплин, каждая со своими целями и собственными критериями оценки.

Тем не менее, для коммерческих и государственных приложений все чаще требуются интегрированные системы, которые демонстрируют интеллектуальное поведение, а не только улучшение компонентов таких систем. Это требование может быть выполнено путем оказания повышенного внимания к архитектурам системного уровня, которые поддерживают сложное когнитивное поведение в широком диапазоне соответствующих задач.

В этой статье мы рассмотрим некоторые ключевые вопросы, которые возникают при проектировании и исследовании интегрированных когнитивных архитектур.

Поскольку мы не можем надеяться обследовать все пространство архитектурных теорий, мы сосредоточимся на способности генерировать интеллектуальное поведение, а не на соответствии результатам психологических экспериментов. /1

/1 В работе [Sun (2007)] предоставлено другое рассмотрение когнитивных архитектур, в котором эта вторая тема обсуждается более подробно.

Начнем с краткого обзора некоторых образцов архитектур, затем обсудим возможности и функции, которые такие системы должны поддерживать.

После этого, рассмотрим ряд проектных решений, которые относятся к свойствам когнитивных архитектур, затем приведем некоторые параметры, по которым их следует оценивать.

В заключение отметим некоторые открытые вопросы в этой области и предложим некоторые направления будущих исследований, которые следует предпринять для их решения.

2. Образцы когнитивных архитектур

2.1. ACT

2.2. Soar

2.3. ICARUS

2.4. PRODIGY

Хотя большинство исследований в этих рамках посвящено исключительно планированию и решению задач, PRODIGY также легла в основу впечатляющей системы с перемежающимся планированием и выполнением для мобильного робота, который принимал асинхронные запросы от пользователей [Haigh & Veloso, 1996].

3. Возможности когнитивных архитектур

Любая интеллектуальная система предназначена для ведения определенных видов деятельности, которые, вместе взятые, составляют ее функциональные возможности. В этом разделе мы обсудим разнообразные возможности, которые когнитивная архитектура может поддерживать. Хотя только несколько способностей, таких как распознавание и принятие решений, строго необходимы для поддержки четко определенной архитектуры, по-видимому, требуется весь набор, чтобы охватить полный спектр интеллектуальной деятельности человеческих уровня.

Центральный вопрос, который стоит перед разработчиком когнитивной архитектуры, как обеспечить агентам доступ к различным источникам знаний. Многие из возможностей, которые мы обсудим ниже, дают доступ агенту к таким знаниям. Например, знания об окружающей среде приходят через ощущение, знания о последствиях нынешней ситуации приходят через планирование, рассуждения и предсказания, знания от других агентов приходят через общение, а знания из прошлого приходит через запоминание и обучение. Чем больше таких возможностей поддерживает архитектура, тем к большему количеству источников знаний она может получить доступ, чтобы информировать о своем поведении.

Другой ключевой вопрос заключается в том, поддерживает ли когнитивная архитектура какую-то возможность напрямую, используя встроенные процессы, или вместо этого она обеспечивает пути реализации этой возможности с точки зрения знаний. Проектные решения такого рода влияют на то, чему агент может учиться на собственном опыте, что разработчики могут оптимизировать в самом начале, и какую функциональность можно получить от специализированных представлений и механизмов.

В этом разделе мы попытаемся описать функциональность, не обращаясь к основным механизмам, которые обеспечивают их реализацию, но это важный вопрос, который заслуживает большего внимания в будущем.

3.1. Распознавание и категоризация

Интеллектуальный агент должен иметь какую-то связь между его окружением и его знаниями. Это требует умения распознавать ситуации или события как экземпляры известных или знакомых моделей. Например, читатель должен распознавать буквы и слова, из которых они составлены, шахматист должен идентифицировать значимые конфигурации на доске, а аналитик изображений должен обнаружить здания и транспортные средства на аэрофотоснимках. Однако не обязательно ограничивать распознавание только статическими ситуациями. Учитель фехтования может идентифицировать различные типы атак, а футбольный тренер может различать ведение отдельных игр командой противника, и оба они связаны с динамическими событиями.

Распознавание тесно связано с категоризацией, которая включает присваивание объектам, ситуациям и событиям известных понятий или категорий. Тем не менее, в исследованиях в области когнитивных архитектур обычно предполагают, что распознавание – это примитивный процесс, который происходит за один цикл, и который лежит в основе многих функций более высокого уровня, в то время как категоризация иногда рассматривается как функция более высокого уровня. Распознавание и категоризация тесно связаны с ощущениями, в том, что они часто действуют на выходе системы восприятия, и в некоторых архитектурах они рассматриваются как неразличимые. Тем не менее, оба процесса могут работать в абстрактных ментальных структурах, в том числе созданных внутри, поэтому мы будем рассматривать их как различимые.

Для поддержки распознавания и категоризации, когнитивная архитектура должна обеспечить некоторый способ представления паттернов и ситуаций в памяти. Так как эти паттерны должны применяться в похожих, но разных ситуациях, они должны кодировать общие соотношения, которые запоминаются в этих ситуациях. Архитектура должна также включать некоторый процесс распознавания, который позволяет определить, когда конкретная ситуация соответствует хранимому паттерну или категории и, возможно, измерить степень этого соответствия. В архитектурах с системой продукций, этот механизм определяет, когда условия каждой продукции совпадают, и конкретные способы различения отдельных экземпляров (instantiated). Наконец, полная архитектура должна включать в себя некоторые средства обучения новым паттернам или категориям на основании инструкций или опыта и, при необходимости, уточнения существующих паттернов.

3.2. Принятие решений и выбор

Для работы в некоторой среде интеллектуальной системе также необходима способность принятия решений и выбора между альтернативами. Например, студент должен решить, какая операция упростит задачу по интегрированию, выступающий должен выбрать, какое следующее слово использовать в высказывании, а бейсболист должен решить, какое следующее действие предпринять. Такие решения часто связаны с распознаванием ситуации или паттерна, и наиболее когнитивные архитектуры объединяют эти два механизма в цикле распознавание-действие (recognize-act cycle), что лежит в основе всего когнитивного поведения.

Такое одношаговое принятие решения имеет много общего с выбором на более высоком уровне, но отличается по своей сложности. Например, рассмотрим покупателя, решающего, какой бренд моющего средства выбрать, чтобы сделать покупку, водителя, выбирающего маршрут поездки, или генерала, выбирающего цель для бомбардировки. Каждое из этих решений может быть достаточно сложным в зависимости от того, сколько времени и энергии человек готов на него потратить. Таким образом, мы должны различать решения, которые принимаются на архитектурном уровне и более сложные решения, которые позволяет сделать эта архитектура.

Для поддержки принятия решений когнитивная архитектура должна обеспечивать некоторый способ представления альтернативных вариантов или действий, будь то внутренние когнитивные операции или внешние. Следует также предложить некоторый процесс выбора среди этих альтернатив, который в большинстве архитектур разделен на два шага. Первый определяет, является ли данный выбор или действие допустимым, как правило, связывая его с некоторым паттерном и рассматривая его только в случае сопадения с этим паттерном. Например, мы можем определить условия, при которых шахматный ход является законным, и затем рассматривать этот ход только тогда, когда эти условия будут выполнены. Второй шаг производит выбор среди допустимых альтернатив, часто путем вычисления некоторого числового показателя и последующего выбора одной или нескольких альтернатив с лучшими его значениями. Такое разрешение конфликтов принимает совершенно разные формы в разных архитектурах.

Наконец, идеальная когнитивная архитектура должна включать в себя некоторый способ улучшать свои решения путем обучения. Хотя она может, в принципе, включать в себя обучение новым альтернативам, большинство механизмов сфокусировано или на обучении или пересмотре условий, при которых существующее действие считается допустимым, или на изменении числовых функций, используемых на стадии разрешения конфликта. Полученные усовершенствования принятия решений будут затем отражаться в общем поведении агента.

3.3. Восприятие и оценивание ситуации

Познание не происходит изолированно; интеллектуальный агент существует в контексте некоторой внешней среды, которую он должен ощущать, воспринимать и интерпретировать. Агент может ощущать мир через различные виды ощущений (модальности), так же, как человек имеет зрение, слух и осязание. Чувствительные элементы (сенсоры) могут варьироваться от простых устройств, таких как термометр, который генерирует одно непрерывное значение, до более сложных механизмов, таких как стереоскопическое зрение или гидролокатор, которые генерируют карту рельефа дна для локального окружения в поле зрения агента. Восприятие может также включать в себя интеграцию результатов различных видов ощущений в единое оценивание или описание окружающей ситуации, которую какая-либо архитектура может представлять для использования другими когнитивными процессами.

Например, зрительная система человека может без особых усилий обнаруживать движение на периферии, но центральная ямка (сетчатки глаза) может извлекать информацию только из той малой области, на которую она направлена. Когнитивная архитектура, которая включает в себя эту вторую форму чувствительного элемента, должна решать вопрос внимания, то есть, принимать решение о том, как распределить и направить свои ограниченные ресурсы восприятия, чтобы обнаружить соответствующую информацию в сложной среде.

В архитектуре, которая поддерживает восприятие, также должен быть рассмотрен вопрос о том, что чувствительные элементы дают лишь неточную и частичную картину среды, окружающей агента, и часто на нее накладывается шум.

Динамическая окружающая среда еще более усложняет дело из-за того, что агент должен отслеживать изменения, которые иногда происходят с большой скоростью. Эти проблемы могут быть компенсированы с помощью перцептивных знаний о том, какие чувствительные элементы вызывать, где и когда их сосредоточивать, и какие выводы являются правдоподобными. Архитектура может также приобретать и улучшать эти знания путем обучения на основе предыдущего опыта восприятия.

Интеллектуальный агент должен также быть в состоянии выйти за рамки восприятия изолированных объектов и событий, чтобы понять и интерпретировать окружающую ситуацию более широко. Например, офицер корабля, управляющий огнем, должен понимать расположение, силу и траекторию орудийного огня в целях эффективного реагирования, в то время как генерал должен быть осведомлен о расположении, количестве и ресурсах противника, чтобы успешно от него защититься. Таким образом, оценивание ситуации требует, чтобы интеллектуальный агент объединял перцептивную информацию о многих сущностях и событиях, получаемую по возможности из многих источников, чтобы составить крупномасштабную модель текущего окружения. Как таковая, она опирается как на распознавание и категоризацию знакомых паттернов в этом окружении, которые мы обсуждали ранее, так и на механизмы вывода, которые мы вкратце рассмотрим.

3.4. Прогнозирование и мониторинг

Когнитивные архитектуры существуют во времени, что означает, что они могут получить выигрыш от способности точно предсказывать будущие ситуации и события. Например, хороший водитель примерно знает, когда топливо в его автомобиле закончится, успешный студент может предсказать, сколько он должен учиться, чтобы достичь финала, а опытный пилот может судить, насколько близко к земле он может лететь без аварии. Идеальный прогноз во многих ситуациях может оказаться невозможным, но совершенство редко необходимо, чтобы делать прогнозы, которые полезны для интеллектуальной системы.

Прогнозирование требует наличия определенной модели окружающей среды и последствий, которые действия вызывает в ней, а архитектура должна представлять эту модель в памяти. Один общий подход предполагает хранение некоторого отображения описания текущей ситуации и действия при описании ситуации, получившейся в результате. Другой подход кодирует последствия действий или событий с точки зрения изменений окружающей среды.

В любом случае, для этой архитектуры также требуется какой-то механизм, который использует эти структуры знаний для прогнозирования будущих ситуаций, скажем, путем распознавания класса ситуаций, в которых любое действие будет иметь определенные последствия. Идеальная архитектура должна также включать в себя способность к обучению прогнозных моделей на основании опыта и их усовершенствованию с течением времени.

Если какая-либо архитектура имеет какой-то механизм, чтобы делать прогнозы, его также можно использовать для мониторинга окружающей среды. Например, водитель танка может подозревать, что его танк имеет утечку топлива, если указатель уровня топлива показывает более быстрое снижение, чем обычно, и командир может заподозрить действия противника, если разведывательная команда не смогла представить отчет вовремя. Поскольку мониторинг соотносит данные чувствительных элементов с прогнозированием, это ставит вопрос о фокусе внимания, когда какая-то архитектура имеет ограниченные ресурсы восприятия. Мониторинг также обеспечивает естественную поддержку обучения, так как ошибки могут помочь агенту улучшить его модель окружения.

3.5. Решение задач и планирование

Поскольку интеллектуальные системы должны достигать своих целей в новых ситуациях, те когнитивные архитектуры, которые их поддерживают, должны быть в состоянии генерировать планы и решать задачи. Например, беспилотный летательный аппарат получает преимущество от наличия разумного плана полета, менеджер проекта хочет иметь план, который распределяет задачи конкретным людям в конкретное время, а генерал редко перемещается на территорию противника без какого-то хотя бы абстрактного плана наступления. Исполнение этих планов в реальности часто происходит не так, как запланировано, но это не делает их менее полезными для размышления интеллектуального агента в отношении будущего.

Планирование возможно только тогда, когда агент имеет модель окружающей среды, которая прогнозирует последствия его действий. Для поддержки планирования, когнитивная архитектура должна иметь возможность представлять какой-то план в виде упорядоченного (по крайней мере, частично) набора действий, ожидаемых последствий и того, каким образом эти последствия сказываются на более поздних действиях.

Этот план не обязательно должен быть полным, чтобы направлять поведение, т.к. он может распространяться в будущее лишь на короткое время или обращаться к абстрактным действиям, которые можно расширять различными способами. Его структура может также включать условные действия и ветвления, которые зависят от результатов более ранних событий, которые заметил агент.

Интеллектуальный агент должен также уметь строить план из компонентов, доступных в памяти. Эти компоненты могут относиться к низкоуровневым двигательным и сенсорным действиям, но чаще они будут более абстрактными структурами, в том числе предварительно сохраненными подпланами. Существует множество механизмов создания планов из компонентов, а также механизмов адаптации планов, которые извлекаются из памяти. Все эти методы имеют то общее, что они включают в себя решение задач или поиск.

То есть, они выполняют шаги в пространстве состояний задач, рассматривая на каждом шаге применимые операторы, выбирая один или несколько операторов и применяя его для создания состояния новой задачи. Этот процесс поиска продолжается, пока система не найдет приемлемый план или не решит отказаться от поиска.

Понятие решения задач является несколько более общим, чем планирование, хотя они, как правило, рассматриваются как тесно связанные. В частности, планирование обычно относится к когнитивной деятельности в “голове” агента, в то время как решение задач может также происходить в физическом мире. Особенно, когда какая-то ситуация является сложной и эта архитектура имеет ограничения памяти, агент может осуществлять поиск, применяя операторы или действия в окружающей среде, а не пытаясь построить какой-то план внутри.

Решение проблем может также основываться на смеси внутреннего планирования и внешнего поведения, но это, как правило, предполагает многоступенчатое построение решения проблемы. Подобно планированию решение задач часто характеризуется поиском в пространстве задач, который применяет операторы для генерации новых состояний, выбирает перспективных кандидатов и продолжается до достижения цели распознавания. Планирование и решение задач также могут извлекать пользу от обучения. Естественно, улучшенные модели прогнозирования действий могут приводить к более эффективным планам, но обучение может также происходить и на уровне поиска в пространстве задач, происходит эта деятельность в голове агента или в физическом мире. Такое обучение может опираться на разнообразные источники информации.

В дополнение к обучению на основе прямого инструктирования, архитектура может обучаться по результатам поиска в пространстве задач [Sleeman, Langley, & Mitchell, 1982], через наблюдение поведения другого агента или клонирование поведения [Sammut, 1996], через обучение с подкреплением (с отложенным подкреплением) [Sutton & Barto, 1998]. Обучение может быть направлено на усовершенствование поведения при решении задач двумя способами [Langley, 1995a]. Один способ направлен на сокращение коэффициента ветвления поиска либо путем добавления эвристических условий для операторов пространства задач, либо путем уточнения числовой функции оценивания, применяемой для руководства выбором. Другой способ направлен на формирование макро-операторов или сохраняемых планов, которые снижают эффективную глубину поиска за счет применения более протяженных шагов в пространстве задач.

Интеллектуальные агенты, которые работают в динамических средах и производят их мониторинг, часто приходится модифицировать существующие планы в ответ на непредвиденные изменения. Это может происходить в нескольких контекстах. Например, агент должен обновить свой план, когда он обнаруживает изменившуюся ситуацию, которая делает некоторые запланированные действия неприменимыми, и, следовательно, требует других действий. Другой контекст наблюдается, когда новая ситуация предполагает некоторый более желательный способ достижения цели агента; такое приспосабливаемое планирование может использовать преимущество этих неожиданных изменений.

Мониторинг выполнения плана также может приводить к пересмотру оценок эффективности плана, и в предельном случае к решению о выборе другого курса действий с более высоким потенциалом. Перепланирование может опираться на те же самые механизмы, что и при генерации плана с самого начала, но требует дополнительных операторов для удаления некоторых действий или их замены другими шагами. Подобные методы могут также адаптировать к текущей ситуации известный план, который агент извлек из памяти.

3.6. Обеспечение рассуждений и убеждений

3.7. Исполнение и действие

3.8. Взаимодействие и общение

4. Свойства когнитивных архитектур

4.1. Представление знаний

4.2. Организация знаний

4.3. Использование знаний

4.4. Приобретение и совершенствование знаний

5. Критерии оценки когнитивных архитектур

5.2. Рациональность и оптимальность

Мы обычно считаем агента интеллектуальным, когда его поведение следует некоторым причинам, что делает рациональность архитектуры другим важным измерением для его оценивания. Мы можем измерить рациональность архитектуры, проверяя соотношение его целей, знаний и действий. Например, Newell (1982) заявляет, ‘‘Если у агента есть знание, что одно из его действий приведет к одной из его целей, то тогда агент выберет это действие”. Так как архитектура принимает много решений относительно действия в течение долгого времени, мы можем оценить этот смысл рациональности, отмечая процент времени, когда ее поведение удовлетворяет этому критерию.

5.3. Эффективность и масштабируемость

5.4. Реактивность и живучесть

5.5. Способность к совершенствованию

5.6. Автономность и длительность работы

Можно измерять поддержку архитектурой автономии, представляя агентам задачи высокого уровня, которые требуют автономного принятия решений для достижения успеха и которые получают выгоду от знаний о предметной области. Например, можно снабдить агента способностью запрашивать инструкции, когда он не знает, как поступить, а затем измерить частоту обращений за помощью как функцию от его знаний. Можно измерять связанную с этим способность к длительной работе, помещая агента в открытые среды, такие как моделируемая межпланетная экспедиция, и отмечая, как долго, в среднем, он работает до полного отказа или попадания в неактивное состояние. Можно также измерять эффективность агента как функцию времени его работы в этой области, чтобы определить, хорош ли он по этому измерению.

6. Открытые вопросы в когнитивных архитектурах

Несмотря на наличие многих концептуальных достижений в течение трех десятилетий исследований в области когнитивных архитектур, а также, несмотря на практическое применение для реальных проблем, которое прошли некоторые архитектуры, остается значительной необходимость дополнительной работы по этой важной теме. В этом разделе мы отметим некоторые нерешенные вопросы, которые заслуживают внимания исследователей в этой области.

Наиболее очевидной ареной для улучшения является введение новых способностей. Существующие архитектуры демонстрируют многие из способностей, описанных в разделе 3, но немногие поддерживают их все, и даже они достигают определенных функциональностей только при значительных усилиях программистов.

Многие архитектуры занимают только одну позицию в свойствах, связанных с использованием знаний, но это не является единственной альтернативой. Необходимо также исследовать архитектуры, которые динамически меняют свое местоположение в заданном спектре (например, делиберативное поведение на реактивное) на основе их ситуации.

— Большинство архитектур включает в себя некоторую форму обучения, но ни одна из них не показала того богатства улучшения, которое демонстрируют люди. Нужны более надежные и гибкие механизмы обучения, которые предназначены для продолжительной работы в сложных, незнакомых областях, и которые построены с учетом накапливаемых результатов предыдущего обучения в течение длительных периодов времени. Эти дополнительные структуры и процессы должны как увеличить наше понимание пространства когнитивных архитектур, так и предоставить способности, которые не доступны в данный момент.

Исследовательское сообщество должно также уделять более серьезное внимание методам вдумчивого оценивания когнитивных архитектур. Метрики, подобные тем, которые предложены в Разделе 5, являются необходимым, но недостаточным условием, чтобы научно понять соотношение свойств архитектур и способностей, которые они поддерживают. Кроме того, необходимо определить или создать сложные среды, как физические, так и смоделированные, чтобы проверять эти способности и предоставлять реальные возможности для их измерения.

Также необходим экспериментальный метод, который признает тот факт, что когнитивные архитектуры включают в себя интеграцию многих компонентов, которые могут иметь синергетические эффекты, а не состоят из независимых, но не связанных между собой модулей (Langley & Messina, 2004). Экспериментальные сравнения архитектур играют важную роль, но в них следует тщательно контролировать задачи, которые выполняются, и количество знаний, которое закодировано, и они должны измерять зависимые переменные объективными и информативными способами.

Систематические эксперименты, которые предназначены для выявления источников мощи когнитивных архитектур, скажут нам гораздо больше об их природе, чем упрощенные соревнования.

Нам надо еще много пройти в данной области, прежде чем мы в полной мере поймем пространство когнитивных архитектур и тех принципов, которые лежат в основе их успешной разработки и использования. Тем не менее, теперь у нас есть опыт более чем двух десятилетий построения и использования множества таких архитектур для широкого круга задач, наряду с целым рядом проблем, которые возникли в этой гонке. Если пейзаж, обнаруженный на этих первоначальных шагах, чем-то показателен, дальнейшее путешествие обещает еще более интересные и интригующие места и достопримечательности.

Приложение. Представительные когнитивные архитектуры

Многие исследователи предлагали и изучали когнитивные архитектуры за последние три десятилетия. Некоторые из них были только мысленными экспериментами, другие были реализованы и использованы в качестве инструментов людьми во многих учреждениях.
Здесь мы кратко рассмотрим ряд архитектур, которые описаны в литературе. Мы не пытались представить исчерпывающее описание, но этот набор должен дать читателям представление о большом разнообразии исследований в этой области.

— ACT-R [Anderson, 2007; Anderson et al., 2004], самый последний экземпляр семейства архитектур ACT, включает декларативную память для фактов и процедурную память, содержащую правила продукций. Архитектура работает путем сопоставления продукций с восприятиями и фактами, передаваемыми вещественными уровнями активации объектов, и их исполнения для воздействия на окружающую среду или изменения декларативной памяти. Обучение в ACT-R включает в себя создание новых фактов и продукций, а также обновление базовых активаций и стандартных программ, связанных с этими структурами.

— Архитектура AIS [Hayes-Roth, Pfleger, Lalanda, Morignot, & Balabanovic, 1995] хранит процедурные знания в виде набора поведений, каждое со связанными условиями запуска, и планов управления, которые задают временные закономерности шагов плана. Они согласуются, изменяются и взаимодействуют через декларативную память, которая хранит фактические знания, намерения-деятельности и следы опыта агента. Во время каждого цикла мета-контроллер оценивает разрешенные поведения и выбирает, какие из них исполнить. Архитектура включает делиберативный когнитивный слой, который отвечает за оценивание ситуаций и планирование, и более быстрый физический слой, который обрабатывает восприятие и действия в окружающей среде.

— Архитектура APEX [Freed, 1998] организует знания в иерархические процедуры, причем элементы более высокого уровня индексируются по задаче, которой они адресованы, и ссылаются на подзадачи, которые они вызывают. Они согласуются с содержимым памяти восприятий с помощью процесса выбора, добавляющего задачи в повестку дня. Архитектура связана с когнитивными, воспринимающими и двигательными ресурсами; это может приводить к конфликтам между задачами в повестке дня, который система разрешает, выбирая задачи с наивысшим приоритетом. Это может приводить к прерыванию задач и последующему их возобновлению, когда ресурсы становятся доступными.

— Архитектура CIRCA [Musliner, Goldman, & Pelican, 2001] включает в себя статическую память для возможных действий, переходов, зависящих от времени и событий, а также динамическую память для конкретных планов и событий. Когнитивная подсистема генерирует планируемый курс действий, закодированный как граф недетерминированных конечных состояний, начиная сначала с абстрактного плана и улучшая его при необходимости. Архитектура передает эту структуру в подсистему, работающую в режиме реального времени, которая работает параллельно с когнитивной подсистемой, позволяя первой выполнять план, а второй пытаться его улучшить.

— Архитектура CLARION [Sun et al., 2001] хранит знания, как связанные с действиями, так и не связанные с ними, в неявном виде, используя многослойные нейронные сети, и в явном виде, используя символические правила продукций. Соответствующая краткосрочная память содержит активации в узлах и символические элементы, которые архитектура согласует с долгосрочными структурами. Поведение системы включает прохождение сенсорной информации в неявный слой, который генерирует альтернативные действия с высоким значением, и в явный слой, который использует правила, чтобы предлагать действия; затем архитектура выбирает кандидата с наивысшим ожидаемым значением. Обучение включает в себя пересмотр весовых коэффициентов в неявной системе путем использования комбинации обучения с подкреплением и метода обратного распространения ошибки для оценки функций значений и конструирования правил продукций путем извлечения из неявного слоя, управляемого ошибками исправления и конкретизации шаблонов правил.

— CogAff [Sloman, 2001] является архитектурной схемой или структурой, разработанной, чтобы поддержать взаимодействие между познанием и эмоциями. Хотя она не обязывает к конкретным представлениям, она постулирует три различных уровня обработки. Реактивный уровень использует ассоциации “условие-действие”, которые реагируют на непосредственные ситуации в окружающей среде. Делиберативный слой работает с ментальными целями, состояниями и планами, формируя рассуждения о будущих сценариях. Наконец, механизмы метауправления позволяют агенту думать о его собственных мыслях и переживаниях. Эмоциональный опыт связан с прерыванием некоторых слоев другими слоями с более сложными эмоциями, происходящими на более высоких уровнях.

— Архитектура Emile [Gratch, 2000] обеспечивает учет эмоций и их влияния на поведение. Долгосрочные знания включают в себя Strips-операторы для использования при генерации планов и фреймов связи (construal frames), которые определяют условия (касающиеся событий, ожиданий, целей и стандартов) для выявления различных эмоций. По мере того, как агент приобретает новую информацию об ожидаемых событиях, модуль оценивания генерирует в ответ эмоции с начальной интенсивностью, являющейся функцией их вероятности и важности, но убывающей со временем. Собственные эмоции агента фокусируются на усилиях модуля планирования и выбора действия из набора предубеждений, в то время как выводы об эмоциях других агентов направляют выбор его диалогов.

— The Entropy Reduction Engine (ERE) [Drummond, Bresina, & Kedar, 1991] включает долгосрочную память для операторов предметной области, описывающих последствия действий, область и ограничения поведения, а также правил управления, зависящих от ситуации, которые предлагают меры для достижения целей, и правил редукции энтропии, которые производят декомпозицию сложных задач на более простые. Архитектура использует свои операторы и ограничения, чтобы производить временные прогнозы, компилируемые затем в правила управления, которые интерпретатор “распознавание-действие” использует, чтобы определить, какое действие надо выполнить. К процессу прогнозирования добавлен модуль редукции задач, который использует правила декомпозиции, чтобы ограничить его поиск. Успешные результаты прогнозирования принуждают систему обучаться новым правилам управления, тогда как неудачи прогнозирования приводят к исправлению операторов и ограничений предметной области.

— Архитектура EPIC [Meyer & Kieras, 1997] кодирует долгосрочные знания в виде продукционных правил, организованных как методы выполнения целей, которые совпадают с элементами множества краткосрочных видов памяти, включая визуальные, слуховые и тактильные буферы. Работа заключается в выборе совпадающих правил и их применении, чтобы параллельно двигать глазами, управлять руками или изменять содержимое памяти.

Исследования архитектуры EPIC включали сильный акцент на достижение количественных совпадений с человеческим поведением, особенно в задачах, которые включают в себя взаимодействие со сложными устройствами.

— Архитектура GLAIR [Shapiro & Ismail, 2003] хранит содержимое на уровне знаний или когнитивном уровне, на чувственно-двигательном уровне и на сенсорно-приводном уровне. Самый верхний слой включает обобщенные структуры, которые определяют предикаты в логических терминах, предельно упрощая абстрактные понятия, а также процедуры в виде особенностей восприятия и стандартных программ поведения в среднем слое. Система поддерживает вывод, пересмотр убеждений, планирование, исполнение и обработку естественного языка, производя вывод убеждений высокого уровня из восприятий и формируя команды на сенсорно-приводном уровне из целей и планов агента.

— Архитектура ICARUS [Langley & Choi, 2006a; Langley et al., 2004], обеспечивает представление долгосрочных знаний в раздельных участках памяти для иерархических навыков и понятий, причем краткосрочные убеждения, цели и намерения хранятся как экземпляры этих общих структур. Исполнительный элемент сначала выводит все убеждения, подразумеваемые его понятиями и его восприятиями окружающей среды, затем выбирает применимый путь через иерархию навыков, чтобы их выполнить. Когда никакие навыки, относящиеся к текущей цели, не применимы, происходит решение задач методом анализа «средства-цели», тогда как обучение создает новые навыки, основанные на следах успешного решения задач.

— PolyScheme [Cassimatis, Trafton, Bugajska, & Schultz, 2004] является когнитивной архитектурой, направленной на достижение интеллекта человеческого уровня путем интеграции многих представлений, методов рассуждений и методов решения задач. У каждого представления есть связанный с ним модуль специалиста, который поддерживает прямой вывод, формирование подцелей и другие основные операции, которые согласуются с разделяемой динамической памятью с элементами, основанными на восприятии и действии. Архитектура PolyScheme берет на себя более сильные семантические обязательства, чем большая часть архитектур, кодируя все структуры с помощью базового набора отношений, касающихся времени, пространства, событий, идентичности, причинно-следственых связей и убеждений.

— Архитектура PRODIGY [Carbonell et al., 1990] кодирует два вида долгосрочных структур – операторы предметной области, которые описывают последствия действий, и правила управления, которые определяют, когда система должна выбрать, отклонить или предпочесть заданный оператор, связь, состояние или цель. Краткосрочные структуры включают описания состояний и содержание стека целей. Решение задач включает анализ “средства-цели”, который неоднократно выбирает оператор, чтобы уменьшить различия между текущей целью и состоянием, пока не найдет последовательность, которая достигает цели верхнего уровня. Модуль обучения на основе объяснения анализирует следы решения задач и создает новые правила выбора, отклонения и предпочтения, чтобы уменьшить поиск в будущих задачах. Другие модули управляют поиском по аналогии с более ранними решениями, узнают описания оператора из экспериментов и обучаются повышению качества решений.

— PRS (Procedural Reasoning System) [Ingrand, Georgeff, & Rao, 1992] была ранней архитектурой, разработанной в парадигме BDI Намерения-Желания-Убеждения (Beliefs–Desires–Intentions). Эта структура хранит иерархические процедуры с условиями, эффектами и предписанными шагами, которые вызывают подпроцедуры. Динамические структуры включают в себя убеждения об окружающей среде, желания, которые агент хочет достигнуть, и намерения, которые агент планирует выполнить. В каждом цикле PRS решает, продолжить ли исполнять ее текущее намерение или выбрать новое намерение, которому необходимо следовать.

— Архитектура Remote Agent [Pell et al., 1997] была разработана для управления автономным, ориентированным на задания космическим кораблем. Долгосрочные структуры включают в себя цели задания, возможные действия и ограничения на их исполнение, а также качественные модели компонентов космического корабля, тогда как динамические структуры включают в себя планы действий, которым надо следовать, графики их выполнения и выводы о режимах работы или сбоев. Эта архитектура включает в себя процессы, которые производят поиск целей высокого уровня, генерируют планы и графики их достижения, исполняют эти графики путем вызова команд низкого уровня, контролируют режимы работы каждого компонента космического корабля и восстанавливают работу в случае сбоя.

— RCS [Albus et al., 1992] является структурой архитектур для разработки интеллектуальных физических агентов. Экспертные знания размещаются в иерархическом наборе модулей знаний, причем каждый имеет свою собственную долгосрочную и краткосрочную память. Представление знаний является неоднородным, включая фреймы, правила, изображения и карты. Модули работают параллельно, причем сенсорный интерпретатор проверяет текущее состояние, модель мира прогнозирует будущие состояния, модуль оценки значений производит выбор среди альтернатив, а модуль генерации поведения исполняет задачи. Модули более высокого уровня оказывают влияние сверху вниз на нижерасположенные модули, тогда как нижестоящие модули передают информацию назад своим родительским модулям.

— Архитектура Soar [Laird et al., 1987; Newell, 1990] кодирует процедурную долгосрочную память в виде правил продукций, тогда как рабочая память содержит множество элементов с атрибутами и значениями. Исполнительная система согласовывает продукции с элементами в рабочей памяти и автоматически генерирует подцели, когда она не может продолжать свою работу. Когда обработка в подцели позволяет агенту преодолеть этот тупик, архитектура добавляет новую порцию (chunk) в долгосрочную память, которая суммирует обработку подцели. В недавних версиях эпизодическое и семантическое обучение сохраняет элементы рабочей памяти как структуры долгосрочной памяти, в то время как обучение с подкреплением изменяет весовые коэффициенты, связанные с правилами, которые выбирают операторы.

— Архитектура 3T [Bonasso et al., 1997] хранит долгосрочное знание в трех слоях или рядах (tiers). Самый низкий уровень состоит из чувственно-двигательных поведений, которые эта архитектура выполняет реактивным образом, тогда как средний слой хранит пакеты реактивных действий (Firby, 1994), которые задают последовательность этих поведений. Самый верхний слой содержит абстрактные операторы, которые использует делиберативный планировщик, чтобы генерировать частный план, который средний слой преобразует в последовательность действий и исполняет. В дополнение к этому плану высокого уровня, каждый навык и пакет реактивных действий имеет свою собственную краткосрочную память.
Предшественник архитектуры 3T архитектура ATLANTIS (Gat, 1991), организовывала свои знания и поведение очень похожим образом.

Aamodt, A., & Plaza, E. (1994). Case-based reasoning: Foundational issues, methodological variations, and system approaches. AI Communications, 7, 39–59. (pdf)

Aha, D. W. (1997). Lazy learning. Dordrecht, Germany: Kluwer.

Albus, J. S., Pape, C. L., Robinson, I. N., Chiueh, T.-C., McAulay, A. D., Pao, Y.-H., et al. (1992). RCS: A reference model for intelligent control. IEEE Computer, 25, 56–79.

Ali, S. S., & Shapiro, S. C. (1993). Natural language processing using a propositional semantic network with structured variables. Minds and Machines, 3, 421–451.

Anderson, J. R. (1991). Cognitive architectures in a rational analysis. In K. VanLehn (Ed.), Architectures for intelligence. Hillsdale, NJ: Lawrence Erlbaum.

Anderson, J. R. (2007). How can the human mind exist in the physical universe? New York: Oxford University Press.

Anderson, J. R., Bothell, D., Byrne, M. D., Douglass, S., Lebiere, C., & Qin, Y. (2004). An integrated theory of the mind. Psychological Review, 111, 1036–1060.

Anderson, J. R., & Lebiere, C. (1998). The atomic components of thought. Mahwah, NJ: Lawrence Erlbaum.

Bonasso, R. P., Firby, R. J., Gat, E., Kortenkamp, D., Miller, D., & Slack, M. (1997). Experiences with an architecture for intelligent, reactive agents. Journal of Experimental and Theoretical Artificial Intelligence, 9, 237–256.

Brooks,R.A. (1986).A robust layered control system fora mobile robot. IEEE Journal of Robotics and Automation, RA-2, 14–23.

Carbonell, J. G., Knoblock, C. A., & Minton, S. (1990). PRODIGY: An integrated architecture for planning and learning. In K. Van Lehn (Ed.), Architectures for intelligence. Hillsdale, NJ: Lawrence Erlbaum.

Cassimatis, N. L., Trafton, J., Bugajska, M., & Schultz, A. (2004). Integrating cognition, perception and action through mental simulation in robots. Journal of Robotics and Autonomous Systems, 49, 13–23.

Choi, D., Konik, T., Nejati, N., Park, C., & Langley, P. (2007). A believable agent for first-person shooter games. In Proceedings of the third annual artificial intelligence and interactive digital entertainment conference (pp. 71–73). Stanford, CA: AAAI Press.

Clocksin, W. F., & Mellish, C. S. (1981). Programming in PROLOG. Berlin: Springer Verlag.

Drummond, M., Bresina, J., & Kedar, S. (1991). The Entropy Reduction Engine: Integrating planning, scheduling, and control. SIGART Bulletin, 2, 61–65.

Epstein, S. L. (1992). For the right reasons: The FORR architecture for learning in a skill Domain. Cognitive Science, 18, 479–511.

Ernst, G., & Newell, A. (1969). GPS: A case study in generality and problem solving. New York: Academic Press.

Firby, R. J. (1994). Task networks for controllingcontinuous processes. In Proceedings of the second international conference on AI planning systems (pp. 49–54). Chicago: AAAI Press.

Freed, M. (1998). Managing multiple tasks in complex, dynamic environments. In Proceedings of the fifteenth national conference on artificial intelligence (pp. 921–927). Madison, WI: AAAI Press.

Gat, E. (1991). Integrating planning and reacting in a heterogeneous asynchronous architecturefor mobilerobots. SIGART Bulletin,2,17–74.

Genesereth, M. R.,& Nilsson, N. J. (1987). Logical foundations of artificial intelligence. Los Altos, CA: Morgan Kaufman.

Gratch, J. (2000). Emile: Marshalling passions in training and education. In Proceedings of the fourth international conference on autonomous agents (pp. 325–332). Barcelona, Spain.

Haigh, K., & Veloso, M. (1996). Interleaving planning and robot execution for asynchronous user requests. In Proceedings of the international conference on intelligent robots and systems (pp. 148–155). Osaka, Japan: IEEE Press.

Hayes-Roth, B., Pfleger, K., Lalanda, P., Morignot, P., & Balabanovic, M. (1995). A domain-specific software architecture for adaptive intelligent systems. IEEE Transactions on Software Engineering, 21, 288–301.

Hendler, J., Tate, A.,&Drummond, M. (1990). AI planning: Systems and techniques. AI Magazine, 11, 61–77.

Ingrand, F. F., Georgeff, M. P., & Rao, A. S. (1992). An architecture for real-time reasoning and system control. IEEE Expert, 7, 34–44.

Koedinger, K. R., Anderson, J. R., Hadley, W. H., & Mark, M. (1997). Intelligent tutoring goes to school in the big city. International Journal of Artificial Intelligence in Education,8, 30–43.

Laird, J. E. (1991). Preface for special section on integrated cognitive architectures. SIGART Bulletin, 2, 12–123.

Laird, J. E. (2008). Extending the Soar cognitive architecture. In Proceedings of the artificial general intelligence conference. Memphis, TN: IOS Press.

Laird, J. E., Newell, A., & Rosenbloom, P. S. (1987). Soar: An architecture for general intelligence. Artificial Intelligence, 33, 1–64.

Laird, J. E., Rosenbloom, P. S., & Newell, A. (1986). Chunking in Soar: The anatomy of a general learning mechanism. Machine Learning, 1, 11–46.

Langley, P. (1995a). Elements of machine learning. San Francisco: Morgan Kaufman.

Langley, P. (1995b). Order effects in incremental learning. In P. Reimann & H. Spada (Eds.), Learning in humans and machines: Towards and interdisciplinary learning science. Oxford: Elsevier.

Langley, P. (2006). Intelligent behavior in humans and machines (technical report). Computational Learning Laboratory, CSLI, Stanford University, CA.

Langley, P., & Messina, E. (2004). Experimental studies of integrated cognitive systems. In Proceedings of the performance metrics for intelligent systems workshop. Gaithersburg, MD.

Langley, P., & Choi, D. (2006a). A unified cognitive architecture for physical agents. In Proceedings of the twenty-first AAAI conference on artificial intelligence. Boston: AAAI Press.

Langley, P., & Choi, D. (2006b). Learning recursive control programs from problem solving. Journal of Machine Learning Research, 7, 493–518.

Langley, P., Cummings, K., & Shapiro, D. (2004). Hierarchical skills and cognitive architectures. In Proceedings of the twenty-sixth annual conference of the cognitive science society (pp. 779–784). Chicago, IL.

Lewis, R. L. (1993). An architecturally-based theory of sentence comprehension. In Proceedings of the fifteenth annual conference of the cognitive science society (pp. 108–113). Boulder, CO: Lawrence Erlbaum.

Magerko, B., Laird, J. E., Assanie, M., Kerfoot, A.,& Stokes, D. (2004). AI characters and directors for interactive computer games. In Proceedings of the sixteenth innovative applications of artificial intelligence conference (pp. 877–884). San Jose, CA: AAAI Press.

McCarthy, J. (1963). Situations, actions and causal laws (memo 2). Artificial Intelligence Project. Stanford, CA: Stanford University.

Meyer, M., & Kieras, D. (1997). A computational theory of executive control processes and human multiple-task performance. Part 1: Basic mechanisms. Psychological Review, 104, 3–65.

Miller, C. S., & Laird, J. E. (1996). Accounting for graded performance within a discrete search framework. Cognitive Science, 20, 499–537.

Minsky, M. (1975). A framework for representing knowledge. In P. Winston (Ed.), The psychology of computer vision. New York: McGraw-Hill.

Minton, S. N. (1990). Quantitative results concerning the utility of explanation-based learning. Artificial Intelligence, 42, 363–391.

Musliner, D.J., Goldman, R.P., & Pelican, M.J. (2001). Planning with increasingly complex models. In Proceedings of the international conference on intelligent robots and systems.

Nardi, D., & Brachman, R. J. (2002). An introduction to description logics. In F. Baader et al. (Eds.), Description logic handbook. Cambridge: Cambridge University Press.

Nason, S., & Laird, J.E. (2004). Soar-RL: Integrating reinforcement learning with Soar. In Proceedings of the sixth international conference on cognitive modeling (pp. 220–225).

Neches, R., Langley, P., & Klahr, D. (1987). Learning, development, and production systems. In D. Klahr, P. Langley, & R. Neches (Eds.), Production system models of learning and development. Cambridge, MA: MIT Press.

Newell, A. (1973a). You can’t play 20 questions with nature and win: Projective comments on the papers of this symposium. In W. G. Chase (Ed.), Visual information processing. New York: Academic Press.

Newell, A. (1973b). Production systems: Models of control structures. In W. G. Chase (Ed.), Visual information processing. New York: Academic Press.

Newell, A. (1982). The knowledge level. Artificial Intelligence, 18, 87–127.

Newell, A. (1990). Unified theories of cognition. Cambridge, MA: Harvard University Press.

Nuxoll, A. M. & Laird, J. E. (2007). Extending cognitive architecture with episodic memory. In Proceedings of the twenty-second AAAI conference on artificial intelligence. Vancouver, BC: AAAI Press.

Pearson, D. & Laird, J. E. (1999). Toward incremental knowledge correction for agents in complex environments. In K. Furakawa, D. Michie, & S. Muggleton (Eds.). Machine intelligence (Vol. 15, pp. 185–204). Oxford University Press.

Pell, B., Bernard, D. E., Chien, S. A., Gat, E., Muscettola, N., & Nayak, P. P. (1997). An autonomous spacecraft agent prototype. In Proceedings of the first international conference on autonomous agents (pp. 253–261). Marina del Rey, CA: ACM Press.

Perez, M. A.,& Carbonell, J. G. (1994). Control knowledge to improve plan quality. In Proceedings of the second international conference on AI planning systems (pp. 323–328). Chicago: AAAI Press.

Richardson, M. & Domingos, P. (2006). Markov logic networks. Machine Learning, 62, 107–136.

Sammut, C. (1996). Automatic construction of reactive control systems using symbolic machine learning. Knowledge Engineering Review, 11, 27–42.

Schlimmer, J. C. & Langley, P. (1992). Machine learning. In S. Shapiro (Ed.), Encyclopedia of artificial intelligence (2nd ed.). New York: John Wiley & Sons.

Schmidt, R. A. (1975). A schema theory of discrete motor skill learning. Psychological Review, 82, 225–260.

Shapiro, S. C. & Ismail, H. O. (2003). Anchoring in a grounded layered architecture with integrated reasoning. Robotics and Autonomous Systems, 43, 97–108.

Simon, H. A. (1957). Models of man. New York: John Wiley.

Sleeman, D., Langley, P., & Mitchell, T. (1982). Learning from solution paths: An approach to the credit assignment problem. AI Magazine,3, 48–52.

Sloman, A. (2001). Varieties of affect and the CogAff architecture schema. In Proceedings of the AISB’01 symposium on emotion, cognition, and affective computing. York, UK.

Sowa, J. F. (Ed.). (1991). Principles of semantic networks: Explorations in the representation of knowledge. San Mateo, CA: Morgan Kaufman.

Sun, R. (Ed.). (2005). Cognition and multi-agent interaction: Extending cognitive mdoeling to social simulation. Cambridge University Press.

Sun, R. (2007). The importance of cognitive architectures: An analysis based on CLARION. Journal of Experimental and Theoretical Artificial Intelligence, 19, 159–193.

Sun, R., Merrill, E.,& Peterson, T. (2001). From implicit skills to explicit knowledge: A bottom–up model of skill learning. Cognitive Science, 25, 203–244.

Sutton, R. S., & Barto, A. G. (1998). Reinforcement learning: An introduction. Cambridge, MA: MIT Press.

Taatgen, N. A. (2005). Modeling parallelization and speed improvement in skill acquisition: From dual tasks to complex dynamic skills. Cognitive Science, 29, 421–455.

Tambe, M., Johnson, W. L., Jones, R. M., Koss, F., Laird, J. E., Rosenbloom, P. S., et al. (1995). Intelligent agents for interactive simulation environments. AI Magazine, 16, 15–39.

Trafton, J. G., Cassimatis, N. L., Bugajska, M., Brock, D., Mintz, F., & Schultz, A. (2005). Enabling effective human–robot interaction using perspective-taking in robots. IEEE Transactions on Systems, Man and Cybernetics, 25, 460–470.

Tulving, E. (1972). Episodic and semantic memory. In E. Tulving & W. Donaldson (Eds.), Organization of memory. New York: Academic Press.

VanLehn, K. (Ed.). (1991). Architectures for intelligence. Hillsdale, NJ: Lawrence Erlbaum.

Veloso, M. M., & Carbonell, J. G. (1993). Derivational analogy in PRODIGY: Automating case acquisition, storage, and utilization. Machine Learning, 10, 249–278.

Wang, X. (1995). Learning by observation and practice: An incremental approach for planning operator acquisition. In Proceedings of the twelfth international conference on machine learning (pp. 549–557). Lake Tahoe, CA: Morgan Kaufman.

Источник