Библиографическое описание:
Kühl N., Goutier M., Hirt R., Satzger G. Machine Learning in Artificial Intelligence: Towards a Common Understanding // Proceedings of the 52nd Hawaii International Conference on System Sciences (HICSS). 2019. P. 5236–5245.

Введение: проблема терминологической неопределенности

В апреле 2018 года на слушаниях в Сенате США Марк Цукерберг подчеркнул необходимость использования инструментов искусственного интеллекта для выявления разжигающих ненависть высказываний и террористической пропаганды в социальных сетях. Исследователи обычно описывают такие задачи как задачи классификации в рамках обучения с учителем — одного из направлений машинного обучения. Однако с ростом популярности искусственного интеллекта эти термины все чаще используются как взаимозаменяемые — не только Цукербергом, но и в различных теоретических и прикладных работах. Некоторые исследователи даже признаются, что используют ИИ как синоним машинного обучения, хотя знают, что это не совсем корректно.

Такая терминологическая неопределенность может приводить к неточностям как в науке, так и на практике, затрудняя коммуникацию о методах, концепциях и результатах. Цель данной статьи — прояснить соотношение понятий «машинное обучение» и «искусственный интеллект», а также определить роль машинного обучения в создании интеллектуальных агентов.

Авторы ставят перед собой три задачи: во-первых, расширить теоретическую framework Рассела и Норвига, детализировав «мыслительный» слой интеллектуального агента; во-вторых, показать, как это разграничение позволяет различать вклад машинного обучения в создание интеллектуальных агентов; в-третьих, определить континуум между участием человека и автономией агента.

Обзор терминологии: от статистического обучения к искусственному интеллекту

→

Рисунок 1 «Общая терминология, используемая в данной статье», на котором представлена иерархия понятий. В верхней части — Statistical Learning (происхождение: статистика) и Machine Learning (происхождение: компьютерные науки). Ниже — Artificial Intelligence applies Machine Learning, Statistical Learning or others (e.g. Descriptive Statistics). Далее показано, что Machine Learning является основой для Data Mining, который описывает процесс применения методов. Также отмечено, что Deep Learning является реализацией в рамках Machine Learning.

В области статистики фокус делается на статистическом обучении, которое определяется как набор методов и алгоритмов для получения знаний, прогнозирования результатов и принятия решений путем построения моделей на основе данных. С точки зрения статистики, машинное обучение можно рассматривать как реализацию статистического обучения.

В области компьютерных наук машинное обучение фокусируется на проектировании эффективных алгоритмов для решения задач с использованием вычислительных ресурсов. Хотя машинное обучение использует подходы из статистики, оно также включает методы, не основанные на предшествующих работах статистиков. Особый интерес в последние годы вызывает глубокое обучение — модели, состоящие из множества слоев обработки, способные изучать представления данных на различных уровнях абстракции. Глубокое обучение значительно улучшило возможности машинного обучения, например, в распознавании речи и изображений.

В отличие от предыдущих терминов, интеллектуальный анализ данных описывает процесс применения количественных аналитических методов для решения реальных задач. В случае машинного обучения интеллектуальный анализ данных — это процесс создания значимых моделей, где цель состоит не в развитии знаний об алгоритмах, а в их применении к данным для получения новых знаний.

Искусственный интеллект применяет такие методы, как машинное обучение, статистическое обучение или другие техники (например, описательную статистику) для имитации интеллекта в машинах.

Искусственный интеллект: четыре исследовательских направления

Исследования в области искусственного интеллекта можно разделить на четыре направления, которые различаются по двум критериям: цели применения ИИ (мышление vs. действие) и типу принятия решений (человекоподобное vs. рациональное).

→

Таблица 1 «Направления исследований ИИ на основе Russell & Norvig», которая представляет четыре квадранта:

Thinking Humanly — Cognitive Modeling (когнитивное моделирование)

Thinking Rationally — Laws of thought (законы мышления)

Acting Humanly — Turing Test (тест Тьюринга)

Acting Rationally — Rational Agent (рациональный агент)

Когнитивное моделирование (мышление по-человечески) предполагает, что ИИ должен быть машиной, обладающей разумом, и воспроизводить не только результаты человеческого мышления, но и сами шаги рассуждений. Законы мышления (мышление рационально) требуют, чтобы ИИ приходил к рациональному решению, следуя законам логики с использованием вычислительных моделей. Тест Тьюринга (действие по-человечески) подразумевает, что ИИ должен действовать интеллектуально при взаимодействии с людьми, выполняя человеческие задачи не хуже людей. Рациональный агент (действие рационально) рассматривает ИИ как агента, который действует автономно с целью достижения рационально наилучшего результата.

Для целей данной статьи авторы фокусируются на подходе рационального агента, так как он наиболее релевантен для понимания реализации машинного обучения в рамках ИИ.

Концептуальная framework: роль машинного обучения в интеллектуальных агентах

Для понимания взаимосвязи машинного обучения и ИИ авторы опираются на framework Рассела и Норвига, различающую две цели применения ИИ: действие и мышление. Чтобы отобразить задачи машинного обучения на возможности интеллектуальных агентов, авторы предлагают рассматривать действие как интерфейс (frontend), а мышление — как бэкенд (backend).

Интерфейс — это то, с чем взаимодействует среда. Он может принимать различные формы: от абстрактного машиночитаемого веб-интерфейса до человекоподобного робота с выразительными возможностями. Для взаимодействия со средой интерфейс требует двух технических компонентов: сенсоров, которые обнаруживают изменения в среде и передают информацию в бэкенд, и актуаторов, которые отвечают за движение и управление механизмами.

Бэкенд предоставляет необходимые функциональности, которые представляют мыслительные способности интеллектуального агента. Здесь агенту необходимо учиться и применять полученные знания. В случае обучения с учителем необходимо различать процесс построения модели (обучение) и процесс выполнения развернутой модели. Поэтому авторы разделяют мыслительный слой агента на два подслоя: обучающий бэкенд (построение модели) и исполняющий бэкенд (выполнение модели).

→

Здесь следует размес

Рисунок 2 «Концептуальная framework», который представляет структуру интеллектуального агента. В верхней части — Environment (среда). Агент взаимодействует со средой через Frontend, который включает Sensors (сенсоры) и Actuators (актуаторы). Frontend соединен с Backend, который разделен на два подслоя: Executing backend (исполняющий бэкенд) и Learning backend (обучающий бэкенд). Пунктирная линия между Learning backend и Executing backend показывает, что обученный модель передается для исполнения. Также показана обратная связь от исполнения к обучению для непрерывного улучшения.

Типы агентов: простой рефлекс и обучение

Различение обучающего и исполняющего бэкендов позволяет разграничить два типа интеллектуальных агентов.

Простой рефлексивный агент (simple-reflex agent) использует модели машинного обучения, которые обучаются один раз и больше не изменяются. В этом случае машинное обучение присутствует только в исполняющем подслое в виде однажды обученной модели. Агент способен использовать ранее построенные модели, но не может строить и обновлять их самостоятельно. Примерами могут служить системы раннего предупреждения пневмонии в больницах, системы распознавания пешеходов или аннотации объектов.

Обучающийся агент (learning agent) способен извлекать знания из окружающей среды и обновлять модели машинного обучения. Такой агент имеет дополнительный обучающий подслой, который позволяет ему использовать машинное обучение для построения и переобучения моделей. Примерами служат агенты для рекомендации музыкальных плейлистов, самообучающиеся системы регулирования тепловых насосов или агенты для изучения значений слов. В этом случае обратная связь от среды, получаемая через исполняющий бэкенд, используется обучающим подслоем для непрерывного улучшения модели.

Выбор между этими двумя типами агентов влияет на общую архитектуру и на то, какую роль играет машинное обучение в системе.

Континуум между участием человека и автономией агента

При реализации исполняющего и обучающего бэкендов важно не только то, обновляются ли модели, но и насколько автоматизированы необходимые процессы. Любая задача машинного обучения включает множество этапов: выбор источников данных, сбор данных, предобработку, построение модели, оценку, развертывание, выполнение и улучшение.

→

Рисунок 3 «Степень автономии агента и вовлеченности человека», который представляет континуум от Human involvement (участие человека) до Agent autonomy (автономия агента). На рисунке показано, что различные этапы жизненного цикла машинного обучения могут находиться в разных точках этого континуума в зависимости от степени автоматизации. Чем больше этапов автоматизировано, тем выше автономия агента и меньше вовлеченность человека.

Например, выполнение однажды построенной модели может быть легко автоматизировано, в то время как автоматическое определение адекватного источника данных для новой задачи или самостоятельное инициирование переобучения являются гораздо более сложными задачами.

В связи с этим необходимо рассматривать участие человека в задачах машинного обучения, связанных с интеллектуальным агентом, как континуум. На одном конце спектра — полное участие человека при минимальной автономии агента, на другом — полная автономия агента без участия человека. Например, агент, автономно управляющий автомобилем, уже демонстрирует высокую степень автономии. Однако при столкновении с новым дорожным знаком обучение этому новому обстоятельству все еще может требовать участия человека.

Направления будущих исследований

Представленная framework находится на концептуальном уровне, что открывает возможности для дальнейших исследований. Авторы выделяют несколько приоритетных направлений.

Во-первых, необходима эмпирическая валидация и итеративное развитие framework. Следует выявить различные примеры интеллектуальных агентов из разных областей и оценить, насколько хорошо framework соответствует реальным реализациям. Это позволило бы количественно определить, какая доля проектов использует обучающихся агентов, а какая — простые рефлексивные, а также лучше понять степень вовлеченности человека в создание современных интеллектуальных агентов.

Во-вторых, важным направлением является снижение необходимого участия человека. Здесь могут помочь методы трансферного обучения, которые позволяют переносить знания (модели) из одной среды в другую, что может минимизировать участие человека при адаптации к новым или измененным задачам.

В-третьих, для уже развернутых моделей актуальна проблема дрейфа концепции — изменения связи между входными данными и целевой переменной со временем. Исследования в этой области предлагают методы обнаружения изменений и адаптации моделей, однако успешных практических применений пока немного.

Заключительные положения

В данной статье авторы проясняют роль машинного обучения в искусственном интеллекте, фокусируясь на интеллектуальных агентах. Предложенная framework выделяет два случая: простые рефлексивные агенты, где машинное обучение представлено однажды обученной моделью в исполняющем подслое, и обучающиеся агенты, имеющие дополнительный обучающий подслой, позволяющий непрерывно обновлять модели на основе обратной связи из среды.

При реализации этих подслоев ключевым аспектом является степень автономии, которую обеспечивает машинное обучение, и соответствующее участие человека в необходимых задачах (от выбора данных до построения моделей).

Несмотря на концептуальный характер работы, предложенная framework позволяет исследователям и практикам более точно говорить о роли машинного обучения в создании интеллектуальных систем. Она подчеркивает важность не использовать термины «машинное обучение» и «искусственный интеллект» как взаимозаменяемые, а четко определять, какую роль машинное обучение играет в конкретной реализации интеллектуального агента.

Обзор подготовлен на основе статьи: Kühl N., Goutier M., Hirt R., Satzger G. Machine Learning in Artificial Intelligence: Towards a Common Understanding // Proceedings of the 52nd Hawaii International Conference on System Sciences (HICSS). 2019. P. 5236–5245

Машинное обучение в искусственном интеллекте: к общему пониманию

Похожие статьи

Поделиться в соц. сетях

Комментарии