Архитектура бизнеса и информационных систем виртуальных помощников

Антье Янсен и его коллеги на основе характеристик виртуальных помощников (ВП) выделили пять архетипов ВП [1]:

1. Ориентированный на достижение целей ежедневный чат-бот;
2. Ежедневный нецелевой чат-бот;
3. Чат-бот-помощник-фасилитатор;
4. Чат-бот эксперт;
5. Чат-бот, ориентированный на отношения.

Microsegment.ru не разделяет точку зрения Антье Янсена и его коллег и на основе собственной экспертной оценки выделяет три наиболее распространенные архетипические архитектуры ВП, которые в целях данной работы будут условно обозначены как чат-боты, платформенные и специальные ВП.

1. Чат-боты представляют собой ВП, коммуницирующих с конечными пользователями через один или множество сторонних каналов коммуникации. С силу схожести высокоуровневой архитектуры, к чат-ботам отнесены боты, предназначенные для коммуникации с кончеными пользователями в мессенджерах и по телефону. Как правило, чат-боты имеют ограниченную функциональность и сферы применения.
2. Платформенные ВП – это ВП, реализованные в виде платформы, имеющей собственные каналы коммуникации, обеспечивающие взаимодействие множества сторонних провайдеров навыков ВП и конечных пользователей. Благодаря множеству навыков, платформенные ВП имеют широкий спектр возможностей и сфер применения.
3. Специальные ВП – это узкоспециализированные ВП, взаимодействующие с конечным пользователем посредством собственных пользовательских интерфейсов. В основном, имеют ограниченные возможности и сферы применения.

Краткая классификация архитектур ВП представлена в таблице 1. Представленные схема архитектуры и классификация архитектур ВП не претендуют на полноту и абсолютную корректность. Они отражают общие принципы построения чат-ботов, платформенных и специальных ВП и служат для иллюстрации дальнейшего анализа.

Все выделенные типы архитектуры имеют некоторые схожие элементы. Например, во всех типах ВП есть пользовательский интерфейс и системы понимания естественного языка. В случае использования голосового интерфейса применяются системы для перевода речи в текст и текста в речь. Для расширения функциональных возможностей ВП применяются системы взаимодействия с базами знаний и управления сторонними системами. Также в разных ВП существуют специфичные для них элементы, такие как активаторы ВП, сервисы для взаимодействия с учетными записями и другие.

Параметры	Чат-бот	Специальный ВП	Платформенный ВП
Каналы коммуникации	Множество каналов, включая чаты и телефон	Один или несколько каналов коммуникации	Один или несколько каналов коммуникации, включая собственный мессенджер
Количество навыков	Один или несколько	Один или несколько	Множество
Провайдеры навыков	Провайдер ВП	Провайдер ВП	Провайдер навыка

Описанная выше архитектура соответствует сервисному потоку экосистемы ВП, описанному на примере Amazon Echo [2]. Сервисный поток ВП, согласно Amazon, начинается с запроса конечного пользователя, проходит через элементы экосистемы и возвращается к конечному пользователю. Согласно данной диаграмме, на первом этапе пользователь задает вопрос или дает команду Alexa. На втором этапе Alexa определяет имя навыка, анализирует и понимает запрос клиента, а затем отправляет сторонней службе навыка структурированное представление запроса пользователя. На третьем этапе сторонний сервис, представляющий собой навык Alexa, обрабатывает запрос и возвращает текстовый и графический ответ. На четвертом этапе происходит ветвление сервисного потока. В первом случае Alexa преобразует возвращенный текст в речь и передает его на конечное устройство. Во втором случае графическое изображение навыка (если есть) отображается в сопутствующем приложении. Пятый этап продолжает ветвление четвертого этапа. В первом случае пользователь слышит голосовой ответ от Alexa. Во втором случае пользователь видит графическое изображение в сопутствующем приложении.

В описанной выше архитектуре бизнеса, связанного с ВП, присутствуют семь заинтересованных сторон. Однако, Мэтью Томас Кот выделяет только три заинтересованные стороны, которые являются субъектами взаимодействия с ВП: провайдеры, хосты и гости [3]. По его мнению, провайдеры разрабатывают ВП, хосты являются владельцами ВП, а гости – это остальные участники взаимодействия в ВП, но не являющиеся клиентами провайдера. Microsegment.ru предлагает охарактеризовать гостей как конченых пользователей (Всеросийский институт научной и технической инфомрации, Технический комитет по стандартизации ТК-191 «Научно-техническая информация, библиотечное и издательское дело», 1996). Хосты и гости являются пользователями ВП и целевое взаимодействие с ВП происходит между ними.

Данная классификация субъектов в современной действительности требует дополнения еще четырьмя ключевыми и четырьмя второстепенным субъектами, имеющими значение для анализа эффективности процессов производства и потребления ВП. Первый и второй ключевой субъект – это провайдер и хост навыка ВП. Провайдером навыка является разработчик навыка ВП Алиса Яндекса [4] или действия Google Assistant [5], и аналогичных им, а хостом навыка ВП является его владелец. Третьим и четвертым ключевым субъектом взаимодействия является провайдер и владелец канала коммуникации, через который происходит взаимодействие ВП с конечным пользователем [6].

Первый второстепенный субъект – это провайдер любого сервиса для обеспечения функционирования ВП, такого как Amazon Polly и Amazon Transcribe [7]. Вторым второстепенным субъектом является провайдер конструктора диалогов, например, Dialogflow [6]. Третий второстепенный субъект – провайдер омниканального сервиса [8]. Четвертый второстепенный субъект – провайдер рекламы, например Рекламная сеть Яндекса [9].

При разной реализации архитектуры бизнеса, связанного с ВП некоторые субъекты могут быть объединены в единый субъект, некоторые отсутствовать, а некоторые могут быть добавлены. Например, в случае простого чат-бота, провайдер ВП и его навыка, как правило представлены одним субъектом в лице провайдера, а провайдер конструктора диалогов отсутствует. Если владельцу ВП требуется развернутая аналитика взаимодействия ВП с конечными пользователями, он может подключить внешний аналитический сервис, такой как AppMetrica Яндекса [10], что приведет к появлению еще двух заинтересованных сторон в виде провайдера и владельца аналитической системы.

Не зависимо от архитектуры бизнеса, связанного с ВП, целью большинства выявленных заинтересованных сторон является получение материальной выгоды или улучшение эффективности деятельности своей организации от применения ВП. К такому выводу пришел Microsegment.ru путем собственной экспертной оценки. Например, участие в бизнесе, связанном с ВП, может быть мотивировано увеличением дохода владельцев ВП, навыков, каналов коммуникации, любых сервисов, обеспечивающих функционирование ВП, конструкторов диалогов и омниканальных сервисов. Улучшение эффективности деятельности может быть мотивом для внедрения ВП государственными учреждениями в периоды эпидемий, пандемий и ЧС. При этом государственные учреждения будут выступать в качестве владельцев ВП или их навыков.

Особняком расположена мотивация конечного пользователя. У него могут быть две ключевые мотивированные цели: получение знаний и дистанционное взаимодействие с информационными системами (ИС), внешними по отношению к ВП. Отсюда, требованиями конечного пользователя являются эффективность получения знаний и управления внешними ИС.

Анализ эффективности применения ВП возможен только при исследовании удовлетворенности требований всех ключевых заинтересованных сторон, особенно тех, кто является субъектами процесса взаимодействия ВП с конечными пользователями. Невозможно утверждать о высокой эффективности применения ВП при неудовлетворенности конечного пользователя или одного из провайдеров и хостов. Потому что, если требования кого-либо из них не удовлетворены, то с их точки зрения ВП не эффективен. Более того, все выявленные заинтересованные стороны прямо или косвенно влияют на эффективность ВП. Если требования одного из них не удовлетворены, то он может отказаться участвовать в цепочке создания ценности [11] ВП, чем повлияет на удовлетворение требований остальных заинтересованных сторон.

Все выявленные заинтересованные стороны в разной степени участвуют в цепочке создания ценности ВП, но не все из них принимают непосредственное участие в процессе взаимодействия с ВП. Процесс взаимодействия ВП с конечным пользователем является основным для бизнеса провайдера и владельца ВП. Для остальных заинтересованных сторон данный процесс может быть как основным, так и вспомогательным. В общем случае этот бизнес-процесс (БП) имеет структуру, изображенную на рисунке 1.

На рисунке 2 изображена схема основных процессов ВП.

Представленная схема отображает процесс только в общем случае, так как все задачи являются сложными подпроцессами, внутри которых решается множество подзадач, отличающихся по своей сути и решению в зависимости от целей и архитектуры ВП. Также, в разных архитектурах субъекты этого процесса могут быть объединены и представлять единое целое. К тому же, существует множество косвенно с ним связанных процессов. Например, в ВП Алиса Яндекса предусмотрена возможность демонстрации рекламы в диалогах с конечным пользователем. В реализации данной возможности принимает участие Рекламная сеть Яндекса [9], AppMetrica Яндекса [10] и рекламодатели.

Помимо прочего, описанный выше БП, всегда является частью БП более высокого уровня и во-многом зависит от него. Так, ВП может быть частью рекрутинговой ИС [12]. ВП может являться инструментом в БП взаимодействия с клиентами, предусматривающем непрерывный потребительский опыт. В этом случае, он будет адаптирован под использование омниканальных технологий. Согласно мнению практиков разработки чат-ботов для бизнеса, использование омниканальных технологий требуется для удобства пользователей разных мессенджеров. Например, два пользователя являются клиентами одного бизнеса. Один пользователь активно использует только один мессенджер, а второй пользователь отдает предпочтение другому мессенджеру. Чтобы оптимально выстроить коммуникацию с обоими пользователями бизнесу требуется создать чат-бота, встроенного в оба мессенджера, с единой точкой входа для специалистов по работе с клиентами со стороны бизнеса. Подобный сервис предлагает компания LiveTex [8].

Аналогично ситуации с мессенджерами, по мере распространения конкурирующих платформенных ВП и развития вокруг них экосистем, пользователи будут отдавать предпочтение только одному из этих ВП. Потому, для бизнеса и других сфер применения ВП важно присутствовать в качестве навыка во всех платформенных ВП.

При интеграции ВП с несколькими каналами коммуникации требуется единая точка входа для специалистов, ответственных за функционирование ВП. В противном случае, потребуется отдельно внедрять ВП в каждый канал коммуникации и отдельно осуществлять их поддержку. Для экономии человек/часов на поддержание однообразия взаимодействия с пользователями во всех каналах коммуникации, а также создания единого пользовательского опыта, единой точной входа специалистов, ответственных за функционирование ВП, могут стать омниканальные сервисы [8].

Помимо омниканальности на расширение возможностей взаимодействия ВП с конечными пользователями влияет мультимодальность интерфейсов ВП. Некоторые современные ВП уже поддерживают мультимодальные пользовательские интерфейсы: графический интерфейс, текст, речь и невербальную коммуникацию через «компьютерное зрение» [13]. Пользовательские интерфейсы обеспечивают двустороннюю коммуникацию между ВП и пользователем и имеют устройства ввода и вывода информации. Каждому типу устройства ввода соответствует определенный тип устройства вывода информации. Так, текстово-кнопочные интерфейсы имеют двустороннюю коммуникацию между ВП и пользователями через чат. Для голосовых интерфейсов используются микрофоны и динамики. В невербальном интерфейсе ВП задействованы камеры и экран или антропоморфный робот. Как правило, устройства ввода и соответствующие им устройства вывода установлены в паре на одном УВП. Также возможно их размещение на распределенной сети конечных устройств.

По мнению Microsegment.ru, наиболее эффективны ВП с эргономичными мультимодальными пользовательскими интерфейсами. Человеку свойственно в разных ситуациях использовать разные сенсорные репрезентативные системы для взаимодействия с окружающим миром [14]. При этом, в одних ситуациях более эффективно визуальное взаимодействие, в других аудиальное, в-третьих, кинестетическое, а в четвертных дигитальное. Например, визуализация сложной числовой информации с помощью инфографики делает ее более «наглядной», быстро и образно воспринимаемой, чем представление в виде текста или озвучивание. Образная визуализация информации может повлиять на ее эмоциональное восприятие [15]. В некоторых ситуациях более эффективно комплексное восприятие. Например, личное очное общение иногда дает более полное представление о собеседнике, чем переписка в чате или даже видеозвонок. Во время личной встречи с человеком задействовано как вербальное, так и невербальное восприятие, в том числе, зрение, слух, обоняние, иногда тактильные восприятие.

Для обеспечения непрерывного пользовательского опыта и бесшовного взаимодействия конечного пользователя с ВП требуется использовать адаптивные проактивные мультимодальные пользовательские интерфейсы ВП [16]. Подобная мультимодальность интерфейсов должна позволить применять в разные моменты времени те интерфейсы, которые наиболее соответствуют ситуации. При этом, параметры этих интерфейсов должны изменяться в зависимости от контекста взаимодействия [16].

В продолжении этой темы, важно заметить, что существует теория о доминировании разных сенсорных репрезентативных систем у людей [14]. Из данной теории следует, что пользователям с развитой визуальной репрезентативной сенсорной системой подойдет взаимодействие с аватаром. Пользователям с доминирующей аудиальной сенсорной системой комфортнее будет взаимодействовать с голосовым ВП. Пользователю, предпочитающему кинестетический способ восприятия, больше подойдет человекоподобный робот. Тем пользователям, у которых развита дигитальная сенсорная система, более комфортно будет использовать текстовые чат-боты.

Вполне очевидной кажется эффективность использования аватара для взаимодействия ВП с любыми конечными пользователями. Однако, уже несколько лет существуют ВП Алиса, Google Assistant, Siri и другие, у которых нет аватара. При их позиционировании не используются какие-либо персонажи, олицетворяющие их, только логотипы и другие элементы фирменных стилей. С другой стороны, наличие аватара может усилить эффект восприятия конечными пользователями ВП, как себе подобного субъекта взаимодействия. Пример статичного графического аватара навыка ВП, используемый Microsegment.ru в исследовательском проекте, приведен на рисунке 3. Мимика и жесты аватара могут дополнить диалог невербальной информацией и усилить этот эффект [16]. Наличие аватара у ВП способно привести к самоидентификации конечного пользователя с ним, что, возможно, будет способствовать развитию ВП в области психологического консультирования и мотивации. Апогея подобной самоидентификации могут достичь интерактивные разговорные полноразмерные антропоморфные аватары ВП, воплощенные в образе человека в полный рост [17]. Подобные антропоморфные аватары пока редкость, но, возможно, их число и качество будут постепенно расти. Нужно заметить, что самоидентификация конечного пользователя с ВП через человекообразного аватара может иметь и обратный эффект. Возможно, по мере того как аватары будут становиться все более человекоподобными, а их количество будет расти, пользователи начнут в них искать не свое подобие, а различия с ним [16].

Пока же ведутся исследования и опытные разработки в области создания аватаров и технологий естественной речи для ВП остается актуальной возможность перевода диалога с конечным пользователем на ответственного специалиста. Всегда найдется такой запрос пользователя, который ВП не сможет адекватно интерпретировать и потребуется перевести диалог на специалиста, чтобы диалог не зашел в тупик. По тем же причинам до сих пор широко распространены относительно простые интерфейсы, к которым относятся и текстово-графические. Они обычно присутствуют в наиболее дешевых в производстве простых чат-ботов. В них используют для взаимодействия текст, изображения, видео и кнопки, оформленные в стиле дизайна канала коммуникации с пользователем.

Постепенно распространяются более сложная связка обученной нейронной сети и устройства ввода на конечном устройстве, которая позволяет распознавать человеческую речь и голосовые команды пользователя. Голосовой интерфейс имеет ряд преимуществ перед текстово-графическим интерфейсом. Например, управление ИС без помощи рук, интуитивно понятное управление с помощью голосовых команд, возможность взаимодействовать с ИС для людей с нарушениями зрения и ограниченной двигательной активностью [18].

При этом используется микрофон в качестве устройства ввода. Однако, один микрофон хорошо, а массив микрофонов лучше. Райнхольд Хаеб-Умбах указывает на то, что массив микрофонов позволяет ВП сфокусироваться на голосовых сигналах конкретного человека, подавляя шумы и посторонние звуки [19]. Эта технология воплощена в Яндекс Станции Макс. В ней расположено 7 микрофонов, объединенных в единый массив [20]. По утверждению разработчиков, данное устройство способно распознать команду пользователя, произнесенную им из соседней комнаты.

Прогресс не стоит на месте. Райнхольд Хаеб-Умбах считает, что следующим шагом в развитии голосовых устройств ввода будет использование распределенной сети микрофонов. В том числе, расположенных в разных конечных устройствах. Еще одним важным свойством будущих ВП, возможно, станет использование концепции «преднамеренной конфиденциальности» (privacy by design), посредством которой звуковой сигнал будет сжиматься таким образом, что из него можно будет извлечь только определенную информацию. Например, пение птиц. Исследования в этих направлениях уже ведутся учеными в разных университетах мира.

Помимо голосовых устройств ввода для ВП используются технологии компьютерного зрения. Попавшее в поле зрения камеры изображение становится для ВП сигналом к действию, определенному пользователем. Например, Bixby от Samsung может описывать «увиденные» сцены, определять в них объекты, читать и переводить текст в реальном времени [21]. Распознание визуальных образов, понимание естественной речи, перевода текста в речь и речи в текст, а также другие возможности ВП стали доступны благодаря использованию технологий машинного обучения, нейронных сетей, а также сложных наборов правил [22].

Системы понимания естественной речи, построенные на основе правил, пока наиболее распространенные [1], предлагают проведение лингвистического анализа неструктурированных текстов посредством выделения именованных сущностей, применения правил морфологии, синтаксиса, семантики и иных процедур. Недостатком подобных систем является потребность в выработке большого количества правил для разных областей знаний [22]. Это требует больших трудозатрат и может быть экономически невыгодным, что может тормозить развитие ВП на их основе.

Системы на основе нейронных сетей обычно предобучены на общедоступных документах. С одной стороны, это позволяет использовать ВП на их основе в широком спектре сфер жизнедеятельности. С другой стороны, это же создает большой риск их использования, так как общедоступные документы могут не отражать суть узкоспециализированных областей знаний, а требуемые для обучения документы зачастую отсутствуют в открытом доступе. Решением может быть обучение нейронных сетей на всех типах документов той отрасли, для которой предназначен ВП, с участием высококвалифицированных специалистов этой отрасли. Подобный подход применяют некоторые крупные организации, используя внутренние документы и своих специалистов для обучения ВП [22]. Потребность в специализированных документах при обучении нейронных сетей возникает из их специфики, которую весьма просто описал Райнхольд Хаеб-Умбах [19]:

«…По сути, сеть состоит из последовательности слоев. В каждом слое входные значения умножаются на числа, полученные из обучающих данных, называемые весами, и результаты складываются. К результату применяется нелинейность, и результирующая переменная передается на следующий уровень. Используемые сегодня глубокие сети могут содержать до нескольких сотен слоев. Цель процесса обучения или «тренировки» состоит в том, чтобы определить веса на основе данных обучения, состоящих из голосовых записей и соответствующего текста. Если голосовая запись размещается на входе сети, а текст в качестве цели обучения — на выходе, веса определяются так, чтобы для заданного аудиосигнала на входе они максимально точно предсказывали выход. Затем сеть может расшифровать любой речевой ввод и преобразовать его в текст…».

ВП на основе обучения описаны еще Аланом Тьюрингом. По Тьюрингу, ВП нужно создавать с уровнем интеллекта человеческого младенца («программа-ребенок») с последующим обучением ВП (воспитательный процесс). При этом, по аналогии с человеком, наследственностью ВП будет выступать структура «ВП-ребенка», мутациями будут изменения ВП, а естественный отбор ВП будет осуществляться экспериментаторами в области ВП [23].

Между публикациями научных работ Алана Тьюринга и Райнхольда Хаеб-Умбаха прошло 70 лет. За эти годы общий подход к созданию «умных» ИС сохранился, он только постоянно уточняется. Ключевым элементом по-прежнему является процесс обучения «умных» ИС. Потому, далее рассмотрим некоторые современные проблемы в этой области.

Для систем, построенных на нейронных сетях и машинном обучении имеет значение кто и на каких данных их обучает. Люди, создающие «умных» ВП, проецируют на них свои взгляды и предвзятость. Чтобы сделать ВП более объективным, нужно привлекать к его обучению профильных специалистов с разным образованием и опытом в области, которой обучается ВП. Большая объективность при этом достигается благодаря проецированию разных взглядов на одни и те-же предметные области при обучении ВП [24]. При этом, специалисты в области разработки ВП должны иметь компетенции как в ИТ, так и в предметной области, для которой разрабатывается ВП. Это же касается и специалистов тех отраслей, куда внедряется ВП [25].

Кроме этого, требуются большие наборы данных из областей, для использования в которых обучается ВП [26]. Отсутствие или недоступность подобных больших наборов данных в некоторых специфических областях знаний создает препятствие для эффективного обучения ВП в этих областях.

Помимо больших наборов данных в нейронных сетях, в отличии систем с машинным обучением, важным аспектом является количество слоев и нейронов. Их увеличение, как правило, приводит к улучшению результатов обучения. Но, обратной стороной является снижение производительности. Решением данной проблемы стало использование в вычислениях нейронных сетей графического процессора [27]. Наиболее же эффективным решением является использование специализированных процессоров для машинного обучения [29].

Привлечение профильных специалистов, применение существующих больших наборов профильных данных и специализированных процессоров в обучении нейронных сетей и машинного обучения, а также формировании сложных наборов правил, на сегодняшний день не позволяют создать ВП с абсолютной точностью «понимающего» сложные тексты на русском языке. Более того, ВП, созданные для работы с английским языком не применимы для русского языка. Причина заключается в сложности и самобытности русского языка. Пока существуют большие риски использования русскоязычных ВП в сферах жизнедеятельности, требующих экспертных знаний. К таким сферам можно отнести юриспруденцию, медицину, строительство и другие. Наименьший ущерб русскоязычные ВП, пока могут нанести только в сфере поддержки клиентов [22]. Где было бы полезно со стороны ВП оказывать проактивную помощь пользователям, то есть «предвидеть» их действия и заблаговременно содействовать в их осуществлении. Но, низкий уровень «интеллекта» большинства современных ВП позволяют им оказывать только активную помощь пользователю [1].

Утверждение о невозможности использования ВП в экспертных ИС из-за низкого развития их «интеллекта» справедливо и для их навыков, так как они являются сервисами, интегрированными в них. Более всего это справедливо в случае простых чат-ботов или специальных ВП, выполняющих одну единственную функцию, потому что в этом случае навыки и есть сами ВП. Они одно целое и, как правило построены на единой технологической базе. В ВП-платформах навыки имеют более самостоятельное значение. Для них ВП-платформа является единой точкой контакта с конечными пользователями. Потому навыки в ВП-платформах могут быть более или менее «интеллектуальным» относительно платформы.

Навыки ВП могут взаимодействовать с другими ИС или конечными устройствами, то есть иметь интеграции с другими ИС. Интеграции ВП могут быть как единичными, так и множественными. Платформенные ВП по определению имеют множественную интеграцию за счет множества навыков. В отличии от них, специальные ВП и чат-боты, выполняющие лишь одну функцию, могут иметь одну интеграцию или вовсе не иметь ее. Очевидно, что чем больше у ВП интеграций, тем шире спектр возможностей ВП. С другой стороны, увеличение количества интеграций ведет к усложнению ВП, как системы, а значит к ее удорожанию. Поэтому важен баланс между количеством интеграций и их экономической целесообразностью.

Интересными случаями интеграции являются взаимодействие ВП с базами знаний (БЗ), конечными устройствами и другими ВП. БЗ играют важную роль в тех ВП, которые предназначены для обогащения знаниями конечных пользователей. Одним из методов построения БЗ, является использование перекрестных ссылок между знаниями. При этом, каждое знание является единой законченной мыслью и если в ней встречается описание другого знания, то вместо описания вставляется ссылка на знание. При выводе знаний со ссылками, в текст вывода ВП вместо ссылок подставляются знания, расположенные по ссылкам. В итоге получается вывод знаний, обогащенный другими знаниями. Подобный подход экономит память баз данных , делает БЗ более структурированной, а знания в ней атомарными [29].

В случае потребности управления конечными и другими ИС, ВП может иметь возможность получать данные от них, а также управлять ими на основе полученных от них данных и другой информации. Например, ВП может управлять холодильником, освещением в доме, ИС предприятия и так далее. Управление конечными устройствами лежит в основе технологий умного дома, потому ВП может быть частью этой технологии. Следующим интересным примером интеграции является взаимодействие с другими ВП. В 2010 году был проведен эксперимент по созданию и эксплуатации в общественном месте одновременно двух ВП. Их звали Ada и Grace. Они были внедрены только в Музее науки в Бостоне. В результате эксперимента разработчики признали одновременную эксплуатацию пары ВП не эффективным. По их мнению, требуется изучить согласованность агентов. [30]. Если же вопрос согласованности будет лучше изучен и ВП получат массовое распространение, разные ВП смогут взаимодействовать между собой решая задачи своих владельцев. Любое взаимодействие ВП с внешними ИС, включая другие ВП, БЗ и конечные устройства снижают и без того низкий уровень защищенности ВП. Современные ВП реализованы посредством локальных конечных устройств, сетевых каналов коммуникаций и множества облачных сервисов. Каждый из которых по-своему защищен. Но, использование сервисов сторонних компаний, подключение к сети интернет, облачные технологии, расположенные на просторах сети Интернет, делает ВП уязвимым. Йонас Остержост и его коллеги отмечают потенциальную уязвимость существующих средств построения ВП, не смотря на шифрование данных в системе [18]. Основной причиной уязвимости называется использование внешних облачных сервисов. Остержост предлагает в качестве дополнительной защиты использовать голосовые отпечатки пользователей, а для максимизации защиты внутрикорпоративных ВП размещать все их сервисы на внутренних серверах, не имеющих доступа в сеть Интернет.

---

Список использованных источников:

1. Virtual Assistance in Any Context [В Интернете] / авт. Janssen Antje [и др.] // Springer Nature. — Springer-Verlag GmbH, 06 апр. 2020 г.. — февр. 2021 г.. — https://link.springer.com/article/10.1007%2Fs12599-020-00644-1.
2. Understand Custom Skills [В Интернете] / авт. Amazon // Amazon Alexa. — Amazon, 2021 г.. — февр. 2021 г.. — https://developer.amazon.com/public/solutions/alexa/alexa-skills-kit/overviews/understanding-custom-skills.
3. The concept of intelligent agent in business interactions: is virtual assistant an actor or a boundary object? [В Интернете] / авт. Kot Mateusz Tomasz и Leszczyński Grzegorz // Emerald. — Emerald Publishing, 21 февр. 2020 г.. — февр. 2021 г.. — https://www.emerald.com/insight/content/doi/10.1108/JBIM-10-2018-0291/full/html.
4. Навыки Алисы [В Интернете] / авт. Яндекс // Яндекс. — Яндекс, 2021 г.. — март 2021 г.. — https://yandex.ru/dev/dialogs/alice/doc/about.html.
5. Как разрабатываются действия для Google Ассистента [В Интернете] / авт. Google // Google Developers. — Google, 2021 г.. — февр. 2021 г.. — https://developers.google.com/assistant/howassistantworks/developers?hl=ru.
6. Dialogflow [В Интернете] / авт. Google // Google. — Google, 2021 г.. — февр. 2021 г.. — https://cloud.google.com/dialogflow.
7. Бесплатные сервисы Machine Learning на AWS [В Интернете] / авт. Amazon Web Services // Amazon Web Services. — Amazon Web Services, 2021 г.. — март 2021 г.. — https://aws.amazon.com/ru/free/machine-learning/.
8. LiveTex Omni-channel [В Интернете] / авт. LiveTex // LiveTex. — LiveTex, 2021 г.. — февр. 2021 г.. — https://livetex.ru/omnikanalnost/.
9. Рекламная сеть Яндекса [В Интернете] / авт. Яндекс // Рекламная сеть Яндекса. — Яндекс, 2021 г.. — март 2021 г.. — https://partner2.yandex.ru.
10. AppMetrica [В Интернете] / авт. Яндекс // AppMetrica. — Яндекс, 2021 г.. — март 2021 г.. — https://appmetrica.yandex.ru.
11. Конкурентная стратегия: Методика анализа отраслей и конкурентов [Книга] / авт. Портер Майкл. — Москва : Альпина Бизнес Букс, 2005.
12. Как работает «Виртуальный рекрутер» от hh.ru — помощник в массовом подборе [В Интернете] / авт. Группа компаний HeadHunter. — Группа компаний HeadHunter, 05 окт. 2020 г.. — май 2021 г.. — https://hh.ru/article/27555.
13. Readiness for voice assistants to support healthcare delivery during a health crisis and pandemic [Журнал] / авт. Sezgin Emre [и др.]. — Seoul : npj Digital Medicine, 2020 г.. — 122.
14. Практикум по общей икогнитивной психологии: практи-кум [Книга] / авт. Лобанов Алексндр Павлович. — Минск : БГПУ, 2014.
15. Нейромаркетинг: Визуализация эмоций [Книга] / авт. Трайндл Арндт. — Москва : Альпина Паблишер, 2009.
16. Human-Computer Interaction with an Intelligence Virtual Analyst [В Интернете] / авт. Gouin Denis, Lavigne Valérie и Bergeron-Guyard Alexandre // researchgate.net. — researchgate.net, янв. 2012 г.. — апр. 2021 г.. — https://www.researchgate.net/publication/267861232.
17. Видео: В Японии создали робота с лицом 10-летнего мальчика [В Интернете] / авт. Акопова Кристина // Российская газета. — Российская газета, 13 авг. 2018 г.. — апр. 2021 г.. — https://rg.ru/2018/08/13/video-v-iaponii-sozdali-robota-s-licom-10-letnego-malchika.html#:~:text=%D0%AF%D0%BF%D0%BE%D0%BD%D1%81%D0%BA%D0%B8%D0%B9%20%D0%B8%D0%BD%D0%B6%D0%B5%D0%BD%D0%B5%D1%80%20%D0%A5%D0%B8%D1%80%D0%BE%D1%81%D0%B8%20%D0%98%D1%81%D0%B8%D0%B.
18. Introducing a Virtual Assistant to the Lab: A Voice User Interface for the Intuitive Control of Laboratory Instruments [Журнал] / авт. Austerjost Jonas [и др.]. — Hannover : Society for Laboratory Automation and Screening, 2018 г..
19. Teaching Alexa [Файл PDF] / авт. Häb‐Umbach Reinhold. — Paderborn, Germany : [б.н.], 2020 г..
20. Яндекс Станция Макс [В Интернете] / авт. Яндекс // Яндекс. — Яндекс, 2021 г.. — февр. 2021 г.. — https://yandex.ru/alice/station-max.
21. Discover a new perspective with Bixby Vision [В Интернете] / авт. Samsung Electronics Co., LTD // Samsung.com. — Samsung Electronics Co., LTD, 2021 г.. — февр. 2021 г.. — https://www.samsung.com/global/galaxy/apps/bixby/vision/.
22. Искусственный интеллект в области юриспруденции [В Интернете] / авт. Постный Игнат // habr.com. — habr.com, 09 июн. 2020 г.. — март 2021 г.. — https://habr.com/ru/post/506086/.
23. Вычислительные машины и разум [пер. с англ. К. Королева] [Книга] / авт. Тьюринг Алан. — Москва : АСТ, 2018.
24. How Inclusive Artificial Intelligence Is Disrupting Business and Society [В Интернете] / авт. Fair Kristy // Lenovo. — Lenovo, 19 июл. 2019 г.. — февр. 2021 г.. — https://news.lenovo.com/how-inclusive-artificial-intelligence-is-disrupting-business-and-society/.
25. A Review of Age Friendly Virtual Assistive Technologies and their Effect on Daily Living for Carers and Dependent Adults [Журнал] / авт. Marston Hannah Ramsden и Samuels Julie. — Buckinghamshire : Healthcare, 2019 г.. — 7, 49.
26. Теоретический минимум по Big Data. Всё, что нужно знать о больштих данных [Книга] / авт. Ын Анналин и Су Кеннет. — СПб : Питер, 2019.
27. Графические процессоры в решении современных IT-задач [В Интернете] / авт. Selectel // Хабр. — Хабр, 23 июл. 2018 г.. — март 2021 г.. — https://habr.com/ru/company/selectel/blog/417721/.
28. Почему TPU так хорошо подходят для глубинного обучения? [В Интернете] / авт. Голованов Вячеслав // Хабр. — Хабр, 05 сент. 2018 г.. — март 2021 г.. — https://habr.com/ru/post/422317/.
29. Как создать базу знаний, чтобы она стала «интеллектуальным активом» компании [В Интернете] / авт. ГК ЛАНИТ // Хабр. — Хабр, 08 дек. 2020 г.. — апр. 2020 г.. — https://habr.com/ru/company/lanit/blog/530634/.
30. A Virtual Assistant for Natural Interactions in Museums [Журнал] / авт. Duguleană Mihai [и др.]. — Romania : Sustainability, 2020 г.. — 12.

виртуальный помощник информационная система теория