Avaliação de um Sistema de Reconhecimento de Atividade Humana baseado em Smartphone em uma Vida Diária Ambiente

Resumo

A standardized evaluation method was developed for Wearable Mobility Monitoring Systems (WMMS) that includes continuous activities in a realistic daily living environment. Testing with a series of daily living activities can decrease activity recognition sensitivity; therefore, realistic testing circuits are encouraged for valid evaluation of WMMS performance.

Resumo

An evaluation method that includes continuous activities in a daily-living environment was developed for Wearable Mobility Monitoring Systems (WMMS) that attempt to recognize user activities. Participants performed a pre-determined set of daily living actions within a continuous test circuit that included mobility activities (walking, standing, sitting, lying, ascending/descending stairs), daily living tasks (combing hair, brushing teeth, preparing food, eating, washing dishes), and subtle environment changes (opening doors, using an elevator, walking on inclines, traversing staircase landings, walking outdoors).

To evaluate WMMS performance on this circuit, fifteen able-bodied participants completed the tasks while wearing a smartphone at their right front pelvis. The WMMS application used smartphone accelerometer and gyroscope signals to classify activity states. A gold standard comparison data set was created by video-recording each trial and manually logging activity onset times. Gold standard and WMMS data were analyzed offline. Three classification sets were calculated for each circuit: (i) mobility or immobility, ii) sit, stand, lie, or walking, and (iii) sit, stand, lie, walking, climbing stairs, or small standing movement. Sensitivities, specificities, and F-Scores for activity categorization and changes-of-state were calculated.

The mobile versus immobile classification set had a sensitivity of 86.30% ± 7.2% and specificity of 98.96% ± 0.6%, while the second prediction set had a sensitivity of 88.35% ± 7.80% and specificity of 98.51% ± 0.62%. For the third classification set, sensitivity was 84.92% ± 6.38% and specificity was 98.17 ± 0.62. F1 scores for the first, second and third classification sets were 86.17 ± 6.3, 80.19 ± 6.36, and 78.42 ± 5.96, respectively. This demonstrates that WMMS performance depends on the evaluation protocol in addition to the algorithms. The demonstrated protocol can be used and tailored for evaluating human activity recognition systems in rehabilitation medicine where mobility monitoring may be beneficial in clinical decision-making.

Introdução

Sensoriamento Ubiquitous tornou-se uma área de pesquisa de contrato devido à cada vez mais poderosos,, computação de baixo custo pequeno e equipamento de ^um sensor. Monitoramento mobilidade usando sensores portáteis tem gerado um grande interesse desde a microeletrônica do consumidor-nível são capazes de detectar características de movimento com alta precisão ^1. Reconhecimento atividade humana (HAR) usando sensores portáteis é uma área recente da pesquisa, com estudos preliminares realizados na década de 1980 e 1990 ^2-4.

Smartphones modernos contêm os sensores necessários e capacidade de computação em tempo real para o reconhecimento actividade de mobilidade. Análise em tempo real no dispositivo permite a classificação de atividades e fazer o upload de dados sem intervenção do usuário ou investigador. Um smartphone com software de análise de mobilidade poderia fornecer rastreamento de fitness, vigilância da saúde, queda de detecção, em casa ou trabalho de automação e auto-gestão exercise programas ^5. Smartphones podem ser considerados plataformas de medição inercial para a detecção de actividades móveis e padrões móveis em humanos, usando recursos de sinais matemáticos gerados calculados com saídas de sensores a bordo ^6. Métodos de geração de recursos comuns incluem heurística, no domínio do tempo, no domínio da freqüência, e wavelet abordagens baseadas em análise ^7.

Sistemas de smartphones HAR modernos têm mostrado altas precisões de previsão ao detectar atividades especificadas ^1,5,6,7. Esses estudos variam em metodologia de avaliação, bem como a precisão pois a maioria dos estudos tem seu próprio conjunto de treinamento, configuração ambiental, e protocolo de coleta de dados. A sensibilidade, especificidade, precisão, recall, precisão, e F-Score são comumente usados ​​para descrever a qualidade de previsão. No entanto, pouca ou nenhuma informação está disponível sobre os métodos de reconhecimento "atividade concorrente" e avaliação da capacidade de detectar mudanças de atividade em tempo real^1, para sistemas de HAR que tentam categorizar diversas atividades. Métodos de avaliação para a precisão do sistema HAR variar substancialmente entre os estudos. Independentemente do algoritmo de classificação ou recursos aplicados, descrições de métodos de avaliação padrão ouro são vago para a maioria das pesquisas HAR.

Reconhecimento atividade em um ambiente de vida diária não tem sido extensivamente pesquisada. A maioria dos sistemas de reconhecimento de actividade à base de smartphones são avaliados de uma forma controlada, conduzindo a um protocolo de avaliação que pode ser vantajoso para o algoritmo em vez de realista para um ambiente do mundo real. Dentro de seu esquema de avaliação, os participantes muitas vezes executar apenas as ações pretendidas para a previsão, em vez de aplicar uma grande variedade de actividades realista para o participante para executar consecutivamente, imitando os eventos da vida real.

Alguns HAR smartphones estuda ^8,9 grupo actividades semelhantes em conjunto, tais como escadas e caminhar, Mas excluem outras atividades a partir do conjunto de dados. Precisão da previsão é então determinado pela forma como o algoritmo identificou as atividades-alvo. Dernbach et al. ⁹ teve participantes escrever a atividade que eles estavam prestes a executar antes de se mudar, interrompendo transições contínuas de mudança de estado. Avaliações de sistemas de HAR devem avaliar o algoritmo enquanto o participante realiza ações naturais em um ambiente vida diária. Isso permitiria uma avaliação da vida real que replica o uso diário do pedido. Um circuito realista inclui muitas mudanças de estado, bem como uma combinação de acções não previsíveis pelo sistema. Um investigador pode então avaliar a resposta do algoritmo para esses movimentos adicionais, avaliando assim a robustez do algoritmo para movimentos anômalos.

Este trabalho apresenta um protocolo de avaliação Sistema de Monitoramento de Mobilidade Wearable (WMMS) que usa um campo controlado que reflete na vida real ambientes de vida diárias. WMMSavaliação pode então ser feita sob condições controladas, mas realistas. Neste protocolo, usamos uma WMMS de terceira geração que foi desenvolvido na Universidade de Ottawa e Ottawa Hospital Research Institute ^11-15. O WMMS foi projetado para smartphones com um acelerômetro tri-eixo e giroscópio. O algoritmo de mobilidade representa variabilidade de utilizador, proporciona a redução do número de falsos positivos para a identificação de alterações de estado, e aumenta a sensibilidade na categorização actividade. Minimizando falsos positivos é importante uma vez que o WMMS dispara a gravação do clipe de vídeo curto quando são detectadas mudanças de estado de atividade, para avaliação da atividade sensível ao contexto que melhora ainda mais a classificação WMMS. Gravação de vídeo desnecessário cria ineficiências no armazenamento e uso da bateria. O algoritmo WMMS é estruturado como um modelo de baixo computacional aprendizagem e avaliada utilizando diferentes níveis de previsão, onde um aumento no nível de previsão significa um aumento na quantidadeações de reconhecível.

Protocolo

Este protocolo foi aprovado pelo Conselho de Ética em Pesquisa Ottawa Rede de Ciências da Saúde.

1. Preparação

1. Proporcionar aos participantes um resumo da investigação, responder a quaisquer perguntas, e obter o consentimento informado. Características dos participantes de registro (por exemplo, idade, sexo, altura, peso, circunferência da cintura, altura da perna a partir da espinha ilíaca anterior superior ao maléolo medial), código de identificação, data e em uma folha de dados. Certifique-se de que o segundo smartphone que é usada para capturar vídeo está definida para pelo menos 30 quadros por segundo taxa de captura.
2. Firmemente anexar um coldre de telefone para cinto ou calça de cintura frontal direito do participante. Inicie o aplicativo de smartphone que será usado para coletar os dados do sensor (ou seja, de registro de dados ou aplicativos WMMS) na medição de smartphones mobilidade e garantir que o aplicativo está sendo executado de forma apropriada. Colocar o smartphone no estojo, com a parte traseira do dispositivo (ca traseiraMera) voltado para fora.
3. Iniciar a gravação de vídeo digital em um segundo smartphone. Para anonimato, gravar o vídeo de comparação sem mostrar o rosto da pessoa, mas garantir a gravar todas as transições de atividade. O telefone pode ser de mão.

2. Actividade Circuito

1. Siga o participante e vídeo de suas ações, no segundo smartphone, enquanto eles executam as seguintes ações, ditas pelo investigador:
   1. A partir de uma posição de pé, agitar o smartphone para indicar o início do julgamento.
   2. Continuar em repouso durante pelo menos 10 seg. Esta fase de pé pode ser usado para a calibração orientação telefone ^14.
   3. Caminhe até uma cadeira próxima e se sentar.
   4. Levante-se e caminhar 60 metros para um elevador.
   5. Levante-se e esperar o elevador e, em seguida, entrar no elevador.
   6. Pegue o elevador para o segundo andar.
   7. Virar e ir para o ambiente doméstico.
   8. Caminhe até o banheiro e simular escovar os dentes.
   9. Simule penteando o cabelo.
   10. Simular a lavagem das mãos.
   11. Seque as mãos com uma toalha.
   12. Caminhe até a cozinha.
   13. Tome pratos de um rack e coloque-os sobre o balcão.
   14. Encha uma chaleira com água da pia da cozinha.
   15. Coloque a chaleira no fogão elemento.
   16. Coloque o pão em uma torradeira.
   17. Caminhe até a sala de jantar.
   18. Sente-se em uma mesa da sala de jantar.
   19. Simular uma refeição à mesa.
   20. Levante-se e caminhar de volta para a pia da cozinha.
   21. Enxaguar os pratos e colocá-los em um rack.
   22. A pé da cozinha de volta ao elevador.
   23. Levante-se e esperar o elevador e, em seguida, entrar no elevador.
   24. Pegue o elevador para o primeiro andar.
   25. Andar 50 metros a uma escada.
   26. Abra a porta e entrar na escada.
   27. Subir escadas (13 passos, cerca de pouso, 13 passos).
   28. Abra a porta da escada para o corredor.
   29. Vire à direita e andar pelo corredor por 15 metros.
   30. Vire-se e andar 15 metros de volta para a escada.
   31. Abra a porta e entrar na escada.
   32. Descer as escadas (13 passos, cerca de pouso, 13 passos).
   33. Saia da escada e entra em uma sala.
   34. Deite-se de uma cama.
   35. Levante-se e caminhar 10 metros para uma rampa.
   36. Caminhe até a rampa, vire-se, em seguida, descer a rampa (20 metros).
   37. Continue caminhando para o corredor e abrir a porta para fora.
   38. Caminhe 100 metros da via pavimentada.
   39. Vire-se e caminhar de volta para o quarto.
   40. Entra na sala e ficar no ponto de partida.
   41. Continuar de pé, e, em seguida, agitar o smartphone para indicar o fim do julgamento.

3. Teste de Conclusão

1. Parar a gravação de vídeo do smartphone e pedir ao participante para remover e retornar o smartphone e coldre. Parar o log de dados ou aplicação WMMS na smartphone. Copie os arquivos de dados de movimento adquiridos e do arquivo de vídeo de ambos os telefones a um computador para o pós-processamento.

4. Pós-processamento

1. Sincronizar tempo entre o vídeo e os dados do sensor cru, determinando o tempo quando a ação começou trepidação. Este movimento de agitação corresponde a um sinal acelerômetro e vídeo moldura distinto. Verifique se há erro de sincronização subtraindo a hora de agitação de final do tempo shake de início, para fontes de dados de sensores e vídeo. As diferenças de tempo deve ser semelhante entre os dois conjuntos de dados.
2. Determine os tempos reais de mudança de estado do vídeo padrão-ouro, registrando a diferença de tempo a partir do momento shake de começo para o quadro de vídeo na transição entre atividades. Use software de edição de vídeo para obter tempo para dentro de 0,033 sec (ou seja, 30 quadros por segundo taxa de vídeo). Use software WMMS para gerar mudanças de estado comparáveis ​​a partir dos dados do sensor.
3. Gerar dois conjuntos de dados, umcom atividades verdadeiras e o segundo com actividades previstas, por marcação da actividade para cada quadro de vídeo (com base na mudança de estado de sincronismo) e calculando em seguida a actividade prevista, em cada tempo de quadro de vídeo a partir da saída WMMS. Para avaliação de desempenho WMMS, calcular verdadeiros positivos, falsos negativos, verdadeiros negativos, falsos positivos entre a atividade padrão-ouro e WMMS previu atividade. Use esses parâmetros para calcular medidas de desfechos sensibilidade, especificidade, e F-score.
   Nota: A definição de tolerância de 3 janelas de dados de cada lado da janela que está sendo analisado pode ser usado para determinar os resultados de mudança de estado, e 2 janelas de dados para os resultados de classificação. Por exemplo, desde 1 segundo janelas de dados foram utilizados para a WMMS neste estudo, 3 seg antes e depois da janela de corrente foram examinados de modo a que as alterações consecutivos dentro desta tolerância são ignorados. A consideração foi que as mudanças de estado que acontecem em menos de 3 segundos pode ser ignorado para huma brutaanálise de movimento n uma vez que estes estados seria considerado transitório.

Resultados

O protocolo do estudo foi realizado com uma amostra de conveniência de quinze participantes sãos cuja média de peso foi de 68,9 (± 11,1) kg, altura era de 173,9 (± 11,4) cm, ea idade foi de 26 (± 9) anos, recrutados a partir do Hospital de Ottawa e Universidade de Ottawa equipe e alunos. Um smartphone capturado dados do sensor a uma taxa de 40-50 Hz variável. Variações da taxa de amostra são típicos para a amostragem do sensor smartphone. Um segundo aparelho foi usado para gravar vídeo digital em 1280x720 (7...

Discussão

Reconhecimento atividade humana com um sistema de monitoramento de mobilidade wearable tem recebido mais atenção nos últimos anos devido aos avanços técnicos em computação e smartphones wearable e necessidades sistemáticas para medidas de resultados quantitativos que ajudam na tomada de decisão clínica e avaliação de intervenção em saúde. A metodologia descrita neste trabalho foi eficaz para avaliar o desenvolvimento WMMS desde foram encontrados erros de classificação de atividade que não estaria prese...

Materiais

Name	Company	Catalog Number	Comments
Smartphone or wearable measurement device	Blackberry	Z10
Smartphone for video recording	Blackberry	Z10 or 9800
Phone holster	Any
Data logger application for the smartphone	BlackBerry World - TOHRC Data Logger for BlackBerry 10		http://appworld.blackberry.com/webstore/content/32013891/?countrycode=CA
Wearable mobility measurement	Custom Blackberry 10 and Matlab software for mobility monitoring		http://www.irrd.ca/cag/smartphone/
Video editing or analysis software	Motion Analysis Tools		http://www.irrd.ca/cag/mat/