Human-Machine task allocation: Impact on patient safety in hospital settings

The paper aims at evaluating the impact of the tasks’ allocation between human and machine on the efficiency of work systems in the healthcare domain. Usability testing was performed to compare two different tasks’ allocations depending on two different systems (semi-automated system vs. manual system) for the tasks of preparing and administering the drugs in hospital settings. The results show that the allocation of tasks with the semi-automated system seems to produce a better performance in terms of task durations compared to the manual cabinet. Concerning safety goals, the semi-automated system seems to fix known common errors generated by the manual system. But it seems also to bring new errors more numerous that can be easily fixed. The main problem highlighted by the study lies in the risks of automation exposure over time. After a one-hour simulation, participants already have the feeling of loss of control and present a disengagement. The tasks’ allocation with the semi-automated system changes in fact the nature of the feedback provided to nurses and then under-specifies the cognitive operations of nurses. Design recommendations were given in order to give back part of the control to nurses through the reallocation of tasks.

RésuméCe travail s’intéresse à l’impact de l’allocation des tâches entre humain et machine sur l’efficacité des systèmes de travail. Il défend l’idée que la conception d’outils doit être centrée sur l’humain et non pas orientée par la technique. Pour cela, on peut considérer l’humain et la machine comme deux agents qui coopèrent ; on parle de Système Cognitif Joint lorsque dans ce contexte la tâche globale est considérée comme une tâche unique. La distribution des sous-tâches entre humain et machine doit alors tenir compte de l’interdépendance des tâches et permettre in fine la supervision de la tâche par l’humain. Le papier présente une étude de cas comparant par des tests utilisateurs deux allocations différentes de tâches selon deux systèmes différents de préparation et d’administration des médicaments : un système semi-automatisé et un système manuel. Neuf infirmiers ont participé à l’étude. Il leur a été demandé de (i) préparer les piluliers de trois patients et de (ii) donner les médicaments préparés à chacun des patients (comparses). Pour chaque ordonnance, après chaque fausse administration, ils ont dû rappeler les médicaments administrés. À la fin de la session de test, un débriefing a été réalisé ainsi qu’une cotation de leur satisfaction liée à l’usage du système automatisé. Les résultats montrent que la distribution des tâches avec le système semi-automatisé semble améliorer en partie la performance (gain de temps). Cependant, le système semi-automatisé semble également créer de nouvelles erreurs, plus nombreuses. Ces erreurs peuvent être facilement évitées par une re-conception du système. Le principal problème mis en évidence par l’étude vient de l’exposition prolongée à l’automatisation d’une partie des tâches. Après seulement une heure de simulation, les infirmiers ont déjà le sentiment de perdre le contrôle sur les tâches de préparation et d’administration des médicaments. Il semble, en effet, que le système semi-automatisé change la nature des retours d’informations donnés aux infirmiers menant à ce sentiment de perte de contrôle et à un désengagement de la part des infirmiers, voire même à terme à la création d’erreurs. Des recommandations de conception ont été données afin de produire des activations d’attention sur les spécifications d’actions en redonnant aux infirmiers certaines des tâches dévolues à la machine.