Pesquisadores desenvolvem técnica de IA para proteger dispositivos médicos de instruções anômalas

Dispositivos médicos complexos, como TC (tomografia computadorizada), MRI (imagem por ressonância magnética) e máquinas de ultrassom são controlados por instruções enviadas de um PC host.

Instruções anormais ou anômalas introduzem muitas ameaças potencialmente prejudiciais aos pacientes, como superexposição à radiação, manipulação de componentes do dispositivo ou manipulação funcional de imagens médicas. As ameaças podem ocorrer devido a ataques cibernéticos, erros humanos, como um erro de configuração do técnico ou bugs no software do PC host.

Arquitetura de camada dupla: técnica de IA para proteger dispositivos médicos

Como parte de seu Ph.D. pesquisa, BGU pesquisador Tom Mahler desenvolveu uma técnica usando a inteligência artificial que analisa as instruções enviadas a partir do PC para os componentes físicos usando uma nova arquitetura para a detecção de instruções anômalos.

“Desenvolvemos uma arquitetura de camada dupla para a proteção de dispositivos médicos contra instruções anômalas”, diz Mahler.

“A arquitetura se concentra na detecção de dois tipos de instruções anômalas: (1) instruções anômalas livres de contexto (CF), que são valores ou instruções improváveis, como fornecer 100x mais radiação do que o normal e (2) instruções anômalas sensíveis ao contexto (CS) , que são valores normais ou combinações de valores de parâmetros de instrução, mas são considerados anômalos em relação a um contexto específico, como incompatibilidade do tipo de varredura pretendido ou incompatibilidade de idade, peso ou diagnóstico potencial do paciente.

“Por exemplo, uma instrução normal destinada a um adulto pode ser perigosa [anômala] se aplicada a um bebê. Essas instruções podem ser classificadas incorretamente ao usar apenas a primeira camada, CF. no entanto, adicionando a segunda camada, CS, eles agora podem ser detectados. ”

Melhorando o desempenho de detecção de anomalias

A equipe de pesquisa avaliou a nova arquitetura no domínio de CT, usando 8.277 instruções de CT gravadas e avaliou a camada de CF usando 14 diferentes algoritmos de detecção de anomalias não supervisionadas. Em seguida, eles avaliaram a camada CS para quatro tipos diferentes de contextos de objetivos clínicos, usando cinco algoritmos de classificação supervisionada para cada contexto.

Adicionar a segunda camada de CS à arquitetura melhorou o desempenho geral de detecção de anomalias de uma pontuação F1 de 71,6%, usando apenas a camada de CF, para entre 82% e 99%, dependendo do objetivo clínico ou da parte do corpo.

Além disso, a camada CS possibilita a detecção de anomalias CS, utilizando a semântica do procedimento do dispositivo, um tipo de anomalia que não pode ser detectado utilizando apenas a camada CF.

Fonte: https://www.helpnetsecurity.com/2020/08/27/ai-protect-medical-devices/