Perguntas e respostas: Avaliação de ferramentas de IA para assistência médica com a Northwestern Medicine

HEALTHTECH: Como você avalia as soluções de IA na Northwestern Medicine? Por onde você começa?

KOCZKA: Primeiro, tentamos entender quais são nossos requisitos e objetivos, identificando os desafios ou áreas específicas onde a IA pode agregar valor. Na Northwestern Medicine, nosso foco está em três áreas principais: melhorar os resultados dos pacientes, otimizar as operações e aprimorar os diagnósticos. Depois de identificar esses desafios e as subáreas, pesquisamos soluções e investigamos as diversas soluções de IA disponíveis para ver quais se alinham às nossas necessidades identificadas.

Na Northwestern Medicine, também temos nossas próprias equipes de desenvolvimento de IA. Portanto, antes de implementar qualquer solução externa de IA , nossa equipe avalia se não se trata de algo que tenha funcionalidade duplicada com algo já implementado pela NM. Se for determinado que uma solução é adequada, avaliaremos a viabilidade da integração de dados e garantiremos a conformidade regulatória necessária.

Nossa equipe também avaliará a facilidade de uso da IA ​​pelos funcionários e sua capacidade de integração aos fluxos de trabalho atuais sem causar interrupções prejudiciais. Também é essencial que entendamos as implicações financeiras em relação aos benefícios esperados.

HEALTHTECH: Como sua organização aborda a IA e a governança de dados? São abordagens distintas ou estão conectadas?

KOCZKA: Eles estão conectados, mas são grupos diferentes que avaliam IA e governança de dados . Inicialmente, lidamos com a governança de IA de um ponto de vista mais técnico. Depois, se a solução atender a essas verificações, passamos para nossas equipes de segurança e privacidade de dados, arquitetura e todas essas outras avaliações. Abordamos uma tecnologia de IA como abordaríamos qualquer solução de software que desejamos implementar na organização.

Nossa equipe de inovação busca encontrar o ambiente ideal para pilotar e testar essas soluções de IA em um ambiente mais controlado antes de permitir uma implementação mais ampla. Coletamos feedback, monitoramos e avaliamos essas soluções assim que elas são implementadas de forma mais completa em toda a organização.

EXPLORE: Como as organizações de saúde podem superar os obstáculos da implementação da IA?

HEALTHTECH: Qual a importância de os parceiros de soluções de IA terem experiência na área da saúde? Quais são os seus critérios para parcerias?

KOCZKA: Um parceiro com experiência em saúde é crucial, e acredito que há vários motivos para isso. Um deles seria o conhecimento do setor: a saúde é uma área muito complexa, com requisitos regulatórios e fluxos de trabalho únicos . Os fornecedores precisam entender essas complexidades para, então, desenvolver soluções que as abordem de forma mais eficaz.

Quando analisamos a conformidade e as regulamentações, fornecedores familiarizados com os padrões do nosso setor, como a HIPAA, geralmente garantem que suas soluções atendam aos requisitos. Se tiverem experiência em saúde, eles têm experiência na integração de seus produtos com tecnologias de saúde existentes, o que leva a uma implantação mais rápida e tranquila da tecnologia.

Sucesso comprovado também é um fator essencial. Eles devem nos fornecer estudos de caso ou referências que demonstrem a eficácia e a confiabilidade de suas soluções no contexto da saúde. Além disso, soluções que possam ser personalizadas para nosso uso também são essenciais.

Identificamos parceiros-chave por meio de networking e simplesmente ouvindo o que há de novo no mercado. Nossa equipe se mantém atualizada por meio de eventos como HIMSS e ViVE, além de seminários. Somos gratos pelas inúmeras trocas de experiências entre colegas, que frequentemente levam a insights valiosos, e pelo acesso a pesquisas de mercado. Avaliações e reconhecimentos do setor também são fatores considerados por nossa equipe.

Nossa equipe também avalia há quanto tempo um parceiro está no mercado e os tipos de outras organizações de saúde com as quais ele já trabalhou. Eu diria que trazemos uma boa combinação de soluções de IA, desde empresas consolidadas do setor até startups. Gostamos de ser os primeiros a lançar no mercado ou ajudar startups a desenvolver seus produtos em nosso ambiente.

KOCZKA: Na Northwestern Medicine, nossa estrutura é ter equipes multifuncionais avaliando soluções, desenvolvendo desde o início uma equipe que inclua representantes das áreas clínicas relevantes, TI, operações e administração, o que incentiva a diversidade de perspectivas e o compartilhamento de conhecimento. É fundamental articular claramente os objetivos da solução de IA e como ela beneficiará cada departamento ou parte interessada que possa ser impactada por seu uso.

Se uma solução for apresentada, nós a testamos rapidamente e tentamos ter grupos piloto de diferentes departamentos que testarão a solução de IA em um ambiente controlado . Ter mais experiência prática com a tecnologia realmente ajuda a construir essa natureza e processo colaborativos para o projeto.

Em seguida, nossa equipe acompanhará se os pilotos devem continuar avançando ou recuar. Oferecemos bons canais de comunicação aberta para feedback, permitindo que façamos ajustes rápidos. É importante envolver esses usuários desde o início e obter suas contribuições sobre requisitos e fluxos de trabalho. Acho que é como qualquer projeto que você esteja tentando implementar.

Nossa expectativa é que nossos parceiros demonstrem a tecnologia, mostrando exemplos reais de como a solução de IA pode simplificar uma tarefa, aumentar a eficiência ou aprimorar os resultados dos pacientes. É fundamental também celebrar os primeiros sucessos, o que, acredito, ajuda a construir uma adoção mais ampla ao longo do tempo.

A Northwestern Medicine possui um processo robusto de governança executiva para avaliar todas as soluções tecnológicas, incluindo IA. Nosso comitê executivo é multidisciplinar, com representantes das áreas de finanças, operações, TI, conformidade e clínica. Normalmente, eles não são necessariamente stakeholders e podem ou não usar a tecnologia, mas nos ajudam a avaliar nossas soluções e a entender verdadeiramente a análise de custo-benefício. Eles analisam como a solução se alinha aos nossos objetivos estratégicos, se ela impulsionará a eficiência operacional e coisas do tipo.

A parte executiva vem um pouco mais tarde em nosso processo, porque podemos não ter um piloto bem-sucedido ou os usuários podem decidir que a solução não é algo que funcione para eles. Então, trazemos nossa equipe executiva no final, caso haja uma solicitação para uma implantação mais ampla da tecnologia.

HEALTHTECH: Que conselho você daria a outras organizações de saúde que buscam abordar as preocupações dos usuários desde o início?

KOCZKA: A comunicação aberta é fundamental. Tentamos ser muito transparentes em relação aos nossos objetivos, aos processos e às implicações do projeto, garantindo que as partes interessadas estejam cientes do que esperar durante a implementação e o uso da tecnologia.

É crucial manter as partes interessadas envolvidas e engajadas desde o início do projeto e fazer com que se sintam valorizadas e ouvidas. Frequentemente, temos comitês consultivos, o que depende do tamanho do projeto e de quantas pessoas serão impactadas na organização. Esses comitês podem fornecer feedback e orientação contínuos.

Educação e treinamento são outras áreas críticas , por isso usamos os recursos do fornecedor para explicar a nova tecnologia e seus benefícios e trazemos nossas próprias equipes técnicas e de arquitetura para explicar como isso pode ser integrado aos fluxos de trabalho atuais.

Além disso, é importante abordar equívocos sobre a tecnologia de IA. Frequentemente, mostramos exemplos do mundo real e enfatizamos que a IA visa aprimorar as funções humanas. Se não formos os primeiros a usar a tecnologia, mostramos exemplos de como essa IA impactou positivamente outras organizações e nos concentramos em como isso permite melhorar o atendimento ao paciente e a eficiência operacional.

Clique no banner abaixo para descobrir como aproveitar dados e IA para obter melhores resultados na área da saúde.

HEALTHTECH: Quais são os desafios que ainda persistem no setor de IA na área da saúde? O que melhorou?

KOCZKA: Manter a privacidade e a segurança dos dados é fundamental, especialmente na área clínica. Analisamos dados muito sensíveis de pacientes e precisamos garantir a conformidade com a HIPAA. Essas questões são complicadas, mas obviamente primordiais antes de qualquer outra coisa.

A qualidade e a padronização dos dados continuam sendo outro desafio persistente. As tecnologias de IA dependem de dados padronizados e de alta qualidade para aprendizagem e desempenho eficazes, e inconsistências nos formatos e na qualidade dos dados entre diferentes sistemas de saúde podem prejudicar o desenvolvimento ou a produção da IA. A integração com tecnologias existentes também é complexa e exige muitos recursos, mas, se isso não for feito, haverá desafios de interoperabilidade, especialmente no aspecto clínico.

Entender a eficácia clínica e a segurança dessas soluções de IA também é importante, por isso queremos garantir que haja estudos de validação robustos e evidências do mundo real , o que, francamente, ainda é um obstáculo significativo para muitas dessas tecnologias.

Superar vieses é outra questão. Sabemos que as tecnologias de IA podem perpetuar ou exacerbar vieses existentes se não forem treinadas com dados não representativos. Por isso, falamos muito sobre a diversidade da nossa base de pacientes quando desenvolvemos nossas próprias tecnologias de IA, o que contribui para a diversidade dos seus dados e pode mitigar esses tipos de problemas. Pode ser difícil incorporar tecnologias de IA externas, porque nem sempre se tem certeza de como esses algoritmos foram treinados e se tenta evitar disparidades no atendimento. Às vezes, isso pode significar retreinar o algoritmo de IA com base nos seus dados.

LIDERE MAIS: Crie uma estratégia de IA mais inteligente para sua organização.

A aceitação e a adoção pelos usuários ainda são questões problemáticas. Como em muitos setores, você encontrará profissionais que podem ser céticos ou resistentes ao uso dessas tecnologias. Na Northwestern Medicine, obviamente não queremos complicar a tomada de decisões clínicas, portanto, garantir a qualidade e a validação clínica para ajudar a conquistar a confiança levará a uma adoção bem-sucedida.

Acredito que ainda haja incerteza regulatória. O cenário da IA ​​na área da saúde ainda está em evolução. Estamos vendo diferentes regulamentações surgindo da Food and Drug Administration (FDA) dos EUA, e essas coisas provavelmente mudarão. Isso torna mais desafiador para que mais soluções de IA tenham acesso ao mercado e levem essas tecnologias aos sistemas de saúde.

Dito isso, acredito que estamos vendo grupos de recursos que permitem um acesso mais aprimorado e fácil a dados de qualidade , o que, por sua vez, aprimora o treinamento em IA. Há avanços que levaram a algoritmos mais sofisticados, capazes de analisar fluxos de trabalho de dados de saúde grandes e complexos, o que, por sua vez, leva a uma maior precisão diagnóstica e capacidades preditivas.

Atualmente, também existem inúmeros consórcios, o que aumenta a colaboração entre diferentes organizações e ajuda a fomentar a inovação. Alguns desses grupos são formados por grandes empresas do setor, ou por provedores de saúde que estão formando os seus próprios.