Investigação
A minha investigação pergunta como as pessoas confiam na IA em contextos de tomada de decisão: quando confiam demasiado, quando contrariam as sugestões da IA e quando as seguem de forma apropriada, e que intervenções deviam ser usadas para melhorar a colaboração e o resultado da decisão. Já conduzi estudos em vários contextos: avaliação clínica, deteção de desinformação e tomada de decisão em grupo. A par desses estudos, construí uma framework conceptual para a tomada de decisão assistida por IA que reúne as conclusões da área numa única estrutura, para investigadores e profissionais que precisam de conceber ou avaliar estes sistemas, e para um público mais geral que queira melhorar a sua literacia em IA e a compreensão do seu impacto.
AI-Assisted Decision-Making
Uma framework para a tomada de decisão assistida por IA, construída a partir de uma base de evidência de estudos científicos. Toda a decisão assistida por IA tem três componentes: o Humano e a Tarefa, que caracterizam cada contexto de decisão, e o ecossistema de IA, a única componente que pode ser trabalhado para melhorar a colaboração. A framework é pública, e vai sendo atualizadaa à medida que a base de evidência cresce.
Todas as publicações
- AI assistance in medical decision-making: the role of recommendations and explanations in simulated clinical cases ACM Transactions on Computing for Healthcare Link
- Effects of interaction and explanation type on human-AI collaboration for fake news detection IEEE Access Link
- Large language models approach clinician performance in ESC cardiovascular risk stratification: a vignette-based benchmark study European Heart Journal - Digital Health Link
- Dissecting medical referrals in health services: role of physician professional networks BMC Health Services Research Link
- The amplifying effect of explainability in AI-assisted decision-making in groups CHI 2025: ACM Conference on Human Factors in Computing Systems Link
- Assistant robots with an agenda foster uncooperative behaviors 2025 IEEE International Conference on Robot and Human Interactive Communication (RO-MAN) Link
- Looking for cognitive bias in AI-assisted decision-making HHAI Workshops Link
- AI trust: Can explainable AI enhance warranted trust? Human Behavior and Emerging Technologies Link