Estudo processos de tomada de decisão assistidos por IA. Para já, isso significa as interações em micro escala: uma pessoa tem uma decisão a tomar, uma IA sugere uma resposta, e essa pessoa tem de decidir se confia nela. A seguir, quero perceber no que é que isso se traduz à escala macro: como a IA está a transformar hospitais e instituições de investigação, e o que as políticas públicas deviam fazer quanto a isso.
Doutoranda, IST e INESC-ID · Lisboa, Portugal
AI recommendations and explanations can enhance medical performance, but do not consistently improve efficiency. In complex clinical cases, AI explanations significantly improved diagnostic accuracy but also led to higher resource use, with participants ordering more unnecessary exams.
The impact of XAI is more pronounced in decision-making with groups. Groups rely less on incorrect AI recommendations when explanations are available, but they rely more on incorrect AI recommendations when explanations are absent, compared to individual decision-makers.
The presence of explanations in AI-Assisted Decision-Making increases AI trust but only in certain conditions. When the AI system performance is not guaranteed, the use of explanations may lead to over-reliance.