L’intelligenza artificiale (IA) e l’autonomia sono concetti molto diffusi, utilizzati per indicare una varietà di tecnologie cosiddette “intelligenti” o di funzioni automatizzate di diversi sistemi tecnologici. Allo stesso tempo, il significato esatto e l’ambito del concetto di IA non sono chiari né comuni tra le diverse discipline. Questo ha implicazioni significative su come le tecnologie vengono di fatto adottate. Nell’interazione umano-macchina, spesso le persone tendono a manifestare un pregiudizio dell’automazione, ossia a conferire maggiore autorità alle decisioni e raccomandazioni delle macchine rispetto a quelle prese dagli esseri umani. Questa situazione è problematica perché consentiamo ai sistemi di IA di filtrare la nostra esperienza nel mondo reale e di influenzare le decisioni che prendiamo, basandoci su rappresentazioni filtrate che sono spesso imprecise e insufficienti. Il saggio esamina casi recenti di automation bias e di “antropomorfismo” in relazione all’IA, e sottolinea i pericoli legati a una fiducia eccessiva negli output generati da questa tecnologia.