Si parla spesso di bias cognitivi e bias dell’intelligenza artificiale. I bias sono preferenze o pregiudizi sistematici verso qualcosa o qualcuno. Questo articolo si concentra sui bias cognitivi, legati al funzionamento della mente umana, e sui bias algoritmici, che emergono nei sistemi di AI quando apprendono da dati distorti, esplorando la loro interazione. I bias cognitivi sono scorciatoie mentali utili per interpretare rapidamente informazioni e prendere decisioni in un ambiente sovraccarico. Tuttavia, possono portare a errori di valutazione. Questi bias rispondono a quattro esigenze principali: selezionare informazioni rilevanti, dare significato, agire rapidamente e decidere cosa ricordare. Ad esempio, il “bias di conferma” ci porta a focalizzarci solo su informazioni che confermano le nostre idee preesistenti, mentre l’“effetto alone” ci fa associare l’aspetto fisico a competenze intellettuali.
I bias algoritmici dipendono dai dati con cui l’AI è addestrata. Se i dati contengono pregiudizi, l’algoritmo li apprende e li amplifica. Esempi includono sistemi di riconoscimento facciale non in grado di riconoscere donne nere e algoritmi di selezione del personale che penalizzano CV femminili. Le nuove tecnologie possono anche istituzionalizzare disuguaglianze, prendendo di mira soggetti vulnerabili. Inoltre, l’interazione prolungata con AI biased può portare le persone a interiorizzare questi pregiudizi. Uno studio ha mostrato che chi interagisce con AI sessiste tende a sottovalutare le donne. Tuttavia, interagire con IA prive di bias può migliorare i giudizi umani. Pertanto, è fondamentale per i disviluppatori non solo evitare di perpetuare bias esistenti, ma anche di impedirne l’amplificazione.
Offerte imperdibili su Amazon