Crea sito
New York al bando all’AI per la selezione dei Curriculum

New York – Al bando l’Intelligenza Artificiale per la selezione dei Curriculum

New York vuole limitare l’utilizzo dell’intelligenza artificiale (AI) nei processi di selezione dei CV per l’assunzione dei dipendenti pubblici, secondo i dati non sarebbe imparziale.

La città di New York ha deciso di mettere al bando all’intelligenza artificiale per la selezione dei Curriculum.

Una scelta in netta controtendenza rispetto alle dinamiche americane sulla selezione del personale per i dipendenti pubblici.

In un mondo sempre più governato dalla tecnologia, sono state introdotte numerose limitazioni riguardo l’utilizzo dell’intelligenza artificiale nella selezione dei Curriculum.

Il parere degli esperti

I vertici dell’amministrazione cittadina hanno consultato diversi esperti nel settore dei dati.

I controlli del caso hanno confermato come i sistemi di AI utilizzati nei processi di scrematura dei CV, non sarebbero completamente neutrali nello scartare o nel far avanzare un candidato lungo il percorso di selezione.

Donne penalizzate

Già nel 2018 Reuters aveva scoperto che un sistema di intelligenza artificiale adottato da Amazon per scremare le candidature in base ai precedenti lavori svolti, non era del tutto neutrale perché penalizzava le donne.

E in effetti la preoccupazione dei leader newyorkesi sembra trovare fondamento nell’analisi dei dati.

New York - Al bando l'Intelligenza Artificiale per la selezione dei Curriculum

Ecco quindi la nuova proposta di legge arrivata sui tavoli del consiglio comunale.

Nella proposta è previsto l’obbligo di comunicare ad un candidato come verrà trattata la sua posizione.

Il candidato dovrà essere messo a conoscenza se sarà un computer dotato di intelligenza artificiale o da un essere umano a valutare il suo Curriculum.

Inoltre tutti gli strumenti informatici utilizzati nei processi di selezione dovranno essere sottoposti a verifiche annuali per controllare che non vi siano eventuali discriminazioni.

Le campagne contro l’uso indiscriminato della tecnologia da parte del Governo, sono già iniziate in diverse città.

Un uso incontrollato dell’AI

Molte amministrazioni hanno già bandito i sistemi di riconoscimento facciale delle persone, e lo hanno fatto anche per finalità anticrimine.

la stessa città di New York ha anche provveduto a vietare l’utilizzo di questi sistemi all’interno delle scuole.

Ma non solo le amministrazioni cittadine si stanno ponendo dubbi sull’impiego dell’intelligenza artificiale, tale preoccupazione si sta diffondendo anche tra diversi membri del Congresso.

Una questione politica

Lo scorso dicembre 2020, Una decina di Senatori, ha presentato una proposta di legge, nella quale viene chiesta una legislazione in grado di regolamentare l’utilizzo dell’intelligenza artificiale nella selezione del personale anche nelle aziende private.

Pare che la proposta sia sostenuta trasversalmente da democratici e repubblicani,

Alto infatti è il timore che questi sistemi possano accentuare disparità basate su razza o etnia, in un momento delicato come quello determinato la crisi economica dovuta alla pandemia.

Come fa un AI ad avere pregiudizi?

Ma qui la domanda sorge spontanea. Come è possibile che un sistema di AI possa avere pregiudizi di genere o di razza?

Tutto dipende ovviamente dalla bontà dei dati e dei processi che sono stati utilizzati per l’addestramento del sistema stesso.

Qualsiasi sistema di intelligenza artificiale, prima di poter essere impiegato, deve apprendere. Per far si che un sistema possa essere istruito gli si “danno in pasto” tantissimi dati da elaborare.

In questo caso, per insegnare ad una macchina se accettare o meno un profilo, vengono utilizzati i dati relativi a decine di migliaia di processi di selezione che sono già stati svolti in passato.

Il problema sta nei dati

Elaborando questi dati, il sistema identifica degli schemi, che poi tenderà a ripetere.

New York al bando all’AI per la selezione dei Curriculum

Appare quindi molto chiaro che se i dati di partenza sono falsati da tutta una serie di pregiudizi umani, come ad esempio da processi di selezione che in passato hanno penalizzato le donne o le minoranze, l’AI imparerà e si comporterà di conseguenza, un po’come capita ad un bambino che segue gli amici sbagliati.

E in Europa?

Certo anche nel vecchio continente l’attenzione verso la tematica è altissima: nel Libro Bianco sull’Intelligenza Artificiale della Commissione Europea si legge infatti che l’utilizzo dell’AI nei processi di selezione del personale è ad alto rischio, perché andrebbe ad incidere sui diritti dei lavoratori.

Per questo, la Commissione raccomanda, nei processi di addestramento dei sistemi di intelligenza artificiale, l’utilizzo di dati che tengano conto dei valori dell’Unione, in particolare quelli di parità e uguaglianza.

Insomma, forse siamo stati un pochino più lungimiranti degli americani.

it_ITItalian