Causal Fairness Analysis: Un set de instrumente cauzale pentru învățarea corectă a mașinilor

Titlul original:

Causal Fairness Analysis: A Causal Toolkit for Fair Machine Learning

Conținutul cărții:

Recenta creștere a interesului pentru sistemele de inteligență artificială a stârnit preocupări din punct de vedere moral cu privire la utilizarea etică a acestora și la capacitatea lor de a demonstra procese decizionale echitabile.

Problemele legate de nedreptate și discriminare sunt omniprezente atunci când deciziile sunt luate de oameni și sunt potențial amplificate atunci când deciziile sunt luate cu ajutorul mașinilor cu puțină transparență, responsabilitate și echitate. În această monografie, autorii introduc un cadru de analiză a echității cauzale pentru a înțelege, a modela și, eventual, a rezolva problemele de echitate în cadrul procesului decizional al IA.

Autorii leagă cuantificarea disparităților prezente în datele observate de colecția de mecanisme cauzale subiacente, adesea neobservate, care generează disparitatea în primul rând, o provocare pe care o numesc Problema fundamentală a analizei echității cauzale (FPCFA). Pentru a rezolva FPCFA, ei studiază variațiile de cartografiere și măsurile empirice de echitate pentru mecanismele structurale și diferitele unități ale populației, culminând cu Harta echității. Această monografie prezintă prima încercare sistematică de a organiza și de a explica relația dintre diferitele criterii ale echității și studiază ipotezele cauzale necesare pentru efectuarea analizei cauzale a echității.

Cartea de bucate a corectitudinii rezultată permite oricui să evalueze existența impactului disparat și a tratamentului disparat. Este o introducere oportună și importantă pentru dezvoltarea viitoarelor sisteme de inteligență artificială care încorporează echitatea inerentă și, ca atare, va fi de mare interes nu numai pentru proiectanții de sisteme de inteligență artificială, ci și pentru toți cei interesați de impactul mai larg pe care inteligența artificială îl va avea asupra societății.