Interacțiunea explicabilă om-AI - o perspectivă de planificare

Titlul original:

Explainable Human-AI Interaction - A Planning Perspective

Conținutul cărții:

Încă de la începuturile sale, inteligența artificială (AI) a avut o relație mai degrabă ambivalentă cu oamenii - oscilând între creșterea și înlocuirea acestora. În prezent, pe măsură ce tehnologiile AI pătrund în viața noastră de zi cu zi într-un ritm din ce în ce mai rapid, există o nevoie tot mai mare ca sistemele AI să lucreze în sinergie cu oamenii.

O cerință esențială pentru o astfel de interacțiune sinergică între om și AI este ca comportamentul sistemelor AI să poată fi explicat oamenilor din buclă. Pentru a face acest lucru în mod eficient, agenții AI trebuie să meargă dincolo de planificarea cu propriile lor modele ale lumii și să ia în considerare modelul mental al omului din buclă. Agenții AI au nevoie cel puțin de aproximări ale modelelor de sarcini și obiective ale omului, precum și de modelul uman al modelelor de sarcini și obiective ale agentului AI.

Primele vor ghida agentul să anticipeze și să gestioneze nevoile, dorințele și atenția oamenilor din circuit, iar cele din urmă îi vor permite să acționeze în moduri interpretabile pentru oameni (conformându-se modelelor mentale ale acestora) și să fie pregătit să ofere explicații personalizate atunci când este necesar. Autorii se bazează pe mai mulți ani de cercetare în laboratorul lor pentru a discuta modul în care un agent AI poate utiliza aceste modele mentale fie pentru a se conforma așteptărilor umane, fie pentru a schimba aceste așteptări prin comunicare explicativă.

Deși cartea se concentrează asupra scenariilor de cooperare, ea acoperă, de asemenea, modul în care aceleași modele mentale pot fi utilizate pentru ofuscare și înșelăciune. Cartea descrie, de asemenea, mai multe sisteme de aplicare din lumea reală pentru luarea deciziilor în colaborare care se bazează pe cadrul și tehnicile dezvoltate aici.

Deși se bazează în principal pe cercetările proprii ale autorilor în aceste domenii, fiecare capitol va oferi conexiuni ample la cercetările relevante din literatura mai largă. Subiectele tehnice abordate în carte sunt de sine stătătoare și sunt accesibile cititorilor cu o pregătire de bază în IA.