Sistemele care decid cine primește un împrumut, cine primește eliberarea condiționată și al cui CV ajunge la un manager de angajare necesită o analiză atentă. Etica inteligenței artificiale examinează întrebările morale ridicate de aceste sisteme, de la corectitudine și responsabilitate până la confidențialitate și autonomie.

Domeniul se situează între filosofie, drept și inginerie. Se întreabă cine este responsabil atunci când un sistem autonom provoacă daune, cum să se auditeze modelele opace și dacă anumite aplicații ar trebui să existe. Recunoașterea facială, poliția predictivă și angajarea automatizată atrag toate dezbateri susținute.

Preocupări recurente

• Bias codificat în datele de antrenament
• Lipsa de transparență în procesul decizional
• Supraveghere și consimțământ
• Responsabilitate atunci când sistemele eșuează
• Concentrarea puterii în câteva companii

Reglementările rămân în urma implementării. Legea UE privind inteligența artificială și propuneri similare vizează stabilirea unor reguli, dar aplicarea acestora rămâne inegală. Practicienii adoptă din ce în ce mai mult comisii interne de revizuire și evaluări ale impactului, deși criticii susțin că aceste măsuri sunt prea voluntare.