Systemen die bepalen wie een lening krijgt, wie voorwaardelijk vrijkomt en wiens cv een recruiter bereikt, vereisen nader onderzoek. AI-ethiek onderzoekt de morele vragen die deze systemen oproepen, van eerlijkheid en verantwoording tot privacy en autonomie.

Het vakgebied bevindt zich op het snijvlak van filosofie, recht en techniek. Het stelt vragen over wie verantwoordelijk is wanneer een autonoom systeem schade veroorzaakt, hoe ondoorzichtige modellen gecontroleerd kunnen worden en of bepaalde toepassingen überhaupt zouden moeten bestaan. Gezichtsherkenning, voorspellende politiepraktijken en geautomatiseerde werving leiden allemaal tot aanhoudend debat.

Terugkerende aandachtspunten

• Vooroordelen gecodeerd in trainingsgegevens
• Gebrek aan transparantie bij de besluitvorming
• Toezicht en toestemming
• Verantwoordelijkheid wanneer systemen falen
• Machtconcentratie in een paar bedrijven

Regelgeving loopt achter op de implementatie. De EU AI-wet en soortgelijke voorstellen zijn bedoeld om regels vast te stellen, maar de handhaving ervan blijft ongelijkmatig. Professionals maken steeds vaker gebruik van interne toetsingscommissies en effectbeoordelingen, hoewel critici stellen dat deze maatregelen te vrijwillig zijn.