Begreper & referanser

Systematiske skjevheter i innsamling, måling eller utvalg som gjør at dataene ikke representerer formålet godt.

At dataene modellen møter etter utrulling, har en annen fordeling enn dataene den ble utviklet på.

Reell mulighet for kompetente mennesker til å overvåke, gripe inn og overstyre systemet.

Menneskers mulighet til å ta informerte valg uten skjult eller urimelig maskinell påvirkning.

Prinsippet om at teknologien bør fremme nytte og menneskelig velferd.

At roller, beslutninger, dokumentasjon og klagemuligheter gjør det mulig å plassere og utøve ansvar.

EUs risikobaserte regelverk for kunstig intelligens, med krav som avhenger av systemets rolle og risikokategori.

Det etiske prinsippet om å unngå å påføre skade, for eksempel gjennom feil, misbruk, diskriminering eller brudd på personvern og sikkerhet. Et smalere krav enn velgjørenhet, som krever at systemet aktivt gjør godt.

Fairness-kriteriet om at andelen positive beslutninger skal være lik i gruppene: $P(\hat{y}=1\mid A=a)=P(\hat{y}=1\mid A=b)$.

Fairness-kriteriet (equal opportunity) om at recall skal være lik i gruppene, slik at de som faktisk kvalifiserer, har like stor sjanse for en positiv beslutning.

I AI Act: et KI-system som forordningen klassifiserer som høyrisiko, enten fordi det selv er, eller er en sikkerhetskomponent i, et produkt under EUs produktregler som krever tredjepartskontroll (vedlegg I), eller fordi det brukes på et av områdene i vedlegg III, for eksempel rekruttering, kredittvurdering eller som sikkerhetskomponent i driften av kritisk infrastruktur. Slike systemer er tillatt, men må oppfylle krav om blant annet risikostyring, datakvalitet, dokumentasjon og menneskelig tilsyn.