Begreper & referanser
Alle nøkkelbegrepene, formlene og referansene fra Filosofi, etikk og sikkerhet, samlet på én side. Bruk denne som oppslag når du leser, øver flashcards eller tar quiz.
Begreper
Sentrale begreper fra kapittelet med korte definisjoner.
Påstanden at menneskelig atferd og kunnskap er for praktisk og rik til å fanges av et endelig sett regler, så en regelstyrt maskin aldri kan nå opp. Rammer håndskrevne regler hardere enn systemer som lærer av data (argument from informality).
Påstander av formen «en maskin kan aldri X», der X kan være å ha humor, lære av erfaring eller skape noe nytt. Mange slike X er siden gjort av programmer (argument from disability).
Argumentet at Gödels ufullstendighetsteorem viser at en maskin, som er et formelt system, ikke kan se sannheter et menneske kan se. Motsvaret er at teoremet gjelder idealiserte systemer uten minnegrense, og at ingen har vist at mennesker er unntatt (mathematical objection).
Svak KI er påstanden at maskiner kan handle som om de er intelligente. Sterk KI er påstanden at en maskin som gjør det, faktisk tenker og forstår (weak and strong AI).
Searles tankeeksperiment fra 1980 der en person som ikke kan kinesisk, følger en regelbok og gir perfekte kinesiske svar uten å forstå noe. Det er et argument mot sterk KI; systemsvaret er at hele systemet kan forstå selv om personen ikke gjør det (Chinese room).
Qualia er den subjektive opplevelsen, hvordan det kjennes å se rødt eller smake kaffe. Det vanskelige problemet er hvorfor fysiske prosesser i det hele tatt gir opplevelse (qualia, consciousness).
Våpen som finner, velger og angriper mål uten at et menneske godkjenner hvert angrep. Kritikken gjelder særlig skala, uklart ansvar og lavere terskel for krig (lethal autonomous weapons, LAWS).
Et krav til en publisert tabell: hver rad er lik minst andre rader på kvasiidentifikatorene, som alder og postnummer. Oppnås ved å generalisere eller fjerne verdier (k-anonymity).
Et krav til en tilfeldig mekanisme: sannsynligheten for ethvert svar endres med høyst en faktor når én person legges til eller tas ut av dataene. Oppnås typisk ved å legge støy til svarene (differential privacy).
Trening der dataene blir liggende på brukernes enheter. Hver enhet trener lokalt og sender bare modelloppdateringer, som slås sammen sentralt. Oppdateringene kan likevel lekke informasjon, så metoden kombineres ofte med differensielt personvern (federated learning).
Kravet om at individer som er like i alt som er relevant for avgjørelsen, skal få samme behandling (individual fairness).
Krav om at grupper, for eksempel etter kjønn eller bosted, skal behandles likt i gjennomsnitt. Demografisk paritet, like muligheter, utjevnede odds og kalibrering er eksempler (group fairness).
Kravet om lik seleksjonsrate i gruppene, , uavhengig av hvor mange som er kvalifisert i hver gruppe (demographic parity).
Kravet om lik sann positiv rate i gruppene: blant de kvalifiserte skal like store andeler velges ut (equal opportunity).
Kravet om både lik sann positiv rate og lik falsk positiv rate i gruppene. Det er strengere enn like muligheter (equalized odds).
En skår er kalibrert når andelen kvalifiserte blant dem som får skår , er , i hver gruppe for seg (calibration).
Fagfeltet som skal hindre at KI-systemer gjør skade, også når de virker som tiltenkt, for eksempel gjennom utilsiktede bivirkninger av et ufullstendig mål (AI safety).
Å sørge for at målet en maskin optimerer, stemmer med det menneskene egentlig ønsker. Jo dyktigere maskinen er, jo mer skade kan et feilspesifisert mål gjøre (value alignment).
Et spill mellom et menneske og en robot der robotens utbytte er menneskets utbytte, men bare mennesket kjenner det. Roboten må lære preferansene underveis og har derfor grunn til å spørre og la seg slå av (assistance game).
Formler
Hver formel: hva den heter, hvordan den ser ut, og hva symbolene betyr.
Demografisk paritet
Seleksjonsraten, antall valgt delt på alle søkerne i gruppen, skal være lik. Paritetsdifferansen er absoluttverdien av forskjellen. En vanlig feil er å dele på de kvalifiserte i stedet for på alle søkerne.
Like muligheter
Lik sann positiv rate (TPR): antall valgte kvalifiserte delt på alle kvalifiserte i gruppen. Kravet kan holde samtidig med demografisk paritet når den falske positive raten får variere. En vanlig feil er å dele på antall valgte, som gir presisjon.
Utjevnede odds
Både TPR () og FPR () skal være like i gruppene. Med ulike basisrater kan kravet bare holde sammen med demografisk paritet når TPR = FPR (en uinformativ modell), og sammen med kalibrering bare når modellen er perfekt.
Kalibrering
Skåren betyr det samme i alle grupper: av dem som får skår 0,7, er 70 % kvalifisert, i hver gruppe for seg. Med ulike basisrater kan en kalibrert modell ikke samtidig ha utjevnede odds med mindre den er perfekt.
Differensielt personvern
Gjelder for alle par av datasett og som skiller seg på én person, og for alle mengder av svar . Mindre gir sterkere vern og mer støy. Egenskapen gjelder mekanismen som svarer, ikke en bestemt tabell.
Kodesnutter
Kodesnutter fra kapittelet, vist literal.
Én terskel per gruppe
import random terskel_a = 0.50 # @param 0.00..1.00 0.05terskel_b = 0.50 # @param 0.00..1.00 0.05random.seed(4) def lag_gruppe(antall, andel_kvalifisert): # Kvalifiserte og ikke-kvalifiserte har hver sin poengfordeling, lik i begge grupper gruppe = [] for _ in range(antall): kvalifisert = random.random() < andel_kvalifisert poeng = min(1.0, max(0.0, random.gauss(0.62 if kvalifisert else 0.42, 0.15))) gruppe.append((poeng, kvalifisert)) return gruppe def mal(gruppe, terskel): valgt = [k for p, k in gruppe if p >= terskel] kval = sum(k for _, k in gruppe) tpr = sum(valgt) / kval if kval else 0.0 fpr = (len(valgt) - sum(valgt)) / (len(gruppe) - kval) if len(gruppe) > kval else 0.0 return len(valgt) / len(gruppe), tpr, fpr rate_a, tpr_a, fpr_a = mal(lag_gruppe(1000, 0.5), terskel_a)rate_b, tpr_b, fpr_b = mal(lag_gruppe(1000, 0.25), terskel_b)print(f"Seleksjonsrate A: {rate_a:.2f}")print(f"Seleksjonsrate B: {rate_b:.2f}")print(f"TPR A: {tpr_a:.2f}")print(f"TPR B: {tpr_b:.2f}")print(f"FPR A: {fpr_a:.2f}")print(f"FPR B: {fpr_b:.2f}")print(f"Paritetsdifferanse: {abs(rate_a - rate_b):.2f}")print(f"TPR-differanse: {abs(tpr_a - tpr_b):.2f}")Prøv: senk terskel_b fra 0.50 til 0.45 og se at linja Paritetsdifferanse: krymper fra 0.10 til 0.02, mens TPR-differanse: vokser fra 0.01 til 0.10.
Læringsmål
Hva du skal kunne etter å ha lest kapittelet.
- 01Forklar argumentet fra uformalitet, argumentet fra manglende evne og den matematiske innvendingen, med et motsvar til hvert
- 02Forklar det kinesiske rommet, systemsvaret og skillet mellom svak og sterk KI
- 03Sammenlign avidentifisering, k-anonymitet, differensielt personvern og føderert læring, og finn for en generalisert tabell
- 04Regn ut seleksjonsrate, TPR og FPR per gruppe, og avgjør om demografisk paritet, like muligheter og utjevnede odds holder
- 05Forklar hvilke rettferdighetskrav som kan holde samtidig når basisratene er ulike
- 06Forklar verdijusteringsproblemet og hvorfor en robot som er usikker på målet, har grunn til å la seg slå av