Utilpasset Kunstig Intelligens

For nogle årtier siden forestillede mange sig at man kunne udstyre kunstig intelligens med nogle basale regler. For eksempel at kunstig intelligens aldrig måtte gøre skade på et menneske.

Men den kunstige intelligens som vi i dag nærmer os, er bygget noget anderledes op end man havde forestillet sig for årtier siden.

Derfor taler man ikke længere ret meget om kategoriske grundregler, men mere om at den kunstige intelligens skal være tilpasset - eller aligned på engelsk

Kunstig intelligens har gjort betydelige fremskridt i de seneste år:

Fra specialiserede systemer der kan vinde over mennesker ved specifikke opgaver som at spille skak eller Go, til mere generelle systemer der kan forstå naturligt sprog og udføre en lang række kreative opgaver især omkring tekst og billeder.

Men efterhånden som AI bliver mere kraftfuld og allestedsnærværende, bliver spørgsmålet om, hvordan man tilpasser sine mål med menneskelige værdier, stadig mere presserende. Det er kendt som "the alignment problem" - der kunne oversættes til:

tilpasningsproblemet.

Tilpasningsproblemet opstår fordi systemer baseret på kunstig intelligens kan forfølge mål på måder der er i konflikt med menneskelige værdier, eller de kan forfølge mål der er forkert tilpasset hvad mennesker faktisk ønsker.

For eksempel kan en kunstig intelligens designet til at optimere en virksomheds overskud beslutte at udnytte arbejdere eller engagere sig i uetiske praksisser selvom disse handlinger er i konflikt med menneskelige værdier.

Mange forskere og formidlere af kunstig intelligens mener at tilpasningsproblemet er afgørende for at sikre at kunstig intelligens gavner menneskeheden i stedet for at modarbejde den.

Tilpasningsproblemet og definitionsmagten

En tilgang til tilpasning er eksplicit at programmere et system baseret på kunstig intelligens med et sæt menneskelige værdier eller mål. Men som allerede nævnt i indledningen er det teknisk set meget udfordrende når det gælder kunstig intelligens som beror på store sprogmodeller.

Ud over den tekniske udfordring foreligger en menneskelig udfordring:

Menneskelige værdier er komplekse og svære at formalisere. Og ikke så sjældent er de i modstrid med hinanden.

Skal kunstig intelligens arbejde for formel ligestilling, så folk har de samme muligheder i udgangspunktet, eller skal den arbejde for at folk, selvom evner og udgangspunkt er uens, ender med det samme slutresultat.

Ud over de tekniske besværligheder kan den skitserede form for tilpasning også opfattes som værende meget top down styret.

En anden tilgang til tilpasning er at træne kunstig intelligens til at lære af menneskelig feedback og justere adfærd i overensstemmelse hermed. Det er en tilgang som fungerer mere på de præmisser som gør sig gældende for den form for kunstig intelligens som lige nu gør hastige fremskridt. Og umiddelbart kan den bedre tage højde for samspil og dynamik mellem menneske og kunstig intelligens end ideen om at forprogrammere kunstig intelligens med nogle "kategoriske imperativer" som førstnævnte tilgang bygger på.

Tilpasset den herskende klasse

Der er en overhængende fare for at det bliver den herskende klasses egeninteresser som vil blive universaliserede i forhold til justering og tilpasning af systemer baseret på kunstig intelligens. Problemet her er lidt at den herskende boglige klasse har det med at overse andre folks problemer og udfordringer.

Eksempelvis er den herskende klasse enormt fokuseret på "sexisme" og køn, men den har meget sjældent syn for at der er langt større udfordringer for almindelige mennesker i samfundet som er helt frakoblet den demokratiske proces.

For eksempel vil kunstig intelligens som er tilpasset af den herskende klasse, være mere optaget af at bekæmpe mikroaggressioner på internettet og få flere kvinder i bestyrelseslokalerne end den vil være optaget af at afhjælpe hjemløshed eller sociale problemer i bunden af samfundet hvor folk fryser på gaden.

Derfor risikerer vi meget nemt at få en Utilpasset Kunstig Intelligens - UKI.