EU-Kommissionen er netop kommet med et nyt udspil der lægger op til mere ansvarlig brug af data og samtidig stiller krav til brug af den moderne teknologi, særligt i forhold til brug af kunstig intelligens . For mange er det noget fjernt og får en til at tænke på science fiction film, men det er i den grad noget af vores alle sammens hverdag. Den totale overvågning er faktisk mulig (tænk bare på hvad du har sagt ja til Google må overvåge af din hverdag), men vil medføre utryghed og mistillid, hvis ikke vi som samfund sætter grænser, for både stat og private aktører aktøres brug af kunstig intelligens.
Det skal vi både som samfundsburgere og særligt i bibliotekerne forholde os til, både i forhold til at kunne vejlede borgerne og hvordan bibliotekerne bruger de mange teknologier. Jeg er dykket lidt ned i hvad forslaget indeholde og konsekvenserne af det.
Jeg har i en del år holdt oplæg med baggrund i IFLA Trend Report med udgangspunkt i at nye teknologier både kan skabe en bedre verden, men i den grad også misbruges. Så det centrale spørgsmål for mig og nu altså også for EU kommissionen er, hvordan vil vi fortsat finde, bruge og drage nytte af alle de nye teknologier og informationer i en stadig mere hyper-forbundet verden.
Se også Tendenser til tiden, borgernes forventninger og fremtidens kulturinstitutioner
Det er konkurrencekommissær Margrethe Vestager (R), der har ansvaret for EU’s digitale omstilling og som derfor også er ansvarlig for det digitale hamskifte, som er en af EU's store politiske prioriteter i de her år.
I den forbindelse er det stimulerende at se hun i forbindelse med lanceringen af oplægget siger til DR "I vores samfund er der ikke plads til masseovervågning".
Jeg er ikke i tvivl om at kunstig intelligens også kaldet AI (Artificial Intelligence) kan være med til at skabe et bedre samfund, men det kræver vi bruger den kunstige intelligens på den rigtige måde, og at vi f.eks. ikke bare accepterer masseovervågning, jeg har i hvert fald ikke lyst til at installerer en app, der hele tiden registrerer hvor jeg er og gemmer det for evigt. Eller har jeg allerede gjort det?
Vi har i den grad brug for moderne teknologi som kunstig intelligens, der f.eks. kan spille en afgørende rolle i kampen mod klimaforandringer eller løsning af pandemier. Det meste af vores samfund er påvirket af kunstig intelligens. Teknologien er baseret på computeranalyse af store mængder af data og bliver eksempelvis brugt til automation i produktionsvirksomheder, til bedre diagnosticering i sundhedsvæsenet og når vi handler online, streamer film eller låner bøger.
Men man skal dog være opmærksom på at der er store forskelle i hvordan man bruger den kunstige intelligens til f.eks. at komme med anbefalinger eller nudge brugerne til noget. Hvor bibliotekernes algoritmer er bygget op over nogle kulturpolitiske overvejelser kan andres være stærkt kommercielt orienteret. Det er noget af kernen i AI, at vi som brugere ikke altid kan gennemskue, hvad AI bruges til og hvorfor vi som borgere eller forbrugere udsættes for det vi gør.
Jeg tror de fleste af os kan se fordelene ved at læger får hjælp af softwaresystemer til at spotte alvorlige sygdomme hos deres patienter, eller landmændene, som kan bruge robotteknologi til at gøre deres arbejde på markerne mere klimavenligt og industrier som kan spare energi ved AI. Eller at vores hustande eller biler i hverdagen er spækket med AI løsninger for at gøre dem mere brugervenlige, sikrer eller energivenlige. De fleste sætter også pris på deres mobiltelefoner som hjælper os, ikke kun med kommunikation, men også med at vide hvor vi er og hvor vi skal hen.
Der er masser af gode gevinster at høste, hvis man bruger kunstig intelligens på den helt rigtige måde.
Men brugen af kunstig intelligens rummer også praktiske udfordringer og etiske dilemmaer, og det er dem EU-Kommissionen vil komme til livs med ny regulering, der blandt andet stiller nye krav til virksomhedernes brug af teknologien. Eller som Vestager udtrykker det "Jo større risiko, der er ved en bestemt form for kunstig intelligens, des skrappere skal reglerne være."Europa-Kommissionen lægger bl.a. op til at stramme tøjlerne for, hvordan man fremover kan bruge kunstig intelligens i Europa – og til hvad. Og i særligt slemme tilfælde kan det blive nødvendigt med både forbud og millionstore bøder til folkene bag, lyder det i et nyt udspil.
Konkret lægger Europa-Kommissionen op til at inddele kunstig intelligens i fire forskellige risikokategorier.
Den første er harmløse systemer med "Minimal risiko", såsom spamfiltrene i vores inbox, der udgør langt størstedelen af den kunstige intelligens i dag. De vil ikke blive ramt af nye restriktioner.
Den anden er anvendelser med »begrænset risiko«. Det kan være en chatrobot, her skal der være klare krav om transparens, så kunderne altid ved, hvem eller hvad de interagerer med og har mulighed for at vælge det fra.
Den tredje er anvendelser med »høj risiko«. Kommissionen definerer en række områder, hvor brug af software kan underminere borgernes liberale rettigheder, diskriminere eller ligefrem udgør en fysisk risiko: Det kan være brug af kunstig intelligens til at sortere i ansøgninger til uddannelser, lave kreditvurdering eller ansættelser. Det kan være styring af trafikken eller virksomheder, der skal evaluere sine ansatte.
I det modsatte ende finder man finder man de helt ekstreme systemer, der eksempelvis kan bruges til at udnytte børn eller lave sociale pointsystemer for borgerne, som man har set det i Kina, altså "Uacceptabel risiko". Det indeholder skadelige anvendelser af kunstig intelligens, som er i strid med EU's værdier, fordi de krænker grundlæggende rettigheder (f.eks. sociale pointsystemer indført af regeringer, udnyttelse af børns sårbarheder, brug af subliminale teknikker og — med begrænsede undtagelser — biometriske identifikationssystemer til direkte fjernovervågning af offentligt tilgængelige områder, der anvendes til retshåndhævelsesformål) og det lægges der op til vil blive forbudt.
I den forbindelse er det stimulerende at se hun i forbindelse med lanceringen af oplægget siger til DR "I vores samfund er der ikke plads til masseovervågning".
Jeg er ikke i tvivl om at kunstig intelligens også kaldet AI (Artificial Intelligence) kan være med til at skabe et bedre samfund, men det kræver vi bruger den kunstige intelligens på den rigtige måde, og at vi f.eks. ikke bare accepterer masseovervågning, jeg har i hvert fald ikke lyst til at installerer en app, der hele tiden registrerer hvor jeg er og gemmer det for evigt. Eller har jeg allerede gjort det?
Læs også Bliver vi kunstigt intelligente af Corona?Kunstig intelligens er ikke kun robotter i science-fiction, men også en teknologi, der kan hjælpe os med at håndtere store samfundsudfordringer, som eksempelvis den grønne omstilling.
Vi har i den grad brug for moderne teknologi som kunstig intelligens, der f.eks. kan spille en afgørende rolle i kampen mod klimaforandringer eller løsning af pandemier. Det meste af vores samfund er påvirket af kunstig intelligens. Teknologien er baseret på computeranalyse af store mængder af data og bliver eksempelvis brugt til automation i produktionsvirksomheder, til bedre diagnosticering i sundhedsvæsenet og når vi handler online, streamer film eller låner bøger.
Når bibliotekerne bruger AI til at komme med anbefalinger til lånerne ud fra deres interesser på LÆSEKOMPASSET eller eReolen eller når Mofibo gør det samme.
Jeg tror de fleste af os kan se fordelene ved at læger får hjælp af softwaresystemer til at spotte alvorlige sygdomme hos deres patienter, eller landmændene, som kan bruge robotteknologi til at gøre deres arbejde på markerne mere klimavenligt og industrier som kan spare energi ved AI. Eller at vores hustande eller biler i hverdagen er spækket med AI løsninger for at gøre dem mere brugervenlige, sikrer eller energivenlige. De fleste sætter også pris på deres mobiltelefoner som hjælper os, ikke kun med kommunikation, men også med at vide hvor vi er og hvor vi skal hen.
Der er masser af gode gevinster at høste, hvis man bruger kunstig intelligens på den helt rigtige måde.
Men der er også en masse etiske faldgruber ved teknologien, som kan skabe store problemer for både mennesker og hele samfundet. Det ser man, som DR beskriver, ikke mindst i Kina, hvor et utal af overvågningskameraer holder øje med borgerne, uden at de kan gøre noget ved det og hvor demokratiet er trådt under fode. Så der handler om både at tøjle techgiganternes såvel som diktaturstaters brug af AI.
Den første er harmløse systemer med "Minimal risiko", såsom spamfiltrene i vores inbox, der udgør langt størstedelen af den kunstige intelligens i dag. De vil ikke blive ramt af nye restriktioner.
Den anden er anvendelser med »begrænset risiko«. Det kan være en chatrobot, her skal der være klare krav om transparens, så kunderne altid ved, hvem eller hvad de interagerer med og har mulighed for at vælge det fra.
Den tredje er anvendelser med »høj risiko«. Kommissionen definerer en række områder, hvor brug af software kan underminere borgernes liberale rettigheder, diskriminere eller ligefrem udgør en fysisk risiko: Det kan være brug af kunstig intelligens til at sortere i ansøgninger til uddannelser, lave kreditvurdering eller ansættelser. Det kan være styring af trafikken eller virksomheder, der skal evaluere sine ansatte.
I det modsatte ende finder man finder man de helt ekstreme systemer, der eksempelvis kan bruges til at udnytte børn eller lave sociale pointsystemer for borgerne, som man har set det i Kina, altså "Uacceptabel risiko". Det indeholder skadelige anvendelser af kunstig intelligens, som er i strid med EU's værdier, fordi de krænker grundlæggende rettigheder (f.eks. sociale pointsystemer indført af regeringer, udnyttelse af børns sårbarheder, brug af subliminale teknikker og — med begrænsede undtagelser — biometriske identifikationssystemer til direkte fjernovervågning af offentligt tilgængelige områder, der anvendes til retshåndhævelsesformål) og det lægges der op til vil blive forbudt.
Den store udfordring bliver nok at beslutte hvad der indebære en "Uacceptabel risiko" og ikke mindst, hvordan vi beslutter det. Men der er ingen vej uden om, hvis vi som borgere fortsat skal have tillid til både virksomhedernes brug af AI og i sidste ende myndighedernes brug af vores date. Den tillid er i sidste ende også en forudsætning for vores demokratiske samfund.
Kan nye regler støtte innovation?
Når sådan et oplæg bliver præsenteret er der naturligt nok en vis skepsis, særligt fra industrien med frygt for unødig bureaukrati eller konkurrenceforvridning fordi man i USA og KINA ikke har sådanne regler.
GPT står for Generative Pre-trained Transformer. Det får måske ikke mange klokker til at ringe, men det betyder, at den er blevet trænet på kæmpestore mængder af tekst, der består af en stor del af internettet, skønlitteratur og andre tekster, som firmaet bag GPT-3, OpenAI, har udvalgt.
Efter at GPT-3 har gennemanalyseret de enorme mængder tekst, har den lært sig selv sprog – og kan generere ny tekst. Man kan bede den om at skrive en novelle, et digt, eller du kan skrive hele din livshistorie og bede den give et bud på, hvordan den tror, dit liv vil udforme sig fra i dag. Der er ingen grænser for, hvad man kan sætte den til.
Men om kvaliteten og det kunstneriske niveau er i orden, kan du selv blive klogere på ved at dykke ned i Informations tema
Det kan du læse mere om i EU kommissionens oplæg her
Når sådan et oplæg bliver præsenteret er der naturligt nok en vis skepsis, særligt fra industrien med frygt for unødig bureaukrati eller konkurrenceforvridning fordi man i USA og KINA ikke har sådanne regler.
Men jeg tror at et sådan regelsæt er nødvendig, fordi det handler om borgerne tillid og mulighed for at kunne gennemskue teknologien, hvis vi skal udvikle. Noget af de samme vi i disse måneder oplever i Danmark, hvor myndighederne forsøget at være åbne i deres kommunikation omkring vaccine og den risiko der er forbundet med det. Særligt de to vacciner, som er under mistange for større risiko for bivirkning. Netop derfor lader det til at vi i Danmark ikke oplever en vækst i vaccineskepsis.
De lovgivningsmæssige rammer kan øge udbredelsen af kunstig intelligens på to måder. På den ene side vil øget tillid blandt brugerne øge efterspørgslen efter kunstig intelligens hos virksomheder og offentlige myndigheder. På den anden side vil udbydere af kunstig intelligens gennem øget retssikkerhed og harmoniserede regler få adgang til større markeder med produkter, som brugere og forbrugere sætter pris på og køber eller benytter.
De lovgivningsmæssige rammer kan øge udbredelsen af kunstig intelligens på to måder. På den ene side vil øget tillid blandt brugerne øge efterspørgslen efter kunstig intelligens hos virksomheder og offentlige myndigheder. På den anden side vil udbydere af kunstig intelligens gennem øget retssikkerhed og harmoniserede regler få adgang til større markeder med produkter, som brugere og forbrugere sætter pris på og køber eller benytter.
Som Dagbladet Information pointere i deres artikel om det, så er der mange i Bruxelles håber på, at den nye lovgivning kan blive endnu et eksempel på den såkaldte »Bruxelles Effekt«, som Anu Bradford fra Colombia Law School har kaldt det: "At EU’s regler og produktstandarder automatisk spreder sig til hele verden via det frie marked, fordi det er lettere for virksomheder og stater at kopierere EU’s regler og dermed få adgang til det store europæiske marked end at opfinde deres egen version af de samme love. Det er derfor, at EU’s regler allerede i dag definerer standardindstillingen på en iPhone, måden man fælder tømmer på i Indonesien og kemikaliegrænserne for legetøj i Japan"
Kan kunstig intelligens skrive litteratur?
Jeg er ret sikker på at faste læsere af denne blog vil mene at der er en klar grænse for hvad AI kan og skal. F.eks. skal man ikke bruge kunstig intelligens til at skabe kunst eller skrive litteratur. Men det kan altså lade sig gøre. Information havde tidligere på året en række sjove artikler om netop det, byggende på den "kunstige intelligens" GPT-3
GPT står for Generative Pre-trained Transformer. Det får måske ikke mange klokker til at ringe, men det betyder, at den er blevet trænet på kæmpestore mængder af tekst, der består af en stor del af internettet, skønlitteratur og andre tekster, som firmaet bag GPT-3, OpenAI, har udvalgt.
Efter at GPT-3 har gennemanalyseret de enorme mængder tekst, har den lært sig selv sprog – og kan generere ny tekst. Man kan bede den om at skrive en novelle, et digt, eller du kan skrive hele din livshistorie og bede den give et bud på, hvordan den tror, dit liv vil udforme sig fra i dag. Der er ingen grænser for, hvad man kan sætte den til.
Men om kvaliteten og det kunstneriske niveau er i orden, kan du selv blive klogere på ved at dykke ned i Informations tema
Kommentarer
Send en kommentar