siger, at han vil begå et mor inden for de næste 36 timer, og så går jagten ind med brug af overvågningsteknologi og kunstig intelligens. Det er naturligvis science fiction, men det er meget virkelighedsnær science fiction, så virkelighedsnær er det nu er forbudt ifølge AI-forordningen, som vi kigger på i denne udgave af Techtopia. Vi får en øjebliksreaktion fra EU parlamentariker Christel Schaldemose fra Socialdemokratiet, og vi får baggrunden og analysen af min kollega Grit Munk, der er digitaliseringspolitisk chef her i Ida. Vi starter med Christel Schaldemose, som er glad og tilfreds og netop peger på forbuddet mod brug af biometri i det offentlige rum, som en af de ting, hun er særligt glad for. Mest af alt er jeg glad for, at det lykkes at finde en aftale, som gør, at vi simpelthen får en AI-act i Europa. Men det er klart, at der er nogle af tingene, som er lidt spændende at få kigget ind i. Altså, ja, noget af det, som... Der er sådan to hovedtemaer, der har fyldt rigtig meget. Det er, altså, hvad kunne vi... Altså, hvordan kunne vi håndtere det her real-time biometric identification system? Altså RBI, som vi har kaldt det hernede. Hvordan skulle det blive håndteret? Hvor mange forbud? Hvad skulle være tilladt osv.? Det synes jeg er lidt spændende at kigge ned i. Og så har det været et spørgsmål også selvfølgelig omkring... Omkring, hvad hedder det, foundation models, eller altså... bro-modeller, eller general purpose AI, hvordan skulle man regulere det? Jeg synes egentlig, det har bare været spændende at kigge mere ind på, hvordan de forestiller sig, at det skal fungere. Så der er stadigvæk et arbejde foran os, men jeg synes, det er rigtig godt, at det lyder. Men de to ting, du nævner der, når vi synes, vi skulle tage fat på, på biometrien, for eksempel, altså, det er jo en af de ting, som, så vidt jeg kan jo stå, er blevet forbudt. Ja, altså, udgangspunktet er jo selvfølgelig lidt sådan... Det er sådan en typisk EU-måde at gøre det på. Vi starter med at sige, at det hele er forbudt. Men så er der en undtagelse for lovhåndhævere, altså fra politimyndigheder. Og der har de sådan lavet nogle ret snævere begrænsninger, eller snævere muligheder for, hvordan det kan blive brugt. Man må bruge kunstige, eller man må bruge det her real-time biometri, hvis man skal kigge efter, søge efter offer for, hvad hedder det, fortførelser, for trafficked, altså handlede mennesker, hvis der er seksuel misbrug, og generelt, hvis man skal lede efter folk, der er forspundet. Det er sådan den ene del, hvor man må gøre det. Og den anden del, det er, hvis man skal forebygge en speciel og en meget nært forestående trussel mod liv, eller på anden vis. At det kunne fx være, hvis man har en formodning om, at der forestår et terrorandræb, så må man også godt bruge det. Og den tredje undtagelse for, hvornår man gerne må bruge det, det er, hvis man skal lokalisere en person, som er mistænkt for at have begået en meget alvorlig kriminell forbrydelse. Så udgangspunktet er, at det er forbudt, men man må gerne bruge det. Og så når man kan sige, hvad er så fx en alvorlig forbrydelse, der taler vi ikke om tyveri nede i brugsen, der taler vi om virkelig voldtægt, miljøforbrud, så det er faktisk interessant. Røveri, mor fx. Det er noget af det, som gør, at man kan få lov at bruge det. Så der kan man sætte et forbud op, men med nogle undtagelser, og det er så de her undtagelser. Og så må medlemslandene inden for de her rammer her så godt bruge det, men de skal så i øvrigt have en foregående organisation fra en eller anden myndighed. De er lidt forskellige rundt omkring i medlemslandene, men det kan være fra en anden myndighed, og det kan også være fra en dommer. Så der er så nogle beskyttelsesmekanismer sat op for at beskytte folks fundamentale rettigheder, men det er ikke sådan, at man ikke må bruge et redskab, som rent faktisk kan hjælpe os til at forebygge eller finde kriminal. Og en anden ting, du nævner, det er de her foundation models. Hvad var udfordringen der? Det var så over i den anden boldbaneudfordringen var. Da vi startede arbejdet med AI-Akt, så var det jo egentlig før, at GBT og foundation models overhovedet var noget, vi talte om på den måde. Så kom den så på banen, og det gik op på i hvert fald parlamentet. Vi ønskede, at det skulle reguleres for at være sikre på, at det også var omfattet af reglerne, fordi nogen mener, nogen mente, at det var måske ikke så vigtigt, andre mente, at det kunne også have blivet brugt negativt og forkert, og derfor skulle der være nogle regler for, hvordan man må bruge det. Og der så vi så simpelthen lige pludselig, at der var nogle medlemslande, som var imod, at man skulle have bestemmelser for foundation models, fordi de simpelthen sagde, at det blev forbyråkratisk, det ville ødelægge innovationen, det ville være for firkantet. Og det er så jo ikke personligt en bekymring, jeg deler, fordi jeg tror, det er vigtigt at sørge for, at den lovgivning, vi har, den selvfølgelig skal kunne fungere, uanset om man er en lille eller om man er en stor væsentlighed. Men det, vi har gjort, er, at vi har simpelthen først og fremmest sagt, at der skal være transparent, sådan at man har en idé om, hvad det er, der er indholdet, de her foundation models. Og så skal man så i øvrigt også sørge for, at hvis der er nogle af de her foundation models eller bromodeller, som udgør sådan lidt mere, har nogle indbyggede systemiske risici i sig, så skal der være flere krav på dem. For eksempel, de skal kunne evalueres, de skal testes, der skal laves en risikovurdering mere generelt, og hvis der så er risici knyttet til dem, så skal man mitbegeer eller risiko minimere, og så skal man selvfølgelig også have fokus på arbejdspløjelse. Så det, altså, så transparent sådan generelt, og så for den, der indeholder en lidt større potentiel risiko, så skal der flere ting til. Det synes jeg egentlig er en meget fornuftig måde at gøre det på, og det er, synes jeg, en sejr fra parlamentet, fordi der var visse lande, der ville have, hvis du gulænger dem til transparents-opjekt. Men i definitionen af de her foundation models, altså, hvad for nogen man skal holde ekstra øje med, altså, hvordan definerer man dem, som der skal holdes ekstra meget øje med, altså, er det noget med hvilken af data, de er trænet på, eller hvor meget firmaet omsætter for det, hvad bruger man som parameter til at måle dem på? Ja, det er jo så noget af det, der stadigvæk udstår, lige at blive helt præcis enige om, hvordan man definerer det, men man taler typisk om, at det er lidt større i omfang, både i omsætning og i bruger, og så videre. Formodentlig også noget med data, men det er jo noget af det, som skal udmyndes lidt mere specifikt, og det er selvfølgelig også det, der er en udfordring, når vi laver lovgivning her, altså, fordi vi vil gerne sørge for, at det virker, vi vil selvfølgelig gerne beskytte de mindre, og sørge for, at vi holder skarpt øje med de større, fordi de selvfølgelig også kan lave mere skade, men hvor trækker man grænsen, hvordan definerer man det, har vi i dag rent faktisk reelle kriterier for, hvordan man skal udpege, hvornår der er en reelt risiko knyttet til det, og hvornår der ikke er, der kan jo også godt være en reelt risiko knyttet til en mindre foundation model, hvis den har nogle karakteristiker i sig, så det er noget af det, som vi formodentlig har behov for, og ja, blive bedre på, og blive skarpere på, og det er noget af det, der så også skal håndteres, EU-kommissionen, i det videre arbejde. Jeg tænker også på, at sådan et foundation model kan jo også være en del af et eksisterende system, når vi ser, at Microsoft har fået de her co-privile til ind, som jo typisk set er open AI, så hvordan regulerer man det? Altså, man kan sige, at det kommer ind af alle mulige steder jo. Ja, det kommer ind af alle mulige steder. Altså, det vi generelt har sagt, det er, at der skal være sådan en, altså, transferensen skal være sådan en downstream, så altså, dem der starter og udvikler det, skal kunne give sikkerhed for, at der er transferens, og så alle dem, der bruger nedad, altså bruger de her språmodeller til forskellige dele, services eller produkter, de skal så have mulighed for at få adgang til de her systemer her. Men det er noget af det, som jeg ikke er, altså, jeg er ikke sikker på, at jeg selv helt forstår endnu, hvor grænserne går, og hvordan man får gjort det her. Og det er jeg heller ikke sikker på, at vores forhandlere helt er enige i, at der kommer til at være nogle implementerende og delegerede retssagt, at beklære det her EU-jura, altså, som skal udmynde nogle af de her ting her lidt mere specifikt. Det vigtigste for mig at sige her på det her meget tydelige stadie af den politiske aftale, det er, at vi simpelthen har valgt at sige, at de skal reguleres, og jo større risiko, der kan være knyttet, jo større krav kommer der til udviklerne og til dem, der skal bruge produkterne, altså andre virksomheder, som bygger videre på dem. Og det, synes jeg, er en god måde at gøre det på. Men jeg tror også bare, at vi bliver nødt til at kende, at noget af det her, det er nok noget, der skal revideres om en lille årrække, fordi det går så forrymme hurtigt. Og vi prøver at sætte nogle rammer op i dag, for at undgå at komme for sent i gang med at regulere det her område. Men når vi så går lidt tidligt i gang, så er der også en risiko for, at vi måske rammer lidt skævt, og det må vi så regulere på hen og vej. En sidste ting, der skal etableres et AI-kontor. Hvad skal de lave? Ja, det er et meget godt spørgsmål, men det bliver især, at det er EU-kommissionen, der skal have det her AI-office, og de bliver ansvarlige for at håndhæve reglerne, særligt om foundation-mogget. Og så skal de også sørge for at koordinere mellem danske, tyske og franske myndigheder, og så videre, altså medlemstandes myndigheder. Og så skal de i øvrigt også prøve at samle ekspertise, altså eksperter, og bruge den viden til at sikre, at de både bliver klogere, men vi også sikrer os, at det er trygt og sikkert at bruge de her foundation-models. Så jeg synes, det er en rigtig god ting, man har lavet det her. Fordi det både vil styrke håndhævelsen af reglerne, men det vil også styrke vores fælles kollektive viden omkring kunstensiv. Så du er glad til fris? Jeg er faktisk ret glad for, at det lykkes, og jeg er også pænt til fris. Og så må du se, når den så bliver helt færdig, og den betænede håndhævelsen, som rent faktisk kan virke. Altså om vi kan få stoppet de dårlige ting, og om vi kan sikre plads til, at vi kan udnytte alle de gode elementer af kunstig intelligens. Det er jo for meget at sige, kan man sige lakmosprøven på det her. Kan vi få stoppet det, der er farligt og udryghedskabende, og kan vi sikre, at der er masser af plads til at udvikle det, som gør, at vi kan få bedre sygdomsbekendelse og den slags, så er vi lykkes med det, og det ved vi først om et par år. Og det sagde altså Christel Schaldemose, der er medlem af EU-parlamentet for Socialdemokratiet. Men hvad er egentlig baggrunden for AI-forordningen? Hvorfor tog det to år at få den udformede vedtaget? Og hvordan bliver den håndhævet i fremtiden i Danmark? Det svarer min kollega Grit Mung på. Hun er digitaliseringspolitisk chef i Ida. De oprindelige tanker, som kommer tilbage fra to-toget halvt år siden, har i virkeligheden hele tiden handlet om, at man ville prøve at få en udvikling inden for kunstig intelligens, som var i overensstemmelse med de europæiske værdier. Det er næsten lidt født ud af den her tanke om, at i USA er det for profit, og i Kina er det for control, og så skulle vi så have en i Europa, der skulle det så være for mennesker og for samfund. Og ud af det, der har man så forsøgt at lave sådan en risikobaseret tilgang til kunstig intelligens. Så det er egentlig ikke så meget teknologierne i, altså hvad for nogle, hvad man nu, de forskellige teknologier, hvor man bruger kunstig intelligens. Det er mere et spørgsmål at finde ud af, hvad bruger vi det til? Og hvad kan det komme til at betyde? Kan det være farligt? Og afhængig af, hvor farligt man så synes det er, så kan man ryge ind i en af de her forskellige kategorier, som man har opdelt i. Men det handler vel også om at skulle skabe en balance i forhold til markedet, altså for at sige, at europæiske virksomheder skal også kunne gøre sig på det her marked for kunstig intelligens. Og det har jo været en kæmpe diskussion hele vejen igennem, og det er det sådan set stadigvæk. Og noget af det er jo sådan meget fortællingen, der kæmper mod en anden fortælling, nemlig fortællingen om, at hvis der er fuldstændig frit, så skaber vi også innovation, og så har man frit som ny, som startup eller som virksomhed, så har man frit valg på alle hylder, og kan ligesom tænke kreativt og udvikle noget nyt. Og så har vi den anden side, hvor man tænker, at regulering i virkeligheden ikke skal være en stop. Der er ikke nogen, der ønsker om at stoppe kunstig intelligens, men man vil gerne bruge regulering som en styrestang hen imod, hvad er det for noget kunstig intelligens, vi gerne vil have. Plus man har haft et ønske om at sige, jamen hvis vi har en klar afgrænset bane, det er jo også det noget, lovgivningen kan. Du ved præcis, hvad du må og hvad du ikke må. Så skaber man også ligesom sådan en level playing field for alle virksomheder. Og så er der en tredje ting har været, at man har forsøgt at bremse indflydelsen eller dominansen fra de her helt store firmaer, som bruger kunstig intelligens, og prøver at lave en lovgivning, som giver plads også til mindre virksomheder. Og det er jo særlig europæisk interesse, fordi vi har jo i forhold til de store amerikanske og kinesiske virksomheder, så er det jo nogle ret små virksomheder, vi har med at gøre i Europa. Når du siger det, det betyder så, at de mindre virksomheder, de har længere snor, men de er ikke så hårdt regulerede i hvert fald til en start. Altså vi har jo en anden lovgivning, som også lige er kommet, som er vigtig også i forhold til AIR-agten. Det er det, vi kalder DSA'en. Den her sætning, som hedder de meget store tekniske firmaer, og det er jo altså de fem store, det vi også kalder tech-giganterne til daglig. Så der er jo i virkeligheden en benhård regulering af dem, og så er der mindre hård regulering for nærmest alle andre. Og på samme måde i den her AIR-ag, der vil man gerne sikre, at der er plads til at skabe et rum for, at man kan lave noget, som er i overensstemmelse med de europæiske værdier. Det vil sige i overensstemmelse med den europæiske menneskerettighedsdomstol og med krav om ligestilling og børnerettigheder og social ulighed. Så man ligesom kommer ind på den her europæiske bane, hvor det ikke bare handler om at have en stor markedsandel, eller komme først, eller tjene en masse penge. Men hvordan harmonerer det så med den her risikovurdering, den her risikobaseret tilgang, man har til det? Altså vi var begge to til konference her i sidste uge, hvor stort set alle oplægsholdere havde sådan en pyramide med, som fra bunden og så opad, hvad skal man sige, beskrev de her fem forskellige faser i risiko, som man ser der med kunstig intelligens. De to øverste var det helt uacceptable og det, som var en høj risiko. Men det vil ikke alt være, hvad tech-giganterne laver, der måske nødvendigvis er noget i en høj risikosone? Nej, overhovedet ikke. Det er den her pyramide, prøver at beskrive. I nogle modeller er den grøn nederst, og så bliver den mere og mere blodig rød efterhånden, så man når til toppen. En resimil i toppen. Ja, ikke der, hvor det er helt forbudt, hvor man ikke vil have de her sociale scoringssystemer, som man kender fra Kina. at man vil ikke have grov manipulation af børn online for eksempel. Det forbyder man helt. Og så har man nede under højrisikogruppen, som i virkeligheden er den gruppe, hele det her handler om. Nede under den. Der er så en mindre risiko, hvor man stiller nogen krav, og så i bunden har man så haft alt det andet. Og det er jo for eksempel spamfiltre eller ruteplanlægning. Så der ligger rigtig, rigtig mange. Det er også derfor, at i den her trækant, der er det det største rum nederst. Det er ikke der i Fødevarepyramiden, der er det der, at gulerødderne ligger. Altså i virkeligheden rigtig, rigtig mange kunstig intelligensprodukter ligger dernede og bliver sådan set ikke berørt af det her. Og ind i den her pyramide med de fire felter, der er så kommet det her ekstra felt midt i, som hedder generativ AI eller foundational models, som det hedder i EU-lingu, som er blevet presset ind her i løbet af det sidste halve år. Ja, fordi det var der jo ikke til at starte med, fordi der eksisterede det jo dybest set, eller det gjorde det måske nok, men vi har ikke rigtig lagt mærke til dem. Nej, altså i december sidste år, altså 2022, der var vi her i Ingenjørforeningen vært for en stor pan-europæisk tv-show-ting, hvor Christel Schaldemose var med her fra Danmark. Vi sad og filmede inde i vores lokaler her, og så blev der også sendt fra Spanien, og der blev sendt fra Frankrig. Og det var sådan, fordi man troede, at nu var man, det var 1. december sidste år, der troede man, at nu i løbet af december, så ville man være færdig. Altså med AI-forordningen? Altså med AI-forordningen, så ville den være færdig vedtaget. Men i november, der var det jo altså lige at åbne AI, havde smidt deres chat-GPT ud, og da den begyndte at fylde for alvor, så var der nogen i Europa-parlamentet, som sagde, hov stop, vi er simpelthen nødt til at kigge på det her også. Det kommer til at forandre så meget i måden, vi tænker og bruger kunstig intelligens på, så det skal have en plads. Diskussionen omkring det har jo så været, at her, der går man lige pludselig imod den her idé om at gøre det risiko, om den risikobaserede tilgang. Fordi chat-GPT og BART og sådan noget, det er jo konkrete teknologier, man går ned og lovgiver om. Hvorimod idéen med resten af AI-akten, det er, at den skal være så teknologineutral som muligt, så den også er så langtidsholdbar som muligt. Så det er sådan en lidt særlig ting, at den her chat-GPT-pulje er kommet med ind, kan man sige. Og det er så det, man kalder for foundation models eller foundational models. Ja, og det er sådan et forsøg. Det er sprogmodeller i virkeligheden, ikke? Jo, og også Mid Journey. Det er jo også billedtekster, det er jo også kodning. Det er sådan en forsøg på at lave et ord for alle store generative modeller, man kan komme på, for ikke at forsnævre det for meget ind. Men hvad er det så, man gør ved dem i lovgivningen? Hvordan regulerer man så dem? Vi kender ikke detaljerne helt endnu. Og det var jo noget af det, der blev forhandlet også der, da de sad i, jeg tror det var 23 timer, non-stop forhandlinger. De havde ikke fået noget at spise de sidste 14 timer, så det var jo ret intensivt. Så gik de hjem i seng og startede næste morgen kl. 11. Og der har diskusset, at de er så stadigvæk de her generative AI-ting. Så vi kender ikke helt, hvor de er landet henne. Men det, der har været et vigtigt punkt for især parlamentet, det har været at skabe gennemsigtighed. Sådan når man for eksempel sidder og læser en avis på sin telefon, hvis artiklen er lavet af ikke en menneskesjournalist med en AI-journalist, så skal det stå på. Og det samme gælder billeder, det samme gælder også i en eller anden grad kodning. Altså at man simpelthen får sådan en, det her er ikke menneskeskabt. Du har nu læst noget, som en robot har lavet. Og en del af det handler selvfølgelig om, at man har set alle de her fejl, især i den tidlige chat-GBT-træeren, hvor den har hallucineret, som man har kaldt det. Altså man simpelthen har fundet, har skrevet noget, som har vist sig at være noget værre sludder. Så den der viden om, at det her er ikke en journalist, der har lavet det, men en redaktør, der har rendt det ud, det er en kunstig model. Og det samme med billedet i virkeligheden? Ja, og for den anden ting, der ligger i det, det er jo også hele copyright-diskussionen, som vi jo heller ikke er helt færdige med endnu. Når mit journey, de laver billeder, så kommer det materiale jo fra et sted fra, fra nogle kunstnere eller nogle fotografer, der har siddet og arbejdet med noget. Og der har vi altså også en stor diskussion til gode om, hvordan man håndterer det. Og der er vel også noget med fake news og så videre? Ja, for så vil man også gerne forsøge at bremse op for sådan den værste udgave af fake news eller misinformation, eller bare fejl, som kan være alvorlige. Og det ligger, den tunge regulering på det, ligger i virkeligheden også over i DSA'en. Altså den anden store lovgivning, vi har fået. Så de to lovgivninger kommer til at spille ret tæt sammen? Det kommer de til, og man skal heller ikke glemme GDPR, altså ikke overhalet her. Den er stadigvæk, det er sådan den helt tunge basis, der ligger for alle de her nye EU-lovgivninger, der er kommet. Det lyder som om, det bliver ikke kompliceret, hvad jeg holder styr på. Det er i hvert fald, og så er vi slet ikke nødt til NIS 2 og cybersikkerhedsdelen endnu. Så der er jo nogle gode ting at komme til at kigge i, og især fordi det er just de store rammeaftaler indtil videre. Så vi mangler lidt at se den her berømte djævlen i detaljen, hvad der dukker op i løbet af de næste par måneder. Nu må du rette mig, hvis jeg siger noget forkert her, men jeg har læst mig til et eller andet sted, at den måde, man vil regulere de her sprogmodeller på, det er også noget med at kigge på, hvor store dataset de er jo trænet på osv. Altså i forhold til, hvor store risiko der er for MIT. Ja, det har jeg også. Og jeg ved ikke præcis, hvad der står endnu. MIT har kigget ind i det, og det er jo sådan lidt sjovt at læse en amerikansk vinkel på den her AI-act, fordi det er jo tydeligt, at de leder efter, at der er et angreb på amerikanske virksomheder. Og der er den her alt med størrelse, er jo i hvert fald hen imod en regulering af de helt store virksomheder. Den her AI-act er jo ikke det eneste sted i verden, hvor man forsøger at regulere kunstig intelligens. Men i USA er Biden lige kommet med hans executive order, som er sådan et forsøg på os at stille nogle retningslinjer for, hvad man kan bruge kunstig intelligens til. Hvordan er hans executive order, og hvordan er det en anderledes end vores AI-forordning her i Europa? Altså hvad er det for nogle steder, de adskiller sig fra hinanden på? For eksempel er der rigtig meget frivillighed i den. Og det kan man se. I den amerikanske. Joe Bidens executive order baserer sig rigtig meget på frivillighed på henstillinger. Det har selvfølgelig dels noget at gøre med, at mange steder er det jo staterne, der hver især laver den reelle lovgivning. Men der er også rigtig meget, der baserer sig på frivillighed, hvor man opfordrer virksomhederne til at gå en bestemt vej. Når man så kigger på de amerikanske kommentorer på AI-akten, så synes de det jo er lidt sjovt, kan man godt se. Også lidt skræmmende, kan man godt mærke på, at lige pludselig her, der har vi en AI-akt. Det er ikke frivillighed. Det er ikke, det ville være godt, hvis du det ikke skåltaler. Her er det faktisk en bøde, hvis du gør noget, som ikke er i overensstemmelse med præcis de her og de her regler. Så der ligger altså en væsentlig forskel fra det europæiske til det amerikanske. Er der noget, man skal være på vagt for? Jeg tænker på, fordi det bliver jo en del af mange forskellige systemer. Vi kan allerede nu se Microsoft, der har pullet det ind i deres officepakke som en co-pilot. Den slags kommer der formodentlig mere af. Hvordan hænger det sammen med reguleringen? Det, man skal kigge på som dansk virksomhed eller som dansk offentlig myndighed, det er jo rigtig meget, hvad er det, vi bruger kunstig intelligens til her? Og måske skal man i virkeligheden i første omgang kigge rigtig grundigt på, er det faktisk overhovedet kunstig intelligens, vi bruger? Fordi hvis det bare er avancerede digitale systemer, som jo langt hen ad vejen er det, man bruger mest, for eksempel i kommuner og regioner, så er man ikke omfattet af den her AI-akt. Så er man tilbage ved GDPR og de andre lovgivninger. Så hvis man bruger noget, der reelt er kunstig intelligens, så skal man kigge på, hvad er det, vi bruger det til? Er det for eksempel til at rekruttere? Så ryger man ind i højrisikogruppen. Er det til at hjælpe børn, der er ordblinde med en bedre stavekontrol? Så er man helt nede i det grønne felt, hvor man må gøre hvad som helst. Så det her med, at de næste par års øvelse kommer til at gå ud på, hvornår er det præcis, man havner i hvilken kategori af de her fire-fem kategorier, vi ser i pyramiden? Hvis jeg nu bevæger op i toppen af pyramiden til de her high-risk ting, det som er virkelig slutforbudt, og det må du overhovedet ikke gøre. Det er jo sådan noget med biometri i det offentlige rum, overvågning af mennesker, social profiling og alle sådan nogle ting. Ja, der er to hovedgrupper i den øverste der. Det ene er sociale scoring-systemer. Og der har man jo kigget på Kina og sagt, det system, man har, SCS-systemet, man har der, det ønsker man ikke at have. Det er simpelthen for omfattende, har for stor betydning for almindelige mennesker. Og så har vi de her AI-systemer, som manipulerer din undervissthed eller får dig til at gøre noget andet, end du havde lyst til at gøre. Vi har set lidt af det på nogle af de her spil, som børn har siddet og spillet, hvor de er blevet lokket til at spille i et spil lidt længere, end de egentlig havde lyst til. Og så er der også noget med overvågning i det offentlige rum, som man ikke må, men som man måske alligevel gerne må, hvis man er nogle bestemte personer eller instanser. Ligesom sammen med generativ AI, så var lige præcis den her biometriske eller ansigtsgenkendelse, det var et af de helt store debatsemner. I Europaparlamentet, der sidder nogle mennesker, som er inderligt imod, at man bruger ansigtsgenkendelse i det offentlige rum. Omvendt så har vi på den anden side, der har vi haft rådet, som jo består af ministrene fra de forskellige lande, hvor man jo har, og især i Frankrig, har haft terrorbekæmpelse rigtig højt oppe på, ligesom vi er nødt til at kunne bruge de her nye teknologier til at sikre os mod terror. Så det, man er endt med, det er sådan en balance, at politiet kan bruge det med en dommerkendelse, men du må ikke bruge det til at for eksempel aflæse stemninger på arbejdspladsen. Så der er sådan en, så er man simpelthen sat benhårdt ind på, hvor må du, der er nogle undtagelser for, hvornår du må bruge biometriske information, og hvornår du overhovedet ikke må. Det her med at bruge det ned ad en offentlig gade, og så tænke, nu ved vi, om folk er glade eller julestresset, når de går ned og strået. Det er heller ikke tilladt mere. Men man har altså, så snart det handler om statens sikkerhed, om terrorisme, om hård kriminalitet, så er der lov til at bruge ansigtsgenkendelse. Så det er måske, nu skal vi jo passe på, at man ikke har fanden på væk, men det er måske et sted her, man kan bøje den, når det handler om overvågning. Diskussionen omkring overvågning er i hvert fald ikke slut med det her, fordi det er jo på den ene side de her sikkerhedsting, vi er jo ikke os, der ønsker, at der skal være frit spil for terrorister. På den anden side de her helt grundlæggende rettigheder, kan man gå frit på gaden, kan man bevæge sig rundt, hvad sker der med de informationer, der bliver samlet ind om os med det her. Den her konference, vi var til begge to forleden dag, der var en oplægsholder, der sagde, at det her kommer i virkeligheden ikke til, altså det er ikke noget, man skal sådan bekymre sig om som virksomhed eller privatperson, fordi det meste af det ligger i den der del af pyramiden, som er fuldstændig uskadelig. Så hvordan kommer vi til at opleve det, tror du, som danske virksomheder, som danske borgere? Der hvor højrisikogruppen, altså der hvor den her lov, den for alvor, begynder at stille krav til dokumentation og til data er rigtige og til både nogle tekniske krav, men også at man overholder menneskerettighederne, det er nogle produkter eller nogle services, som dels ligger inden for infrastruktur. Det handler for eksempel om, hvis man begynder at udvikle fly, der udelukkende bliver styret af kunstig intelligens. Så bliver der stillet nogle særlige krav, som man er sikker på, at den for eksempel ikke lige pludselig finder ud af, at den hellere vil flyve en anden vej eller vil lande med snuden lodret ned i jorden. Det kan også være noget så meget mere jordenært som at blive optaget på uddannelsesinstitutioner. Hvis man bruger AI til at finde ud af, hvem kommer ind som studerende på kvote 2 på Københavns Universitet, så må du ikke bare sætte en algoritme til at kigge på de her ansøgninger og så udvælge dem ud fra nogle kriterier. Du skal have et menneske ind over også. Så på den måde kommer der så nogle flere krav til. Og årsagen til det er, at det at blive tilladt at komme ind på et studie, er noget, der har så stor indflydelse på et menneskes liv, at det har en stor risiko for menneskers velfærd. Og derfor sætter man særlige krav til det. Så er der en masse ting omkring sundhedsteknologi, kommer vi sandsynligvis til at se nogle ting også. Og det er jo også der, hvor nogle af de danske virksomheder, der har kritiseret det her, kommer fra. Fordi man siger, at hvis det kommer til at skade for patienterne, er det sikkert nok, kan den faktisk enten, kan den komme til at fejldiagnostisere, eller kan den komme til at give noget forkert medicin, eller kan den i virkeligheden ikke læse rigtigt på mammografiskanninger, for eksempel, hvor er vi henne? Det vil sige, at det bliver absolut ikke forbudt, men der kommer til at være nogle særlige krav til det her, det skal være sikkert nok, det skal være tjekket nok, man skal kunne redegøre for, at datagrundlaget og fejlraten er noget, man har undersøgt. Hele håndteringen af den her lovgivning, hvor kommer den til at lige? Altså, fordi der bliver åbenbart etableret et AI-kontor i Bruxelles, men det bliver jo en del af vores lovgivning, så det skal jo være med en stress og hjem fra et eller andet sted. Datasilsynet for eksempel kigger, holder øje med GDPR, vores vagthund der, og så har vi fået den nye DSA, den har vi fået lagt over, så forbrugerstyrelsen. Forskellen på datasilsynet og forbrug og konkurrencestyrelsen, det er jo blandt andet spørgsmålet om, har man lov, til at gå ind, det kan konkurrencestyrelsen gøre, ligesom fødevaremyndighederne kan gå ind og komme på uanmeldt besøg, og så kan de også udstikke bøder af sig selv, hvor datasilsynet omvendt kan sige, hov, det her kan udstikke noget kritik, og så kan de øje et melde til politiet. De kan ikke selv udstikke nogle af de her ret store bøder, som jo også ligger i den her AI-ark. Det koster noget, hvis man laver nogle produkter, som ikke følger AI-retningen, produkter inden for højrisikogruppen, som ikke følger AI-reglerne. Det vigtige i forhold til tilsynet med den her lov, det bliver jo nok, hvor ligger man, hvad er det for en type tilsyn, man vil have, hvilken styrelse, hvilket ministerium ligger man det under, og så tror jeg også, vi får brug for en helt anden type medarbejder i den her enhed, fordi det her handler jo rigtig meget om algoritmer, og vi kommer til at se nogle eksempler på Black Box, og vi kommer til at se nogle vurderinger og nogle evalueringer af, hvordan algoritmerne virker, som ikke er juridisk, men er rent tekniske. Kan det principielt så også komme til at betyde, at der er visse services, som måske i perioder ikke vil være tilgængelige i Danmark, fordi de ikke lever op til, eller i Europa, fordi de ikke lever op til de krav, som de skal leve op til? Der er to år til AI-agten, så træder i kraft, og reglen lige nu er, at hvis man allerede har produkter med kunstig intelligens i, så har man to år til at rette ind, og herefter kan man sige, så smækker fælden. Hvis man derimod ikke har lavet noget med kunstig intelligens før, man tænker, nu skal vi have lavet om på det her system, vi vil gerne bruge kunstig intelligens, så skal man fra starten overholde de nye regler, der kommer. Så det vil sige, at de virksomheder, der allerede er godt i gang med at bruge kunstig intelligens, de får to år til at rette ind, og ændre de ting, der måtte være relevante at rette, og måske i første omgang finde ud af, hvor meget af det, vi laver, er faktisk i højrisikogruppen, og hvor meget af det ligger nede i den her fuld fart frem, grønne gruppe nederst i pyramiden. Og det sagde altså Grit Mung, der er digitaliseringspolitisk chef i Ingeniørforeningen Ida. Efter nytår, der går vi mere dybt med AI-forordningen, hvordan implementerer man den i sin virksomhed, og kommer den til at hæmme konkurrenceevnen for europæiske virksomheder, det er der nemlig også en del mennesker, der er stærkt bekymret for. Mere om det på den anden side af nytår. De her nu skal vi have et podkort fra Ingeniørens podcast Transformator. Når danske firmaer bliver angrebet med ransomware, og hackere tager deres data som gissel, så er der bare ikke noget at gøre. Af de hundredvis af sager, politiet har fået alarmer på, er der ingen, som i ingen hjælp er få. Ikke et eneste angreb er opklaret, ikke en eneste skyldig er pågrebet. Men når en brancheorganisation skriver en rapport, at hackere målrettet angriber dansk infrastruktur, og at en fremmed magt står bag, så kommer ministeren i samråd. Også selvom det ikke passer. I denne uges Transformator tager vi temperaturen på cybersikkerheden i Danmark, og så laver vi lige en teknisk opsamling på klimatopmødet COP28. Hør med i denne uges Transformator. Du har selvfølgelig lyttet til Tektopia. Vi udkommer hver mandag. Du kan finde tidligere episoder på tektopia.dk. Du kan skrive til mig på henriksnablag.dk. Du kan deltage i teknologidebatten i vores Facebook-gruppe. Den hedder Tektopia Backstage. Du kan følge os på ekse og Instagram. Der hedder vi Tektopia. Der hedder vi snablag.dk. Du kan også følge os på LinkedIn. Og du kan finde vores nyhedsbrev via tektopia.dk. Det her blev den sidste udgave af Tektopia i 2023. Vi ses i 2024, hvor det som altid vil være mig, Henrik Føns, der er din vært. Og jeg får som så vanlig hjælp af Mikkel Berggren til at lave Tektopia. På genhør til næste år. Tektopia Tektopia er en unipodcast om mennesker og deres teknologi udgivet af Ingeniørforeningen IDA i samarbejde med Teknologiens Mediehus, støttet af .dk.dk. Idar Forsikring og Messecenter Herning. Mit navn er Henrik Føns, og det er mig, der bestemmer i Tektopia. Tektopia