Ekspertgruppe om ophavsret og kunstig intelligens

Ekspertgruppen anbefaler, at der på EU-niveau sikres meningsfuld og effektiv transparens ved brug af ophavsretligt beskyttet indhold til at træne og udvikle kommercielle kunstig intelligenssystemer. Transparens er nødvendigt for, at rettighedshaverne kan kontrollere brugen af deres indhold. Som supplement hertil anbefales det, at der på EU-niveau indføres en formodningsregel om, at kommercielle kunstig intelligenssystemer er trænet på ophavsretligt beskyttet materiale i tilfælde, hvor transparenskravet ikke opfyldes.

Effektiv transparens opnås ved, at rettighedshaverne får stillet følgende informationer til rådighed for at kunne afgøre, om deres indhold er brugt til at træne kunstig intelligenssystemer:

• Hvad er blevet brugt til træning: titel eller anden identifikation (såsom ISBN for bøger) på værksniveau.
• Hvor er indholdet indsamlet fra: optimalt URL-niveau, ellers domæne niveau eller navn på tjeneste (fx Spotify eller YouTube).
• Hvornår er indholdet blevet indsamlet: dato, klokkeslæt.
• Hvordan er indholdet blevet indsamlet: hvordan har kunstig intelligens-udbyderen sikret sig, at der har været lovlig adgang til indholdet på indsamlingstidspunktet.

Alternativt skal rettighedshaverne have adgang til at søge på eget repertoire direkte i de datasæt, der bruges til træning af kunstig intelligenssystemer, samt at de får stillet de nødvendige søgeredskaber til rådighed herfor.

Såfremt datasæt eller disse informationer ikke stilles til rådighed for rettighedshavere, der anmoder om det inden en rimelig frist, skal der gælde en regel om omvendt bevisbyrde, hvorefter der gælder en formodning for, at en rettighedshavers indhold er blevet brugt til at træne kunstig intelligenssystemer, medmindre udbyderen af det pågældende kunstig intelligenssystem dokumenterer, at det ikke er tilfældet. Ekspertgruppen bemærker, at forslaget kan ses i forlæng-else af anbefaling nr. 3.1, i Delafrapportering 2 fra regeringens ekspertgruppe om tech-giganter, hvor denne ekspertgruppe konkret anbefaler, at der stilles yderligere krav (til tech-giganter), der bruger ophavsretligt beskyttet materiale.₁₀₃

Denne konkrete anbefaling om effektiv og meningsfuld transparens og formodningsregel skal inddrages i arbejdet i relevante fora i EU.

Dansk Erhverv og DI finder, at en sådan regel om omvendt bevisbyrde alene skal finde anvendelse i de tilfælde, hvor udbydere af kunstig intelligens ikke har opfyldt transparensforpligtelserne i henhold til artikel 53, stk. 1, litra d, i forordningen om kunstig intelligens.

Danske Medier finder, at der uafhængigt af et transparenskrav bør gælde
omvendt bevisbyrde og en formodningsregel om, at der er brugt ophavsretligt beskyttet indhold som træningsdata.

Ekspertgruppen anbefaler, at der i EU sikres markante forbedringer af mulig-hederne for at tage forbehold for tekst- og datamining, og ultimativt at reglerne i DSM-direktivets artikel 4 ændres, så lovlig brug af værker til tekst- og datamining kræver udtrykkeligt samtykke.

Det er ekspertgruppens opfattelse, at rettighedshavernes muligheder for at kontrollere og håndhæve forbehold for tekst- og datamining langt fra er velfungerende, idet ”opt out”-systemet ikke fungerer i praksis. Der er derfor behov for en styrkelse af dette system, hvis reglerne skal virke efter hensigten og skabe den fornødne klarhed for både rettighedshavere og udbydere af kunstig intelligenssystemer.

Ekspertgruppen finder, at der i første omgang bør fokuseres på praktisk realiserbare løsninger af hensyn til den hastige udvikling på området. Ekspertgruppen anbefaler, at der indføres fælleseuropæiske regler for, hvordan et forbehold korrekt kan ske, og hvordan det efterfølgende behandles og dokumenteres. Reglerne bør indebære, at en rettighedshaver kan tage forbehold med generel virkning uden nævneværdige økonomiske omkostninger, og at rettighedshaverne kan kontrollere, at forbehold overholdes. Det skal i den forbindelse sikres, at der er effektive sanktioner for manglende overholdelse af gyldige forbehold.

Hvis det skulle vise sig, at disse initiativer ikke løser de praktiske udfordringer for rettighedshaverne med det nuværende ”opt out”-system inden udgangen af 2026, anbefaler ekspertgruppen, at DSM-direktivets artikel 4 om tekst- og datamining hurtigst muligt ændres.

En sådan ændring bør foreslås i forbindelse med EU-Kommissionens planlagte evaluering af DSM-direktivet i 2026. Danmark bør herved fremlægge forslag til en ændring af reglerne, som indebærer, at brug af værker med henblik på tekst- og dataminerig sker med rettighedshaverens udtrykkelige samtykke (”opt in”).

Danske Medier finder, at artikel 4 straks bør ændres til et ”opt in”-system.

Ekspertgruppen anbefaler, at der både på dansk og europæisk plan iværksættes tiltag, som kan forbedre rammevilkårene for kollektiv licensering på området for brug af ophavsrettigheder, herunder nærtstående rettigheder, i kunstig intelligenssystemer.

Ekspertgruppen mener, at rettighedshaverne har ret til at modtage en rimelig betaling, når deres værker eller frembringelser bliver brugt til kommerciel udvikling og træning af kunstig intelligens. De nuværende licenseringsløsninger er ikke tilstrækkeligt effektive til at få udbydere af kunstig intelligens til at indgå aftaler med de relevante forvaltningsselskaber. Der er behov for tiltag, som understøtter princippet i ophavsretslovens § 55 (DSM-direktivets artikel 18) om, at rettighedshaverne skal have en rimelig betaling, når deres eneret udnyttes og kommercialiseres af andre. Dette kan bl.a. ske ved at styrke rammevilkårene for kollektiv forvaltning. Ekspertgruppen bakker op om, at der efter de gældende regler i § 55 gælder et princip om, at ophavere og udøvende kunstnere har et krav på et passende og forholdsmæssigt vederlag, som efter § 55 d ikke kan fraviges til skade for ophavere og udøvende kunstnere.

Konkret anbefaler ekspertgruppen, at der i EU arbejdes for at skabe en retlig regulering, der legitimerer, at forvaltningsselskaber kan udstede licensløsninger til udbydere af kunstig intelligens. Det bør i den forbindelse overvejes, om der kan etableres globale eller multinationale ordninger, som kan gøre det endnu nemmere for store, internationale aktører at indgå de nødvendige aftaler. Endvidere bør mulighederne for anerkendelse af nationale løsninger på tværs af landegrænser til håndtering af ikke-repræsenterede rettighedshavere overvejes.

I Danmark kan muligheden for at indgå licensaftaler på området bl.a. styrkes ved indførelse af en specifik aftalelicensbestemmelse om brug af ophavsretligt beskyttet materiale i kunstig intelligenssystemer, som endvidere indeholder adgang til, at Ophavsretslicensnævnet kan afgøre tvister om vilkår og vederlag i sådanne aftaler.

Ekspertgruppen bakker i øvrigt op om anbefaling nr. 3.2, i Delafrapportering 2 fra regeringens ekspertgruppe om tech-giganter om EU-licensaftaler i forhold til brug af ophavsretligt beskyttet materiale.¹⁰⁴

Endvidere opfordrer ekspertgruppen til, at såfremt der udvikles danske sprogmodeller, bør der ske en facilitering af aftaleindgåelse om klarering af rettigheder. Dette kan eksempelvis ske ved, at der i regi af danske kultur- og uddannelsesinstitutioner etableres et samarbejdsforum med repræsentanter fra bl.a. bredt dækkende forvaltningsorganisationer, dataejere og andre relevante aktører.

Ekspertgruppen anbefaler, at det undersøges, om der kan indføres en obligatorisk voldgiftsmodel med henblik på at sikre en effektiv håndtering af rettighedskonflikter og fremme aftaleindgåelse om brug af ophavsretligt beskyttet indhold, herunder til træning af kunstig intelligens, i første omgang som en forsøgsordning på området for pressepublikationer.

De eksisterende håndhævelsesværktøjer på ophavsretsområdet sikrer ikke en tilstrækkelig effektiv løsning af rettighedskonflikter. Her tænkes bl.a. på ophavsretslovens § 52, som giver parterne i en tvist mulighed for at kræve mægling, hvis forhandling om visse licensaftaler ikke fører til noget resultat. Dog kan en part blot undlade at deltage i mægling.

Ekspertgruppen anser det som et problem, at de eksisterende regler ikke indeholder krav om bl.a. deltagelse i aftalelicensforhandlinger og mægling samt eventuelle sanktionsbestemmelser vedrørende manglende deltagelse. Dette gør sig især gældende på områder, hvor rettighedsindholdet har en særlig demokratiunderstøttende og oplysende funktion for borgerne, hvilket er tilfældet for pressepublikationer.

Ekspertgruppen anbefaler, at det undersøges, om disse håndhævelsesud-for-dringer ville kunne afhjælpes ved indførelse af en obligatorisk voldgiftsmodel (en såkaldt ”final offer arbitration model”). Modellen bygger på princippet om, at parterne i en tvist pålægges at medvirke aktivt i aftaleforhandlinger og eventuelle mæglingsforhandlinger. Udtømmes disse muligheder, uden at der opnås enighed om en aftale, skal parterne indgive hvert sit bud på en aftale til en uafhængig voldgiftsinstans, som herefter skal vælge det mest rimelig forslag. Denne proces tilskynder, at begge parter udarbejder et retfærdigt og afbalanceret forslag, og den sikrer en hurtig og bindende afgørelse for parterne.

En sådan voldgiftsmodel vil f.eks. kunne udarbejdes med inspiration i udenlandske regler. I forbindelse med undersøgelsen af de retlige og praktiske muligheder for indførelse af modellen, bør der foretages en vurdering af de retssikkerhedsmæssige aspekter, herunder domstolsprøvelse og hastighed i løsning af konkrete tvister.

Ekspertgruppen bemærker, at særligt udgivere af pressepublikationer har tilkendegivet at opleve store udfordringer med indgåelse af aftaler om informationssamfundstjenesters online brug og tilrådighedsstillelse af pressepublikationer. Derfor bør det undersøges, om en sådan voldgiftsmodel i første omgang kan indføres som en forsøgsordning på området for pressepublikationer og udbredes, hvis erfaringerne er positive.

Fører undersøgelsen til, at der igangsættes lovgivningsmæssige initiativer på området, finder ekspertgruppen, at det vil være mest effektfuldt, hvis reglerne gennemføres på EU-niveau.

Danske Medier finder, at det haster med indførelse af en håndhævelsesmodel i forhold til tech-virksomhederne, som virker i praksis, hvorfor en obligatorisk voldgiftsmodel bør indføres straks.

Ekspertgruppen anbefaler, at der indføres ophavsretlige regler, som beskytter imod digitale efterligninger af personers stemme, udseende og andre personlige kendetegn.

Udviklingen inden for generativ kunstig intelligens har resulteret i, at det er meget nemt at skabe vellignende digitale efterligninger af andre mennesker, og der er navnlig set eksempler på, at kendte personers udtryk er blevet brugt i sange, videoer, reklamekampagner m.v. uden de pågældendes samtykke.

Ekspertgruppen anbefaler, at der indføres nye regler om beskyttelse af personlige kendetegn, som skal kodificere dele af personlighedsretten, der i dag er svære at håndhæve over for store tech-virksomheder. Ekspertgruppen vurderer, at det er essentielt, at der handles hurtigt, hvorfor reglerne i første omgang bør indføres på nationalt plan. Dette kan med fordel ske i ophavsretsloven. Indføres tilsvarende regler på et senere tidspunkt i EU, vil de danske regler om nødvendigt kunne tilpasses.

Derudover anbefaler ekspertgruppen, at det undersøges, om der kan indføres en beskyttelse mod digitale efterligninger af udøvende kunstneres præstationer. Formålet med dette vil være at sikre, at udøvende kunstnere ikke alene får rettigheder til optagede fremførelser af værker, men også til selve præstationen og uafhængigt af om det, der fremføres, er et ophavsretligt beskyttet værk. En sådan beskyttelse er navnlig relevant, hvis det underliggende materiale (et manuskript eller en sang mv.) ikke er ophavsretsligt beskyttet, f.eks. hvis det er genereret af kunstig intelligens.

Endeligt bemærker ekspertgruppen, at brugen af kunstig intelligens ligeledes indebærer, at der systematisk, hurtigt og billigt kan frembringes indhold, der ligner eksisterende menneskeskabte værker. Sådant indhold kan konkurrere med en ophavers egne værker, fordi de består i en tæt efterligning af ophaverens særlige stilistiske udtryk, således at det kan være svært at skelne, om et værk er skabt af den rigtige kunstner eller af kunstig intelligens. Ekspertgruppen opfordrer i sådanne tilfælde til, at der anlægges en skærpet lighedsbedømmelse, som imødegår, at andre bevidst kan snylte på det arbejde, som kendte forfattere, komponister, billedkunstnere mv. har lagt i at udvikle deres egen unikke og karakteristisk stil.

Ekspertgruppen anbefaler, at udbydere af kommercielle kunstig intelligens-tjenester pålægges at indarbejde effektive sikkerhedsforanstaltninger (guard-rails) med henblik på at forhindre, at tjenesternes brugere uploader og indsætter kopier af ophavsretligt beskyttet materiale, som kan indebære risiko for ophavsretskrænkelser.

Brugere af kunstig intelligens har i vidt omfang mulighed for at uploade ophavsretligt beskyttede værker og frembringelser samt at lave eksemplarfremstillinger af beskyttet indhold i form af instrukser. Dette materiale kan udnyttes til at skabe outputs i stil med det delte materiale (og hvor beskyttede elementer kan genfindes), ligesom det kan blive brugt til at træne og videreudvikle systemet uden samtykke fra rettighedshaveren.

Ekspertgruppen finder, at principperne i ophavsretslovens § 52 c (DSM-direktivets artikel 17), som regulerer onlineindholdsdelingstjenesters ansvar for bruger-upload, også bør gælde for udbydere af kunstig intelligens. Det vil bl.a. indebære, at udbyderen skal gøre sin bedste indsats for at sikre, at brugeren ikke kan uploade indhold i strid med ophavsretten, f.eks. ved at indarbejde tekniske sikkerhedsforanstaltninger (guardrails), samt at brugeren nægtes adgang til at give instrukser om skabelse af output ”in the style of”, ”look-alike”, ”sound-alike” og lignende på en måde, som indebærer en ophavsretskrænkelse.

De nærmere ansvarsforpligtelser kan fastlægges i et samarbejde mellem udbydere af kunstig intelligens og rettighedshavere i de enkelte lande, f.eks. i lighed med det samarbejde, der allerede foregår i Danmark i det eksisterende ’Artikel 17-forum’. Forpligtelserne kan bl.a. omfatte krav om etablering af lettilgængelige klageordninger.

De anbefalede krav og ansvarsforpligtelser bør indføres på EU-niveau. Dog bør det undersøges, om der vil være mulighed for national regulering i tilfælde af, at der ikke er opbakning til sådanne regler i EU-regi.

Ekspertgruppen anbefaler, at bestemmelsen om betinget offentlig påtale i ophavsretsloven udvides til også at gælde for mindre grove sager, når disse relaterer sig til kunstig intelligens og er teknisk og territorialt komplicerede.

Udgangspunktet i ophavsretsloven er, at den forurettede selv skal påtale krænkelser af ophavsretten. Dette gælder for krænkelser omfattet af § 76, stk. 1. Dog er grove krænkelser, omfattet af § 76, stk. 2, undergivet betinget offentlig påtale, hvilket betyder, at anklagemyndigheden (oftest på begæring), kan indlede en efterforskning og rejse tiltale i sagen.

Politiet er ofte mere kompetent og bedre udstyret til at efterforske og fremskaffe beviser i sager om kriminalitet på internettet. Ophavsretlige sager, der er knyttet til kunstig intelligens, er ofte ganske komplicerede og teknisk indviklede, herunder fordi de normalt går på tvært af landegrænser. Derfor bør der i sådanne specifikke sager være adgang til offentlig påtale, uanset om krænkelsen ikke viser sig at være af grov karakter.

Konkret kan anbefalingen gennemføres ved ændring af ophavsretslovens § 82, således, at den også kommer til at gælde for overtrædelser omfattet af § 76, stk. 1.

Anbefalingen indebærer en forudsætning om tilførsel af ressourcer til Politiets Enhed for Særlig Kriminalitet (NSK), da det forventes, at en ændring som den foreslåede vil øge politiets arbejdsbyrde, og da ekspertgruppen ikke ønsker, at evt. merarbejde som følge af forslaget skal træde i stedet for nogle af politiets andre opgaver med bekæmpelse af immaterialretskrænkelser. Henset til størrelsen af NSK’s sektion for rettighedsbeskyttelse estimeres det, at forslaget vil kræve tilførsel af to årsværk. Afhængigt af det påkrævede erfarings- og kompetenceniveau samt eventuelle særlige driftsudgifter (særligt IT-udstyr, system-adgange, licenser m.m.)., estimeres udgifterne at beløbe sig til mellem 2 og 2,5 mio. kr. årligt.

Ekspertgruppen anbefaler, at der foretages en undersøgelse af mulige tiltag for at styrke menneskeskabt indhold for det tilfælde, at der er risiko for, at kunstigt genereret indhold udkonkurrerer menneskeskabt indhold. Dette kan bl.a. være i form af en ”domaine public payant”-ordning. Som led i undersøgelsen bør fordele og ulemper ved en sådan ordning afdækkes, ligesom udenlandske erfaringer med lignende ordninger bør indhentes.

På en række områder, bl.a. musikområdet, forventes det, at brugerne i stadig stigende grad vil anvende gratis, kunstigt genereret indhold i stedet for menneskeskabte værker og frembringelser. Analyser peger på, at en betydelig del af den fremtidige vækst inden for særligt musikbranchen vil ske inden for kunstigt genereret indhold. Der er derfor i branchen bekymring for, at kunstigt genereret indhold vil udkonkurrere de selvsamme værker, som danner grundlag for det nye, ubeskyttede indhold.

Ekspertgruppen finder, at risikoen for, at kunstigt genereret indhold udkonkurrerer menneskeskabt indhold, skal undersøges nærmere. I forlængelse heraf bør undersøgelsen beskrive forskellige mulige afbødningsmekanismer, der kan indføres på europæisk niveau. Ekspertgruppen har bl.a. drøftet ”domaine public payant”-ordningen (betaling for kommerciel udnyttelse af værker i public domain). En sådan ordning vil f.eks. på musikområdet indebære, at der skal betales for alle typer af musik til de kollektive ordninger, og at brugerne dermed ikke opnår en besparelse ved at anvende kunstigt genereret musik.

Som led i undersøgelsen bør der tages hensyn til, at en mulige ordning ikke unødigt begrænser den teknologiske innovation, herunder mulighederne for at udvikle og anvende kunstig intelligens. Ligeledes skal det sikres, at ordningen ikke medfører utilsigtede eller uforholdsmæssige store ulemper for den danske og europæiske konkurrenceevne.

Ekspertgruppen anbefaler, at der udarbejdes vejledninger til virksomheder og institutioner om brug af ophavsretligt beskyttet indhold på kunstig intelligens-tjenester og udvikles uddannelses- og oplysningstiltag, der er målrettet institutioner, elever og andre brugere af kunstig intelligenstjenester, samt at der afsættes midler til disse formål.

Det er ekspertgruppens opfattelse, at der generelt mangler fokus på ophavsretlige problemstillinger i dialogerne og debatterne om udvikling af kunstig intelligens. Det skaber usikkerhed både for virksomheder og institutioner, der ønsker at bruge eller udvikle kunstig intelligens, og for brugere af kunstig intelligens-tjenester. Udbredelse af information om de juridiske muligheder og begrænsninger i forhold til kunstig intelligens og ophavsret vil medvirke til at skabe retssikkerhed for danske virksomheder mv. og vil på den måde understøtte innovation og teknologisk udvikling i Danmark.

Ekspertgruppen anbefaler, at danske myndigheder hurtigst muligt udarbejder vejledninger til virksomheder og institutioner, bl.a. om de grundlæggende regler om ophavsret i lyset af kunstig intelligens, samt at danske myndigheder i samarbejde med private aktører udvikler uddannelses- og oplysningstiltag og kampagner målrettet institutioner, elever og andre brugere af kunstig intelligenstjenester.

Flertallet i ekspertgruppen anbefaler, at det lovgivningsmæssigt fastsættes, at der sker en tilgængeliggørelse for almenheden af det indhold, systemerne er trænet på, for at skabe optimale muligheder for aftaleindgåelse om deling af den værdi, der opstår ved selve udbuddet af kunstig intelligenssystemer på det europæiske marked.

Det er ekspertgruppens opfattelse, at samtlige store, kommercielle kunstig intelligenssystemer er trænet på enorme mængder ophavsretligt beskyttet indhold, og at brugen af denne form for træningsdata udgør en væsentlig økonomisk værdi for systemudbyderne. Ekspertgruppen finder, at en sådan kommerciel udnyttelse ikke bør finde sted uden licensering og betaling til de rettighedshavere, hvis materiale der er blevet brugt.

Ekspertgruppen finder, at brug af værker som træningsdata uden samtykke er en overtrædelse af ophavsretslovgivningen i de tilfælde, hvor træningen ikke er omfattet af en undtagelsesbestemmelse. Derimod er det lovgivningsmæssigt uklart, om der sker en ’tilgængeliggørelse for almenheden’ af de værker, der er trænet på, når det kunstig intelligenssystem udbydes på markedet.

Flertallet i ekspertgruppen finder på den baggrund, at der er behov for en tydelig angivelse i lovgivningen af, at tilrådighedsstillelse af en kunstig intelligens-tjeneste på det europæiske (eller danske) marked, vil udgøre en ophavsretligt relevant handling i form af ’tilgængeliggørelse for almenheden’ omfattet af ophavsretslovens § 2 (Infosoc-direktivets artikel 3). Det vil dermed blive klart, at aftaleindgåelse med rettighedshaverne er nødvendigt, hvis en tjeneste-udbyder vil tilbyde EU-borgere at benytte deres kunstig intelligenstjeneste.

Anbefalingen vil samtidig besvare spørgsmålet om, hvorvidt der er værneting i de enkelte medlemslande for så vidt angår sager om uretmæssig tilgængeliggørelse af værker, da der automatisk vil være værneting i det land, hvor det kunstig intelligenssystem er udbudt. Anbefalingen vil således både styrke aftale- og håndhævelsesgrundlaget.

Forslaget angår kommercielle kunstig intelligenssystemer, og der er ikke med forslaget taget stilling til, hvad der skal være gældende i forhold til ikke-kommercielle forskningsinstitutioner. Der er efter ekspertgruppens opfattelse grund til at tage hensyn til ikke-kommercielle forskningsinstitutioner. Dette kan ske i form af en obligatorisk undtagelsesbestemmelse svarende til DSM-direktivets artikel 3.

Det bemærkes, at forslaget i øvrigt ikke vil have konsekvenser i forhold til kunstig intelligenssystemer, der ikke er trænet på ophavsretligt beskyttet indhold.

Da der vil være tale om en præcisering af et EU-retligt begreb, bør anbefalingen gennemføres på EU-niveau.

Dansk Erhverv og DI, at anbefalingen vil få gennemgribende betydning for både udbydere og rettighedshavere og anbefaler derfor, at der i stedet nedsættes en high level arbejdsgruppe i EU, som kan afdække konsekvenserne ved forslaget. Endelig finder erhvervsorganisationerne, at en high level arbejdsgruppe mere generelt bør rådgive Kommissionen om, hvordan EU’s ophavsretlige rammer bedst tilpasses den teknologiske udvikling inden for kunstig intelligens.