EU: AI-genererade bilder måste märkas
Bilden har genererats med AI genom Adobe Firefly.
Magnus Fröderberg / Addobe FireflyEU-parlamentet har beslutat att anta förslaget ”EU AI Act” som innebär att bilder och ljud som skapas med AI-teknik måste märkas.
Det var med stor enhällighet (523 röster för, 46 mot och 49 nedlagda) som EU-parlamentet beslutade om nya regler för AI-genererade bilder.
EU AI Act gör skillnad på bilder och ljud som behandlas med AI-teknik och bilder som skapas med AI. Det senare, när man skapar något som liknar verkligheten men som inte är verkligt, måste märkas ut för betraktaren.
EU-parlamentet understryker att plikten att märka ut AI-genererade inte ska ses som en inskränkning av den konstnärliga friheten i i EU:s stadga.
Det beräknas ta två år innan de nya reglerna börjar gälla. Till dess ska de olika medlemsstaterna ha utformat egen lagstiftning utifrån de nya reglerna.
12 Kommentarer
Logga in för att kommentera
"Din" bild är ju välkomponerad och rätt så bra på katten men sämre på kameror och loggor. Jag gissar att promten var ungeför "katt som fotograferar med systemkamera och har sin kamerasamling omkring sig"
Min tolkning av EUs pressmeddelande är att i princip allt digitalt innehåll måste märkas upp. Vilket porträtt har inte fått ett hårstrå bortklonat och hur långt tid dröjer det innan alla podcasts går genom ett filter som förbättrar ljudet? Redan idag så är mjukvarubehandlingen av mobilers bilder en stor selling point för tillverkarna.
Det blir cookie-varning 2.0 som alla slentrianmässigt tvingas godkänna.
Jag tolkar det enbart material som skapas med hjälp av AI det här gäller, inte sånt som behandlas med hjälp av AI tex byta himmel eller clona hårstrån.
"EU AI Act gör skillnad på bilder och ljud som behandlas med AI-teknik och bilder som skapas med AI. Det senare, när man skapar något som liknar verkligheten men som inte är verkligt, måste märkas ut för betraktaren."
Det kan nog bli en svår gränsdragning.
Som jag förstår lagtexten så omfattas bilder som är "deep fakes" av skyldigheten att märka bilden. Jag drar inte slutsatsen att "deep fakes" omfattar kloning av hårstrån och liknande. Däremot, till skillnad från vad Magnus F skriver, så omfattas både AI-genererade och AI-manipulerade bilder av regeln.
/F
Gissningsvis blir det som med många andra lagar att du bara kan åka fast om någon anmäler dig. Så är det ju till exempel med konsumentlagar om prisskyltning.
Nja, grundproblemet försvinner inte vad jag förstår, med ditt förslag. Var går gränsen mellan en "vanlig", "sann" bild och en AI-manipulerad?
Jag tolkar det som att kravet gäller bilder som skapats mad AI - inte fotografier som redigerats med stöd av AI.
De metoder som finns för att med digitala signaturer säkra en bilds redigeringshistorik borde kunna användas även här.