Annons

Proffsfoto

Artiklar > Program upptäcker "fake news"-bilder

Program upptäcker "fake news"-bilder

Teknikföretaget Jigsaw har utvecklat ett program för journalister som kan analysera bilder och upptäcka manipulerade bilder och så kallade deepfakes.

Programmet kallas Assembler och använder sju olika "detektorer" för att analysera en bild för att se om den är manipulerad. Assambler kan verifiera var i bilden den har hittat spår av manipulering, exempelvis deepfake där ansikten byts ut.

– De här detektorerna kan inte lösa alla problem, men det blir ett viktigt verktyg i kampen mot desinformation, säger professor Luisa Verdoliva, som har varit med och utvecklat Assembler, till The New York Times.

Tekniken deepfake har på senare år använts för att skapa fejkade nyhetsbilder, exempelvis en bild av Irans ledare och den dåvarande amerikanska presidenten Obama. En bild som bland annat spreds av en republikansk kongressledamot i USA.

Jigsaw uppger att de låtit ett dussin nyhetsorganisationer över hela världen testa deras program med gott resultat. 

Programmet erbjuds gratis till journalister, men det finns ingen plan att sprida programmet till andra. 

Företaget Jigsaw är grundat av Google och hette tidigare Google Ideas. Jigsaw är specialiserade på att med tekniska lösning stärka demokratin, öka öppenheten och bekämpa extremism.



Publicerad 2020-02-05.

41 Kommentarer

Jottas 2020-02-05 17:41  
Hade gärna sett att det var ett annat företag bakom. Känner inte spontant att de kan backa upp argument om att stärka demokratin och öka öppenheten. Men enormt stora resurser och enormt mycket data att driva programmet kanske det är ett av få företag som kan göra något åt problemet. För det är skrämmande hur vanligt det är med manipulation och ingen egentlig motkraft finns förrens nu då förhoppningsvis.
Abe Normal 2020-02-05 19:08  
Jag tycker inte ”manipulerade” bilder är likställt med förfalskningar. Manipulerad bild är i min bok bara en neutral arbetsbeskrivning.
Svar från froderberg 2020-02-05 19:43
I journalistiska sammanhang skiljer man på bildbehandling och bildmanipulering. Det senare är inte tillåtet eftersom det handlar om att lura betraktaren.
Abe Normal 2020-02-05 19:52
Håller helt med. Då tycker jag ”fake news” mer är likställt med bildförfalskning med uppsåt att ljuga för betraktaren. Förfalskning är något negativt medan manipulerad bild är neutralt. Tex HDR, inredningsfoto där det används flera exponeringar och även modefoto = manipulerade bilder.

Vill man ha ett gemensamt språk är väl FS en bra plats att börja på :)
Svar från froderberg 2020-02-05 20:46
Jag menar att manipulera är att försöka lura betraktaren, vilket är helt okej inom konst och till viss del inom reklam, men inte alls inom journalistik.

HDR ser jag som bildbehandling om man använder det för att kompensera för kamerans brister jämfört med ögat.
Abe Normal 2020-02-05 21:13
För mig är byta ut pixlar = manipulerad bild. Har för mig att det även står i FS stadgar. Naturfotograferna har samma riktlinjer.

HDR sammanför information från flera exponeringar och är då manipulerad bild.

Läser mycket om musik i engelsk press, där återkommer ordet “manipulated” hela tiden, och det står för ändring, att manipulera en ljudfil (någonting helt neutralt).

Vill man lura någon används ordet fake, vilket jag tycker är mer korrekt. Ingen stor sak från min sida, önskar dig en trevlig kväll :)
PMD 2020-02-05 21:23
Att "manipulera" en bild är inte att försöka lura betraktaren. Det är när man ljuger om bilden, hur den har kommit till och vad den föreställer, som man lurar betraktaren.
Jottas 2020-02-06 16:58
Per Danielsson Det är väl precis det du skriver som händer när man manipulerar en bild? Varför skulle du annars göra det? Det behöver inte alltid vara farligt eller ett fult tilltag mot någon men faktum kvarstår att det är för göra bilden till något den inte var. Och det kan ju inte någon annan än den som tagit bilden veta. Även om du skriver att den är manipulerad på något sätt så vet ju inte jag om det är allt som är gjort med bilden. Så det är svårt att lita på en bild som är manipulerad på något sätt.
Michael Johansson 2020-02-06 19:51
Jag har just lekt lite med med macroobjektivet och en fokussläde. Med halvdussinet bilder tagna med ett par millimeters förskjutning längs optiska axeln och sammanslagna till en bild får jag skärpa på hela objektet. Detta är således en manipulerad bild (antar jag eftersom pixlar är utbytta) men samtidigt ger det en bild som stämmer överens med vad ögat ser vid betraktande av objektet. Hade jag haft ett objektiv som kunde bländas ner tillräckligt mycket utan bieffekter skulle bilden kunnat bli identisk med den sammanslagna bilden men hade då inte varit en manipulerad bild. Vad är skillnaden egentligen?
Abe Normal 2020-02-06 22:21
Man har skapat begreppet ”icke manipulerad bild” för dokumentärt foto. Inga pixlar får vara utbytta. Då ska betraktarn kunna lita på bildens innehåll. Det för att göra det enklare för redaktionell bildhantering. Sedan har tex Naturfotograferna i princip samma regler.

I min bok bara en arbetsbeskrivning om hur bilden är skapad.
PMD 2020-02-06 22:21
@Michael: Skillnaden är helt enkelt som jag skrev förut. Manipulering eller inte är en icke-fråga. Det är eventuell manipulering av betraktaren som kan vara ett problem.
PMD 2020-02-06 22:22
@Jonnie: Ja, om man manipulerar mer än man berättar så ljuger man (i någon mening) om bilden, men det är väl inte lättare att lita på en bild som fotografen säger är helt omanipulerad? Huruvida den är det eller inte vet ju bara fotografen?
Jottas 2020-02-07 08:40
@PerDanielsson Men menar du verkligen att en bild i sig inte kan vilseleda eller ljuga för betraktaren? Det måste alltså uttalas eller skrivas i text att den är eller inte är manipulerad? Manipulerar du en bild ljuger du ju faktiskt och inte "i någon mening" . Även fast du säger att du manipulerat bilden kan bilden fortfarande fara med osanning. Det spelar ju ingen roll om jag vet att den är manipulerad. Bilden är densamma i vilket fall. Det enda du gör är att du själv inte ljuger för betraktaren "i någon mening" och kanske känner dig moraliskt friskriven.
Abe Normal 2020-02-07 11:10
Den här diskussionen dyker upp med jämna mellanrum. Problemet är att vissa läser ihop "manipulerad bild" med förfalskning, "fake news", oäkta, att ljuga osv. Precis som i artikeln ovan.

Som sagt, att använda sig av olika fototekniker har ingenting med falskhet eller lögn att göra, det är bara ett arbetssätt. Sedan har dokumentärt foto valt att dra en skiljelinje mellan att byta ut en pixel eller inte.

Regelverket finns att läsa i FS stadgar.
PMD 2020-02-07 11:22
@Jonnie: en bild kan vilseleda utan att vara ett dugg manipulerad. Fotografens val av utsnitt och fotograferingsvinkel kan betyda väldigt mycket för vilket budskap betraktaren tar emot.
Jottas 2020-02-07 17:00
@PerDanielsson Men nu missar du hela målet igen. Det är inte fotograferingsvinkel som det handlar om. Vad du gör på kammaren hemma är inte det det handlar om. Men du ska då inte heller förvänta dig att bli tagen på allvar. Ska det finnas någon trovärdighet måste man kunna lita på att bilder inte är manipulerade. Det här är ett steg på vägen. Och kanske att fler håller sig till det även på hemmaplan. Det skadar inte.

Att likställa en manipulerad bild med vinkel och utsnitt visar bara på att man inte förstått frågan. Och det är också lite beklämmande att det är samma profiler som kommenterar i alla kommentarsfält och forumtrådar. Börjar bli mycket less på den attityd som finns här på sidan. Den ska mig veterligen vara till för många och inte för några få.
PMD 2020-02-07 18:13
Jag tror att du kanske inte förstår vad jag menar heller.

Jag (och även Ulf ovan, tror jag) hävdar alltså att ditt påstående "manipulerar du en bild ljuger du ju faktiskt" inte är korrekt. Manipulationen innebär inte i sig något lögnaktigt. Det är hur bilden presenteras som avgör om den är sanning eller lögn.
Jottas 2020-02-07 19:17
@Per det spelar ingen roll vad du hävdar. Det är ett faktum att när du manipulerar bilden ljuger bilden. Och som Fröderberg skriver är det inte tillåtet inom journalistiken. Sen får du tycka vad du vill om hur allvarligt det är att en bild ljuger. Det är inte relevant här.
PMD 2020-02-07 23:08
Vi har uppenbarligen olika definitioner av ordet ljuger. Min definition är att avsiktligt vilseleda någon, och det gör man inte automatiskt om man manipulerar en bild. Om man påstår något om bilden som inte är sant, t.ex. att den inte är manipulerad (antingen explicit eller implicit), då ljuger man, men om man talar om att bilden är manipulerad (och helst hur) så ljuger man inte.
Jottas 2020-02-08 09:51
"Vi har uppenbarligen olika definitioner av ordet ljuger. Min definition är att avsiktligt vilseleda någon" Ja och det är ju det du gör när du manipulerar bilden. Återigen...
Abe Normal 2020-02-08 11:38
De allra flesta berättar öppet om att deras bilder är manipulerade, det är helt vedertaget och accepterat inom fotocommunityn världen över. Fotografer utnyttjar olika tekniker som HDR, sammanslagningar för bättre DR. Jag har inte hört något om att deras bilder betraktas som bedrägeri, ljug osv.

Skandalerna har varit när fotografer hävdat dokumentärt foto fast bilderna har varit manipulerade. Dokumentärt foto har sin plats och är en del inom fotografin.
PMD 2020-02-08 13:16
@Jonnie: Du upprepar bara att det är ett faktum att man ljuger när man manipulerar en bild, utan att argumentera för din åsikt (som är just en åsikt och inte ett faktum). Jag tycker att det vore intressant att höra argumenten för den åsikten.

Jag håller alltså med Ulf härovan.
Jottas 2020-02-08 13:18
@Ulf Jag vet inte riktigt vart du vill komma med inlägget. Om du läst inledningen till artikeln så ser du ju vad det hela handlar om. Och om du vill manipulera bilder hemma får du ju göra det. Ingen bryr sig. Det här handlar ju inte om hobbyfotogafer som tar bilder för hemmabruk. Tror både du och Per har missat artikeln i sin helhet.

Ja i forum för inbördes beundran kan det säkert vara vedertaget. Men inga bilder där platsar i varken tävlingar dokumentärt eller nyheter just på grund trovärdighet noll. Varför tror du att National Geographic inte tar emot filer annat än i orörd RAW? Även bildbyråer kräver en orörd bild till hands vid osäkerhet.
PMD 2020-02-08 13:32
Både Ulf och jag har vidgat sammanhanget till manipulering av bilder i allmänhet. Ingen har argumenterat mot att dokumentära bilder ska vara omanipulerade.
Abe Normal 2020-02-08 14:54
@Jonnie. Jag vänder mig emot att artikel ovan likställer manipulerad bild = fake news, eller översatt förfalskade bilder.

Nyhetsbilder och NG använder sig av dokumentärt foto. Det är en nisch men inte hela svaret inom foto. Jag ser ingen motsättning, det är bara olika sätt att arbeta, kan heller se några problem med olika förhållningssätt.

Har ingen siffra men kan tänka mig flertalet av de bilder vi ser är manipulerade i någon form.

Bilden i artikel ovan är för mig en ren förfalskning, med uppsåt att vilseleda betraktaren. Och det är bra om sånt försvinner inom nyhetsmedier.
Jottas 2020-02-08 14:54
@Per och skillnaden består i? Faktumet gäller ju alla bilder. Det är bara det att utanför dessa områden så är det ingen som bryr sig. Värdet på bilden ligger inte i trovärdigheten utanför dessa områden. Det spelar tydligen inte lika stor roll om det är en fejkad bild eller ej.

Du har nog hamnat vilse också (både i sinne och plats) då du är i kategorin bildjournalistik. Kommenterar under en artikel om bildjournalistik om ett program för journalister.
Jottas 2020-02-08 15:03
@ Ulf "Jag vänder mig emot att artikel ovan likställer manipulerad bild = fake news, eller översatt förfalskade bilder. " - Du håller alltså inte med hela den journalistiska kåren. Världen över? Artikeln tar upp deepfake som exempel ja. Inte lika med.

"Bilden i artikel ovan är för mig en ren förfalskning, med uppsåt att vilseleda betraktaren. Och det är bra om sånt försvinner inom nyhetsmedier." - Som ju är en manipulerad bild.

"Nyhetsbilder och NG använder sig av dokumentärt foto. Det är en nisch men inte hela svaret inom foto. Jag ser ingen motsättning, det är bara olika sätt att arbeta, kan heller se några problem med olika förhållningssätt." Vad i hela friden dillar du om?
PMD 2020-02-08 19:13
@Jonnie: Vad är det för skillnad du syftar på?
Jottas 2020-02-08 19:45
@Per Du gör en åtskillnad mellan dokumentära bilder och alla andra bilder. Effekten av manipulering är densamma oavsett kategori. Det är bara acceptansen för det som är annorlunda. Eller kanske likgiltigheten.

Och efter mer än 27000 inlägg borde du lärt dig att läsa i kommentarerna, dina egna och andras. Det är inte svårt. Syftningen till ditt tidigare inlägg var inte helt höljt i dunkel. Sen kan man ju undra lite vad du gör här på sidan utan en enda bild till ditt namn. Du påtar i nästan alla diskussioner. I nästan alla forumtrådar. Åsikter i det mesta som rör professionell fotografi. Och allt därimellan. Känner du att du är berättigad till den enorma exponeringen? Kanske skulle ägna lite tid åt att läsa och lyssna på vad andra har att säga också. Det är mycket översitteri. Det finns mycket som är fel med den här sidan och det är till stor del att några få tar allt utrymme. Allt som kommer från andra än dig själv är inte bara åsikter. Läs, lyssna och kommentera inom ämnet. Om det är befogat.
PMD 2020-02-08 22:09
Jonnie: till att börja med tycker jag att du ska sluta med att försöka dig på s.k. härskarteknik. Det ger inget bra intryck, och du lyckas inte speciellt bra.
Argumentera sakligt istället så får vi en trevlig diskussion.

Jag börjar misstänka att du inte skiljer på dokumentära och konstnärliga bilder. Är det så? I så fall förstår jag varför det skär sig. Konstnärliga bilder ljuger inte, enligt min mening, genom att vara manipulerade om de inte utger sig för att vara dokumentära.
Abe Normal 2020-02-09 13:36
”Som ju är en manipulerad bild”

Byter man ut huvudet i en bild, är det självklart att bilden är manipulerad. Trodde den kommentaren var självskriven.
Jottas 2020-02-09 13:46
Om det är någon här på sidan som försöker sig på härskarteknik är det du herr Per Danielsson. Det är som sagt bara att kolla på din inläggsstatistik. Det är inte sunt för något community att det ser ut så. Men vissa ser sig som mer värda än andra och mer berättigade till utrymme än alla andra. Att du slänger ur dig saker som härskarteknik visar kanske än mer på att du inte har riktig koll på vad du pratar om. Faktum är att det är det som du gör här som är en härskarteknik. Och att du slänger dig med feministisk terminologi är inte trovärdigt någonstans. Men det är som det ser ut överallt. Vita medelålders män. Företrädesvis kränkta.

Du eftersöker en saklig diskussion. Men har ingen önskan om att själv anpassa dig efter andra runtomkring dig. Det fungerar inte så. Det är som att försöka prata med någon som tror att världen är platt.

"Att "manipulera" en bild är inte att försöka lura betraktaren. Det är när man ljuger om bilden, hur den har kommit till och vad den föreställer, som man lurar betraktaren. "

- Det första inlägget du gör är att motsäga allt som är belagt redan. För inte är det väl så att ett stort globalt företag som Google skulle slänga iväg pengar i den storleken på något som inte är ett reellt problem? Isf måste du skriva ett mail till Jigsaw och upplysa dom om hur det förhåller sig.

"Skillnaden är helt enkelt som jag skrev förut. Manipulering eller inte är en icke-fråga."

-Än en gång motsäger du allt som är belagt redan. Och pekar dessutom med hela handen.


På eget bevåg "vidgar " du sammanhanget för att bättre passa din ståndpunkt. Utan att det fanns fog för det. Du skapade en egen diskussion som inte har med ämnet att göra och fortsätter där.

Allt det här du gör är härskartekniker.
Jottas 2020-02-09 14:04
@ Ulf Jag får inte riktigt ihop det du skriver. Du använder olika ord för samma sak? hela tiden. Men det grundläggande är väl ändå att det är manipulering som ska belysas. Men du skriver samtidigt att det bara är ett förhållningssätt? Och olika arbetssätt? Men det är väl samma oavsett? Manipulerar man en bild så är den ju manipulerad. Det är ju en absolut. Så att säga.
PMD 2020-02-10 21:36
Koola ner lite, Jonnie. Ditt senaste svar till mig handlade om allting utom sakfrågan, men jag är fortsatt nyfiken på din kommentar till min fråga i andra stycket i mitt inlägg med datum och tid 2020-02-08 22:09.
PMD 2020-02-05 20:47  
Paul Gosar baserar allt han gör (i stort sett) på fake news.
Mystique 2020-02-08 15:51  
Tumme ner ,
Så nu kan MSM med politiska agendor i princip fejka bilder om vad dom tycker är rätt,,men vi vanliga ska "inte kunna se" om dom är fejkade,
Urk hur dessa "DDR" globalister jobbar, när kommer protesterna från folket ?
(om man nu får protestera i fortsättningen !)
PMD 2020-02-08 17:06
Tekniken som används är till stora delar publicerad och forskningen på området står inte still, så det finns goda chanser att ett program liknande Assembler dyker upp och blir tillgängligt för alla.

F.ö. är det knappast deep fakes från "MSM" vi behöver oroa oss för. Nu får ju riktiga journalister tillgång till Assembler och kan lättare avslöja sådant istället för att gå på bluffar.

Exempelbilden i artikeln ovan kommer inte från "MSM" utan har snurrat på nätet i flera år, mest på högersajter och bloggar från mellanöstern.
Magnus Göransson 2020-02-10 15:55
Hej riktigt. Skrämmande att folk ser MSM eller "journalister" som några sanningssägare. De är fan de som sprider mest fake news!
PMD 2020-02-10 21:38
På vilka undersökningar baserar du den slutsatsen?
PMD 2020-02-08 17:01  
Programmet heter Assembler, inte Assambler.
Artis 2020-02-19 11:20  
Begreppet dokumentärbilder är i grunden felaktig tycker jag.
Alla bilder man tar är dokumentära eftersom när man tar en bild - vilken som helst - dokumenterar man en viss händelse under en viss tidpunkt. Det har ingen betydelse om det är en landskapsbild, gatubild, en picknick vid sjön eller en konsertbild.
En fotograf som tar en bild under en demonstration i Hongkong som ska vidareförmedlas via media till allmänheten är en journalistbild.
Nu till begrepp manipulerade bilder.
Ska en gammal foto som föreställer en gatubild i Stockholm, New York mm anses vara manipulerad eller inte? De bilder brukar man kalla för dokumentär bilder. Vi vet ju att gamla foton "manipulerades" genom att utföra redigeringar på negativ, ibland ganska hårda redigeringar. Det var inga pixlar man flyttade eller tog bort men ändå.
Om jag tar bort från landskapsbilden prickar i himmelen orsakade av dammkorn på sensor är det en manipulation/förfalskning?
Om jag tar bort en störande svart prick på himmelen som syns som en svart prick på utskriften men i själva verket är en fågel som man inte uppfattar som sådan förrän en kraftig förstoring. Är det en manipulering/förfalskning?
Om jag tar bort en liten del av en mikrofon i bildkanten från en konsertbild är det en manipulering/förfalskning? Det har inte påverkat själva händelse som avbildades eller artisten på bilden i fråga. I min bok är det förbättringar av bilder såsom exponering, vitbalans och dyl. och det är dokumentär bilder.
Däremot fotografen som tagit journalistbilden i Hongkong får inte lägga till, ta bort något eller förändra bilden som är en journalist bild.
Detta i min bok i alla fall.
För när man talar om manipulerande av pixlar då även en skärpning av bilden, ändring av exponeringen kan anses som manipulation för det påverkar ju pixlar. Man rör pixlar oavsett och gråzonen i definitioner är ganska stor.
Abe Normal 2020-02-19 18:41
Den korta versionen. Dokumentärt foto är i min bok en arbetsbeskrivning.

I regeln ingår måttlig redigering med reglagen. Fågeln 🦅 som tas bort är manipulering och likaså mikrofonen i bildens nedkant. Dammkorn ska vad jag förstår vara helt okay.

Jag fotar alltid två exponeringar för högre DR, men ändrar inga moment i bilden, typ ta bort en prick på himlen (fågel). Bilderna räknas ändå som manipulerade.

Bara lägga till: Jag tror fler foton än vad vi tror passerar som dokumentära bilder, tex sammanslagna “stunning landscapes photos” :)
Wunder 2020-03-31 01:10  
En bild kan vara manipulerad, dvs förändrad. Och en betraktare kan vara manipulerad.

Om jag tar en bild och tar bort en ful detalj som inte ändrar innebörden då har jag manipulerat bilden, men inte betraktaren.

Om jag däremot tar en bild med ett långt tele så att det ser ut som om Stefan Löfven och Jimmy Åkesson anländer tillsammans då har jag manipulerat åskådaren men ej bilden.

Två extremfall.

Ett annat sätt att manipulera åskådaren är staging. Det finns olika nivåer av staging. En är att fotografen ber två personer att skaka hand. Eller att kommunalfullmäktiges ordförande tar första spadtaget. Oskyldiga grejer. Men viss staging är ren lögn.

Merläsning

ANNONS