SVT sände av misstag en AI-genererad video under söndagskvällens ”Agenda” där en lokalpolis från New York skällde ut en ICE-agent. Klippet, som visades som autentiskt, var skapat av artificiell intelligens och innehöll tydliga fel, bland annat en felstavning på polisens väst.
Michael Kucera, ansvarig utgivare för ”Agenda”, bekräftar att SVT upptäckte misstaget tidigt efter larm från både intern personal och externa mejl. – Det var ett beklagligt misstag och lite slarvigt, säger han och påpekar att klippet hämtades från sociala medier utan att någon etablerad mediapublikation tidigare hade verifierat det.
SVT tar snabbt bort och rättar inslaget
Efter upptäckten togs hela avsnittet bort från SVT Play för att sedan laddas upp igen utan AI-klippet. Samtidigt publicerades en rättelse där SVT var transparenta med vad som hänt. Kucera understryker att misstag kan ske inom journalistik men att det viktiga är att snabbt erkänna fel och rätta till dem.
Experter kräver högre digital källkritik av etablerade medier
Helena Dal, pressansvarig på Mediemyndigheten, framhåller att teknikutvecklingen kring AI gått så snabbt att det blivit allt svårare att skilja äkta material från AI-genererat. Samtidigt fanns det flera tecken som borde ha väckt misstankar, exempelvis felstavningen som är ett typiskt fel i AI-videos.
”Jag tror inte man kontrollerade materialet ordentligt, hade man gjort det hade man nog upptäckt problemen” – Helena Dal, Mediemyndigheten
Jannike Tillä från Internetstiftelsen håller med och säger att SVT borde ha reagerat vid den uppenbara felstavningen. Hon betonar att metoder för digital källkritik är avgörande idag, där man måste kontrollera sammanhang, avsändare och jämföra med annan rapportering innan publicering.
”Vi förväntar oss att etablerade medier har bättre koll på detta” – Jannike Tillä, Internetstiftelsen
Snabb AI-utveckling ökar pressen på medier
SVT har en grundregel att inte använda overifierat material från sociala medier men gör undantag i vissa fall, enligt Kucera. I detta fall brast processen. – Det finns en balansgång mellan att vara snabb och att verifiera, säger Helena Dal. Väntar man för länge riskerar man att tappa nyhetsläge, men publiceras felaktigt material skadas trovärdigheten.
Upplevelsen visar hur medier i Sverige och globalt måste satsa på utbildning i bild- och källverifiering för att hantera utmaningen med AI som skapar trovärdigt utseende men felaktigt innehåll.
Vikten av transparens och lärande
Helena Dal påpekar att misstag är en del av utvecklingen och att det viktiga är att vara öppen med fel och tydlig med hur processen kan bli bättre. Jannike Tillä framhåller också att SVT agerade korrekt genom att snabbt erkänna misstaget, vilket är extra viktigt eftersom majoriteten av AI-genererade falska klipp sprids i sociala medier utan ansvarig utgivare.
Denna händelse understryker behovet av att stärka digital källkritik inte bara hos medier utan även i samhället i stort. Det är en utmaning som hela medielandskapet måste hantera i takt med att AI-tekniken utvecklas blixtsnabbt.
För svenska tittare är det en påminnelse om att vara extra vaksamma kring vad som delas och visas, oavsett källa, och att förvänta sig höga verifieringskrav från våra samhällsviktiga medier som SVT.
