Deepfake och AI

Artificiell intelligens är inte längre science fiction. Så öppnar baksidestexten på boken Liv 3.0 skriven av Max Tegmark. Inledningen i boken beskriver berättelsen om Omegateamet som en del av en större organisationen som med hjälp av AI och blixtsnabb programmering, mer eller mindre självgenererande, tar herraväldet över den mediala världen och dess följder för samhället.

Tydligt att detta redan är här. Aurore Belfrage skriver en intressant krönika i ämnet inför det nya. Det räcker inte att vi bara ska ha koll på Fakenews. Deepfake har dykt upp. Hon skriver:

Det som ser ut som en ansvarsfull nyhetsförmedlare eller en orolig medborgare kan mycket väl vara en rysk bot (förenklat: en dator) som sprider lögner för att skrämmas och sabotera.

Men håll i dig… för nu kommer Deepfake. Välkända källor men med förfalskat innehåll. Du kommer inte kunna lita på vad du ser och hör. Med Artificiell Intelligens (AI) kan man enkelt manipulera ljud och bild för att skapa trovärdiga videoklipp med politiker, kändisar eller din mamma som säger och gör precis vad som helst. 

Det är just detta som Max Tegmark skriver i inledning i ovan relaterade bok. Vi måste helt plötsligt inte bara var källkritiska utan försök förstå hur källor kan manipuleras. Lägg därtill alla solitära digitala komponenter som finns i alla maskiner vi har. Med hjälp av AI är det en smal sak att bakvägen ta sig in i operatörernas system och därifrån börja styra infrastruktur och maskiner. Sårbarheten blir stor när det är möjligt för ett fåtal kan styra världen anonymt.

Frågan är om det finns onda avsikter. Vad gör vi då en rysk bot (förenklat: en dator) som sprider lögner för att skrämmas och sabotera. Både regeringar och säkerhetsmyndigheter måste starta en ingående diskussion hur samhället förhåller sig till detta och hur man vakar att inte främmande element kan påverka olika samhällen.

Aurore Belfrage tangera även hon det viktig för Sverige. Hon skriver:

En större utmaning blir för oss vanliga att förstå och förhålla oss till en allt mer luddig verklighet. Sverige är ett land där vi generellt sett litar på varandra. Eventuellt kommer vi ha svårare att handskas med deepfake än kulturer som redan har lågt förtroende för politiker. En bred diskussion kring frukostbordet, på jobbet, och i skolan är steg nummer ett. Ju mer vi pratar om riskerna med att uttalanden kan vara osanna, desto lättare borde det bli att vara vaksam (eller onödigt cynisk).

Vi som individer måste börja ifrågasätt och handskas med informationsflöden och appar på ett mer restriktivt sätt. Inte okritisk tanka mer appar eller sprida inlägg på sociala medier. Även vår tillit till etablerade mediekanaler måste ifrågasättas eftersom botarna kan sprida trovärdiga reportage som bygger på deepfake.

Skolan har sedan 1 juli 2018 i uppdrag att lära barnen i skolan det här med digitala verktyg och programmering. Mycket har diskuterats kring nödvändigheten att lära det uppväxande släktet detta. Lärarna har inte precis rosat att behöva ägna sig åt detta. I ljuset av deepfake och den artificiella intelligensen som programmeringen är det helt uppenbart att behovet är stort att eleverna får den kunskap som behövs i digitaliseringens kölvatten. De kanske till och med kan vara de som för diskussionen vid frukostbordet hemma med sina föräldrar kring frågan.

Teknik är att skapa tid. Men den tid som skapas får inte missbrukas. Därför är det viktigt att förstå följande uttalande från Future of Life Insitute:

Teknik ger livet möjlighet att blomstra som aldrig förr - eller att förstöra sig själv.

Så välkommen till vår tids viktigaste samtal om artificiell intelligens och hur vi ska hantera informationsflöden.

Media SvD
Källa:
Tegmark, Max (2017) - Liv 3.0, Volante