Hur skapar vi AI-system som stärker demokratin? - Frihamnsdagarna 2024

Falska bilder, filmer och röster - så kallade djupförfalskningar/deepfakes - innebär numera ett påtagligt hot mot demokratin. Det går inte att förlita sig på tekniska verktyg för att avslöja förfalskningarna, utan det är gammal hederlig källkritik som gäller. Men vi har inte tid och möjlighet att ifrågasätta allt vi ser och hör i olika kanaler. Därför blir det allt viktigare med källtillit - att kunna ha en rimlig tillit till att det som sägs i vissa källor är sant. Det kräver att vi underhåller och utvecklar trovärdiga källor i samhället.
Här kan AI bidra som en positiv kraft för demokratin, genom sin förmåga att snabbt utvinna relevant information ur mycket stora datamängder. Det kan handla om juridik, politiska beslut och all offentlig dokumentation som gjorts längs vägen av olika aktörer i samhället. Rätt använt kan AI skapa helt nya möjligheter för vem som helst att hitta uppgifter som idag ligger begravda under enorma datamängder.
Men det räcker inte med den typ av AI som stått för de senaste årens genombrott med exempelvis Chat GPT - som bygger på så kallade svarta lådan/black box-metoder. De nya språkmodellerna håller sig som bekant inte till belagda fakta, utan hallucinerar friskt. Deras processer är också svåra att följa, eftersom vi bara ser informationen som vi stoppar in i ”lådan” och resultatet som kommer ut, men inte stegen däremellan.
Denna moderna AI behöver kombineras med en mer traditionell typ, som brukar kallas för symbolisk AI eller expertsystem. Sådana system är kopplade till databaser med validerad kunskap. De är kodade enligt en logisk steg för steg-modell, och det går att följa exakt hur och varför systemet har kommit fram till en viss slutsats.
Vad finns det idag för möjligheter att gifta ihop den användarvänliga och kraftfulla moderna AI:n med den pålitliga och transparenta traditionella AI:n? Detta har redan gjorts av många företag, och det vore fullt möjligt även för det offentliga samhället att utveckla liknande system - om vi väljer att lägga resurser på det.
Hur skulle det tekniskt kunna gå till? Och hur skulle en praktiskt framkomlig väg kunna se ut? Vilka samhällsaktörer skulle kunna vara lämpliga för att ta tag i frågan?
Medverkande:
Moa Johansson
Docent, datavetenskap och AI, Chalmers
Staffan Truvé
Teknikchef och medgrundare, Recorded Future
Fredrik Johansson
Docent, datavetenskap och AI, samt forskningsrådgivare på Chalmers AI-centrum.
Anders Sundell
Docent, statsvetenskap, Göteborgs universitet
Emelie Asplund