Varför oroar sig ekonomer för AI?
I vår undersökning om hur ekonomer i Sverige ser på AI, framträdde en tydlig bild. Den största farhågan handlar inte om AI som fenomen, utan om att kunna lita på resultatet.
Varför "hallucinerar" AI, och gäller det ekonomisystem?
Farhågan om att AI gissar bygger till stor del på hur generella AI-verktyg fungerar. En modell som tränats brett och ska kunna besvara vad som helst kan formulera sig övertygande även när underlaget är svagt. Ett ekonomisystem är dock inte ett generellt verktyg och behöver inte fungera på samma sätt.
Vad gör AI och automation i ett ekonomisystem tillförlitlig?
Tre egenskaper är nödvändiga för att förslagen ska gå att lita på:
- Förankring i egen data. När förslagen grundas i verksamhetens egen historiska data, i stället för i en allmän språkmodell, minskar utrymmet för gissningar.
- Avvikelsehantering. Ett system som är byggt för att flagga avvikelser stannar upp där osäkerheten finns, i stället för att gissa.
- Spårbarhet och mänsklig kontroll. Varje steg loggas och möjlighet finns att antingen behålla eller automatisera slutgodkännandet.
Vilken fråga bör man ställa?
Tillit till AI och automation är ett resultat av hur systemet är konstruerat. I vår insiktsrapport har vi sammanställt hur svenska ekonomer ser på tillit, kontroll och säkerhet kring AI i ekonomifunktionen.
Läs mer om vad ekonomer i Sverige säger om AI, kontroll och säkerhet i ekonomisystemet.