AI allt vanligare i finanssektorn men riskhanteringen släpar efter

– Vi ställer höga krav på att finanssektorn vet vilka risker som kan uppstå när AI börjar användas allt mer. De finansiella företagen behöver säkerställa att de har kompetens att förstå och hantera de riskerna, säger Marie Jesperson, ansvarig för FI:s innovationscenter.

För att bättre förstå hur den finansiella sektorn använder AI och vilka möjligheter och risker det kan innebära har FI:s innovationscenter under hösten 2024 genomfört en kartläggning av användningen hos företag under vår tillsyn.

Merparten använder sig av AI – få har godkänd policy på plats

Kartläggningen visar att hos hela 84 procent av de 234 företag som svarat på FI:s enkät använder sig deras anställda av publika generativa AI-verktyg som Chat GPT, Copilot eller Gemini.

Användningen av AI inom företagens egna it-miljöer är mindre utspridd. 22 procent av företagen anger att de i dag har AI-system i produktion eller under utveckling, medan 46 procent av företagen just nu bedriver experimentella projekt och pilotstudier. AI används brett och inom flera olika delar av finanssektorn och de främsta fördelarna uppges vara att optimera verksamheten, förbättra interna processer och att kunna analysera stora datamängder.

Samtidigt som bedömningen är att AI-användningen växer snabbt, främst drivet av den nya generativa AI-tekniken, uppger endast 41 procent av företagen som har AI i produktion att de har en formellt godkänd policy för sin utveckling och användning av AI. När det gäller policy för sina anställdas användning av publika generativa AI-verktyg tenderar riktlinjerna att halka efter än mer.

Många har påbörjat arbetet inför ny AI-reglering

EU:s förordning om artificiell intelligens, AI-förordningen, trädde i kraft i augusti 2024. Den omfattar alla sektorer, inklusive finanssektorn. Majoriteten av bestämmelserna i förordningen börjar tillämpas under 2026.

Förordningen utgår från ett riskbaserat angreppssätt, där AI-system klassificeras i olika riskkategorier. System som innebär oacceptabel risk är förbjudna och system som klassas som hög risk är tillåtna om de uppfyller vissa krav enligt förordningen.

Av de företag som i dag använder sig av AI uppger hela 91 procent att de påbörjat förberedelserna inför tillämpningen av AI-förordningen, eller planerat att göra det inom de närmaste månaderna.

– Det finns stora möjligheter för branschen att effektivisera sitt arbete med AI. Nu gäller det att de få policys och rutiner på plats för att säkerställa att systemen inte blir sårbara i samband med det, säger Marie Jesperson.