När ett system identifierar en risk, flaggar en avvikelse eller sammanfattar komplex information behöver organisationen kunna visa varför en viss bedömning har gjorts, vilka data den bygger på och hur processen kan granskas vid intern kontroll, tillsyn eller revision.

‍Det gör frågan om AI i AML större än en fråga om effektivitet.

Generativ AI skapar både möjligheter och nya utmaningar

Generativ AI kan bidra till att tolka, sammanfatta och presentera stora mängder information. Samtidigt är tekniken icke-deterministisk. Samma fråga kan ge olika svar, vilket skapar utmaningar i processer med krav på spårbarhet, reproducerbarhet och kontroll. Organisationer behöver dessutom förhålla sig till risker som hallucinationer, inbyggd bias och en möjlig övertro på AI-genererade resultat.

Det innebär inte att generativ AI saknar en roll i AML-arbetet. Men tekniken bör inte användas som ensam beslutsfattare. I stället behöver den användas inom tydliga ramar, där människor fortsatt granskar, bedömer och ansvarar för besluten.

Det handlar både om hur generativ AI ska användas och var i processen tekniken skapar mest värde.

En hybrid väg framåt

Ett sätt att hantera den balansen är en hybridarkitektur med två tydliga lager, där olika typer av teknik används för de uppgifter de är bäst lämpade för.

I praktiken innebär det att själva riskbedömningen sker i en stabil analyskärna, där regelbaserade och deterministiska system används för att flagga avvikelser, identifiera riskmönster och säkerställa att logiken kan dokumenteras och granskas.

Ovanpå analysen kan generativ AI fungera som ett intelligent presentationslager, där tekniken bidrar till att tolka, sammanfatta och paketera resultat.

Generativ AI kan då exempelvis användas för att skapa rapportutkast, förklara bakomliggande logik och göra komplexa riskbedömningar enklare att kommunicera vidare inom organisationen – utan att ta över rollen som beslutsfattare. På så sätt kan organisationer dra nytta av generativ AI samtidigt som de behåller en stabil och kontrollerbar grund för själva analysen.

Rätt teknik för rätt del av processen
Det här perspektivet ligger nära utvecklingen av Roaring Hybrid Intelligence: att kombinera strukturerad, regelbaserad analys med generativ AI för att dra nytta av respektive tekniks styrkor. För organisationer som arbetar med AML, KYC, risk och regelefterlevnad blir valet av teknik centralt. Rätt teknik behöver användas för rätt uppgift, samtidigt som organisationen behöver kunna förstå, kontrollera och granska de processer som ligger till grund för en bedömning.

Tidigare i år lyfte Pontus Holmberg, CPO på Roaring, samma utmaning på Penningtvättsdagarna. I presentationen Dataanalys på steroider: Möjligheter och risker med generativ AI tog han bland annat upp generativ AI som icke-deterministisk teknik och de utmaningar det innebär för spårbarhet och reproducerbarhet inom AML. Han belyste också risker som hallucinationer, bias och en övertro på AI-genererade resultat.

Resonemanget är minst lika relevant i dag: värdet av AI i AML-arbetet ligger inte bara i hur snabbt information kan analyseras, utan i hur tekniken används inom en process som organisationen kan förstå, granska och ta ansvar för. Sedan Pontus stod på scenen tidigare i år har Roaring fortsatt att arbeta med den frågan.

Det arbetet ligger också till grund för Roarings fortsatta AI-satsning och utvecklingen av just Roaring Hybrid Intelligence: en ny arkitektur utformad för miljöer där analys och resultat behöver kunna granskas, förstås och följas upp.

Nu tar Roaring nästa steg i satsningen och kommer att dela mer om Roaring Hybrid Intelligence och hur arkitekturen fungerar i praktiken.

Följ vår AI-satsning Roaring Hybrid Intelligence här

Ladda ned vårt whitepaper AI som tål granskning: Hur organisationer säkert kan implementera AI i riskanalys HÄR.

‍