Policy för generativ AI – därför behövs den

Generativ AI har tagit världen med storm. Men ska du implementera den nya tekniken i ditt företag behöver du först ha en policy på plats.

Sedan ChatGPT blev tillgängligt i november 2022 har möjligheterna och utmaningarna med generativ AI diskuterats hett. Förutom att teknologin spås påverka många yrken framöver, är nu även en ny lagstiftning inom hela AI-området på väg att lanseras inom EU.

– Vi befinner oss i en historiskt intressant tid, där vi ännu inte vet vart utvecklingen kommer att ta oss. Nu har den stor hajpen med generativ AI lagt sig och många funderar på hur de kan använda verktygen för att öka hela företagets produktivitet. Men då måste vi samtidigt hantera riskerna, säger Philip Trippenbach, chefsstrateg på Narva Communications.

Lika viktigt som GDPR och hållbarhet

Tillsammans med Emily Svedberg-Possfelt, advokat på Setterwalls, har han precis hållit ett seminarium om generativ AI på Västsvenska Handelskammaren. Att företag hanterar generativ AI på ett ansvarsfullt och transparent sätt, kommer vara lika självklart som att man idag har en strategi för hållbarhet och GDPR, menar de.

– Jag brukar säga att vi behöver jobba med AI på samma sätt som vi gjorde med GDPR, vi har ett omfattande complience arbete framför oss och vi minns alla GDPR-stormen. Bättre att börja nu, säger Emily Svedberg-Possfelt.

"Era kunder förväntar sig att ni som företag använder AI på ett ansvarsfullt sätt. Det blir också viktigt att ni synliggör utåt hur ni hanterar data och AI" säger Philip Trippenbach. Här med Emily Svedberg-Possfelt.

Med EU:s nya lagstiftning AI Act kan den som bryter mot lagen drabbas av sanktioner. Men det finns också etiska risker att ta ställning till och företagets förtroende kan ta skada.

–  Vi vet att många människor är oroliga för utvecklingen inom AI. Allmänheten är intresserade av hur företag använder teknologin och förväntar sig att de hanterar den etiskt korrekt och med hög kompetens. Med det i åtanke blir det tydligt att AI, om det inte hanteras rätt, kan skada en verksamhets anseende, säger Philip Trippenbach.

Läs mer: Vad är AI-Act?

Utvärdering och konsekvensbedömning

För att få en lyckad integration av generativ AI i sin verksamhet råder Philip Trippenbach och Emily Svedberg-Possfelt företag att se till att de har både policy, processer och rutiner på plats före de introducerar verktyget i sin verksamhet.

–  Det är viktigt att vi vet vad vi ska använda AI: n till och att vi tar in det på ett ansvarsfullt sätt. Innan du tar in ett nytt verktyg behöver du till exempel utvärdera det och göra en konsekvensbedömning där flera olika kompetenser från företaget medverkar så att vi får med alla perspektiv, säger Emily Svedberg-Possfelt.

Policy med tydliga riktlinjer

För att dina medarbetare ska veta hur de ska använda det generativa AI-verktyget behövs särskilt en policy med tydliga riktlinjer. Både vad gäller materialet som görs tillgängligt för AI: n och för det resultat den genererar.

– När det gäller input kan det till exempel finnas risk för att man delar företagshemligheter, eller gör en sådan enkel sak som att prompta med namn, vilket kan innebära att man delar en personuppgift enligt GDPR, säger Emily Svedberg-Possfelt.

För output behöver du alltid kvalitetssäkra innehållet innan det används

– För output behöver du alltid kvalitetssäkra innehållet innan det används, och där kommer olika former av lagstiftning in, beroende på vad materialet ska användas till. Något som också kan vara bra att känna till är att man inte har upphovsrätt för material skapat med AI, utan att det alltid måste finnas en människa som bidragit i tillräckligt hög grad till resultatet för att det ska få upphovsrättsligt skydd. Hur mycket som är ”tillräckligt hög grad” är för närvarande inte helt säkert när det gäller just AI.

I policyn är också det etiska övervägandet viktigt. Hur säkrar vi till exempel att materialet vi får fram inte är partiskt, eller visar en skev bild av verkligheten? tillägger Philip Trippenbach.

– För att säga det kort, the honeymoon is over. Nu behöver vi tänka på hur vi ska hantera AI:s möjligheter och risker. Och det enda vi kan vara säkra på är att utvecklingen bara kommer att gå snabbare.

NY KURS: FÖRETAGSPOLICY FÖR GENERATIV AI

Vill du lära dig mer om hur generativ AI påverkar ditt företag och hur du interagerar generativ AI på ett säkert och effektivt sätt i din organisation? Tillsammans med Narva Communication erbjuder vi kursen Företagspolicy för generativ AI. Vi erbjuder både företagsanpassade och öppna kurser inom digitalisering. Se vårt aktuella utbud av kurser inom digitalisering:

Se våra kurser inom digitalisering här