Ansatte bruger hemmeligt ChatGPT og AI: Store risici for teknologiledere

Medarbejdere verden over benytter i hemmelighed ChatGPT og kunstig intelligens (AI), hvilket skaber betydelige risici for teknologiledere. Stigende investeringer i AI og chatbots fra store teknologivirksomheder har sat mange chief information security officers (CISO'er) i en svær situation, idet de skal navigere i et komplekst og omskifteligt teknologilandskab.

Generative AI-løsninger som OpenAI's ChatGPT, Microsoft's Bing AI og Google's Bard finder i stigende grad vej ind på arbejdspladserne. Det stiller krav om forsigtighed og nødvendige sikkerhedsforanstaltninger fra CISO'erne. Teknologien bag GPT (generative pretrained transformers) drives af store sprogmodeller (LLMs), som muliggør chatbots med menneskelignende samtaler. Men ikke alle virksomheder har deres egen GPT, og derfor må de overvåge, hvordan medarbejderne bruger denne teknologi.

Selv når brugen af chatbots ikke er godkendt af IT-afdelingen, finder medarbejdere måder at benytte dem for at gøre deres arbejde lettere. Michael Chui, partner hos McKinsey Global Institute, sammenligner det med måden, medarbejdere bruger personlige computere og telefoner. Han påpeger, at der er et "catch up" for virksomheder i forhold til, hvordan de vil tilgå sikkerhedsforanstaltninger.

CISO'er, der allerede kæmper med stress og udbrændthed, kan starte med at implementere grundlæggende informationssikkerhed. Chui foreslår, at virksomheder kan licensere en eksisterende AI-platform for at overvåge, hvad medarbejderne siger til en chatbot, og sikre, at den delte information er beskyttet. Licensering af software kommer med yderligere kontrol og balance, som beskyttelse af fortrolige oplysninger, regulering af, hvor informationen opbevares, og retningslinjer for, hvordan medarbejderne kan bruge softwaren.

En sikkerhedsmulighed for virksomheder er at udvikle deres egen GPT eller hyre virksomheder, der skaber denne teknologi, til at lave en skræddersyet version. Sameer Penakalapati, administrerende direktør hos Ceipal, en AI-drevet talentrekrutteringsplatform, understreger, at det er vigtigt at være bevidst om den data, man giver til teknologien.

"Jeg siger altid til folk, at de skal sørge for at have teknologi, der leverer information baseret på upartisk og nøjagtig data," siger Penakalapati. "Fordi denne teknologi ikke er skabt ved et uheld."

Denne nye æra af AI og chatbots stiller store krav til teknologiledere, der skal beskytte virksomhedernes information og sikre, at medarbejdernes brug af teknologien er ansvarlig og sikker.

Det er afgørende, at CISO'er og virksomheder er opmærksomme på de udfordringer og risici, der er forbundet med implementeringen af AI og chatbots i arbejdspladsen, og tager proaktive skridt for at skabe sikre og produktive arbejdspladser.

En integreret og gennemtænkt tilgang til AI-platforme og chatbots vil hjælpe virksomheder med at forberede sig på og imødegå de potentielle farer, der lurer. Det kan blandt andet være udarbejdelse af klare politikker og procedurer for brugen af AI-platforme og chatbots, uddannelse og træning af medarbejdere i sikker brug af teknologien, og regelmæssige sikkerhedsrevisioner og opdateringer.

For at holde trit med den hastige udvikling inden for AI og chatbots, er det vigtigt for teknologiledere at holde sig informeret om de nyeste fremskridt og tendenser. Dette kan omfatte deltagelse i konferencer og seminarer, samarbejde med andre ledere i branchen og kontinuerlig læring om nye teknologier og sikkerhedspraksis.

Samtidig skal CISO'er og virksomheder også huske på, at implementering af AI og chatbots ikke er en erstatning for menneskelig interaktion og vurdering. Mens AI kan være et værdifuldt værktøj til at automatisere og effektivisere visse processer, bør det ikke erstatte den kritiske tænkning og beslutningstagning, som medarbejdere og ledere bringer til bordet.

I sidste ende skal teknologiledere og virksomheder arbejde sammen for at finde den rette balance mellem at udnytte de fordele, som AI og chatbots kan tilbyde, og samtidig beskytte deres organisation og medarbejdere mod de potentielle risici, der kan opstå i processen. Ved at tage en ansvarlig og opmærksom tilgang til AI og chatbots, vil virksomheder være bedre rustet til at navigere i denne spændende og udfordrende teknologiske verden.

https://www.cnbc.com/2023/04/30/the-big-cyber-risks-when-chatgpt-and-ai-are-secretly-used-by-employees.html