Digitaliseringen biter

Digitaliseringen griper om seg. Halve befolkningen i Norge har konto på Facebook som samler inn data om det de gjør der. Selv om KI har potensiale til å transformere høyere utdanning i positivt retning, må vi se på negative konsekvenser.

Akademikere får KI-verktøyene stukket opp i fjeset. De bygges nå inn som eget programvarelag i mange systemer som Windows 365, mobil-telefonene og LMS (Learning Management Systems). KI utvikles også til et eget operativsystem med såkalte agenter som programvare (app-er). Datasystemene blir virksomhetskritiske, – vi kan ikke greie oss uten (mer). Nå brukes kunstig intelligens til å finne skjulte sammenhenger som ofte unnslipper det blotte øye og den menneskelige oppmerksomhet.

Perspektiv

Jensen Huang opprettet og leder fortsatt brikke-fabrikken Nvidia som er verdsatt til over 30 billioner kroner, – 15x det norske stats-budsjettet. Han gjør seg til talsmann for en industriell forståelse av digitaliseringen (og sine egne fabrikker), men der automatisk klassifikasjon er det vesentlige: Produksjon av tokens.

Dette er tekstbrokker i binær notasjon samt mål for deres statistiske sammenhenger i skrift, bilde, tale, bio-kjemiske formler osv. Det er her investeringene i datakapasitet nå skjer. Tokens-manipulering bygges inn overalt. Han sammenligner litt haltende med omdanning av vannkraft til elektrisitet for å drive maskiner. Nå bygges det fabrikker som omdanner elektroniske spor til tegnstrenger som representerer kunnskap for å drive (med) svært mye mer.

Det er særlig Microsoft og Instructure med Canvas, som eies av Wall Street-spekulanten Thoma Bravo med 1500 milliarder i forvaltningskapital, som her dominerer i norsk UH-sektor. Det har skjedd på invitasjon fra Sikt og HK-dir, men kledd opp som beslutning i hver institusjon.

Slike selskaper utnytter at Internett-brukere setter sine dataspor når de arbeider og studerer. Det legges vekt på såkalt læringsanalyse. Slike data vil utgjøre en strategisk kilde i leverandørenes inntektstrøm. Det gir dem innsikt og makt til å påvirke handle-mønstre gjennom reklame og handlings-mønstre gjennom kulturell og politisk profilering. Et viktig siktemål er også å berede for automatisering av faglige og studieadministrative oppgaver.

Ikke-tema: Det virksomhetskritiske

Kan man stå seg mot flodbølgen? (mer). Datatilsynet sier at utviklingen er bekymringsverdig (NRK-oppslag 12.06.2024)

Mange bekymrer seg for det individuelle personvernet. Men problemet er heller profitt-orientert eierskap til de betydelige og framvoksende delene av den digitale  infrastrukturen som brukes av industri, utdanningssystem, offentlig administrasjon og sivilsamfunn, jfr. Facebook.

Dette er ikke-tema når Kunnskapsdepartementet v/Sikt analyserer personvern og sikkerhet i sektoren. (Rapport fra Sikt 10.06.2024). 

Et standpunkt er her at det særlig er Kina som nå utgjør trusselen. Dette ligger åpenbart litt fjernt fra norsk hverdagsliv, så det må gjentas. Her har rektor ved UiT, Dag Rune Olsen en edruelig kommentar i forbindelse  med Arctic Congress 2024:

I forkant av konferansen advarte Politiets sikkerhetstjeneste (PST) om «at ikke alle deltakerne har gode hensikter». Universiteter og akademiske institusjoner har vært og er gjenstand for fremmede makters etterretning. Formålet kan både være å tilegne seg informasjon, kartlegge og infiltrere nettverk og rekruttere informanter, noe universitet jeg leder, blant andre, har erfart.

Tidligere etterretningsleder Ola Kaldager er befriende oppriktig når han forteller til Avisa Nordland om hvordan hans medarbeidere infiltrerte universiteter og akademia som del av norske etterretningsoperasjoner i utlandet. Vi må altså forholde oss til at slik virksomhet er en ordinær del av de fleste nasjoners etterretning.

Vi skal ikke bagatellisere økte globale spenninger, ei heller vestlige bidrag som de Snowden og Assange fikk fram i offentligheten. Det er nødvendig å være generelt årvåkne og samtidig nøye med å feie for egen dør. Noen momenter for tilsatte i høyere utdanning:

  • Forskyvning av oppgaver og rolle. En bekymring er at KI kan fortrenge  arbeidsplasser. KI-drevne systemer kan levere deler eller hele forelesninger, vurdere oppgaver og veilede. Da kan noen tradisjonelle roller bli betydelig endret eller redusert. Det kan føre til tap av arbeidsplasser eller forandring av stillingstyper.
  • Overvåking og personvern. Integreringen av KI i utdanningsmiljøer innebærer ofte omfattende datainnsamling for å tilpasse læringsopplegg og overvåke studentprestasjoner. Det kan også gjelde ansatte, noe som svekker personvernet og kan føre til misbruk av data. Ansatte kan føle at deres undervisningsmetoder og produktivitet blir overvåket og gransket.
  • Devaluere faglighet og dømmekraft. KI-systemer mangler den nyanserte forståelsen og dybdekunnskapen som erfarne ansatte besitter. Det er en risiko for at KI-avhengigheten i å levere kursinnhold og evaluere studenter kan føre til en devaluering av menneskelig ekspertise. Det kan undergrave autoritet og den profesjonelle statusen til pedagoger som er kunnskapsrike innen sine felt.
  • Svekket akademisk frihet. KI-drevne verktøy og plattformer kan noen ganger komme med fastlagte metoder og innholdsleveranse. Det kan begrense ansattes evne til å undervise kreativt og autonomt.
  • Teknisk avhengighet og kompetansegap. Etter hvert som KI-systemer blir integrert i utdanningsprosessen, kan ansatte måtte tilegne seg nye tekniske ferdigheter. Det kan være spesielt utfordrende for den som ikke er teknologisk tilbøyelig eller mangler tilstrekkelig opplæring. Avhengighet av teknologi kan gjøre utdanningsprosessen mer sårbar for tekniske problemer og systemfeil.
  • Etiske og pedagogiske utfordringer. Bruk av KI i utdanning reiser etiske og pedagogiske spørsmål. Ansatte må forholde seg til mulige skjevheter i KI-algoritmer, åpenheten i beslutningsprosesser, og potensialet for KI til å forsterke eksisterende ulikheter i utdanning.
  • Svekkede personlige forbindelser. En nøkkelkomponent i effektiv undervisning er den personlige forbindelsen mellom underviser og student. KI-drevne interaksjoner kan mangle empati, intuisjon og den personlige tilstedeværelse som lærere gir. Avhengighet av KI kan føre til et mer upersonlig læringsmiljø. Det kan negativt påvirke studentengasjementet og den samlede utdanningsopplevelsen.
  • Økt arbeidsbelastning og press. Selv om KI kan automatisere visse administrative oppgaver, kan overgangen til slike systemer i utgangspunktet øke arbeidsbelastningen for ansatte. Å lære nye systemer, integrere dem i eksisterende virksomhet og feilsøke problemer kan være tidkrevende og stressende. I tillegg kan forventningen om kontinuerlig innovasjon og integrering av de nyeste KI-verktøyene øke presset på de ansatte.

Her kreves sterke organisasjoner som fagbevegelse, hele universitets-sektoren eller statsmakt for å stå imot.

For akademikere er det en nøkkeloppgave å lære nok om KI til å prøve ut i eget arbeid, utvikle bestiller-kompetanse til å stille begrunnede systemkrav og bygge dypere forståelse av de samfunnsmessige, kunnskapsteoretiske, kulturelle og politiske utfordringene fra digitalisering.