Intelligente tekno-oligarker og ureflekterte medieredaktører

Gunnar E. Wille er dr.ing. fra NTNU og var i 15 år professor i industriell økonomi og teknologiledelse ved NTH/NTNU. Han har vært administrerende direktør i IBM Norge og i Aftenposten, driftsdirektør i BP og PDG for IBM Africa Middle East Corporation i Paris. Han er aktuell med romanen «Velkommen til fremtiden» og nyutgivelse av «Kampen om Kompetansen - På Willes veier».

Open AIs leder Sam Altman stopper utrullingen av sin neste generasjon av kunstig intelligens. Når programmererne gjør feil, eller ikke klarer å programmere det som ønskes, må administrerende direktør gripe inn og utsette lanseringen av produktet.Et nødvendig trekk slik det har vært i datateknologiens fra tidenes morgen. Å finne syndebukken kan være vanskelig, men i våre dager da en tror algoritmene har sitt eget liv, og på egenhånd lager spekulative resultater, så er den spektakulære unnskyldningen at algoritmene er blitt for smarte. STOPP UTVIKLINGEN, skrikes det.

Algoritmenes utilstrekkelighet

Det som er problemet, er at programmererne ikke har klart å løse oppgaven som skal bestemme hva algoritmene kan gjøre. De sier: Gjør dette, uten å sette inn begrensninger eller betingelser som må være oppfylt for at handlingen A skal utføres; eksekveres på fagspråket. Hvis ikke A, gjør B. Det må også defineres hva som ikke skal gjøres, særlig når det er milliarder av valgalternativer, noe som er vanskelig å programmere. Og når oppgavene er orientert mot hva som skjer i samfunnet med samfunnets kompleksitet, er dette en gigantisk programmeringsoppgave, som selv ikke KI klarer, enda. Skadevirkninger og konsekvenser av feil er enormt store ved for åpne systemer. Barrierene er viktige, kanskje det viktigste?

Ulven kommer

Jeg har selv som leder av IBM flere ganger måtte si at dessverre denne programvaren blir forsinket. I Norge en gang på 1970- tallet da en maskin som het Series 1 skulle annonseres, en maskin med et operativsystem som skulle styre roboter, automatisere lagre, overvåke maskinrom og dekk på skip, ble forsinket og til slutt ikke annonsert i det hele tatt, ble det medieoppstyr og kunderevolusjoner. Resultatet var enorme kostnader for IBM samt ødeleggende rettssaker. Jeg kunne ikke skylde på at algoritmene var for smarte med risiko for at de kunne komme til å overta driften av virksomheten og sende hele ledelsen på gaten. IBM var rett og slett ikke flink nok. Maskinvaren ble for liten uten tilstrekkelig fleksibilitet, og algoritmene ble for kompliserte. Ambisjonsnivået var for høyt. Media gasset seg i omtalen av de store skadeerstatninger som måtte utbetales, blant annet til Jotun siden det oppskrytte automatiserte malinglageret ikke kunne realiseres den gangen. Senere ble det en stor suksess. Vi hadde ropt «ulven kommer» mange ganger før, men denne gangen ble vi innhentet. Det vil fortsette å bli ropt, men med et nytt perspektiv – dystopien.

En dag vil fremtidsforskere og spekulanter innse at den dystopiske situasjonen at verden overtas og styres av KI, ikke vil komme til å skje. Media vil følge etter og forstå at de i sin ukritiske etterplapring av tekno-oligarkene, har blitt misledet og at de har vært med på å skape et KI-hysteri. At manglende kompetanse er årsaken til at algoritmer klarer å bryte seg ulovlig inn gjennom brannmurer, og at det ikke skapes funksjonelle nok løsninger for selvstyrende biler, humanoide roboter og mye annet, ja det vil bli gjennomskuet.

Dystopisk fremtid – nei vi bygger barrierer i samarbeid

Måtte vi komme frem til en «Checks and balances» styring av parameterne og ikke ta alle tekno-oligarkenes og spekulantenes synspunkter ureflektert til våre bryst. Det er tross alt mennesket som kan slå av strømmen til slutt. Som De Gaulle truet fyrst Rainier og Monegaskerne med i 1962 under den fransk-monegaskiske krisen da det handlet om skatt: «Hvis dere ikke skikker dere dere slår vi av strømmen.» De Gaulle slapp å slå av strøm- og vannforsyning. Partene fant frem til et «gjensidig samliv». KI vil bli en enormt nyttig ressurs i fremtiden, men vi må sikre oss best mulig mot misbruk, der myndigheter og virksomheter har et ansvar ved et samarbeid med leverandørene.