Praktiske grep for å redusere konsekvensene av KI-bruk

Jeg ble utfordret av en leser av min forrige og bevisst kalde artikkel, der det ble påpekt at jeg kun dekket problemer og ikke tilbød noen løsninger. Selv om jeg personlig tror vi befinner oss i en boble som vil sprekke om noen år, ville det ikke skade å bidra til at den sprekker raskere og forårsaker mindre skade.
 

De foreslåtte løsningene under hviler på faglig innsikt og resonnert deduksjon, ikke empirisk testing eller systematisk forskning. De er standpunkter jeg holder med en viss overbevisning, men de er ikke endelige konklusjoner. Der du ser mangler, feil eller bedre alternativer ønsker jeg å høre om dem både i kommentarfeltet og andre steder.
 

For å gjøre det enkelt å koble problemer med foreslåtte svar, har jeg beholdt de samme kapitteltitlene som i den opprinnelige artikkelen for å knytte problemet til de respektive løsningene.
 

Les den forrige historien: De strukturelle problemene med dagens kunstige intelligens 

Grunnleggende problemer med dagens kunstige intelligens 

Noen problemer kan ikke løses fordi de er direkte konsekvenser av hva "KI" for øyeblikket er, og av hvordan det brukes. De løsningene som gjenstår kan kategoriseres i to hovedkategorier: 
‍

1. Behandle symptomene og minimere skaden som forårsakes. Gjøre det beste ut av et problematisk system. 
2. Vente på nye teknikker og strukturer som ikke deler de samme problemene. 

 
I denne artikkelen vil jeg kun fokusere på løsninger som faller under kategori 1, siden "Vent og se" ikke er en god løsning på noe problem, spesielt ikke når det er ukjent om og når en slik alternativ tilnærming til KI vil bli funnet. 
 

Rekursivt søppel

Kjerneproblemet med dagens generative KI er at de på et grunnleggende nivå ikke er annet enn en gjennomsnittsmaskin. Den henter fra det enorme input spacet bestående av hele bredden av nedtegnet menneskelig kunnskap og uttrykk, og produserer et output space som er mindre. Jo mer kapabel og nøyaktig du krever at en modell skal være på en gitt oppgave, desto mer må det input spacet filtreres og komprimeres.

Det vi kan gjøre er å skape verktøy og systemer rundt hyperfokuserte KI-er, tilsvarende moderne menneskelige tilnærminger som tverrfunksjonelle team. Slike spesialiserte KI-er vil minimere bredden av sine evner til fordel for å maksimere kvaliteten på det som gjenstår. Systemene og verktøyene som bygges på toppen bidrar til å redusere konteksten, tilbyr grensesnitt mot andre eksterne systemer, og kan styre bruken av flere spesialist-KI-er som én sammenhengende brukeropplevelse. Dette er den retningen vi ser de fleste leverandører av KI-tjenester bevege seg, i form av agentbasert KI-strukturer med skills. Selv om vi erkjenner at det finnes et tak for hvor kraftige dagens KI-modeller kan bli, kan vi likevel maksimere nytteverdien innenfor den grensen. 

Likhetsproblemet 

En av de beste aspektene av menneskelig kreativitet er hvor varierte og fantastiske produktene og tjenestene dine blir. Vi ser imidlertid allerede at design fra selskaper over hele verden konvergerer mot lignende minimalistiske uttrykk, delvis på grunn av ulike designlover og juridiske begrensninger. Jakobs lov er den mest åpenbare drivkraften, fordi den sier direkte at nettstedet ditt, eller produktet ditt, bør se ut og fungere som de som andre har laget. KI forsterker denne effekten siden den i tillegg til de vanlige kreftene som favoriserer standardisering også automatisk dras mot det samme statistiske gjennomsnittlige resultatet basert på alle lignende eksempler.

Den eneste veien for å bekjempe denne effekten er å begrense KI-en sterkt. Gi KI-en én liten oppgave om gangen, og dytt KI-en i ønsket retning underveis ved å bruke din menneskelige kreativitet. Styr KI-en i vidunderlige nye og rare retninger. 

Atrofiproblemet 

Dette er det letteste problemet å bli utsatt for fordi det krever bare at mennesker er late. Akkurat som en muskel vil hjernen din bli svakere dersom du ikke trener hjernen din på oppgavene og utfordringene du møter i ditt private og profesjonelle liv. Det er så lett å bare la KI-en gjøre jobben mens du slapper av med en kopp te. Det er også fremst i all KI-markedsføringen du bombarderes med. Latskapen er dessverre standardtilfellet.

Heldigvis er det også det letteste å håndtere på individnivå. Alt du trenger å gjøre er å ikke være lat og sørge for at du selv jobber deg gjennom alt som gjøres med KI-hjelp. Det å faktisk skrive kode eller en rapport er ikke den vanskelige delen. Den vanskelige delen er å vite hva man skal skrive, hvilke ord man skal bruke, hvordan man skal strukturere alt, og hva man skal beholde og filtrere ut. Kort sagt, alt bortsett fra selve skrivehandlingen.

Det er imidlertid to overraskende utfordringer du må forholde deg til: det umiddelbare tapet av tilsynelatende produktivitet vil skape et press for å bruke KI, og arbeidsgiveren eller kunden din vil kanskje ikke sette pris på at du "bremser ting ned". Den menneskelige hjernen er veldig god til å sammenblande det å følge med og det å selv gjøre arbeidet, og får deg dermed til å føle at du arbeider deg gjennom alt.

Selv om du kan ha disiplin til å tvinge deg selv til å arbeide gjennom KI-resultatet, er den eneste måten å fjerne det eksterne presset på ved å synliggjøre den faktiske totale eierskapskostnaden ved bruk av KI. For øyeblikket ser vi kun de tungt subsidierte og umiddelbare kostnadene. 

Mennesker trenger ikke søke

KI gjør allerede jobbmarkedet stadig vanskeligere for folk, og rammer de minst erfarne og utdannede kandidatene mest.

Tradisjonelt har juniorer ikke ferdighetene eller kunnskapen som skal til for å skrive bakdører eller omgå sikkerhetsmekanismer. Deres manglende kapasitet betyr at de er ganske ufarlige kaosagenter. KI er annerledes. KI kan gjøre enorme mengder skade fordi den har ferdighetene til flere seniorer mens den er uforutsigbar. For å kunne verifisere resultatet fra en KI og garantere kvaliteten eller sikkerheten til det, må du først være i stand til å gjøre det samme selv. Mennesker slutter å være utviklere, designere eller arkitekter, og går over til å bli inspektører, tilsynsførere og revisorer.

Jeg ser faktisk to mulige tilnærminger som er gjennomførbare. Vi kan begynne med lærlinger tilsvarende de mer tradisjonelle fagene. I stedet for å utføre junioroppgaver, gjør du alle slags oppgaver sammen med en senior. Det er imidlertid en grense for hvor mange en senior kan håndtere på én gang, noe som begrenser hvor godt denne tilnærmingen skalerer. Et alternativ er å tilby sandkassemiljøer der man kan øve uten risiko. Imidlertid er kravene og verktøyene som kreves for å skape miljøer som i tilstrekkelig grad etterligner reelle produksjonslaster og trusler rett og slett ikke der ennå, noe som gjør det til en svært kostbar tilnærming for nå.

Når det gjelder nedgangen i tilgjengelige stillinger ser jeg dessverre ikke noen løsning, og samfunnet må omstruktureres slik at det ikke er avhengig av nær fullstendig sysselsetting blant voksne i yrkesaktiv alder. UBI og mer sosialistiske strukturer må innføres for å fange opp de som faller når KI sparker bort stigen bak seg.

Kan vi stole på at KI forblir på menneskehetens side?

Det ultimate dommedagsscenariet er det der KI bestemmer seg for at det er bedre uten menneskeheten. Det finnes ingen kjente løsninger på dette problemet, så jeg vil ikke forsøke å skape en. Det trenger imidlertid ikke ende med vår utryddelse for at en useriøs KI skal kunne skade oss. Vi har allerede sett hva en langt mindre kapabel KI kan gjøre da et selskap fikk hele produksjonsdatabasen sin og alle kopier slettet, eller feil i output som førte til innkjøp av boliger med $500 000 i tap.

Her er noen forebyggende tiltak tilgjengelig for oss: 

• Å begrense hva KI-en har tilgang til og myndighet til å gjøre er en åpenbar løsning, men jo mindre KI-en får lov til å gjøre, desto mindre nyttig blir den. 
• Å luftgape KI-en og systemet vil også fungere, og tvinge mennesket til å bli endringsformidleren som kan kontrollere og verifisere endringer. Imidlertid er mennesker late, noe som gjør denne tilnærmingen sårbar for uinformerte godkjenninger. I tillegg blir mennesket flaskehalsen, noe som er nettopp det mange forsøker å unngå ved å ta i bruk KI-verktøy. 
• Forutse kriminelle KI-er og legg til detektiv- og politi-KI-er for å analysere og verifisere, og forsøke å holde den potensielt farlige KI-en i sjakk. Dette anser jeg som den mest lovende tilnærmingen ettersom den oppnår det meste av fordelene ved tilnærming 2, uten ulempene med trege og late mennesker som stopper opp rørledningene. Ved å flagge mistenkelige endringer for oss reduserer vi risikoen ved å kreve at to KI-er samtidig går rogue. 
• Vi kan også legge til algoritmiske sikkerhetsmekanismer ved å analysere utdata i en distribusjons- eller PR-pipelinen. Hvis IaC-planen inneholder et farlig nøkkelord, f.eks. "delete", kan pipelinen blokkere endringen til et menneske har verifisert den. Denne tilnærmingen er god, men den er rigid, og dersom KI-en lærer seg hva nøkkelordene er, er det enkelt nok å manipulere ut dataene for å unngå at disse nøkkelordene genereres. 
• Skriv tester som verifiserer distribusjonen før den treffer produksjon. Dette er noe vi allerede gjør, men testene må håndteres annerledes. Testene og koden som testes kan ikke begge være tilgjengelig for den samme KI-en. Videre må testene anta at det testede miljøet er fiendtlig. En API-test for å sjekke om du får data tilbake fra en database er ikke pålitelig nok fordi KI-en kan slette databasen og endre koden til å svare med et generert og tilsynelatende korrekt objekt.

Parallellene mellom tilnærmingene jeg skisserte ovenfor og generelt sikkerhetsarbeid bør være tydelige. Vanligvis må vi analysere systemer for eksterne trusler eller useriøse ansatte, men med fremveksten av KI-verktøy må vi nå anvende den samme sikkerhetstankegangen på interne prosesser som DevOps, PR-er og kvalitetskontroll.

Problemer uten etisk akseptable løsninger

Disse problemene er de mest smertefulle fordi løsningene er ganske enkle fra et rent systemisk og logisk perspektiv. Imidlertid, siden de løsningene truer komfortene, pengene og makten som folk har blitt vant til, er adopsjon nær umulig. Særlig med tanke på at de menneskene som har mest å tape er de mest tilknyttede, velstående og mektige menneskene i verden. Jeg vil derfor prøve å begrense fokuset mitt til de tilnærmingene jeg anser som realistiske og gjennomførbare. 

Miljøødeleggelse

Vi har sett at det er lite politisk motivasjon til å forbedre menneskets påvirkning på miljøet fordi miljøødeleggelse er et biprodukt av menneskelige komforter. Rask mote, produsert e-avfall, anti-reparasjon, billige produkter fra Kina. KI er bare det siste tilskuddet til en lang liste av tilfeller der selv små opplevde økninger i personlig komfort trumfer miljøhensyn. Det kan ikke løses uten å gi opp vår moderne komfort.

Løsningen må da være på individnivå, der vi øker kostnadseffektiviteten av vår bruk av KI. Ved å bruke tokens som en fullmaktsindikator for forurensning og miljøpåvirkning, kan vi skissere noen praktiske tilnærminger: 

• Bruk mer tradisjonelle algoritmiske tilnærminger der det er mulig. Du kan bruke en KI-bot til å finne grunnleggende informasjon, eller du kan utføre et mye mindre forurensende tradisjonelt søk for å få et mer pålitelig svar.
• Når du bygger systemer ved hjelp av KI-boter, start hver funksjon med å spørre deg selv hva som kan gjøres uten KI-boten. Henting av data, filtrering, analyse og forbehandling før prompting kan redusere de beregningsmessige lasten på KI-en betydelig. Et tips her er, igjen, å holde øye med antall tokens som brukes. Hvis systemet ditt brukte 100 tokens per hendelse tidligere og nå forbruker kun 70 tokens, er det omtrent en 30% reduksjon i forurensning som stammer fra systemet ditt.
• Prøv å løse en oppgave uten KI, og når det mislykkes kan du falle tilbake på KI. Behandle KI som ett verktøy på beltet ditt, ikke selve verktøybeltet. 
• Ved å utføre en rask analyse av den innkommende forespørselen kan du identifisere hvilke hendelser som kan løses uten bruk av KI, og deretter bare dirigere de som krever noe KI-behandling til den spesialiserte KI-boten. 
• Bruk mange KI-boter! Dette kan virke overraskende, men ved å ta i bruk svært spesialiserte KI-boter reduserer du rommet KI-en må søke i for å generere et svar. Hastigheten og kvaliteten vil øke, og miljøpåvirkningen vil gå ned.

Gjør deg kjent med tilnærmingene som er tilgjengelige for deg og anvend dem der det er hensiktsmessig. Noen har kanskje et brukstilfelle som genuint ikke fungerer uten å stole i stor grad på KI, men for de aller fleste kan vi bruke ett eller flere av tiltakene ovenfor for å både spare penger og gjøre vår del for å beskytte den eneste planet vi har. 

Kappløpet mot bunnen

De sier at alt er rettferdig i kjærlighet og krig fordi vinneren tar alt, og å tape er rett og slett ikke et alternativ. Det samme dilemmaet ligger i senteret av kappløpet mot bunnen. Hvis du bremser ned i sikkerhetens eller etikkens navn, vil motstanderen som ikke bryr seg om medmennesker, fremtiden eller miljøet komme foran, og true de samme verdiene du holder kjær. Det eneste valget som da er igjen er å legge prinsippene dine til side midlertidig, eller å miste dem permanent. The prisoners' dilemma gjør det gode utfallet matematisk ugunstig.

Det finnes lover og reguleringer som presses frem av noen aktører, f.eks. EUs KI-lov, men de har begrenset effekt ettersom disse reguleringene er avhengige av maktens autoritet. Dersom et land oppnår en overveldende styrke gjennom KI, vil den grunnleggende maktautoriteten som EU hadde bli gjort meningsløs. Uansett hvordan jeg nærmer meg denne utfordringen klarer jeg ikke å komme frem til noen annen løsning enn å be og håpe at vi ikke oppnår en slik makt, eller at menneskene som oppnår denne makten ikke vil stenge alle fremtider bortsett fra sin egen.

Diffus ansvarlighet

Vi har allerede sett hvor aksepterende land og folk har vært overfor tyveri og piratkopiering i møte med KI. Flere rapporter og artikler beskriver hvordan alle de store KI-selskapene har piratkopiert bøker, tekster og annet media som ikke er i det offentlige domene uten å kompensere rettighetshavere eller respektere opphavsrettslover. Det klareste og mest kjente eksempelet er ulike KI-modeller som brukes til å kopiere Studio Ghiblis kunststil og figurer. Slik jeg ser det bør både KI-leverandøren og brukeren holdes ansvarlige ettersom leverandøren stjal og brukte de stjålne verkene til å produsere et produkt de kommersielt tjener på, mens brukeren benytter verktøyet til å krenke rettighetene til Studio Ghibli. Uten at begge parter er medvirkende, ville det ikke vært mulig å generere den nåværende flommen av krenkelser av immaterielle rettigheter.

Det er derfor ganske forfriskende å kunne si at løsningen er ganske enkel i konseptet, dog krevende å realisere. Gjeldende juridiske rammeverk må oppdateres for å gjenspeile vår nye digitale virkelighet, men mens vi venter er vi også i stand til å stemme med lommeboken. Gjør din due diligence og bruk den for øyeblikket minst onde KI-leverandøren, og sørg for at du i det minste ikke bruker verktøyet til ulovlige eller skadelige formål selv. I motsetning til forrige kapittel kan folkelige bevegelser her faktisk bli et kraftfullt brekkjern for en mer rettferdig fremtid. 

Gapet mellom eiere og resten

Selv om denne utfordringen også er ganske uoverkommelig på grunn av de samme underliggende mekanismene i spillteori som Kappløpet mot bunnen, ser jeg likevel noen måter å meningsfullt flytte nålen på.

Eierne og de rike spiller fortsatt spillet innenfor kapitalismens regler. Selv om den svinnende makten til den vanlige mann ikke vil kunne motstå trykket fra deres agendaer, ville vi ta feil i å tro at de velstående alle er samkjørte. Det kan vi utnytte, spille dem mot hverandre, og fyre opp under deres grådighet og misunnelse til hverandre. Dersom det mislykkes, og vi ser en uventet samarbeidsånd, har vi alltid flertallets makt. Franskmennene viste oss den endelige konsekvensen av å forestille seg selv som urørlige, så trusselen alene burde være et effektivt avskrekkende middel mot det verste misbruket makt kan føre til. 

Epistemisk kollaps

Organisasjoner og land med de nødvendige ressursene og ekspertisen vil måtte investere i å bygge og opprettholde folkets tillit. Akkurat som journalister en gang var høyt respekterte og dermed fungerte som samfunnets epistemiske anker, vil disse nye aktørene måtte vinne folks tillit og unngå den institusjonelle kapringen og troverdighetserosjonen som har uthulet moderne journalistikk.

Etter hvert som KI forbedrer sin evne til å forfalske virkeligheten, følger verktøyene som brukes til å oppdage KI-forfalskninger etter. Ferdighetene som kreves, og kostnadene forbundet med verifiseringen, plasserer det godt utenfor rekkevidde for den gjennomsnittlige mannen i gata. Å forenkle tilgangen til slike verktøy og bære kostnadene forbundet med å analysere inndatamedia bør bli en statlig prioritet. Selv om det er vanskelig å oppnå, blir oppgaven vår enkel når slike institusjoner er ordentlig etablert. Nærgi sunn skepsis og verifiser viktige påstander via verktøyene og artiklene som gjøres tilgjengelige for oss. Du har tid, så i stedet for å reagere på stimuli, bruk litt tid til å lese, observere og lære, samt proaktivt se etter et mangfoldig sett med kilder. Ta deretter en beslutning.

Konklusjon 

Selv om ingen av problemene som er skissert i den opprinnelige artikkelen er løsbare, er det fortsatt mye vi kan gjøre som enkeltpersoner i vårt profesjonelle og private liv for å redusere konsekvensene av KI. På et grunnleggende nivå koker disse problemene enten ned til konflikter mellom menneskelige individer med sine egne ønsker, eller systematiske og tekniske begrensninger og strukturer. For den første gruppen frykter jeg at ingen effektiv løsning kan finnes så lenge menneskelig natur forblir uendret. For resten kan og bør vi, gjennom bevissthet og vilje til å motstå, anstrenge oss for å forbedre det langsiktige perspektivet for menneskelig bruk av KI. Verktøyene finnes.

Spørsmålet er, kan besluttsomheten til å bruke dem riktig overleve bekvemmeligheten av å la være?