AI bortom hypen – De 3 fallgroparna med AI

Du behöver inte leta länge för att känna stämningen av AI-skrämmarpropaganda. Robotar som tar våra jobb, AGI (General Artificial Intelligence) som överträffar mänsklig förmåga och når punkten "Singularity" – hypotesen att AI kommer att bli smartare än människor och sedan vara okontrollerbar, och slutet för mänskligheten som vi känner den. Filmer som The Terminator, Minority Report och Ex Machina har Hollywoodifierat jordens kapitulation till teknologi i åratal nu.

När man frågar företagsledare om de risker som AI utgör för deras organisationer brukar man få liknande svar baserade på liknande teman:

• Vad gäller upphovsrätt och immateriella rättigheter?
• Vad gäller jobbomplacering och humankapital?
• Är vi i början av en maskinstyrd värld?
• Riskerar vi att maskinell intelligens ersätter mänsklig intelligens?
• Hur konkurrerar vi mot ofelbar maskinintelligens?
• Hur kan vi agera tillräckligt snabbt för att minska risken att bli omkörda?
• Vem vinner i slutändan – vi, våra konkurrenter, nya aktörer eller AI i allmänhet?
• Vem kan man lita på att reglera denna nya värld?

Var och en av dessa frågor kan nystas upp för att skapa möjligheter vid sidan av risker, men många ledare har för närvarande svårt att skilja på. Det finns så mycket oväsen. Det finns fortfarande ett kompetensgap – det uppskattas att vi behöver 10 gånger så många datavetenskapliga akademiker som vi har idag för att möta de anställningsplaner som redan aviserats av stora mjukvaruföretag. Förändringshastigheten ökar snabbare än vad befintliga operativa modeller, såsom räkenskapsår eller kvartalsrapportering, var utformade för.

Det här innebär med största sannolikhet att vi måste söka oss till en rationell och obehindrad syn på saken. Låt oss titta på vad akademiker har enats om.

Akademiker är inte rutinmässigt överens med varandra, men under det senaste decenniet har opinionsbildare från de största och bästa tekniska utbildningsinstitutionerna (inklusive Massachusetts Institute of Technology [MIT], University of Oxford, Stanford University, Indian Institute of Technology, National University of Singapore, etc.) fastställt att AI:s tre fallgropar är... Integritetspolicy, replikationoch Bias.

Integritetspolicy

Integritet definieras som en individs eller grupps förmåga att isolera antingen sig själv (eller information om sig själva), och därigenom vara selektiva i vad de uttrycker, och är ett uttryck vi alla känner till. Integritetsdomänen överlappar delvis säkerhet, vilket kan inkludera begreppen lämplig användning och skydd av information.

Men missbruket av integritet kan vara mer abstrakt. Tänk på de (existerande) patent som kopplar samman profiler på sociala medier med dynamisk prissättning i butiker. Det positionerade användningsfallet är vanligtvis en rabatt som presenteras för en kund eftersom återförsäljarens teknik – från inlärd data från sociala medier – vet att de sannolikt kommer att köpa om de presenteras för en kupong eller ett erbjudande. Detta känns win-win för båda parter och därför känns den delade informationen som ett transaktionellt utbyte snarare än ett integritetsintrång.

Men där samma teknik kan användas för att blåsa upp priset på receptbelagda antidepressiva medel – eftersom informationen visar återförsäljarens system att kunden sannolikt kämpar med sin psykiska hälsa – blir det snabbt uppenbart att den mänskliga kostnaden för integritetsintrång kan bli mycket hög.

Integritet anses vara en av AI:s tre fallgropar eftersom data (och så ofta personuppgifter) är så oupplösligt kopplade till maskinintelligens framgång. Diskussionen om vem som äger dessa data, hur de bör/inte bör användas, hur man utbildar människor om vikten av data och hur man ger användarna mer kontroll över dem har länge pågått i delar av samhället (men långt ifrån hela). I takt med att AI utvecklas är det allmänt erkänt att detta område måste utvecklas i takt.

replikation

Oförmågan att replikera ett beslut fattat av KI – ofta kallat en "svart låda" – uppstår när programmerare och skapare eller ägare av teknologier inte förstår varför deras maskin fattar ett beslut och inte ett annat.

Replikering är avgörande för att bevisa ett experiments effektivitet. Vi måste veta att de resultat en maskin producerar kan användas konsekvent i den verkliga världen, och att de inte inträffade slumpmässigt. Med samma data, samma logik och samma struktur kan maskininlärning producera varierande resultat och/eller ha svårt att upprepa ett tidigare resultat. Båda dessa är problematiska – och kan vara särskilt besvärliga när det gäller algoritmer som tränats att lära av erfarenhet (förstärkningsinlärning) där felen mångfaldigas.

"Black box"-metoden ursäktas ofta med att man påstår sig ha IP-skydd eller produkters "betastatus". Men den långvariga oförmågan att granska, inspektera, förstå och utmana resultat från maskiner leder till att människor inte kan lita på maskiner. Oavsett om det handlar om förvirring kring hur en långivare har kreditbedömt din bolåneansökan, eller något ännu allvarligare som att inte kunna bevisa att en potentiell arbetsgivare har använt maskininlärning för att diskriminera en kandidat.

Replikering anses vara en av AI:s tre fallgropar eftersom vi behöver veta att vi kan lita på AI. För att vi ska kunna lita på den måste vi kunna förstå den. För att kunna förstå den måste vi kunna replikera den.

Bias

”En tendens, lutning eller fördom mot – eller emot – något eller någon” är hur partiskhet vanligtvis definieras. Idag har Google mer än 328 miljoner resultat när man söker efter ”AI-bias”. Tyvärr verkar AI och partiskhet gå hand i hand med en ny historia om maskinintelligens som gör (väldigt) fel som dyker upp dagligen.

I takt med att användningen av artificiell intelligens blir allt vanligare, och dess inverkan på områden som är känsliga för personuppgifter – inklusive rekrytering, rättsväsendet, hälso- och sjukvården och inkludering av finansiella tjänster – har fokus på rättvisa, jämlikhet och diskriminering med rätta blivit mer uttalat.

Utmaningen i centrum för maskinbias är, föga förvånande, mänsklig bias. När människor bygger algoritmer, definierar träningsdata och lär maskiner hur bra ser ut, blir de inneboende biaserna (medvetna eller andra) hos maskinernas skapare inbyggda.

Den undersökande nyhetsbyrån ProPublica har visat hur ett system som används för att förutsäga återfallsfrekvensen i Florida felaktigt betecknade afroamerikanska åtalade som "högrisk" nästan dubbelt så ofta som vita åtalade. Systemet uppfann inte denna partiskhet – det extrapolerade och byggde på antaganden som programmerats av dess skapare.

Teknologer och produktledare använder gärna förkortningen GIGO – ”Garbage In, Garbage Out” – och det passar absolut in här. När vi tränar maskiner att tänka blir alla antaganden vi inkluderar i början exponentiellt problematiska allt eftersom tekniken skalas upp.

Replikering anses vara en av AI:s tre fallgropar eftersom teknik ofta omsägs vara en utmärkt "utjämnare", som skapar möjligheter och demokratiserar åtkomst. Men så länge AI-bias är lika dålig som, eller värre än, mänsklig bias, kommer vi i själva verket att gå bakåt – med stora delar av samhället missgynnade.

Svara på AI:s utmaningar

Var och en av dessa tre fallgropar med AI är allvarliga och de har väckt stor uppmärksamhet – inklusive från ledarna för just de företag som ligger i framkant av AI:s utveckling och evolution. När mer än 1 100 VD:ar skrev det numera ökända öppna brevet De krävde ett stopp för AI-utvecklingen, men bad i huvudsak om tid för människor att komma ikapp och tänka på de möjliga konsekvenserna av våra handlingar.

Det finns ytterligare frågor om reglering – med lagstiftare som kämpar för att hålla jämna steg med förändringstakten. Förtroendet för politiker är fortfarande envist lågt globalt och allmänheten tvekar också att anförtro en liten grupp teknikföretagsmiljardärer vad som realistiskt sett skulle kunna vara existentiella hot mot delar av hur vi lever idag. Men självreglering är där vi befinner oss just nu och det innebär att det kommer ner till enskilda teknikskapare att bygga ansvarsfullt och etiskt.

At Papirfly Vi har definierat en etisk stadga som styr vilken teknik vi bygger, hur vi bygger den och de etiska parametrar inom vilka vi bygger den. I del 4 av den här serien kommer vi att dela vår etiska stadga och demonstrera hur den fungerar i vårt företag.

Titta på vårt webbinarium på begäran