Sobre el autor
Dr Iain Brown är Head of Data Science på SAS UK UK & Ireland
Konceptet med artificiell intelligens (AI) börjar bli vanligt i hanteringen av våra liv och våra verksamheter: vi är alla vana vid tanken, om inte den vanliga praxisen, att använda den för att förbättra våra liv och vårt arbete.
Som ett resultat är det dags att sluta diskutera vad du kan göra och börja diskutera vad du borde göra. AI har förmågan att vara bra och dålig, det som betyder mest är avsikten hos de som använder den. Etiken är dock inte begränsad till det slutliga målet. Medierna är lika viktiga.
Data är bränslet som driver artificiell intelligens, och som sådan är det nu en integrerad del av offentlig etik runt om i världen. Förordningar som EU:s PGRP och Sydkoreas lag om skydd av personuppgifter har infört vissa datarättigheter i lag. Organisationer måste följa dessa regler och göra allt för att skydda kunddata och erhålla deras samtycke för att införliva denna data i sina algoritmer.
Etik går dock långt utöver att bara följa lagen. Konsumenter blir allt mer medvetna om vikten av deras data och dess potentiella inverkan på deras liv. Detta gäller särskilt när data möter AI. Lagen utvecklas långsamt, och det är rimligt att säga att många människor kommer att ha strängare förväntningar på företagens beteende än vad tillsynsmyndigheter kan föreskriva.
Förtroende är alltid viktigt för företag. En fjärdedel av kunderna kommer att vidta åtgärder om de känner att deras data inte respekteras eller skyddas. Om du inte kan garantera ett gott beteende blir du snabbt värdelös.
Vem tittar på vakterna?
Det finns inget enkelt svar i termer av etik. Men när du försöker avgöra om din användning av AI är etisk, måste du ställa dig själv tre grundläggande frågor: vet du vad din AI gör, kan du förklara det för dina kunder och kommer de att svara glatt när du har berättat det för dem? Om svaret är "nej" till en av dem är det dags att tänka om.
För att inspirera till förtroende för AI måste du ta transparens på allvar. För organisationer som ännu inte har stärkt sin inställning till AI-etik är det idealiskt att anta ett befintligt ramverk. Faktum är att ramverket Fairness, Accountability, Transparency and Explanation (FATE) är en bra utgångspunkt.
FATE uppmuntrar ansvarighet och transparens i varje steg i AI-processen, från datainsamling till analys. AI-beslut måste vara rättvisa och opartiska, inklusive hänsyn till teamsammansättning och datauppsättningen som används i design- och byggfasen. Endast ett brett utbud av insatser och intressenter kan förhindra att omedveten fördomar smyger sig in i systemet.
I grunden insisterar FATE på att processen att omvandla data till information måste vara transparent och förklarabar. Konsumenter bör alltid förbehålla sig rätten att ställa frågor och dra sig ur, om de så önskar.
Slutligen måste det finnas mänsklig övervakning för att säkerställa att inga automatiserade beslut sviker samhällets värderingar, etik och regulatoriska skyldigheter. Utvecklingen av artificiell intelligens är fortfarande i sin linda: vi är skyldiga att göra misstag som kan få negativa konsekvenser för konsumenterna. Manuell undersökning hjälper till att upptäcka och lösa dessa fel, vilket säkerställer att klienten känner sig (och förblir) säker.
Artificiell intelligens är en integrerad del av vår framtid, men samhället har fortfarande inte samma dystopiska tänkande. Tyvärr är det vanligt att frukta det vi inte helt förstår. Faktum är att försiktighet praktiskt taget är inkopplad i våra hjärnor som art. För att bygga upp stöd och acceptans för AI måste utvecklare och organisationer först avmystifiera den.
Dr. Iain Brown är chef för datavetenskap på SAS UK & Ireland.