{"id":3808,"date":"2023-05-29T13:32:27","date_gmt":"2023-05-29T11:32:27","guid":{"rendered":"https:\/\/internetdagarna.se\/?post_type=keynote&p=3808"},"modified":"2024-02-21T13:28:04","modified_gmt":"2024-02-21T12:28:04","slug":"abeba-birhane","status":"publish","type":"keynote","link":"https:\/\/internetdagarna.se\/huvudtalare\/abeba-birhane\/","title":{"rendered":"Abeba Birhane \u2013 AI-forskare"},"content":{"rendered":"\n

Jobbans\u00f6kan, bostadsl\u00e5n och socialbidrag. Allt fler verksamheter anv\u00e4nder AI-verktyg f\u00f6r att effektivisera det de g\u00f6r. Men vad h\u00e4nder n\u00e4r det blir fel? Forskaren Abeba Birhane var huvudtalare p\u00e5 Internetdagarna 2023 och pratade om varf\u00f6r det \u00e4r viktigt med etisk AI.<\/p>\n\n\n\t

\n\t\t
\n\t\t\t\n\n\t
\n\t\t\n\n

AI-verktyg anv\u00e4nds i allt fler verksamheter. Det kan handla om verktyg som hj\u00e4lper till att sortera vem som g\u00e5r vidare i en rekryteringsprocess, vem som f\u00e5r socialbidrag eller hur antagningen till olika skolor g\u00e5r till.<\/p>\n\n\n\n

N\u00e4r det g\u00e4ller myndighetsbeslut finns det lagkrav p\u00e5 att man ska kunna \u00f6verklaga. Och det finns en f\u00f6rv\u00e4ntan p\u00e5 att f\u00f6rst\u00e5 vad besluten grundar sig p\u00e5 s\u00e5 att medborgarna litar p\u00e5 att det har varit en r\u00e4ttvis process. Men de AI-verktyg som finns idag har inte alltid den sp\u00e5rbarheten, enligt Abeba Birhane. Ist\u00e4llet har du i vissa program \"en svart l\u00e5da\" med v\u00e4ldigt m\u00e5nga parametrar som samverkar med varandra. Sp\u00e5rbarheten beh\u00f6ver byggas in i AI-tj\u00e4nsterna fr\u00e5n grunden. Det \u00e4r d\u00e4rf\u00f6r etisk AI och hur besluten fattas av AI-tj\u00e4nsterna blir en fr\u00e5ga om makt, demokrati och r\u00e4ttss\u00e4kerhet.<\/p>\n\n\n\n

<\/use><\/svg>\n

Vi beh\u00f6ver en sund skepsis till AI-teknikens m\u00f6jligheter.<\/p>\nAbeba Birhane<\/cite><\/blockquote>\n\n\n\n

D\u00e4rf\u00f6r \u00e4r etisk AI en av samh\u00e4llets viktigaste fr\u00e5gor<\/h2>\n\n\n\n

Abeba Birhane, \u00e4r forskare i kognitiv beteendevetenskap och datavetenskap. Hon bor p\u00e5 Irland och arbetar vid University College i Dublin. Ett av Abeba Birhanes forskningsomr\u00e5den \u00e4r etisk AI och hur man ska s\u00e4kerst\u00e4ller individens r\u00e4ttigheter vid automatiserade beslut.<\/p>\n\n\n\n

\"Portr\u00e4tt
Abeba Birhane<\/figcaption><\/figure>\n\n\n\n

\u2013 De positiva effekterna och f\u00f6rdelarna med AI dominerar debatten och \u00e4r alldeles f\u00f6r \u00f6verdrivna. Det finns till och med f\u00f6retag och enskilda forskare som sprider felaktig eller vilseledande information om den teknik som de sl\u00e4pper. Med tanke p\u00e5 det beh\u00f6ver vi utveckla en sund skepsis till AI-teknikens m\u00f6jligheter, s\u00e4ger hon.<\/p>\n\n\n\n

Abeba Birhane forskar i den viktiga sk\u00e4rningspunkten mellan m\u00e4nniska, samh\u00e4lle och teknik. Hon lyfter s\u00e4rskilt behovet av att vara medveten om vad det inneb\u00e4r att \u00f6verl\u00e5ta beslutsfattande f\u00f6r viktiga samh\u00e4llsbeslut till AI-system som inte redovisar grunden f\u00f6r besluten. Det finns ingen garanti att systemet \u00e4r programmerat s\u00e5 att det tar h\u00e4nsyn till lokal lagstiftning eller individens r\u00e4ttigheter.<\/p>\n\n\n\n

Felaktigheter i koden \u00e4r sv\u00e5ra att uppt\u00e4cka<\/h2>\n\n\n\n

Abeba Birhanes mest uppm\u00e4rksammade arbete handlar om s\u00e5 kallad algoritmisk bias. Det handlar om n\u00e4r utvecklare bygger in f\u00f6rdomar i sj\u00e4lva koden som \u00e4r grunden f\u00f6r de beslut, rekommendationer och analyser som olika system g\u00f6r. F\u00f6rdomarna finns b\u00e5de hos utvecklaren sj\u00e4lv och i den stora m\u00e4ngd data som systemet tr\u00e4nats p\u00e5. N\u00e4stan ingen data \u00e4r neutral utan bygger p\u00e5 v\u00e4rderingar b\u00e5de i vilken data som anv\u00e4nds och hur den tolkas.<\/p>\n\n\n\n

Tillsammans med maskininl\u00e4rningsforskaren Vinay Prabhu visade Abeba Birhane att stora m\u00e4ngder bilddata som anv\u00e4ndes i popul\u00e4ra AI-verktyg var rasistiska och kvinnofientliga.<\/p>\n\n\n\n

\u2013 Det \u00e4r avg\u00f6rande att program f\u00f6r automatiserade beslut utv\u00e4rderas och testas noggrant f\u00f6r att s\u00e4kerst\u00e4lla att de fungerar p\u00e5 ett r\u00e4ttvist och icke-diskriminerande s\u00e4tt. Det \u00e4r ocks\u00e5 oerh\u00f6rt viktigt att de inte kodar f\u00f6r historiska och samh\u00e4lleliga stereotyper, eller att de f\u00f6rv\u00e4rrar maktobalanser eller andra former av or\u00e4ttvisor, s\u00e4ger Abeba Birhane.<\/p>\n\n\n\n

Nyanser av verkligheten f\u00f6rsvinner i \u00f6vers\u00e4ttningen<\/h2>\n\n\n\n

Hur \u00f6vers\u00e4tter man en komplex verklighet till kod som datorn f\u00f6rst\u00e5r? Abeba Birhanes forskning visar att data inte \u00e4r neutral och att inbyggda v\u00e4rderingar hos dem som skapar systemen kan f\u00e5 stora konsekvenser f\u00f6r b\u00e5de individen och samh\u00e4llet. Hon pekar ocks\u00e5 p\u00e5 risken att mycket g\u00e5r f\u00f6rlorat n\u00e4r vi ska \"\u00f6vers\u00e4tta\" en komplex verklighet s\u00e5 att maskininl\u00e4rningsverktyg och AI-system kan f\u00f6rst\u00e5 den.<\/p>\n\n\n\n

P\u00e5 Internetdagarna 2023 pratar Abeba Birhane om varf\u00f6r etisk AI \u00e4r en fr\u00e5ga f\u00f6r hela samh\u00e4llet. Om makt, f\u00f6rdomar och individens r\u00e4ttigheter i den artificiella intelligensens tid.<\/p>\n\n\n\n

\n

Om Abeba Birhane<\/h2>\n\n\n\n

Abeba Birhane \u00e4r etiopisk forskare i kognitiv beteendevetenskap och datavetenskap vid University College i Dublin. 2019 vann hon pris f\u00f6r b\u00e4sta forskningsartikel med \"Algorithmic Injustices: Towards a Relational Ethics<\/a>\". <\/p>\n\n\n\n

Hon studerade effekterna av framv\u00e4xande AI-tekniker och hur de formar individer och lokala samh\u00e4llen. Resultatet visade att AI-algoritmer tenderar att p\u00e5verka utsatta grupper som \u00e4ldre arbetstagare, transpersoner, invandrare och barn mer \u00e4n andra. Abeba Birhanes doktorsavhandling kom 2020 och lyfter utmaningarna med AI, \"Automating Ambiguity: Challenges and Pitfalls of Artificial Intelligence<\/a>\".<\/p>\n<\/div>\n\n\t<\/div>\n\n\t\n\n\n\t

\n\t\t\n\n
<\/div>\n\n\n

F\u00f6lj Internetdagarna i sociala medier<\/h2>
<\/use><\/svg><\/div>
Facebook<\/a><\/div><\/div>
<\/use><\/svg><\/div>
Instagram<\/a><\/div><\/div>
<\/use><\/svg><\/div>
Linkedin<\/a><\/div><\/div><\/div><\/div>\n\n\n
<\/div>\n\n\t<\/div>\n\n\t\n\t\t<\/div>\n\t<\/div>\n\t\n\n\t
\n\t\t
\n\t\t\t\n\n\t
\n\t\t\n\n

Fler huvudtalare<\/h2>\n\n\t<\/div>\n\n\t\n\n\n\t
\n\t\t\n\t
\n\t\t\"\"\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t

\n\t\t\t\t\t\tBen Hammersley \u2013 futurist\n\t\t\t\t\t\t\t\t\t\t\t<\/h2>\n\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t

Ben Hammersley har m\u00e5nga str\u00e4ngar p\u00e5 sin lyra och kan titulera sig som skapare av ordet podcast, teknikexpert, f\u00f6rfattare, programledare, futurist, journalist med mera.<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t<\/div>\n\t\n\t<\/div>\n\n\t\n\n\n\t

\n\t\t\n\t
\n\t\t\"\"\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t

\n\t\t\t\t\t\tMaria Ressa \u2013 Nobelpristagare\n\t\t\t\t\t\t\t\t\t\t\t<\/h2>\n\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t

Maria Ressa \u00e4r journalist, f\u00f6rfattare och medgrundare av webbtidningen Rappler. Ressa tilldelades Nobels fredspris 2021.<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t<\/div>\n\t\n\t<\/div>\n\n\t\n\n\n\t

\n\t\t\n\t
\n\t\t\"\"\t\t
\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t

\n\t\t\t\t\t\tJenny Radcliff \u2013 m\u00e4nniskohacker\n\t\t\t\t\t\t\t\t\t\t\t<\/h2>\n\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t

Jenny Radcliffe tar sig in i vilken byggnad som helst med hj\u00e4lp av socialt ingenj\u00f6rskap, m\u00e4nniskok\u00e4nnedom och konsten att f\u00f6rhandla och \u00f6vertala.<\/p>\n\t\t\t\t\t\t\t\t<\/div>\n\t<\/div>\n\t\n\t<\/div>\n\n\t\n\t\t<\/div>\n\t<\/div>\n\t","protected":false},"excerpt":{"rendered":"

Skattebesked, bostadsl\u00e5n och socialbidrag \u2013 allt fler samh\u00e4llstj\u00e4nster bygger in maskininl\u00e4rning och AI i sina beslut. Men vad h\u00e4nder n\u00e4r systemen fattar beslut p\u00e5 data som \u00e4r felaktig och f\u00f6rst\u00e4rker f\u00f6rdomar? Forskaren Abeba Birhane om etiska utmaningar med AI.<\/p>\n","protected":false},"featured_media":3912,"template":"","keynote-year":[13],"acf":[],"_links":{"self":[{"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/keynote\/3808"}],"collection":[{"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/keynote"}],"about":[{"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/types\/keynote"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/media\/3912"}],"wp:attachment":[{"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/media?parent=3808"}],"wp:term":[{"taxonomy":"keynote-year","embeddable":true,"href":"https:\/\/internetdagarna.se\/wp-json\/wp\/v2\/keynote-year?post=3808"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}