Google tekee tekoälymallit läpinäkyviksi – Kertoo miksi lääkäri näyttää lääkäriltä

Kirjoittaja Manu Pitkänen @ 8.5.2019 08:12

Google tekee tekoälymallit läpinäkyviksi – Kertoo miksi lääkäri näyttää lääkäriltä Tekoälyn hyödyntämisen yksi isoista eettisistä kysymyksistä on, että miten käytettävät mallit koulutetaan ja minkälaisia vinoumia niihin saattaa tämän seurauksena syntyä. Ongelman ratkaiseminen ei ole erityisen helppo, sillä tekoälymallien tarkkaa päättelyketjua ei välttämättä tunneta.
Google on kuitenkin ottanut härkää sarvista ja aikoo tehdä läpinäkyväksi sen, miten yhtiön tarjoamat mallit päätyvät tuloksiin. Uuden TCAV-nimisen (Testing with Concept Activation Vectors) teknologian avulla Google kertoo prosenttiosuuksin sen, kuinka paljon tietyt asiat vaikuttivat päädyttyyn lopputulokseen. Esimerkiksi kuvantunnistustehtävässä Googlen konenäkömalli voisi kertoa kuvassa olevan lääkäri ja TCAV kertoo, että päättelyketjuun vaikutti eniten henkilön käyttämä valkoinen takki ja se, että kuvassa on mies.

Juuri viimeksi mainitun kaltaisia asioita Google haluaa TCAV:lla tuoda ilmi. Esimerkin tapauksessa konenäkömallissa on sukupuolivinouma, jossa oletetaan lääkäreiden olevan miehiä. Tiedon avulla mallia voidaan korjata, mutta yleisestikin se antaa tärkeää tietoa miten malli toimii, jolloin voidaan ymmärtää miksi malli toimii tai miksi se ei tietyissä tapauksissa toimi halutulla tavalla.

Edellinen Seuraava Kirjoita kommentti
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Miten säästää ruoassa? Tällä sovelluksella saat lounaan edullisesti Miten säästää ruoassa? Tällä sovelluksella saat lounaan edullisesti (14.9.2019 16:23)
Ruokahävikistä ja etenkin sen vähentämisestä on tullut iso trendi parin vuoden aikana – ja hyvä niin, sillä tavallinen kansalainen voi hyötyä siinä itsekin taloudellisesti. Kuukauden ruokalaskua ....
Arvostelussa Gardenan robottiruohonleikkuri, max. 1250 m2 pihoille Arvostelussa Gardenan robottiruohonleikkuri, max. 1250 m2 pihoille (14.9.2019 12:33)
Arvostelussamme Gardena Sileno Life 1250 -robottiruohonleikkuri, joka on tarkoitettu max. 1250m2 kokoisille pihoille. Miten roboleikkuri selviää esteistä, onko sen käyttö helppoa ja millaista jälkeä se tekee. Otimme selvää.
iPhone 11:ssä saattaa olla salattu ominaisuus – Kytketty vain pois päältä iPhone 11:ssä saattaa olla salattu ominaisuus – Kytketty vain pois päältä (14.9.2019 12:13)
Uusista iPhoneista saattaa löytyä piilossa olevia toiminnallisuuksia, jotka saatetaan aktivoida vasta myöhemmin päivityksellä. Ainakin Apple-vuodoilla nimeä tehneen Sonny Dicksonin mukaan iPhone ....
1 kommentti
Vertaa tästä – Kumpi kannattaa ostaa, iPhone 11 vai iPhone 11 Pro? Vertaa tästä – Kumpi kannattaa ostaa, iPhone 11 vai iPhone 11 Pro? (14.9.2019 11:37)
Tällä viikolla Apple pisti puhelinmallistonsa uusiksi ja kuluttajat ovat ennakkotilausten alettua rientäneet varaamaan itselleen omaa osuuttaan syksyn omenasadosta. Kolmesta uudesta puhelimesta ....
1 kommentti
Razerin uusi Huntsman TE TKL-näppäimistö on varustettu Linear Optical -kytkimillä Razerin uusi Huntsman TE TKL-näppäimistö on varustettu Linear Optical -kytkimillä (13.9.2019 13:01)
Razer julkaisi uuden näppäimistön, joka on tarkoitettu pelaajille. Uutuuden nimi on Razer Huntsman Tournament Edition (TE) ja siinä käytetään Razerin Linear Optical -kytkimiä. Razer Huntsman ....

Uutisarkisto