*
 
AfterDawn: IT-alan uutiset

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen (Google+) @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Edellinen Seuraava Kirjoita kommentti
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Kupla puhkeaa? Bitcoinin arvo romahti reilussa viikossa Kupla puhkeaa? Bitcoinin arvo romahti reilussa viikossa (17.1.2018 14:23)
Bitcoinin kurssi kehittyi vuonna 2017 äärimmäisen suotuisasti – tuntui ettei kasvulle ole lainkaan rajaa. Talousviisaat kuitenkin näkivät bitcoinissa klassisen kuplan tunnusmerkit, sillä kurssinousulle ....
OnePlussan verkkokauppa vuoti luottokorttitietoja – Tarkista onko korttiasi käytetty luvattomasti OnePlussan verkkokauppa vuoti luottokorttitietoja – Tarkista onko korttiasi käytetty luvattomasti (17.1.2018 11:15)
OnePlus on ottanut väliaikaisesti suoran maksukorttimaksamisen pois käytöstä, kerrotaan yhtiön tukifoorumeilla. Syyksi kerrotaan viikonloppuna ilmi tulleet tiedot, joiden mukaan joidenkin asiakkaiden ....
Googlen taidesovellus löi läpi – Siitä tuli nopeasti megahitti Googlen taidesovellus löi läpi – Siitä tuli nopeasti megahitti (17.1.2018 10:14)
Korkeakulttuuri ja populaarikulttuurin megahitit harvoin yhdistyvät toisiinsa samassa lauseessa, mutta Google on onnistunut herättämään suurten massojen mielenkiinnon taiteeseen Google Arts ....
Omistatko Chromecastin? Langattoman netin ongelmat voivat johtua siitä Omistatko Chromecastin? Langattoman netin ongelmat voivat johtua siitä (17.1.2018 09:35)
Googlen Chromecast-laitteiden on havaittu sekoittavan ihmisten langattomat lähiverkkoyhteydet. Jos sinun kotitaloudessa on esimerkiksi Chromecast sen eri muodoissa tai vaikkapa uudempi Google ....
Näin massiivinen on piraattikirjebisnes – Lähes 200 000 IP-osoitteen omistaja on selvitetty Näin massiivinen on piraattikirjebisnes – Lähes 200 000 IP-osoitteen omistaja on selvitetty (16.1.2018 19:39)
Markkinaoikeuden päätösten kautta on luovutettu lähes 200 000 IP-osoitteen omistajan yhteystiedot vuosien 2013–2017 välisenä aikana. Vuoden 2017 osalta tiedot rajoittuvat kesäkuun alkuun, joten ....
2 kommenttia

Uutisarkisto