Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.



Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

AfterDawnin diilit uutiskirjeenä!

Etsimme jatkuvasti hyviä tietotekniikan ja kännyköiden diilejä ympäri nettiä ja uutisoimme niistä sivuillamme. Jos haluat saada tiedon uusista diileistä heti sähköpostiisi, tilaa diilien uutiskirjeemme.

Tilaamalla uutiskirjeemme hyväksyt sääntömme ja tietosuojakäytäntömme.

P.S. Kaikkien diilit-uutiskirjeemme tilanneiden kesken arvomme joulukuussa 2019 mm. Turtle Beachin kuulokkeet ja muita palkintoja.

Edellinen Seuraava Kirjoita kommentti
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

YouTube Rewind 2019 julkaistu – Näitä nettivideoita suomalaiset katsoivat tänä vuonna YouTube Rewind 2019 julkaistu – Näitä nettivideoita suomalaiset katsoivat tänä vuonna (6.12.2019 16:51)
YouTuben viime vuonna julkaisema Rewind-muistelovideo ei ollut nettikansan mieleen, sillä siitä tuli palveluin vihatuin (dislike) video. Tähän päivään mennessä videolle on annettu 17 miljoonaa ....
Pokemon Go -kehittäjä hyppäsi mukaan AR-lasien kehitykseen Pokemon Go -kehittäjä hyppäsi mukaan AR-lasien kehitykseen (6.12.2019 16:00)
Puolijohdejätti Qualcomm ja Pokemon Go -pelistä parhaiten tunnettu Niantic Labs kehittävät yhdessä uuteen Snapdragon XR2 -alustaan perustuvia AR-laseja. Kehitteillä olevat AR-lasit eivät ....
Päivän diili: Sony WH-H900N langattomat kuulokkeet 99 euroa (säästä 30 euroa) Päivän diili: Sony WH-H900N langattomat kuulokkeet 99 euroa (säästä 30 euroa) (6.12.2019 15:31)
Black Friday oli ja meni. Black Friday -tarjousjuhlan aikana nähtiin paljon tarjouksia kuulokkeiden kohdalla. Tarjouksessa olivat esimerkiksi Sennheiser HD 598 Cs, Sony WF-1000XM3 ja Sony WH-1000XM3 ....
Motorola One Hyper julkistettu: hinta 359 euroa, 4000 mAh akku, 64 MP pääkamera Motorola One Hyper julkistettu: hinta 359 euroa, 4000 mAh akku, 64 MP pääkamera (6.12.2019 12:01)
Motorolan One -sarja sai taas uuden lisäyksen, sillä yritys julkisti Motorola One Hyper -puhelimen. Motorola on tänä vuonna tuonut markkinoille muun muassa Motorola One Macron, Motorola One ....
Samsung lyö hirviökamerapuhelimet laudalta – Galaxy S11:een tulossa 108 megapikselin kamera Samsung lyö hirviökamerapuhelimet laudalta – Galaxy S11:een tulossa 108 megapikselin kamera (6.12.2019 11:05)
Samsungin komponenttikehityksestä on kuultu kamerasensoriuutisia muutamaan otteeseen tämän vuoden aikana. Yhtiö on kertonut kehittäneensä niin 64 kuin peräti 108 megapikselin kennot älypuhelimiin. ....

Uutisarkisto