AfterDawn: IT-alan uutiset

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen (Google+) @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Edellinen Seuraava Kirjoita kommentti
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Nokia X5 julki – iPhone X:stä tuttua designia pikkurahalla Nokia X5 julki – iPhone X:stä tuttua designia pikkurahalla (19.7.2018 18:25)
HMD Global on esitellyt Kiinan markkinoille Nokia X5 -älypuhelimen, jolla pyritään vetoamaan tyylikästä ja edullista puhelinta etsivään kansanosaan. Nokai X5:n muotoilussa noudatetaan aiemmin ....
Google vihjailee – Android ei välttämättä pysy ilmaisena jos EU:n tahto menee läpi Google vihjailee – Android ei välttämättä pysy ilmaisena jos EU:n tahto menee läpi (19.7.2018 18:13)
Googlen toimitusjohtaja Sundar Pichai tuntuu olevan hyvin järkyttynyt Euroopan komission eilen julkistamasta 4,3 miljardin euron sakosta. Komission mukaan Google on käyttänyt määräävää markkina-asemaa ....
3 kommenttia
Älypuhelimen näyttö rikki? Uusi lasi kestää entistä kovempaakin käsittelyä Älypuhelimen näyttö rikki? Uusi lasi kestää entistä kovempaakin käsittelyä (19.7.2018 18:08)
Yhdysvaltalainen lasivalmistaja Corning on ottanut uuden harppauksen älypuhelimien näyttöjen suojana käytettävissä Gorilla Glass -lasien kehityksessä. Yhtiö on esitellyt seuraajan nykyisissä ....
Samsung yllättää – Taipuva puhelin tulee jo ensi vuonna myyntiin Samsung yllättää – Taipuva puhelin tulee jo ensi vuonna myyntiin (18.7.2018 20:02)
Samsung kehittää seitsemän tuumaista mobiililaitetta, jonka voisi taittaa keskeltä pienemmäksi – samaan tapaan kuin lompakon. Suunnitelmista uutisoi Wall Street Journal. Kyseessä olisi yksi ....
5 kommenttia
Honor 10:n suorituskyky ja kamera paranee – Akkukestoakin luvassa lisää Honor 10:n suorituskyky ja kamera paranee – Akkukestoakin luvassa lisää (18.7.2018 17:27)
Toukokuussa Suomessa myyntiin tulleelle Honor 10 -älypuhelimelle on luvassa kaksi mainittavaa muutosta elokuun 3. päivä ilmestyvän päivityksen mukana. Honor 10:n omistajien saataville on ....
2 kommenttia

Uutisarkisto