AfterDawn: IT-alan uutiset

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen (Google+) @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Edellinen Seuraava Kirjoita kommentti
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Samsung nostaa Galaxy S9:n hintaa – Näin paljon se maksaa Samsung nostaa Galaxy S9:n hintaa – Näin paljon se maksaa (23.2.2018 15:09)
Sunnuntaina esiteltävästä Samsungin Galaxy S9:stä tiedetään jo lähes kaikki tietämisen arvoinen. Muotoilu, tekniikka ja myynnin aloituspäivä ovat olleet jo hyvän tovin tiedossa. Sen sijaan puhelimen ....
5G-läppärit rynnivät markkinoille aiemmin kuin luulitkaan 5G-läppärit rynnivät markkinoille aiemmin kuin luulitkaan (23.2.2018 14:46)
Nokia kokeili aikoinaan millaista kysyntää matkapuhelinverkkoon kytkeytyvällä kannettavalla tietokoneella on. Markkinat eivät reagoineet 3G-yhteydellä varustettuun kannettavaan erityisen hyvin, ....
SIM-kortit halutaan hävittää kokonaan – iSIMit tulevat SIM-kortit halutaan hävittää kokonaan – iSIMit tulevat (23.2.2018 14:36)
Älypuhelimet ovat tiiviisti pakattuja tietokoneita, joissa uusien ominaisuuksien tai suorituskyvyn lisääminen tarkoittaa lähes aina pinta-alan tarvetta muodossa tai toisessa. Tämän takia älypuhelinvalmistajat ....
1 kommentti
WhatsAppin jättänyt perustaja sijoitti kymmeniä miljoonia kilpailevaan viestisovellukseen WhatsAppin jättänyt perustaja sijoitti kymmeniä miljoonia kilpailevaan viestisovellukseen (22.2.2018 22:20)
WhatsApp on maailman suosituin viestisovellus, jonka käyttäjämäärissä lähelle pääsee vain toinen yli miljardin käyttäjän viestin, Facebook Messenger. Molemmat omistaa tietysti Facebook, joka ....
Bloomberg: Apple uudistaa AirPods-kuulokkeita parilla tärkeällä ominaisuudella Bloomberg: Apple uudistaa AirPods-kuulokkeita parilla tärkeällä ominaisuudella (22.2.2018 21:15)
Applen viime vuoden iPhone-julkaisut toivat merkittäviä uudistuksia yhtiön älypuhelinlinjastoon. Monille iPhone X:n näyttö ja käyttöliittymäuudistukset olivat merkittävin uudistus vuosikausiin, ....
1 kommentti

Uutisarkisto