AfterDawn: IT-alan uutiset

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen (Google+) @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Edellinen Seuraava  
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Microsoftin striimaa HoloLens 2 -lasien julkaisun – katso täältä Microsoftin striimaa HoloLens 2 -lasien julkaisun – katso täältä (19.2.2019 13:38)
Microsoftin on uumoiltu jo jonkin aikaa julkaisevan uuden mallin HoloLens-laseistaan. Nyt Microsoft on vahvistanut julkaisevansa "jännittäviä uutisia" Barcelonassa päivää ennen Mobile World ....
Viranomaiset siirtyvät sähköiseen viestintään – Näin saat tiedot veronpalautuksista nopeimmin Viranomaiset siirtyvät sähköiseen viestintään – Näin saat tiedot veronpalautuksista nopeimmin (19.2.2019 13:10)
Esitäytetty veroilmoitus, verotuspäätös ja tieto mahdollisten veronpalautusten ja mätkyjen määrästä tulee tavallisesto kansalaisille huhtikuun aikana. Väestörekisterikeskus kuitenkin kertoo ....
Chrome aikoo estää verkkosivujen pornotilatunnistuksen Chrome aikoo estää verkkosivujen pornotilatunnistuksen (19.2.2019 09:46)
Verkkoselaimien niin sanottu pornotila eli virallisemmin Incognito-tila on mahdollistanut verkkosivujen selaamisen jälkiä jättämättä tietokoneelle. Incognito-tilan ollessa päällä, selaushistoria ....
Android Q:ssa ei ole enää takaisin-painiketta? Näin se korvataan Android Q:ssa ei ole enää takaisin-painiketta? Näin se korvataan (19.2.2019 09:03)
XDA-developers on tutkinut Android Q -käyttöjärjestemän vuotanutta kehitysversiota, josta se on saanut selville ainakin yhden paljastuksen: Google saattaa poistaa Android Q:sta takaisin-painikkeen, ....
Huaweita syytetään systemaattisesta teollisuusvakoilusta Huaweita syytetään systemaattisesta teollisuusvakoilusta (19.2.2019 08:22)
Yhdysvaltain oikeusministeriö ilmoitti tämän vuoden alussa epäilevänsä Huawein syyllistyneen teollisuusvakoiluun. The Informationin julkaisemien tietojen perusteella Huawei on kohdistanut vakoilunsa ....

Uutisarkisto