Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi

Kirjoittaja Manu Pitkänen @ 6.11.2017 15:30

Tutkijat tekivät 3D-kilpikonnan, jota Google luulee kivääriksi Tekoälytutkijat ovat jo vuosikymmenen alusta lähtien olleet tietoisia, että tekoälymalleihin perustuvia konenäköjärjestelmiä voidaan tehokkaasti huijata näkemään vääriä asioita niin sanottujen harhautuskuvien avulla (adversial image). Aihe on ankaran tutkimuksen kohteena, sillä konenäkö tarjoaa paljon mahdollisuuksia esimerkiksi autoteollisuudelle, mutta samalla konenäkö voi tuottaa paljon ongelmia.
Käytännössä kyse on siitä, että tekoälymallien toimintaa analysoimalla kuviin on mahdollista lisätä tietynlaisia vääristymiä, jotka ohjaavat konenäköä näkemään kuvissa vääriä asioita. Vääristymät eivät ole välttämättä näy ihmiselle oikein mitenkään. Yksinkertaisimmillaan tekoälyä voi huijata kiertämällä kuvaa esimerkiksi 25 astetta myötäpäivään.

Konenäköjärjestelmät on opetettu tarkkailemaan kuvissa tiettyjä asioita ja ne luokittelevat kuvissa näkyvät kohteet todennäköisyyksien avulla. Esimerkiksi lentokoneesta otettu kuva voi konenäköjärjestelmän mielestä näyttää 99 prosentin todennäköisyydellä lentokoneelta ja prosentin todennäköisyydellä kissalta. Sopivalla manipulaatiolla kuvaan voidaan lisätä elementtejä, jotka ohjaavat konenäköä kasvattamaan kissa-luokituksen todennäköisyyttä.

Tutkijat ovat nyt onnistuneet luomaan kolmiulotteisen mallin, joka toimii samalla tavalla harhaanjohtavalla tavalla kuin yllä mainitut kuvat. Googlen konenäköjärjestelmä tulkitsee tutkijoiden luoman kilpikonnamallin eri kuvakulmista kivääriksi. Saman kilpikonnamallin, johon ei ole lisätty harhautuksia, konenäkö tulkitsee eri kuvakulmista aina oikein kilpikonnaksi.

Tutkimuksen uutuusarvo on siinä, että harhautusta on pystytty hyödyntämään kolmiulotteisessa kohteessa.

Harhautuskuvat ja -mallit ovat ongelmallisia, sillä niiden avulla joku voi esimerkiksi pystyttää pihamaalleen "liikennemerkin", jonka itsestään ajava auto tulkitsee jalankulkijaksi. Tällöin auto saattaa tehdä äkkijarrutuksen ja aiheuttaa vahinkoa omaisuudelle tai ihmisille.

Lisätietoa ja videomuotoinen esimerkki harhautusmallista löytyy täältä.

Edellinen Seuraava  
Tämän uutisen kommentointi ei ole enää mahdollista.

Tuoreimmat uutiset

Asensitko sinä jonkun näistä laajennoksista? Ne saattoivat myydä salasanasi eteenpäin Asensitko sinä jonkun näistä laajennoksista? Ne saattoivat myydä salasanasi eteenpäin (19.7.2019 05:24)
Washington Postin tutkivat journalistit ovat löytäneet kuusi Googlen Chromelle ja Mozillan Firefoxille kehitettyä selainlaajennosta, jotka tarjoavat käyttäjälleen joitain lupaamiaan erityisominaisuuksia, ....
OnePlus 7 Pro - iso päivitys tuli jakeluun tänään OnePlus 7 Pro - iso päivitys tuli jakeluun tänään (18.7.2019 22:02)
OnePlus 7 Prolle ilmestyi tänään OTA-jakeluun iso päivitys, joka korjaa nipun bugeja, parantaa järjestelmän toimintaa sekä lisää yhden puuttuneen ominaisuuden. Oxygen OS v9.5.10 tuo OnePlus ....
Kustomoi Android-puhelinta näillä 35 kuvakepaketilla, jotka ovat juuri nyt ladattavissa ilmaiseksi Kustomoi Android-puhelinta näillä 35 kuvakepaketilla, jotka ovat juuri nyt ladattavissa ilmaiseksi (18.7.2019 19:27)
Android-käyttöjärjestelmän kustomointi on yksi sen parhaista puolista. Helppo tapa muuttaa käyttöjärjestelmän ulkonäköä on asentaa uusi kuvakepaketti (icon pack). Google Play -sovelluskaupasta ....
Samsung tuo uutta potkua huippupuhelimiin – Kapasiteetti riittää 12 elokuvan siirtämiseen yhdessä sekunnissa Samsung tuo uutta potkua huippupuhelimiin – Kapasiteetti riittää 12 elokuvan siirtämiseen yhdessä sekunnissa (18.7.2019 17:56)
Huippupuhelimiin on tulossa taas lisää potkua, sillä Samsung on tuomassa markkinoille ensimmäisen 12 gigabitin LPDDR5-muistipiirin mobiililaitteisiin. Kahdeksan piirin paketteina mobiililaitteisiin ....
Netflixistä tulossa huippuhalpa versio Netflixistä tulossa huippuhalpa versio (18.7.2019 17:33)
Suoratoistopalvelujätti Netflix joutui kertoman sijoittajille huonoja uutisia, sillä palvelun tilaajien määrät pienenivät vähän Yhdysvalloissa. Yksi syy oli Netflixin tilaushintaan tehdyt korotukset. ....

Uutisarkisto