Znanost 50 ideja koje će promijeniti svijet
272 prikaza

Neuronske mreže iz lica će čitati seksualnost i politička uvjerenja

Tehnologija prepoznavanja lica
DAMIR ŠAGOLJ/REUTERS/PIXSELL
Financial Times se u svojih "Pedeset ideja koja će promijeniti svijet" bavi i kontroverznim studijama o tehnologijama prepoznavanja lica

Prošle jeseni sveučilišni profesor sa Stanforda Michal Kosinski objavio je izrazito kontroverzni rad u kojem je koristio umjetnu inteligenciju kako bi "predvidio" seksualnu orijentaciju iz ljudskih lica. Sada planira napraviti isto te kako bi iz fizionomije dešifrirao politička uvjerenja pojedinaca.

Istraživanje je, piše Financial Times, ilustracija toga što se može napraviti s umjetnim dubokim neuronskim mrežama, vrsti učenja koje stoji iza većine umjetne inteligencije (UI), a koja primjećuje uzorke i radi predviđanja na temelju goleme količine podataka kao što su tekst i slika. 

Tehnologije raspoznavanja slika koje se temelje na neuronskim mrežama razvijaju se za aktivnosti poput autonomne vožnje ili automatskog detektiranja oružja na skenerima na aerodromima.

Neuronske mreže su posljednjih godina unaprijedile i tehnologiju prepoznavanja lica.

SenseTime Tko nas sve prati? Tehno Kina postaje lider na polju razvoja umjetne inteligencije

"Pokušavam objasniti javnosti da se tehnologija prepoznavanja lica već debelo koristi od strane kompanija i vlada kako bi nam nagazili na privatnost", kaže profesor Kosinski. Prošlog ljeta kineske su kompanije počele raditi testove sa softverom koji bi im trebao pomoći da predvide zločin prije no što se dogodi.

Izraelska kompanija Faception prodaje softver za analizu lica za potrebe osiguranja privatnim agencijama ili vladama. Kosinski i njegov kolega Yilun Wang koriste softver za VGG-Face, kojeg su dizajnirali istraživači na Oxford sveučilištu. 

Jedna od troje kolega koji su dizajnirali VGG-Face, Andrea Vedaldi, kaže da se točnost softvera udvostručila u protekle dvije godine. Kosinski i Wang su izvukli podatke iz 35.000 fotografija sa jednom američkog servisa za susrete. Njihove su karakteristike i atribute "preveli" u sekvence brojeva koristeći VGG-Face, a onda računalni model da traže korelacije između seksualnosti i osobina lica.

Kada je model dobio po pet fotografija neke osobe uspješno je raspoznavao homoseksualce i heteroseksualne muškarce u čak 91 posto slučajeva, dok je kod žena bio u pravu u 83 posto slučajeva. U slučaju da je sustav dobio po jednu fotografiju model je raspoznavao s 81 posto uspješnosti, a kod žena s 74 posto uspješnosti. Kada su se ljudi okušali u istom zadatku rezultati su bili 61 posto za muškarce, te 54 posto za žene.

Autori priznaju kako nisu kreirali idealan sustav za prepoznavanje koji se može aplicirati u stvarnom svijetu - niti im je to želja. Ograničenja su u tome što su koristili samo fotografije "bijelaca" i razina točnosti je naglo pala kada su uključili pojedince drugih etniciteta. 

"Neuronske su mreže odlične u prepoznavanju matrica, to je istina. No, ne daju vam odgovor na pitanje postoji li zaista korelacija, jer oni možda vide nešto "čega tamo nema" u uzrocima koji su slučajni", kaže Marta Kwiatowska, sa katedre računarstva na Harvardu koja se bavi sigurnošću u samovozećim automobilima.

Kosinski kaže kako su "neutemeljene korelacije" najveći rizik i glavni izazov u tim istraživanjima. Daje hipotetski primjer koji bi mogao utjecati na rezultate sljedećih projekata.

Umjetna inteligencija 24/50 top ideja Znanost Zašto nas ipak neće uništiti svemoguća umjetna inteligencija

"Neka se svi Republikanci fotografiraju negdje na otvorenom, a Demokrati u zatvorenom prostoru, bila bi velika razlika u razini osvijetljenja. U ovom bi se scenariju neuronske mreže fokusirale na svjetlinu umjesto na atribute lica koja nisu niti jednako osvijetljena", kaže Kosinski.

Uz to, nejasno je kako točno ovaj softver traži znakove seksualnosti i je li riječ o nekim intrinzičnim karakteristikama lica koja su u korelaciji sa seksualnošću, ili se fokusiraju samo na površne stvari poput toga koliko je netko njegovan.

Profesor Kosinski kaže da je model tražio i "fiksne" i "neizmjenjive" značajke kao što je oblik nosa, kao i "fluidnije" faktore poput facijalnih ekspresija.

"Bilo bi lijepo znati kako točno neuronske mreže odlučuju je li odgovor jedno ili drugo, mi ne razumijemo do kraja niti same mreže", kaže Vedaldi. 

Dobiti neuronske mreže da objasne kako analiziraju slike je u fokusu trenutnih istraživanja na nizu fakulteta i kompanija koje se bave umjetnom inteligencijom, piše Financial Times. Kada bi znanstvenici točno znali kako funkcioniraju neuronske mreže i kako donose odluke, lakše bi se iskorijenile greške i predrasude.

Usprkos tome, zasigurno će biti ograničenja u razvoju. Neuralne mreže trebaju izvore podataka visoke kvalitete na kojima se "treniraju" i koji simuliraju uvjete stvarnog svijeta, no to se pokazalo kao velik izazov. 

Lako ih je i prevariti s malim razlikama između fotografija koje su namjerno ugrađene kako bi "prevarile" sustav.

"Ima načina da se sustav još opameti, ali ne vidim scenarij prema kojem se performanse poboljšaju na 100 posto točnosti", kaže Mr. Wang.

Proći će još vremena, kažu znanstvenici, prije no što neuronske mreže mogu biti korištene (i potpuno sigurne) u nekim riskantnijim poljima kao što je kontrola nuklearnih raketa.

Komentiraj, znaš da želiš!

Za komentiranje je potrebno prijaviti se. Nemaš korisnički račun? Registracija je brza i jednostavna, registriraj se i uključi se u raspravu.