Prikaz samo enega sporočila - znotraj teme...

bc123a sporočil: 48.253
[tstih]
Kdaj ste pa zadnjič pognali konvolucijsko nevronsko mrežo na npr. DGX-1? V nekaj letih bo klasifikacija na ravni človeka; segmentacija še kakšno leto pozneje.
To se seveda ne bo zgodilo, ker "na ravni cloveka" je zelo kompleksna zadeva. Pri tem ne kompleksnost nevronske mreze ne hardver ne igra odlocilne vloge, vec v nadaljevanju.

(odgovor: nekaj mesecev nazaj, s tem se lahko igracka ze vsak ki ima amazon aws account, aws p3.16xlarge je dejansko DGX-1)

Da ne bova prevec fragmentirala debate, bom tule napisal par stvari, ki se mi zdijo bistvene.

1) Zakaj taksno fanaticno zaupanje v etiko ljudi, ki so s svojimi izjavami uspeli pumpati AI hype in na racun tega dobili dobre sluzbe? Slovenci z veliko skepso gledajo na domace akademike (vec kot upraviceno!), ampak a tuji akademiki so pa ovcke brez konflikta interesov?

2) Verjemite da zelo dobro vem o cemer je govoril Karpathy in njegove izjave v tistem casu so bile neeticne (2015), ker niso bile podprte z rezultati. Je pa fajn uspel napumpati famo, saj so ga citirali vsi od CNN naprej.

3) Zelo dobro poznam metode evaluacije, po katerih je znanstvena komuna prisla do tistih fascinantnih rezultatov, s katerimi vsi mahajo okrog. Po eni strani sem super vesel, da so gospodje akademiki (Karpathy pri Tesli, Urtasun pri Uberju, pri cemer nimam nic za reci cez Raqel Urtasun za razliko od Karpathya) dobili moznost, da pokazejo, da so eksperimenti res odrazali realisticne probeleme (hint: niso). Vecina stevilk se vedno izhaja iz ILSVRC tekmovanja, zal stran ne dela, da bi vam dal povezavo na evaluacijsko metodologijo. Ce jo poznate, lahko debatirava naprej o tem, kako realisticna je "top 5" evaluacija za prakticne primere (namig: nastala je zato, ker je ze zbirka podatkov slaba in nepopolno anotirana).

4) Tudi ce bi nevronske mreze imele 100% performanse v razpoznavanju in segmentaciji, je problem avtonomne vozje vecji, in najvecja nevarnost za to, da se vse sesuje v prah je ravno ignoriranje psiholoskih principov, ki vodijo clovesko razumevanje okolice.

Tisto cesar veliko akademikov, ki se pehajo za cim vecjimi procenti razpoznavanja ne razume, je, da pri avtonomni voznji gre za prehod med paradigmami: iz razumevanja, ki ga odlicno obvlada clovek, v hiper-senzoriko, ki je sedaj pac edina stvar, ki jo znamo namestiti na avtonomne avte. Clovek je precej fenomenalen stroj za voznjo: ce je trezen, naspan in psihicno pri sebi, rabi tocno dve "kameri" z medocesno razdaljo 10 centimetrov, pan-tilt mehanizem za obracanje glave in dve ogledali in lahko prevozi na 10tisoce kilometrov brez nesrece po lastni krivdi. Zakaj? Ker premore razumevanje okolice okrog sebe.

Moderni samovozeci prototipi imajo 5-7 lidarjev, do 10 kamer in radar, s cimer upamo, da bomo nadomestili kombinacijo oci in razumevanja. In to je sprememba paradigme, katere se zal vecina ljudi ne zaveda, niti razvojnikov, kaj sele bodocih kupcev in uporabnikov samovozecih avtov. Niti ni gotovo, da bo ta paradigma uspela. Ni lidarja in nevronske mreze, ki bi na 30 metrov uspela oceniti, ali je gruca otrok ki se igra z zogo pod nadzorom njihove mame v blizini, ali pa mama morda izgleda raztresena, in bo eden od otrok skocil na cesto.

Razumevanje, clovesko razumevanje okolice je bistven predpogoj za defenzivno voznjo, torej za predvidevanje, kateri od udelezencev v prometu bo naredil napako. Vprasam vas, zakaj ne damo 10 letnikom vozniskega izpita pod enakimi pogoji, kot ga damo 16 ali 18letnikom? Vidijo enako dobro, slisijo bolje, zakaj torej ne? Zgoraj imate odgovor. Razumevanje, ki je pri 10 letniku pac precej bolj primitivno kot pri 18 letniku.

Se enkrat, uspesnost prehoda iz dobrega razumevanja v hiper-senzoriko sploh ni done deal, in cela industrija avtonomnih avtov kar predpostavlja da je.
Po moje bo za mnoge zelo velik problem ta prihajajoči preskok med algoritemskimi in naučenimi stroji. Za algoritemske bo morda še lahko kdo odgovoren. Za naučene pa ravno toliko, kot je odgovoren nekdo, ki da mulcu pri 18tih letih, s 30 urami vožnje izpit. Ta prenos kontrole na stroje bo strašen. To, da je treba stroju zaupati na podlagi tega, koliko se je učil; brez da bi razumeli zakaj deluje bo zelo težko. Ne glede na to, da bodo bistveno boljši vozniki od ljudi. Kljub milijnom prevoženih kilometrov Za vsako resno nesrečno avtonomnega vozila v zadnjih letih vemo vsi.
No, tu se lahko strinjava, jaz pravim, da glede na zgoraj opisano ni samoumevno da bo ta preskok uspel in da ga bodo ljudje sprejeli. Sploh ker industrija avtonomnih vozil ocitno ignorira vecino izkusenj, ki jih je recimo letalska industrija pridobivala 60 let - ne vem od kje, taksno zaupanje, da bo v nekaj letih uspelo avtomobilistom resiti vse te probleme, sploh ker ignorirajo znanje pridobljeno v sorodnih podrocjih.

Eno od spoznanj je to, da je v avtomatskem sistemu clovek najsibkejsi faktor, s cimer se letalska industrija ukvarja ze desetletja ("human factors"), recimo od prvega glass cockpita naprej, pa se vedno ni uspela resiti problemov (prevec pogosto se dogaja, da letalo leti na avtopilotu, oba pilota pa zadremata). To so zelo slabi obeti za Level 3 in Level 4 avtomobile.

Zelo hitro lahko pricakujemo vsaj v ZDA zahtevo po standardnih "crnih skrinjicah" v avtih z level 3 avtonomijo ali vec, NTSB v ZDA ne bo dolgo gledal tega, da so pri preiskavah odvisni od preiskovancev (ki, kot Tesla v nasprotju z zakonom in uveljavljenimi standardi preiskovanja letalskih nesrec, dajejo kar svoje zakljucke v javnost).

Vse ocene tega sporočila:

Gostje ne morejo pregledovati ocen