[bc123a]
> To je odvisno od problema, ki ga resujejo. Nedvomno so na dolocenih podrocjih ze zelo lepo presegle performanse ljudi.
Seveda, nevronske mreze lahko fajn natreniras na razmeroma ozko zastavljene probleme. Recimo razpoznavanje 20 pasem psov (pri cemer ves da je na sliki pes). Ljudem so take naloge itak neznosno tezke.
Ugotoviti ali je na sliki pes, no tu pa se lahko nevronske mreze obrisejo pod nosom v primerjavi s clovekom.

Kdaj ste pa zadnjič pognali konvolucijsko nevronsko mrežo na npr. DGX-1? V nekaj letih bo klasifikacija na ravni človeka; segmentacija še kakšno leto pozneje.

(in ugani katera sposobnost je kriticna za avtomatizacijo opravil kot je avtonomni avto)

Avtomobil tipično premore najrazličnejšo senzoriko, radar, lidar, kamero... Zaznave medsebojno usklajuje. Vsaka stvar, ki jo meri, od lidarja pa do vrtenja kolesa, mu viša zanesljivost; vse meritve pa nenehno usklajuje s feedbackom. Googlova vozila že pol leta avtonomno vozijo na Level 4. Kar pišete je skepsa, ki je skregana z napredkom, ki je že dejansko v produkciji na cestah.

Ciljam na to, da je Karpathy (pa ne samo on, on je ociten primerek) zavajal, in da bo to imelo se hude in nepotrebne posledice za razvoj podrocja. Osebno celo mislim, da obstaja tveganje, da ljudje nikoli ne bodo pozrli samovozecih avtov, ker bo njihovo delovanje (in posledicno napake) tako razlicno od cloveskega. Cheerleaderji problem kvecjemu potencirajo, ga ne resujejo.

Po moje pa ste na tem področju z znanjem ostali pri tehnologiji 2000-ih in ne poznate prijemov, ki se uprabljajo danes. Vsaj tako razberem iz tega, kar trdite.

Recimo, dosti pove to, da je oni iz Appla vozil avto na servis, oziroma se pritozeval familiji (ne vemo se tocno, tudi Tesla lahko tu malo zavaja), ker je avtopilot "nenadoma zavijal v ovire". Kaze na bistveno nerazumevanje samovozecih tehnologij, SAE3 in navzgor. To ni napaka ki ti bi jo lahko popravil servis. To ni skripajoc feder ali odpadla matica. Za to, da se stvar "popravi" je treba cakati novo verzijo softverja. Ki ima, ce imas sreco malo manjso afiniteto do betonskih ovir. ALi pa ne, ce v tej rundi ucenja ni bil tvoj mejni primerek not.

Pri navajanju zgodb je zelo pomembna letnica. Avtonomna vozila so pred tremi leti veljala za manj zanesljiva od ljudi. Danes imajo pri milijonih prevoženih kilometrov nižjo stopnjo nesreč od ljudi. Ker, človek tudi ni najbolj zanesljiv voznik.

Gre za nerazumevanje failure modes avtonomnih algoritmov. In clovek je bil ITjevec pri applu! Kaj sele ko bodo taksne avte v roke dobili tipi z malo pameti in dosti denarja. Bo organov za transplantacijo kolikor hoces (ce le uspejo gasilci hitro ugasnit ogenj). Sheesh, mogoce se bo splacalo kar tako, za ziher jetra ali pa srce zamenjati, ker bo pac priloznost in ful velika ponudba.

V prihodnjih petih letih bo avtonomno vozilo vsaj dvakrat bolj zanesljiv voznik od človeka. Ognjev na cesti pa nikoli ni manjkalo. Ni vprašanje, če bodo še, ampak če jih bo več ali manj.

In pri mentaliteti, ki trenutno vlada v podrocju, ni za odpisati, da bomo cez nekaj let slisali o podobnih aretacijah:
www.cbsnews.com/news...-verruckt/
le da na podrocju avtonomne voznje.

Po moje bo za mnoge zelo velik problem ta prihajajoči preskok med algoritemskimi in naučenimi stroji. Za algoritemske bo morda še lahko kdo odgovoren. Za naučene pa ravno toliko, kot je odgovoren nekdo, ki da mulcu pri 18tih letih, s 30 urami vožnje izpit. Ta prenos kontrole na stroje bo strašen. To, da je treba stroju zaupati na podlagi tega, koliko se je učil; brez da bi razumeli zakaj deluje bo zelo težko. Ne glede na to, da bodo bistveno boljši vozniki od ljudi. Kljub milijnom prevoženih kilometrov Za vsako resno nesrečno avtonomnega vozila v zadnjih letih vemo vsi.

[tstih]
Kdaj ste pa zadnjič pognali konvolucijsko nevronsko mrežo na npr. DGX-1? V nekaj letih bo klasifikacija na ravni človeka; segmentacija še kakšno leto pozneje.

To se seveda ne bo zgodilo, ker "na ravni cloveka" je zelo kompleksna zadeva. Pri tem ne kompleksnost nevronske mreze ne hardver ne igra odlocilne vloge, vec v nadaljevanju.

(odgovor: nekaj mesecev nazaj, s tem se lahko igracka ze vsak ki ima amazon aws account, aws p3.16xlarge je dejansko DGX-1)

Da ne bova prevec fragmentirala debate, bom tule napisal par stvari, ki se mi zdijo bistvene.

1) Zakaj taksno fanaticno zaupanje v etiko ljudi, ki so s svojimi izjavami uspeli pumpati AI hype in na racun tega dobili dobre sluzbe? Slovenci z veliko skepso gledajo na domace akademike (vec kot upraviceno!), ampak a tuji akademiki so pa ovcke brez konflikta interesov?

2) Verjemite da zelo dobro vem o cemer je govoril Karpathy in njegove izjave v tistem casu so bile neeticne (2015), ker niso bile podprte z rezultati. Je pa fajn uspel napumpati famo, saj so ga citirali vsi od CNN naprej.

3) Zelo dobro poznam metode evaluacije, po katerih je znanstvena komuna prisla do tistih fascinantnih rezultatov, s katerimi vsi mahajo okrog. Po eni strani sem super vesel, da so gospodje akademiki (Karpathy pri Tesli, Urtasun pri Uberju, pri cemer nimam nic za reci cez Raqel Urtasun za razliko od Karpathya) dobili moznost, da pokazejo, da so eksperimenti res odrazali realisticne probeleme (hint: niso). Vecina stevilk se vedno izhaja iz ILSVRC tekmovanja, zal stran ne dela, da bi vam dal povezavo na evaluacijsko metodologijo. Ce jo poznate, lahko debatirava naprej o tem, kako realisticna je "top 5" evaluacija za prakticne primere (namig: nastala je zato, ker je ze zbirka podatkov slaba in nepopolno anotirana).

4) Tudi ce bi nevronske mreze imele 100% performanse v razpoznavanju in segmentaciji, je problem avtonomne vozje vecji, in najvecja nevarnost za to, da se vse sesuje v prah je ravno ignoriranje psiholoskih principov, ki vodijo clovesko razumevanje okolice.

Tisto cesar veliko akademikov, ki se pehajo za cim vecjimi procenti razpoznavanja ne razume, je, da pri avtonomni voznji gre za prehod med paradigmami: iz razumevanja, ki ga odlicno obvlada clovek, v hiper-senzoriko, ki je sedaj pac edina stvar, ki jo znamo namestiti na avtonomne avte. Clovek je precej fenomenalen stroj za voznjo: ce je trezen, naspan in psihicno pri sebi, rabi tocno dve "kameri" z medocesno razdaljo 10 centimetrov, pan-tilt mehanizem za obracanje glave in dve ogledali in lahko prevozi na 10tisoce kilometrov brez nesrece po lastni krivdi. Zakaj? Ker premore razumevanje okolice okrog sebe.

Moderni samovozeci prototipi imajo 5-7 lidarjev, do 10 kamer in radar, s cimer upamo, da bomo nadomestili kombinacijo oci in razumevanja. In to je sprememba paradigme, katere se zal vecina ljudi ne zaveda, niti razvojnikov, kaj sele bodocih kupcev in uporabnikov samovozecih avtov. Niti ni gotovo, da bo ta paradigma uspela. Ni lidarja in nevronske mreze, ki bi na 30 metrov uspela oceniti, ali je gruca otrok ki se igra z zogo pod nadzorom njihove mame v blizini, ali pa mama morda izgleda raztresena, in bo eden od otrok skocil na cesto.

Razumevanje, clovesko razumevanje okolice je bistven predpogoj za defenzivno voznjo, torej za predvidevanje, kateri od udelezencev v prometu bo naredil napako. Vprasam vas, zakaj ne damo 10 letnikom vozniskega izpita pod enakimi pogoji, kot ga damo 16 ali 18letnikom? Vidijo enako dobro, slisijo bolje, zakaj torej ne? Zgoraj imate odgovor. Razumevanje, ki je pri 10 letniku pac precej bolj primitivno kot pri 18 letniku.

Se enkrat, uspesnost prehoda iz dobrega razumevanja v hiper-senzoriko sploh ni done deal, in cela industrija avtonomnih avtov kar predpostavlja da je.

Po moje bo za mnoge zelo velik problem ta prihajajoči preskok med algoritemskimi in naučenimi stroji. Za algoritemske bo morda še lahko kdo odgovoren. Za naučene pa ravno toliko, kot je odgovoren nekdo, ki da mulcu pri 18tih letih, s 30 urami vožnje izpit. Ta prenos kontrole na stroje bo strašen. To, da je treba stroju zaupati na podlagi tega, koliko se je učil; brez da bi razumeli zakaj deluje bo zelo težko. Ne glede na to, da bodo bistveno boljši vozniki od ljudi. Kljub milijnom prevoženih kilometrov Za vsako resno nesrečno avtonomnega vozila v zadnjih letih vemo vsi.

No, tu se lahko strinjava, jaz pravim, da glede na zgoraj opisano ni samoumevno da bo ta preskok uspel in da ga bodo ljudje sprejeli. Sploh ker industrija avtonomnih vozil ocitno ignorira vecino izkusenj, ki jih je recimo letalska industrija pridobivala 60 let - ne vem od kje, taksno zaupanje, da bo v nekaj letih uspelo avtomobilistom resiti vse te probleme, sploh ker ignorirajo znanje pridobljeno v sorodnih podrocjih.

Eno od spoznanj je to, da je v avtomatskem sistemu clovek najsibkejsi faktor, s cimer se letalska industrija ukvarja ze desetletja ("human factors"), recimo od prvega glass cockpita naprej, pa se vedno ni uspela resiti problemov (prevec pogosto se dogaja, da letalo leti na avtopilotu, oba pilota pa zadremata). To so zelo slabi obeti za Level 3 in Level 4 avtomobile.

Zelo hitro lahko pricakujemo vsaj v ZDA zahtevo po standardnih "crnih skrinjicah" v avtih z level 3 avtonomijo ali vec, NTSB v ZDA ne bo dolgo gledal tega, da so pri preiskavah odvisni od preiskovancev (ki, kot Tesla v nasprotju z zakonom in uveljavljenimi standardi preiskovanja letalskih nesrec, dajejo kar svoje zakljucke v javnost).

[tstih]
Avtomobil tipično premore najrazličnejšo senzoriko, radar, lidar, kamero... Zaznave medsebojno usklajuje. Vsaka stvar, ki jo meri, od lidarja pa do vrtenja kolesa, mu viša zanesljivost; vse meritve pa nenehno usklajuje s feedbackom.

Ampak ob vsej tej super duper tehniki, senzoriki itd, samovoz šiba 38 mph v 35 mph zoni, mirno na polno nabaše človeka na cestišču in potem z nezmanjšano hitrostjo drvi naprej (na bremzo je pritisnil šele človeški nadzornik, PO trčenju).

Grejt sakses.

Naj se grejo še 20 let igrat v laboratorije in na poligone, ker tole še niti približno ni zrelo za spustit na javne ceste.


Pa naj do onemoglosti bluzijo o nevronskih mrežah in algoritmih itd, je povsem irelevantno - vsak z malo zdrave pameti, pa če ni psihopat, vidi da je tehnologija še povsem v povojihn niti približno še ni za na cesto. Rezultati so na dlani (oziroma pri mrliškem ogledniku).