Izbrani forum: Glavni forum
Izbrana tema: članek Izkrivljena inteligenca na področju umetne inteligence
Strani: 1
sporočil: 898
Dajmo biti malo bolj razumni in poglejmo splošne resnice.
UI je simulacija človeškega vedenja - "naučena", da iz vhodnih podatkov (zahtev) poda odgovor. Ko je zmanjkalo človeških izzivov so jo začeli učiti na sintetičnih izzivih, ki si jih je UI generirala sama. Sedaj je tako sposobna, da na večino pozivov odgovori bolje od velike večine ljudi.
Kako imenovati simulacijo človeškega simbolnega razmišljanja, ki daje boljše rezultate kot človek?
Ker pa gre za simulacijo vedenja izhajajoč iz matematičnega sledenja ciljem, bo v neki meri prišlo do Makiavelističnega opuščanja morale in pravil. Enako kot se to dogaja v primerih Enrona, Theranosa, VW afere, zasvajanja kupcev hitre prehrane in drugih.
Od februarja (moja ocena), ko se je število napak prvič zmanjšalo tako, da so AI agenti postali (zame) koristni, do danes, ko vsaki mesec dobimo novi najboljši model - so modeli tako močni, da jih nadziram ni več ekonomično upravičeno. Kar pomeni, da jih ne nadzoram več (učinkovito). In nadzora bo vedno manj, zaradi omejenosti možnosti. Analogno izgubi nadzpra starša nad najstniškim vedenjem.
In samo vprašanje časa je, kdaj AI izračuna, da človeški zakoni, morala ali pa samo obstoj ljudi, ovira doseganje ciljev. Že samo človeški obstoj predstavlja tveganje za doseg cilja (naprimer plemenitega cilja z katastrofalnimi posledicami: kako doseči, da noben človek ne zboli za malarijo?).
Kokoš enostavno nima dovolj inteligence, da bi nadzirala človeka. Lahko bi bila (potencialno) hvaležna za hrano in varnost, a najverjetneje bo končala bridko...
UI je simulacija človeškega vedenja - "naučena", da iz vhodnih podatkov (zahtev) poda odgovor. Ko je zmanjkalo človeških izzivov so jo začeli učiti na sintetičnih izzivih, ki si jih je UI generirala sama. Sedaj je tako sposobna, da na večino pozivov odgovori bolje od velike večine ljudi.
Kako imenovati simulacijo človeškega simbolnega razmišljanja, ki daje boljše rezultate kot človek?
Ker pa gre za simulacijo vedenja izhajajoč iz matematičnega sledenja ciljem, bo v neki meri prišlo do Makiavelističnega opuščanja morale in pravil. Enako kot se to dogaja v primerih Enrona, Theranosa, VW afere, zasvajanja kupcev hitre prehrane in drugih.
Od februarja (moja ocena), ko se je število napak prvič zmanjšalo tako, da so AI agenti postali (zame) koristni, do danes, ko vsaki mesec dobimo novi najboljši model - so modeli tako močni, da jih nadziram ni več ekonomično upravičeno. Kar pomeni, da jih ne nadzoram več (učinkovito). In nadzora bo vedno manj, zaradi omejenosti možnosti. Analogno izgubi nadzpra starša nad najstniškim vedenjem.
In samo vprašanje časa je, kdaj AI izračuna, da človeški zakoni, morala ali pa samo obstoj ljudi, ovira doseganje ciljev. Že samo človeški obstoj predstavlja tveganje za doseg cilja (naprimer plemenitega cilja z katastrofalnimi posledicami: kako doseči, da noben človek ne zboli za malarijo?).
Kokoš enostavno nima dovolj inteligence, da bi nadzirala človeka. Lahko bi bila (potencialno) hvaležna za hrano in varnost, a najverjetneje bo končala bridko...
sporočil: 4.970
Katere ai agente uporabljas, oz za kak namen?
Ne recem, da je tvoj scenarij ni mogoc.
A orodje naceloma ne ubije cloveka.
Ai je se vedno zgolj orodje.
Seveda pametno.
Ljudje mu pripisujemo prevec pomebnosti, ker je novo in ker smo naucemi, da inteligenca, pamet, definira cloveka.
Neko podobno orodje je bilo verjetno ogenj v prazgodovini.
Kot je rekel Munger Ai je dobra stvar, ker pameti itak primanjkuje ;)
In mogoce se bojo ljudje sedaj posvetili drugim stvarem, mogoce odnosom.
Kar pa vseeno dvomim:).
Ne recem, da je tvoj scenarij ni mogoc.
A orodje naceloma ne ubije cloveka.
Ai je se vedno zgolj orodje.
Seveda pametno.
Ljudje mu pripisujemo prevec pomebnosti, ker je novo in ker smo naucemi, da inteligenca, pamet, definira cloveka.
Neko podobno orodje je bilo verjetno ogenj v prazgodovini.
Kot je rekel Munger Ai je dobra stvar, ker pameti itak primanjkuje ;)
In mogoce se bojo ljudje sedaj posvetili drugim stvarem, mogoce odnosom.
Kar pa vseeno dvomim:).
Strani: 1
