EVROPSKI PARLAMENT

Umetna inteligenca: Priložnosti in tveganja

Umetna inteligenca vse bolj vpliva na naša življenja. Spoznajte priložnosti in grožnje, ki jih predstavlja za varnost, demokracijo, podjetja in delo.

Blaginja Evrope je v veliki meri odvisna od tega, kako ji bo uspelo izkoristiti potencial, ki ga predstavljajo podatki in z njimi povezane tehnologije. Umetna inteligenca lahko bistveno spremeni naša življenja - na bolje ali slabše - in Evropski parlament je ustanovil odbor za umetno inteligenco v digitalni dobi, ki je preučil vpliv te tehnologije in predlagal načrt EU za umetno inteligenco. Poslanci so pozvali tudi k oblikovanju zakonodaje o umetni inteligenci, ki bo osredotočena na človeka. Predstavljamo nekaj ključnih priložnosti in tveganj, ki jih predstavlja umetna inteligenca.
www.europarl.europa....n-tveganja

GEOFFREY HINTON

"Boter umetne inteligence" svari pred nevarnostmi te tehnologije

Geoffrey Hinton, ki se ga je prijel vzdevek "boter umetne inteligence", je potrdil, da je prejšnji teden zapustil Google, da bi opozarjal na "nevarnosti" tehnologije, ki jo je pomagal razviti.

Hintonovo pionirsko delo na nevronskih mrežah, računalniških sistemih, oblikovanih po vzoru človeških možganov in živčnega sistema, je oblikovalo sisteme umetne inteligence, ki poganjajo številne današnje proizvode, poroča CNN.

Desetletje je delno delal pri ameriškem tehnološkem velikanu Google, kjer je pomagal razvijati umetno inteligenco, a je medtem postal zaskrbljen zaradi tehnologije in svoje vloge v njenem razvoju.

"Tolažim se z običajnim izgovorom, da če jaz ne bi tega počel, bi nekdo drug," je Hinton dejal za časopis New York Times, ki je prvi poročal o njegovi odločitvi.

Kot je pojasnil v ponedeljek, je z Googla odšel, da bi lahko svobodno govoril o tveganjih umetne inteligence, ne pa iz želje, da bi kritiziral to podjetje, za katero je dejal, da je delovalo "zelo odgovorno".

Do Hintonove odločitve prihaja v času, ko vse več politikov, organizacij in poznavalcev opozarja na možnost, da bi novi programi umetne inteligence lahko širili lažne informacije in ukinjali delovna mesta.

V ospredu razvoja tovrstnih programov so OpenAI, Microsoft in Google, podobno tehnologijo pa razvijajo tudi IBM, Amazon, Baidu in Tencent.

Marca so vidni posamezniki na področju tehnologije objavili javno pismo s pozivom, naj podjetja za najmanj pol leta prenehajo razvijati sisteme umetne inteligence, kot razlog pa so navedli "velika tveganja za družbo in človeštvo".

Hinton je v pogovoru za New York Times izrazil zaskrbljenost glede možnosti, da bi umetna inteligenca ukinila delovna mesta in ustvarila svet, kjer številni ljudje "ne bodo mogli vedeti več, kaj je res". Opozoril je tudi na presunljiv tempo razvoja tehnologije.

Kot je dejal, je včasih mislil, da umetna inteligenca ne bo pametnejša od ljudi še vsaj od 30 do 50 let, celo več. "Očitno ne mislim več tako," je dejal.

Že leta 2021 je napovedal, da bo umetna inteligenca preobrazila družbo na načine, ki jih ne razumemo popolnoma in katerih učinki ne bodo samo dobri. Umetna inteligenca bo okrepila zdravstvo, a bo tudi odprla možnosti za smrtonosna avtonomna orožja, je dejal.
www.rtvslo.si/znanos...ije/666749

7 NEVARNOSTI

Znanstveniki opozarjajo: To je sedem največjih nevarnosti, ki jih prinaša umetna inteligenca
Seznam znanstvenikov, ki javno opozarjajo na nevarnosti neregulirane umetne inteligence, se vsak dan povečuje.

Seznam znanstvenikov, ki javno opozarjajo na nevarnosti neregulirane umetne inteligence, ki se hitro razvija v največjih svetovnih tehnoloških laboratorijih, se vsak dan povečuje. Mnogi se sprašujejo, česa točno se strokovnjaki bojijo, ko gre za tehnologijo prihodnosti, ki je že del vsakdana.

Kratkoročno, srednjeročno in dolgoročno tveganje, da nam umetna inteligenca ne bo koristila, se nanaša na zmanjševanje delovnih mest, izgubo zasebnosti, preplavljanje javnega diskurznega prostora z lažnimi ali izkrivljenimi vsebinami, diskriminacijo, poglabljanje družbeno- gospodarsko vrzeli, pretrese na trgih in najbolj apokaliptična možnost - vzpon robotov ubijalcev ali vsaj njihov padec v napačne roke.

Najnovejši znanstvenik, ki je svetu poslal dramatično sporočilo, Geoffrey Hinton, je eden od graditeljev sistemov za umetno inteligenco. Hinton je pravkar podal odstopno izjavo iz Googla, kjer je delal kot raziskovalec, s pojasnilom, da »želi svobodo, da svetu pripoveduje o nevarnostih nadaljnjega razvoja umetne inteligence brez strogih pravil«.

V središču kritikov je več tveganj, ki jih prinaša umetna inteligenca.

1. Družbena manipulacija
Je že del sveta, v katerem živimo. Družbeni mediji so namreč s svojimi avtonomnimi algoritmi zelo učinkoviti pri ciljanem trženju. Vedo, kdo smo, kaj nam je všeč in so izjemno spretni pri ugibanju, kaj mislimo.

Strah, da umetna inteligenca zmore in na kakšen način zmore manipulirati z našim vedenjem, vzbujajo primeri, med katerimi je najnovejši tisti s Ferdinandom Marcosom mlajšim, ki je z vojsko trolov na družbenem omrežju TikTok, osvojil glasove mlajših Filipincev na volitvah lani. A to ni osamljen primer.

Obstaja možnost, da je podjetje Cambridge Analytica leta 2016 uporabilo zasebne podatke 50 milijonov uporabnikov Facebooka, da bi vplivalo na izid ameriških predsedniških volitev, na katerih je zmagal Donald Trump, in referendum o brexitu. Obe »odločitvi ljudstva« sta imeli daljnosežne posledice. Recept je preprost: algoritmi in zasebni podatki se uporabljajo za identifikacijo posameznika, ki je tarča propagande in manipulacije.

Že zdaj je dovolj težko ločiti umetno inteligenco od resničnih ljudi, zaradi česar je vpliv umetne inteligence v virtualnem svetu izjemen.

2. Izguba služb
Umetna inteligenca bi lahko mnoge pustila brez dela in ta realnost bi lahko bila bližje, kot si mnogi mislijo. To ne velja samo za najtežje poklice, temveč tudi za tiste, ki po besedah ​​Maxa Erika Tegmarka, fizika in velikega kritika nenadzorovanega razvoja umetne inteligence, človeška življenja polnijo s smislom. Poleg tega umetna inteligenca bolj ogroža dela belih ovratnikov kot fizične delavce. AI se že pogosto uporablja v trženju, proizvodnji in zdravstvu.

Toda po ocenah Goldman Sachsa bi lahko računalniki popolnoma prevzeli 18 odstotkov delovnih mest na svetovni ravni. Strateg Chris Messina, ustvarjalec hashtaga (#), pravi, da so naslednje tarče robotskih prevzemov računovodski in pravni poklici. »V tem sektorju bomo videli velike pretrese,« je prepričan Messina.

3. Izguba zasebnosti
Razvoj tehnologije je omogočil spremljanje in analizo vsega, kar posamezniki počnejo na spletu, pa tudi na fizičnem nivoju. Kamere so skoraj povsod, algoritmi za prepoznavanje obrazov pa dobro vedo, kdo je kdo. Na podlagi teh sistemov je bil zgrajen nekoliko grozljiv kitajski družbeni rating program, po katerem poskuša oceniti vedenje 1,4 milijarde Kitajcev. Obnašanja, ki se beležijo za ocenjevanje občanov, so kajenje v prostorih, kjer je kajenje prepovedano, prečkanje ceste na mestih, kjer to ni dovoljeno ali na primer koliko časa so porabili za igranje video iger. Takšen Big Brother ne pomeni le vdora v zasebnost, temveč tudi možnost začetka družbenega zatiranja.

4. Diskriminacija
Ne gre samo za diskriminacijo in družbene predsodke, ki so bili opaženi pri strojnem učenju in kjer so rasne manjšine in ženske v slabšem položaju na Zahodu. Ker lahko stroji zbirajo, sledijo in analizirajo podatke o posameznikih, lahko te informacije tudi uporabijo proti njim. Primeri vključujejo zavarovalnico, ki »ve«, da oseba pogosto govori po mobilnem telefonu, ali delodajalca, ki noče zaposliti osebe zaradi »nizkih socialnih točk«. En primer je ameriška policija, ki uporablja policijske algoritme za napovedovanje prizorišč zločina. Na te algoritme vplivajo stopnje aretacij, ki nesorazmerno prizadenejo črnske soseske in ustvarjajo bolj zatiralsko vzdušje v teh delih mest.

5. Slabitev etike in dobre volje
Na to je opozoril tudi papež Frančišek, ko je govoril o svetu, ki se rojeva s prihodom umetne inteligence. Nova tehnologija bo spremenila življenja ljudi tako kot internet v devetdesetih letih. »Če tako imenovani tehnološki napredek človeštva postane sovražnik skupnega dobrega, bo to vodilo v regresijo v obliko barbarstva, v katerem narekuje zakon močnejšega,« je dejal papež.

Največ skrbi je povzročil ChatGPT, umetna inteligenca, katere odkritje je nedavno razburilo svetovno javnost. Uporabniki so namreč z novo tehnologijo pobegnili na primer od pisanja esejev, kar je sprožilo razprave o vplivu na poštenost v akademskem življenju, pa tudi na ustvarjalnost in umetnost.

6. Samovodljivo orožje
Mnogi so prepričani, da bo jedrsko oboroževalno tekmo nadomestilo avtonomno oboroževalno tekmo.

Pred nekaj leti je ruski predsednik Vladimir Putin v govoru pred študenti ruske univerze izjavil: »Umetna inteligenca je prihodnost ne le za Rusijo, ampak tudi za človeštvo. Kdor koli bo postal vodilni na tem področju, bo postal vladar sveta.« Leta 2016 je 30.000 znanstvenikov podpisalo peticijo, ki je zahtevala ustavitev raziskav avtonomnega orožja. Toda poleg dejstva, da bi smrtonosno orožje lahko ušlo izpod nadzora in razvilo lastno voljo, kar sodi v sfero hipotetičnih napovedi in ZF filmov, obstaja objektivna nevarnost, da takšno orožje pride v napačne roke, posameznikov ali skupin, ki nimajo velike vrednosti za človeško življenje. Ko bi se začeli, bi jih bilo težko ustaviti ali premagati.

7. Poglabljanje socialno-ekonomskih razlik in pretresi na trgu
Družbeni razkorak je ena od nevarnosti zaposlovanja na delovnem mestu, ki ga vodi umetna inteligenca. Ugotavljanje lastnosti kandidatov z analizo glasu in obraza po mnenju strokovnjakov prinaša tveganje diskriminacije pri zaposlovanju. Prav tako se je že izkazalo, da so fizičnim delavcem zaradi uvajanja avtomatizacije padle plače, »belim ovratnikom« pa so bolj ali manj ostali nepoškodovani, nekateri pa so celo izboljšali svoje plačilne liste.

Zaradi avtomatizacije poslovanja v finančnem sektorju obstaja bojazen, da bi lahko naslednjo veliko krizo povzročila umetna inteligenca. To se je že dvakrat zgodilo zaradi programske opreme, ki je »ponorela« in z brezglavim ravnanjem povzročila kaos na trgu.
www.slovenskenovice....teligenca/

Največja nevarnost umetne inteligence je, da ljudje prezgodaj sklepajo, da jo razumejo.
Eliezer Yudkowsky

MISEL DNEVA

“Težava je, ker je digitalna tehnologija prišla v zibko. Kot povsod smo starši zgled, velikokrat zelo slab. Ko dajo starši enoletnemu otroku v roke telefon z risankami, da imajo mir, je to težava na dolgi rok.”
Uroš Perko, strokovni delavec v Skupnosti Srečanje
Torek, 4.oktober 2022
www.primorske.si

BOB DNEVA

"Spletna konferenca ti ne omogoča tega, da bi se nagnil k sosedu in mu šepetaje dal cinično pripombo. Zdi se mi, da izgubljamo sposobnosti iskrene komunikacije, spoznavanja ljudi, diskusije."
Dr. Rok Tkavc, mikrobiolog
Ponedeljek, 17.aprila 2023
www.vecer.com

BOB DNEVA

"Pri uporabi socialnih omrežij bi bila smiselna regulativa. Ne moremo od staršev pričakovati, da bodo vedno vse zmogli in znali čisto sami. Kot pri cigaretah - bolje, da se mladim sploh ne prodajajo."
Nina Šenica, pedopsihiatrinja
Ponedeljek, 5. junija 2023
www.vecer.com

mojemu menedzerju so na neki menedzerski konferenci prodali idejo, da do 2030 programerjev (med katerimi sem tudi sam). taisti model me potem cele dneve zasipa s ticketi in requesti, ki jih je treba narest asap.

komaj cakam tole leto 2030, ker bi si rad vsaj malo oddahnil...