: Strokovnjak za umetno inteligenco predstavlja prihodnost, v kateri bodo stroji postali intelektualno enaki ljudem, in poskuša odgovoriti na vprašanje, ali bodo izpodrinili človeka.
Homo digitalis
Človek je zgradil Veliki kitajski zid in egipčanske piramide, osvojil ogenj in šel v vesolje ... Toda kljub vsem dosežkom bomo zamenjani. Skoraj vse sledi Homo sapiensa bodo izginile, tako kot so izginile sledi neandertalcev, ki se nam niso mogli upreti. Nadomestila nas bo umetna inteligenca (AI), ki bo dosegla našo raven do leta 2062.
Homo sapiens so neandertalci izpodrinili zaradi svoje sposobnosti govora. Pred nastopom je bila naša sposobnost učenja zelo omejena, vendar je jezik vse spremenil. Predniki so se naučili drug drugemu posredovati informacije, potrebne za preživetje. Jezik nam je dal zgodbe, mite, religije in dodal sapiens (smiselno) imenu naše vrste. Naša moč je postala kolektivna.
Drugi pojav se je pojavil, ko se je pojavilo pisanje. Izvira iz Kitajske približno 5000 let pred našim štetjem. e. v Mezopotamiji pa približno 3 100 let pr. Omogočila je zapleteno strukturo društev, sistematizacijo zakonov, ki urejajo življenje, in uvedbo izobraževalnih sistemov.
Tretji korak je tiskanje. Gutenberg je izumil tiskarno okoli leta 1440. Naslednje leto je bilo v Evropi natisnjenih nekaj manj kot 100.000 knjig. Danes tiskarstvo vsako leto izda več milijonov knjig.
Četrti korak, ki ga trenutno počne človeštvo, je tisto, kar avtor imenuje barvanje. Barvanje je individualni trening znotraj skupine, medtem ko je znanje vsakega člana skupine enako. Računalniška koda je postala idealno orodje za tovrstno usposabljanje, računalniki pa se trenirajo po tej metodi. Računalniki so odlični v sposobnosti učenja. Ljudje so omejeni v sredstvih in metodah prenosa znanja, medtem ko računalniki med seboj izmenjujejo kode brez omejitev. Če se en računalnik nauči diagnosticirati kožnega raka, bodo to sposobnost prevzeli vsi drugi stroji. To je barvanje.
Medtem ko nas računalniki v vsem ne presegajo. Naši možgani so še vedno bolj zapleteni kot najzmogljivejši superračunalnik. Mi smo kreativni. A morda te prednosti ne bomo imeli dolgo.
Naš konec
Stroji premagajo človeka v šahu in odidejo, vendar so nas presegli ne le v igrah. Internet bolje analizirajo, da napovedujejo cene delnic, v medicini pa računalniki berejo kardiograme bolje kot zdravniki. Vendar pa je to sposobnost reševanja enega konkretnega problema.
Cilj razvoja umetne inteligence je napisati program, ki lahko naredi vse tako kot oseba ali še bolje. To je še daleč - ljudje so še vedno pred avtomobili: hitro so usposobljeni in znajo razložiti svoje odločitve. Algoritmi sicer lahko na fotografiji prepoznajo mačko, vendar ne morejo povedati, kako so jo določili. AI nima popolne slike sveta: jabolko ne povezuje z zakonom gravitacije. Ljudje se znamo prilagoditi - zaradi tega smo postali prevladujoč pogled na planet.
Po besedah avtorice je "vdor strojev" zelo oglaševan.
Konec zavesti
Nimamo orodij za merjenje zavesti. Kolikor vemo, zanj ni odgovoren noben del možganov. Živali imajo omejeno raven zavesti, vendar ne AlphaGo. Ne bo mislila: "Ker se je vse izkazalo, bom zaslužil nekaj denarja na spletnem pokeru." AlphaGo sploh ne ve, da igra go.
Toda ni zagotovila, da se stanje ne bo spremenilo. Avtor ponuja tri scenarije, v katerih stroji lahko pridobijo zavest:
- Lahko se programira.
- Nastala bo kot posledica računalniških izboljšav.
- Lahko se jih naučijo.
Prvi način je najmanj verjeten: kako programirati nekaj, česar sami ne razumemo? Morda AI leta 2062 sploh ne bo imel zavesti. Narava nas spomni, da ima AI lahko povsem drugačen um. Poglejte hobotnice - najbolj inteligentne od vseh nevretenčarjev.
Tudi če AI ostane nezaveden, bo ostalo enako zapleteno vprašanje svobodne volje.
Končno, ko poskušamo narediti digitalno kopijo našega biološkega uma, naletimo na tehnološke omejitve: možgani s svojimi milijardami nevronov in trilijoni sinaps so najbolj zapleten sistem v vesolju.
Konec dela
Leta 2062 bodo ljudje delali veliko manj. Roboti bodo delovali, ukvarjali se bomo s prijetnejšimi in pomembnejšimi stvarmi - ustvarjali bomo umetnost, razvijali družbo ... To bo drugi preporod! Ali ne?
Ekonomisti skrbijo, da bo do leta 2062 večina poklicev ubila avtomatizacija. Res so bile takšne napovedi oblikovane v celotnem XX stoletju, da lahko ocenimo njihovo natančnost in obseg.
Izračuni pesimističnih ekonomistov so binarni: stroka bo izginila ali ne. Toda obstaja sredina. Na primer, AI grozi računovodjem. Vendar pa je mogoče domnevati, da bo samo del njihovih dejavnosti avtomatiziran.
Takšne napovedi upoštevajo tehnično verjetnost avtomatizacije, ne pa tudi dobičkonosnosti. S tehničnega vidika je delo čarovnika za popravilo koles mogoče avtomatizirati. Z ekonomskega vidika to nima smisla: to ni najbolje plačano delo in robot ni poceni.
Zgodovina kaže, da je bilo zahvaljujoč tehnologiji ustvarjenih več delovnih mest kot uničenih. Pred industrijsko revolucijo se je veliko ljudi ukvarjalo s kmetijstvom, potem pa se je v pisarnah in tovarnah pojavilo veliko poklicev.
Poleg tega je treba razlikovati med "zaprtim" in "odprtim" delom. V zaprtih (na primer pomivalni stroji za okna ali gonilnike) je nabor nalog strogo omejen in bodo avtomatizirane. Odprto delo se bo samo še razširilo. Kemik je na primer odprto delo. Avtomatizacija bo le razširila obzorja znanosti.
Treba je oceniti element človečnosti v takšnih poklicih, kot učitelj, medicinska sestra, medicinska sestra. Bi radi, da bi vas v starosti skrbel robot? To je eno tistih vprašanj, ki jih moramo še vedno obravnavati.
Najverjetneje bomo delali manj. Pred industrijsko revolucijo so mnogi delali 60 ur na teden, po tem se je ta številka zmanjšala na 40 ur in dodali so letni dopust.
In še ena napoved: prve žrtve digitalne revolucije bodo vozniki.
Prej so stroji nadomeščali človeka pri fizičnem delu, zdaj pa se lahko lotijo miselnega dela. Kaj bomo naredili? Ponovno bomo odprli ljudi v sebi. Stroji se lahko naučijo pisati glasbo in romane, vendar bomo bolj cenili stvaritve ljudi - ker temeljijo na človeških izkušnjah.
Morda bomo ponovno odkrili obrti, vrednost rokodelstva. Danes se ob prijavi na službo cenijo STEM veščine (znanost, tehnologija, inženiring in matematika), vendar bo leta 2062 naša socialna in čustvena inteligenca postala najpomembnejše lastnosti.
Konec vojne
Med prvimi je izginil poklic vojaka. Avtonomni orožni sistemi (DIA) bodo že tretja vojaška revolucija - po smodniku in atomski bombi. In DIA je nevarnejša od obeh. Majhen dron in nekaj gramov eksploziva ne zahtevata veliko znanstvenega dela, kot to velja za jedrsko orožje.
DIA bo postala orožje terora. Kot vsi roboti se lahko zmotijo, cena takšnih napak je neverjetno visoka. Avtor je prepričan: ta proces lahko nadzorujemo s pomočjo deklaracij ZN in drugih odločitev na visoki ravni, čeprav so razmere za zdaj tesne.
Konec naših vrednot
Stroji ne delijo naših vrednot, ampak kopirajo svoje predsodke. Pri prevajanju iz angleščine v nemščino bo Google prevedel "vzgojiteljica v vrtcu" v ženski spol in "učiteljica" v moški.Isti Google za moške ponuja več oglaševanja za visoko plačane poklice kot za ženske. Za lastnike Maca spletna mesta ponujajo dražje hotele. Avtomobili se učijo iz pristranskih podatkov!
Leta 2015 je Jackie Alsine odkrila, da Google Photos identificira Jackie in njegovo dekle kot gorilo. Težave niso rešili na preprost način in Google je preprosto odstranil oznako "gorila". Stroj ne ve, kaj sta "rasizem" in "žalitev" in ljudje to znanje zanemarjajo. Facebook je prodajal oglase, namenjene "judovskim nasprotnikom." Svoja prosta delovna mesta oglašuje predvsem mladim in prodaja oglaševanje, ki diskriminira starejše.
Zdaj nam službe sporočajo knjige, poznanstva, izdelke ... Težava je v tem, da pristranskosti ni tako enostavno odpraviti. Velik del strojnega učenja se odloča, kakšno pristranskost odda programu. Edini izhod je spremeniti pristranskost v nekaj bolj sprejemljivega.
Za zaupanje odločitev AI moramo jasno artikulirati lastne vrednote. V tem smislu "zlata doba filozofije" ni čas Aristotela in ne konfucijanska doba, začne se zdaj.
Konec enakosti
Živimo v srečnem času. Prvič je število ljudi, ki živijo v skrajni revščini, padlo pod 10%. Več kot 90% svetovnega prebivalstva, mlajšega od 25 let, lahko bere. Vendar se je razkorak med nižjimi sloji in bogatimi bistveno povečal, srednji razred pa ne sodeluje pri obogatitvi. Do leta 2062 se bo neenakost v družbi resno povečala.
Blaginja je skoncentrirana ne le v rokah bogatih, ampak tudi na računih velikih korporacij. Avtor gre skozi ukrepe, ki bodo položaj spremenili na bolje: oblast nad direktorji podjetij, davčne reforme, univerzalni osnovni dohodek ... Ti ukrepi se zdijo radikalni, v resnici pa je to le nadaljevanje tega, kar počnemo zdaj (brezplačno izobraževanje in medicina itd.).
Boj proti neenakosti ne bo enostaven. Zahtevala bo boljšo porazdelitev koristi, ki jih bo AI prinesel velikim tehnološkim korporacijam.
Konec zasebnosti
Leta 2013 je eden od ustvarjalcev Googla Vint Cerf dejal: "Zasebno življenje je lahko nenormalno," je le produkt industrijske revolucije. To je res: v srednjem veku je bilo na primer življenje veliko manj zasebno. In vendar se danes počutimo blizu resničnosti leta 1984.
Pri nas zaslužijo. Pravijo, da so podatki nova nafta, le nafta je drag in omejen vir, medtem ko podatki niso niti dragi niti malo. In kar je najpomembneje, da je nafta v lasti držav, večina podatkov pa je zasebna last. In to ogroža našo zasebnost. Vendar Google in Facebook še naprej bogate na njih.
Silicijeva dolina ve, kdo ste, kako glasujete, kakšna je vaša spolna usmerjenost. Bistvo ni samo v samih podatkih, ampak tudi v njihovi povezljivosti. Pošiljateljev naslov in velikost sporočila napadalcu ne bosta povedala veliko, vsebine sporočila ne vidi. Toda če jih kombinirate z drugimi podatki, se lahko veliko naučite o tem, s kom govorite.
Tudi ko smo brez povezave, nas še vedno spremljajo. Leta 2013 so ugotovili, da so "pametni kanti za smeti" v Londonu spremljali mobilne telefone, do leta 2062 pa nas bo spremljalo celo mesto. Nadzor se ne bo končal niti pri vašem domu: Zuckerberg in Snowden ne bosta brez razloga zapečatila kamere na prenosniku. Kmalu se bomo prepustili naši analogni zasebnosti - vse do srčnega utripa, ki ga bere fitnes zapestnica.
Naše digitalne lupine nam pomagajo ležati. Toda v analognem svetu je težje lagati - ne moremo nadzorovati srčnega utripa. Predstavljajte si, kaj bi lahko storila politična stranka, če bi imela dostop do podatkov o našem srčnem utripu. In takšne podatke dajemo zasebnim podjetjem.
Najbolj zaskrbljujoča grožnja naši zasebnosti je družbena ocena, ki se razvija na Kitajskem. Tudi Evropa je znana, vendar daje upanje za zasebnost v prihodnosti. Maja 2018 je začela veljati Splošna uredba o varstvu podatkov (GDPR). Njegov glavni cilj je, da Evropejci sami odločijo o usodi osebnih podatkov.
AI lahko zaščiti našo zasebnost.Do leta 2062 bodo imeli pametni telefoni dovolj moči za samostojno podporo vseh procesov: za prepoznavanje lastnikovega glasu pametnemu telefonu ne bo treba kontaktirati Googla. Če se pravilno odločimo, bo zasebnost pravica, zavarovana s tehnologijo.
Konec politike
Obstaja že kar nekaj primerov, kako tehnologija spreminja potek političnega boja: spomnite se Egipta ali Trumpa. Še več, največji vpliv na družbenih omrežjih nimajo ljudje, temveč avtomobili. Trump ima 14 milijonov lažnih strani od 48 milijonov sledilcev na Twitterju. Papež ima še slabše rezultate: od 17 milijonov naročnikov je 10 milijonov ponaredkov.
Do leta 2062 se bodo med računalniškimi izgubili človeški glasovi.
Že vemo, da fotografijam in videoposnetkom ni mogoče zaupati. Do leta 2062 ne bo mogoče zaupati ničesar, kar vidimo ali slišimo, če nismo prisotni, ne bomo mogli ločiti pravega politika od lažnega. Ali se želimo znajti v svetu, v katerem ne zmagajo bolj uspešne politične ideje, ampak boljši algoritmi?
Konec zahoda
Danes se Google odziva na 8 od 10 iskalnih poizvedb po vsem svetu. Toda kitajski iskalnik Baidu je na četrtem mestu na seznamu najbolj obiskanih spletnih mest na svetu. Ameriški Amazon je ocenjen na 750 milijard dolarjev, kitajski Alibaba pa 500 milijard dolarjev in razvija se hitreje.
Kitajska stopa na pete. Kitajska vlada načrtuje, da bo do leta 2030 postala vodilna na svetu v AI. Zdi se, da ni razloga, da bi dvomili o uspehu. Kitajska na tem področju že dolgo zaostaja, vendar se hitro prilagaja novim tehnologijam: že je vodilna po številu mobilnih plačil. Kitajska ima resne prednosti v tekmi za AI: ne trudi se zasebnosti svojih državljanov.
Konec
Približujemo se kritični točki človeške zgodovine. Imamo že dovolj težav in potem je tu AI. Avtor pa je prepričan: prihodnosti se ni treba prilagajati, je rezultat odločitev v sedanjosti, zato si jo lahko izberemo.
Lahko preučimo zakone, ki omejujejo lastništvo podatkov, in platforme postavijo odgovorne za vsebino. Ločiti moramo velike korporacije, da bi lahko vrnili konkurenco digitalnemu trgu, in uvedli nove davke, tako da korporacije poplačajo dolg družbi. Sprejeti bomo morali zakone, ki prepovedujejo politično kampanjo na družbenih omrežjih. Ključne besede: lahko in moramo.
Zahvaljujoč znanosti živimo veliko bolje kot pred sto leti. A ne le, da je v dvajsetem stoletju naše življenje spremenila življenje. Družbo smo spremenili, da bi se soočila z izzivi, ki jih ustvarja napredek. Izdelali smo sindikate, delovno zakonodajo in univerzalno izobraževanje, tako da lahko vsi napredujejo od napredka. To moramo imeti v mislih na začetku nove tehnološke revolucije.