Gervigreind – Hvenær er gengið of langt?

Það væri gaman að trúa því að það skipti einhverju máli fyrir þróun mála þegar fulltrúar stærstu iðnríkja heims koma saman – svokallaður G20 hópur. En svo er ekki og að öllum líkindum er árangurinn í öfugu hlutfalli við athygli fjölmiðla. – Og hugsanlega er G20 ekki einu sinni sá hópur sem við ættum að vera að fylgjast með, ef við viljum rýna í þróun mála og reyna að spá fyrir um framtíðina. Margt bendir til þess að skynsamara sé að fylgjast með því sem stjórnendur og stofnendur stærstu fyrirtækja heims eru að bauka og bralla þá stundina.

Flestir þessara ofurstjórnenda eru í Bandaríkjunum og fyrirtæki þeirra og hugmyndir skipta fólk um allan heim gríðarlega miklu máli. Bill Gates, sem löngum hefur verið talin ríkasti maður heims, bjó til skrifstofuumhverfi nútímans og útbjó flest þau gögn sem við notum í daglegum störfum okkar, svo sem við bókhaldsvinnu og almennt skrifstofuhald og önnur þau tól sem Microsoft selur. Larry Page og Sergey Brin, stofnendur Google, hafa haldið því starfi áfram og stýra því hvar og hvernig við finnum upplýsingar og heimildir auk þess sem þeir bjóða sífellt meiri þjónustu í samkeppni við Microsoft. Steve Jobs, stofnandi Apple, lagði grunninn að þeim tækjum sem nútímamaðurinn burðast með og Jeff Bezos, stofnandi Amazon, virðist á góðri leið með að breyta verslunarháttum nútímamannsins á dramatískan hátt. Og svona mætti lengi telja en ekki þarf að taka fram að allir þessir menn hafa verið eða eru á lista yfir ríkustu menn heims. Auður þeirra er stjarnfræðilegur en veltur auðvitað á gengi fyrirtækja þeirra.

Mark Zuckerberg er einn af stofnendum samfélagsmiðilsins Facebook sem heldur utan um samskipti tveggja milljarða manna og hefur gríðarleg áhrif á daglegt líf okkar. Svo mjög að andleg heilsa heimsins virðist stundum í höndum Facebook! Hér var fyrir skömmu sagt frá Elon Musk sem einn og sér virðist ætla að breyta samgöngum heimsins um leið og hann ætlar að stuðla að landnámi geimsins. Stórar hugmyndir allt saman en Musk eins og margir aðrir frumkvöðlar virðist hafa kraftinn til að hrinda hlutum í framkvæmd. Nú síðast hefur verið greint frá því að rannsóknir með Hyperloop séu komnar vel af stað en það er einhverskonar lofttæmdur þrýstihólkur sem flytur fólk eða vörur á ógnarhraða milli staða. Musk virðist á góðri leið með að fjármagna og hefja framkvæmdir á slíkum hólki á milli New York og Washington sem myndi flytja fólk milli þessara staða á innan við 30 mínútum. Ef það gengur eftir og kostnaður er viðráðanlegur þá munu samgöngur væntanlega breytast um heim allan. Það þarf ekki að nefna það sem hann er að gera með rafbílinn og rafhlöður. Þar eru fyrirtæki Musk, Tesla og SolarCity, að móta framtíðina hraðar en séð var fyrir. Musk fer reyndar sjálfur ekki í grafgötur með að hans markmið er að breyta heiminum til hins betra fyrir mannkynið. – Og það án þess að fá endilega umboð kjósenda til þess.Fyrrverandi forsætisráðherra Íslands kallar hann framfarasinna, vonandi með réttu.

Heims­ins nör­da­leg­asta rifr­ild­i?

Það er því ekki skrítið að menn leggi við hlustir þegar menn eins og Zuckerberg og Musk tjá sig um málin og ekki síður ef þeir eru á öndverðum meiði. Það hefur gerst nú síðast um þróun gervigreindar (e. artificial intelligence). Forvitnilegt efni og hugsanlega er það eitt mikilvægasta úrlausnarefni nútímans að átta sig á og skilja þær hættur sem geta stafað af gervi­greind í fram­tíð­inni. En deilur eru ekki endilega til þess fallnar að efla trú á þeim sem í þeim standa og norska frétta­síðan NRK hefur til að mynda kallar málið „heims­ins nör­da­leg­asta rifr­ild­i.“  Kannski ekki með öllu sanngjörn lýsing.

Til að lýsa deilunni í stuttu máli má segja að Musk hafi áhyggjur af þróun gervigreindar og telur að stjórnvöld þurfi að marka sér stefnu og lagaumgjörð áður en lengra er haldið. Ef ekki sé að gætt geti gervigreindin orðið mannkyninu skeinuhætt og með þeim viðvörunarorðum tekur hann undir með ekki ómerkari mönnum en Stephen Hawking og fleiri vísindamönnum.  Bill Gates hefur einnig orðað ákveðnar áhyggjur af þróun gervigreindar. Zuckerberg telur hins vegar að Musk sé allt of neikvæður á þróun gervigreindar og hefur átalið hann fyrir að taka sér stöðu heimsendaspámannsins þegar ný tækni er annars vegar.

Deiluefnið verður ekki rakið hér í smáatriðum en við sem höfum horft á okkar skammt af vísindaþrillerum og þar á meðal myndaröðina um Tortímandann (Terminator) höfum tilhneigingu til að leggja við hlustir með Musk. En um leið er það líka rétt hjá Zuckerberg, að tækifærin sem ný slík tækni getur fært okkur eru óendanleg.

Hvenær er gengið of langt?

Að hluta til er þetta gömul umræða. Langt er síðan menn byrjuðu að vara við hvert vísindin stefndu í einstaka málum en aflvaki breytinganna er oftar en ekki vonin um þann ábata sem ný tækni getur fært okkur. Að því leyti má segja að mannkynið standi alltaf á tímamótum að því undanskildu þó að hraði breytinganna er nú meiri en áður. Við sáum slík tímamót þegar kjarnorkan var beisluð en fórnarkostnaður hennar voru tvær kjarnorkusprengur sem gereyðilögðu tvær japanskar borgir og eyðilögðu líf hundruð þúsunda manna. Kjarnorkuvígbúnaðarkapphlaupið var síðan skelfileg eyðsla á fjármunum og setti mannkynið í óafsakanlega hættu. Ekki er nema rúmur áratugur síðan mannkynið var hugsi yfir þróun í erfðavísindum og tókst á við möguleika klónunar og erfðabreytinga. Þau mál leystust í sjálfu sér ekki en vísindin fengu þó ákveðna umgjörð og hömlur voru settar á þróunina, hversu vel er nákvæmlega eftir því farið er ekki vitað fyrir víst.

Það er hægt að taka undir þau orð Sigmundar Davíðs Gunnlaugssonar að hvort sem Elon Musk eða Mark Zuckerberger hefur rétt fyrir sér um hætturnar af gervigreind verður óhjákvæmilegt að ræða þessa þróun á sviði stjórnmála og vera undir hana búin þannig að hún nýtist til framfara fyrir mannkynið en ógni því ekki. Sá vandi fylgir hins vegar gervigreind að við vitum ekki nákvæmlega hvaða hættur geta fylgt því að kenna vélum að kenna sér sjálfar og um leið veita tölvuforriti einhverskonar sjálfsvitund eins undarlega og það hljómar. Svo aftur sé vitnað til söguþráðar Terminator-myndanna þá var ekki með öllu ljóst hvenær þróun vélanna hafði gengið of langt. Sú lína er ekki með öllu augljós.