Vitvélar framtíðar – umfjöllun og myndbönd
Sjálfrennireiðar og rýmkun heilabús
Bílar aka sér sjálfir, vélmenni afgreiða þig úti í búð og eða færa þér mat heim. Þau vísa þér til borðs þegar þú ætlar að gera vel við þig á veitingahúsi. Þú átt í nánu samstarfi við vélar á vinnustað þínum og mörkin milli mennskra og ómennskra verða sífellt óskýrari. Hvað er mennska eiginlega, spyrðu sjálfan þig einn daginn og svarið lætur á sér standa. Auðugur félagi þinn sem hefur látið rýmka í sér heilabúið með því að tengja það vél hefur kannski meiri burði til þess að velta því fyrir sér. Þitt frumstæða heilabú á ekkert í hans.
Þessar lýsingar kunnu að hljóma eins og vísindaskáldskapur en eru það ekki. Heldur er hér vitnað í kenningar helstu vísindamanna á sviði gervigreindar. Fjallað er um þróun vélmenna og vélvæðingu samfélagsins í nýjasta tölublaði Foreign Affairs.
Samgöngukerfin fyrst
Svo virðist sem samgöngukerfi verði einna fyrst til að vélvæðast. Margir bílaframleiðendur hyggjast bjóða neytendum að kaupa sjálfsakandi bíla, sannkallaðar sjálfrennireiðar, fyrir árið 2020.
Fjögur fylki í Bandaríkjunum hafa sett lög sem leyfa akstur mannlausra bíla um göturnar. Talið er að sjálfkeyrandi bílar komi til með að hraða samgöngum og minnka mengun. Samkvæmt skýrslu sem unnin var af samgöngustofnun Singapúr gerir þróunin það að verkum að hægt verður að fækka bílum á götum Singapúr um 80%. Tækifærin í almenningssamgöngum eru einnig ærin. Ökutækin eru þó ekki búin að standast bílprófið að fullu. Enn á eftir að fínpússa getu þeirra til að takast á við flóknar umferðaraðstæður og erfið veðurskilyrði.
Áður voru athafnasvæði vélmenna skýrt afmörkuð, vélmenni voru sér og menn sér. Þetta er að breytast. Vélmenni munu á næstunni aðlagast og taka þátt í mennsku samfélagi í auknum mæli. Daniela Rus er forstöðumaður rannsóknarseturs MIT-háskóla í gervigreindarfræðum og einn helsti vitvélasérfræðingur heims. Markmið vélvæðingar er samkvæmt Rus ekki að gera starfskrafta manna óþarfa með því skipta þeim út fyrir vélræna staðgengla heldur að hanna vélmenni sem geta aðstoðað menn, aukið afkastagetu og eflt gæði starfa þeirra.
Bæta hver annan upp
Rannsóknir hafi sýnt að vélmenni slá mönnum við á ýmsum sviðum, svo sem þegar kemur að umfangsmiklum útreikningum, fínhreyfingum og því að lyfta þungum hlutum. Menn slá þeim hins vegar enn við þegar kemur að óhlutbundinni og skapandi hugsun og því að draga ályktanir út frá staðreyndum og fyrri reynslu.
Ólíkt vélmennunum búum við nefnilega yfir bæði skynsemi og ímyndunarafli. Rus telur samstarf og samvinnu manna og vélmenna af hinu góða, mennskir menn og vélrænir bæti hver annan upp. Hún segir þó enn nokkuð í að vélmenni verði sjálfsagður hluti af samfélagi okkar. Samskiptafærni þeirra og hæfni til að túlka umhverfi sitt sé enn of ófullkomin og það taki langan tíma að framleiða þau. Hún segir að vélmennafræðingar séu nú á svipuðum stað og tölvunarfræðingar voru fyrir þremur áratugum, þegar þá dreymdi um að tölvur yrðu hluti af samfélagi manna. Nú séu tölvur svo samofnar samfélaginu að við tökum varla eftir þeim. Þannig verði því farið með vélmenni eftir nokkra áratugi.
Öll hugarstarfsemi vélmennis ræðst af kóðanum sem það starfar út frá og takmarkast við hann. Það getur reynst þeim afar erfitt að svara spurningum á borð við: „Hefur þú komið hingað áður?“ Þar sem þau verða þá að bera saman aðstæður í ótal herbergjum sem þau kunnu að hafa verið í fyrr. Vélmenni eru sömuleiðis ófær um að bregðast við óvæntum aðstæðum. Ef forritari þess hefur ekki gert ráð fyrir aðstæðunum er líklegt að vélmennið fari í kerfi. Þau skortir mennskan sveigjanleika og aðlögunarhæfni. Internetið kann hér að koma að góðum notum. Vélmenni sem er sérhæft til þess að fara út að ganga með hund getur til dæmis aflað upplýsinga um veður og ákveðið lengd gönguferðar og áfangastað út frá því. Rus segir mennska leiðsögn einnig skipta vélmennin sköpum. Geta þeirra til að leysa verkefni eykst verulega ef þau geta snúið sér til mennsks verkefnisstjóra. Rannsóknarteymi hennar vann nýlega verkefni þar sem vélmenni settu saman Ikea-húsgögn. Vélmennin voru forrituð til átta sig á því þegar vandamál kom upp og leita sér hjálpar. Spyrja til dæmis hvar borðfæturnir væru, ef þeir voru ekki í augsýn.
Keppinautar sem stela störfum
Þrátt fyrir áherslu Rus á samstarf sjá margir vélmenni fyrst og fremst sem keppinauta. Hagfræðingurinn Erik Brynjolfsson og upplýsingatæknifræðingurinn Andrew McAfee, benda á að vélmenni bæti sig stöðugt á meðan afköst manna standa í stað.
Eftir því sem vélmennin verði betri verði ólíklegra að atvinnurekandi sjái sér tækifæri í því að ráða mann af holdi og blóði. Carl Benedikt Frey, hagfræðingur við Oxford-háskóla, telur að vélvæðing ógni nær helmingi starfa í Bandaríkjunum. Fólki sem vinnur almenn skrifstofustörf eða við samgöngur, vörustjórnun og framleiðslu verði á næstu áratugum skipt út fyrir afkastameiri og nákvæmari vélar. Þetta gæti leitt til þess að bilið milli ríkra og fátækra breikki enn. Fámennur hópur tölvugúrúa lifi í vellystingum og láti vélmenni stjana við sig á meðan atvinnulaus alþýðan berjist í bökkum.
Óskörp skil á milli vitvéla og vítisvéla
Gervigreind kann á næstunni að leiða til framfara í læknavísindum og þróun gervilima kann að gera hjólastólinn óþarfan. Það er þó hugsanlega einnig ástæða til að óttast. Fræðimenn hafa bent á að munurinn á vitvél og vítisvél sé oft lítill.
Í lok síðasta mánaðar sendu 12.000 manns, þar á meðal þekktir rannsakendur á sviði gervigreindar, opið bréf til Sameinuðu þjóðanna þar sem þess var krafist að stofnunin gerði framleiðslu drápsvélmenna, sem velja sér skotmark og hleypa af án mennskra afskipta, ólöglega. Framleiðsla þeirra gæti leitt til allsherjarvígvæðingarkapphlaups og það mætti nota þau til þess að ráðast gegn ákveðnum þjóðernishópum. Ýmis fordæmi eru fyrir því að vopn hafi verið bönnuð. Notkun efnavopna, leysigeislavopna og kjarnorkuvopna varða til dæmis við alþjóðalög. Sameinuðu þjóðirnar funduðu um lögmæti sjálfvirkra vopnakerfa í Genf í apríl en þeim fundi lauk án niðurstöðu.
Skilja þau vægi mannslífa?
Bretar, sem hafa neitunarvald í öryggisráðinu, lýstu því þá yfir að mannréttindalöggjöfin sem nú er til staðar næði utan um banvæn, sjálfvirk vopnakerfi. Breytingar væru óþarfar. Fundargesti greindi á um hvort mögulegt væri að forrita vélar þannig að þær gætu framfylgt löggjöfinni, áttað sig á grundvallarhugtökum eins og varkárni og vægi mannslífa. Hvort þau væru fær um að greina á milli hermanna og almennra borgara og meta hvort ávinningur af árás réttlæti að blóði almennra borgara sé úthellt.
Fleiri stríð, færri vegnir
Bretar telja of snemmt að setja lög sem takmarka notkun gervigreindar í hernaði, gervigreindin geti lútið mennskri stjórn og hugsanlega dregið úr manntjóni í styrjöldum. Þeir sem skrifuðu bréfið segja mögulegt að vélvæðing dragi úr manntjóni. Hins vegar myndi tæknin leiða til vígbúnaðarkapphlaups og lækka þröskuldinn sem þarf að yfirstíga áður en ráðist er í stríðsrekstur. Stríðum kynni því að fjölga.
Margir studdu hugmynd um að tryggt yrði að vélbúnaðnum yrði stjórnað af mönnum, í rauntíma og á merkingarbæran hátt. Sumir töldu orðalagið þó of óljóst.
Bann við sjálfvirkum vopnum kemur samkvæmt fræðimanninum Toby Walsh ekki í veg fyrir framleiðslu þeirra. Hins vegar, myndi það minnka líkurnar á því að þau yrðu fjöldaframleidd og notuð af herjum þjóðríkja. Þau myndu þá dreifast um allan heim og vera seld í hendur hryðjuverkamanna á svörtum markaði.
Tæknin þegar til staðar
Ástralski varnarmálasérfræðingurinn Jai Galliott, segir þá sem skrifuðu bréfið vera á villigötum. Þeir hafi ekki verið að bregðast við þróun vélmenna sem velja sér skotmark án afskipta manna heldur þróun skyni gæddra vélmenna.
Vélar sem velja sér skotmark séu þegar til en menn eigi alltaf einhverja aðkomu að ferlinu. Vélmennin séu ekki hugsandi verur heldur forrituð tæki sem ríkisstjórnir sem beita þeim beri ábyrgð á. Skyni gædd vélmenni sem geta lært og tekið sjálfstæðar ákvarðanir verða samkvæmt Galliott, aldrei framleidd. Það sé einfaldlega ómögulegt að líkja eftir vissum hugarferlum með reikniritum. Þegar fólk átti sig á því að hugsandi vélmenni komi aldrei fram á sjónarsviðið sjái það að rökstuðningurinn fyrir því að banna sjálfvirk vopn standi á veikum grunni.
Siðferðislegar kröfur gerðar til vélmenna
Illah Nourbakhsh, forstjóri rannsóknarstofu í samfélagsvélmennafræðum við Carnegie Mellon leggur mikla áherslu á mikilvægi þess að stjórnvöld láti sig þróun vélmenna varða. Hann segir ólíklegt að vélmenni muni á næstu árum reyna að ná heimsyfirráðum eða hneppa menn í þrældóm, slíkt tilheyri áfram heimi kvikmyndanna. Hins vegar fylgi vélmennum og þróun þeirra ýmsar áskoranir og álitamál. Ef vélmenni eigi að verða virkir þátttakendur í samfélagi manna verði að setja þeim siðareglur og sjá til þess að þau hagi sér á siðferðislega réttan hátt. Er hægt að gera slíka kröfu til véla sem skilja ekki gildi mannslífa, friðhelgi einkalífsins eða mikilvægi mannréttinda? Nourbakhsh bendir á að í Bandaríkjunum séu litlar kröfur gerðar til siðfræðilegrar og félagsfræðilegrar þekkingar þeirra sem standa fremst í þróun gervigreindar. Löggjafinn standi grunlaus hjá á meðan einkafyrirtæki þrói vélmenni í leyni. Róbótinn hafi vaxið en regluverkið ekki og stjórnvöld verði að leggja sig fram, reyna að halda í við þróunina og setja framleiðendum ákveðin mörk. Nourbakhsh tekur dæmi um siðferðisleg vandamál sem gætu komið upp.
Ímyndum okkur vélmenni. Hegðun þess tekur bæði mið af upprunalegri forritun og samskiptum við eigandann. Uppeldi ef svo má segja. Hver ber ábyrgð á því ef vélmennið gerir eitthvað ólöglegt? Eigandinn, framleiðandinn eða kannski vélmennið sjálft?
Þekking og gagnsæi skipti öllu
Hann spyr hvort það verði ekki að aðgreina þau vélmenni sem taka sjálfstæðar ákvarðanir, byggðar á ákveðinni forritun og þau sem stýrt er af mennskri vitund. Fólk verði að geta áttað sig á við hvers konar veru það á í samskiptum við hverju sinni. Þekking og gagnsæi skipti öllu máli þegar kemur að samskiptum fólks og vélmenna.
Framfaratrúin fölsk
Ekki eru allir á því að vélmenni komi til með að sigra heiminn á næstunni. Martin Wolf, helsti álitsgjafi Financial Times á sviði efnahagsmála er efins um að vélvæðing samfélagsins verði að raunveruleika á næstu tveimur áratugum. Hvað sem allri framfaratrú líður sé raunin sú að hægt hafi mjög á efnahagslegri og samfélagslegri framþróun á síðastliðnum áratugum. Það sjáist helst á því að í Bandaríkjunum hafi framleiðsla á hvern íbúa dregist saman um tæpan helming síðastliðna öld. Þeir sem telja öld framfaranna enn ekki liðna benda á að verg landsframleiðsla nái illa að meta áhrif tækninýjunga á borð við spjaldtölvur. Ávinningurinn af þeim sé að stórum hluta óáþreifanlegur og sjáist því ekki í þjóðhagsreikningunum. Wolf segir það ekkert nýtt. Það sama hafi átt við um rafmagnsljósið, útvarpið, ísskápinn og símann. Ávinningurinn af þeim uppfinningum hafi verið meiri ef eitthvað er. Hann segir að við tökum uppfinningum fortíðar sem gefnum og blásum upp uppfinningar samtímans á kostnað þeirra. Uppfinningar 19. og 20. aldar hafi stóraukið lífslíkur fólks, eflt menntun og heilsu. Áhrif uppfinninga dagsins í dag séu ekki jafn víðtæk. Wolf segir þó ekki þar með sagt að upplýsingatæknibyltingin hafi ekki haft áhrif. Hann tekur undir með Nóbelsverðlaunahafanum Robert Solow sem sagði, árið 1987, að upplýsingatækniöldin birtist alls staðar, nema í hagvaxtartölunum og bætir við að tæknibylting síðari ára kunni að hafa leitt til aukins atvinnuleysis og aukinnar misskiptingar auðs.
Heimild: RÚV
