Vinge ja tema Singulaarsus

Tõlkisin ära Vernor Vinge klassikalise tehnoloogilist singulaarust käsitleva artikli.

Saabuvast tehnoloogilisest
Singulaarsusest:

Kuidas jääda ellu post-humaansel ajastul


Vernor Vinge

San Diego Ülikooli Matemaatikateaduskond

C 1993

Sõnasõnaline kopeerimine, tõlge ning selle artikli levitamine on lubatud igas keskkonnas, eeldusel, et see märkus kaasneb artikliga.


Artikli originaalversiooni
esitleti Vision-21 Sümposiumil 30-31 märtsi 1993. Seda rahastasid NASA Lewise uurimiskeskus ja Ohio Aeronautika Instituut.

Veidi muudetud version artiklist ilmus ajakirja “Whole Earth Review”
talvenumbris.




Teesid:


Lähema 30 a. jooksul saavad meie käsutuses olema tehnoloogilised vahendid, selleks et luua superhumaanne mõistus. Selle järel lõpeb inimese ajastu kiiresti.
Kas selline progress on välditav? Kui see ei ole välditav, siis kas on võimalik juhtida sündmusi nii, et me jääme ellu? Allpool on neid küsimusi uuritud ning esitatud mõned võimalikud vastused ning käsitletud edasisi ohtusid.


Mida kujutab endast Singulaarsus?


Meie sajandi üheks võtmeomaduseks on tehnoloogilise progressi kiirenemine.
Väidan selles artiklis, et me oleme muudatuse lävel, mis on võrreldav inimelu tekkega Maal.
Selle muutuse täpne põhjus on tehnoloogia poolt vältimatult loodavad süsteemid, mille intelligents on kõrgem, kui inimmõistus. Selle läbimurde saavutamine võib toimuda mitmete erinevate vahendite abiga (ja see on veel üks põhjus veendumuses, et selline sündmus saab toimuma).

1. Arendatakse välja arvutid, mis omavad teadvust ning üliinimlikult intelligentsed süsteemid (praeguseks hetkeks on palju vastuolulist väites, kas me saame luua inimese ekvivalenti masinas).
Kuid kui vastus on “jah, me saame seda teha”, on vähe kahtlust selles, et seejärel konstrueeritakse olendid, kes evivad enam mõistust, kui meie.

2. Suured arvutivõrgud ning nendega liitunud kasutajad saavutavad üliinimese intelligentsusega võrreldava teadvuse.

3. Arvutite / inimeste liidestused võivad muutuda nii sisseehitatuteks, et kasutajaid võib lugeda üsna põhjendatult üliinimlikult intelligentseteks.

4. Bioteadus võib anda meile vahendid loodusliku inimintelligentsi tõstmiseks.

Esimesed 3 võimalust sõltuvad suures osas arvutite raudvara paranemisest. Kuid arvutite raudvara alal toimuv progress on olnud üllatavalt stabiilne.
Võttes aluseks selle trendi, usun, et inimintelligentsist võimsama mõistuse ehitamine saab teoks järgmise 30 aasta jooksul.

Charles Platt [20] osutas, et AI entusiastid on selliseid avaldusi teinud viimased 30 aastat. Et ma ei oleks sellises relatiivses ajaambivalentsuses süüdlane, olen veelgi määratletum:
Ma oleksin üllatatud, kui see sündmus toimuks enne 2005 või hiljem, kui 2030.

Millised on järelmid sellest sündmusest?

Kui inimmõistust ületav aru juhib progressi, siis see muutub veelgi kiiremaks. Faktiliselt ei tundu olevat põhjust, miks arengu käigus ei võidaks luua veel intelligentsemaid olendeid – seda veelgi lühema aja vältel.
Parim analoogia, mida võiks kasutada, on meie evolutsiooniline minevik.
Loomad võivad kohaneda probleemidega ning teha leiutisi, kuid seda sageli mitte kiiremini, kui seda teeb looduslik valik – maailm toimib nagu suur simulaator loodusliku valiku toimel.
Inimestel on võime kujutleda enesele ette maailma ning toimetada
“mis saab siis, kui “ tüüpi mõtteoperatsioone oma peas.
Nii saame lahendada palju probleeme tuhandeid kordi kiiremini, kui seda teeb looduslik valik.

Kui me nüüd loome vahendid selliseks simulatsiooniks palju suurematel kiirustel, jõuame rezhiimini, mis erineb sama radikaalselt meie inimlikust minevikust, nagu meie erineme loomadest.
Inimlikust vaatevinklist heidab see muutus kõrvale kõik eelmised reeglid vahest silmapilgu vältel, eksponentsiaalse amokijooksu kestel, ilma igasuguse kontrolli lootuseta.
Arengud, mida arvati enne seda juhtuvat vaid miljonite aastate jooksul (kui üldse), saavad tõenäoliselt teoks järgmisel sajandil.
( [5]-s visandab Greg Bear pildi põhilistest muutustest, mis toimuvad tundidega ).

Usun, et on õige kutsuda seda sündmust singulaarsuseks
(Singulaarsuseks suure S-ga selle artikli eesmärkide mõttes).
See on ajahetk, kus meie vanad mudelid visatakse kõrvale ja uued reeglid kehtestuvad.
Sellele rajale lähenedes hakkab see kujutlus üha enam inimasjade kohal terendama, muutudes käibefraasiks.
Kui see siiski lõpuks teoks saab, võib see ikkagi osutuda suureks üllatuseks ning suureks tundmatuks.

1950-tel oli väga vähe neid, kes seda niimoodi nägid.
Stan Ulam [28] räägib vestlustest John von Neumanniga.

Üks vestlus keskendus
tehnoloogia pidevalt kiireneva progressi ja inimese eluviiside muutustele. See viitab teatud olulise singulaarsuse lähenemisele, millest alates inimeste toimetamised, nii nagu meie neid teame, ei saa jätkuda….
Kuigi Von Neumann kasutas mõistet “singulaarsus”, tundub, et ta mõtles selle all normaalset progressi, mitte üliinimliku intellekti loomist.
(Minu jaoks on üliinimene Singulaarsuse olemus. Ilma selleta võiksime me üleküllastuda tehnilistest rikkustest, mida ei õpitagi kunagi õieti kasutama, vt. [25] ).

1960-ndatel jõuti siiski mõningatele arusaamistele tulevatest muutustest:
I. J. Good kirjutas [11]-s.
Defineerime ultraintelligentse masina kui masina, mis ületab kaugelt iga inimese intellektuaalse võimekuse.
Kuna selliste masinate kavandamine on üheks sellistest tegevustest, saab ultraintelligentne masin konstrueerida veelgi paremaid masinaid; see võiks olla kahtlematult “intelligentsusplahvatus” ning inimese aru jäetakse kaugele maha.
Nõnda oleks esimene ultraintelligentne masin viimane leiutis, mida inimene teeb, kui eeldada, et masin on küllaltki lahke ja ütleb meile, kuidas teda kontrolli all hoida.
Siiski on tõenäolisem, et vähemalt mitte 20. sajandi jooksul sellist masinat ei ehitata, kuid see saab olema viimane leiutis, mida inimesel on tarvilik teha. ”

Good sai hästi aru selle võidujooksu olemusest, kuid ei jõua selle kõige häirivamate järeldusteni.
Igasugune intelligentne masin, mida ta kirjeldab, ei ole enam inimkonna abivahend - nõndasamuti, nagu inimesed pole küülikutele või rästastele või shimpansidele töövahendid.
Läbi 60-ndate, 70-ndate ja 80-ndate levis kujutlus kataklüsmist [29], [1], [31], [5].
Võib-olla olidki ulmeraamatute kirjutajad need, kes võtsid vastu esimese löögi.
Lõppude lõpuks, “tugevad” ulmekirjanikud on sellised, kes üritavad kirjutada spetsiifilisi lugusid kõigest sellest, mida tehnoloogia võib teha meie jaoks.
Üha enam ja enam adusid need kirjutajad läbipaistmatut seina tuleviku ees.
Kunagi võisid nad paigutada sellised fantaasiad miljonite aastate kaugusele tulevikku.
Nüüd nägid nad, et nende kõige hoolsamalt väljatöötatud ekstrapolatsioonid jõudsid õige pea tundmatusse tsooni.
Kunagi tundusid galaktilised impeeriumid “posthumaanse tegevuse valdkonnana”.
Praegu tundub kahjuks, et isegi planeetidevaheline tegevus kuulub posthumanoididele.

Mida öelda 90-ndate, 00-ndate, ja 10-te teadvuse kohta, kui triivime piiri suunas? Kuidas Singulaarsuse lähenemine mõjutab inimeste teadvust?
Mõneks ajaks saavad mõtlevate masinate kriitikud veel võimaluse tugevaks pressinguks. Lõppude lõpuks, seni kuni meil puudub inimaju võimekusega raudvara, on võib-olla hullumeelne mõtelda, et me oleme suutelised looma inimese ekvivalenti (või veel suurema intelligentsiga olendit).

On olemas teatud võimalus, et me võiksime teha inimese ekvivalendi veidi vähem võimekast raudvarast, kui me sooviksime kaotada kiiruses, s.t. sooviksime ehitada tehisolendit, kes oleks sõna otseses mõttes aeglane [30].
Aga tõenäolisemalt toob tarkvara kavandamise petlik protsess endaga kaasa palju valestarte ning eksperimenteerimist.
Kui nii, siis selliste olendite loomisaeg langeb sinna aega, mil on ehitatud inimese looduslikust varustusest oluliselt võimsama varustusega raudvara.

Kuid aja möödudes peaksime hakkama enam aduma Singulaarsuse sümptomeid.

Teadusliku ulmekirjanduse poolt tunnetatud dilemmat hakatakse mõistma ka teistel loovatel viisidel.
Olen kuulnud koomiksite kirjutajaid muretsemas selle üle, kuidas luua vaatemängulisi efekte, kui igasugust visuaalsust saab produtseerida tehnoloogiliselt triviaalsetel viisidel.
Me näeme automaate asendamas üha kõrgema ja kõrgema taseme tegevusi.

Meil on praegu olemas palju tööriistu (sümboolsed matemaatikaprogrammid, cad/cam), mis vabastavad meid suurest hulgast madala taseme rühmamisest.
Kuid seda võib ka teisiti öelda:
Tõeliselt produktiivne töö on järjest väiksema ja väiksema eliidi
pärisosa. Singulaarsuse saabudes näeme tõelise tehnoloogilise tööpuuduse ennustust täituvat.

Veel üks sümptom progressist Singulaarsuse suunas:
Ideed levivad järjest kiiremini ja kiiremini ning isegi kõige radikaalsemad saavad kiiresti aabitsatõdedeks.
Kui ma 60-ndate keskel alustasin teaduslike ulmeraamatute kirjutamist, tundus väga kerge leida ideid, mille perkoleerumine kultuuriteadvusse võinuks võtta aastakümneid.
Nüüd tundub keskmine aeg selleks olevat kaheksateist kuud.
Loomulikult võib see olla ka minu kujutlusvõime kao tulem, kuna ma saan vanemaks. Aga ma näen efekti teiste juures samuti ilmnevat.
Nagu ülehelikiirusega voolamise lööklaine, tuleb Singulaarsus lähemale, kui kiirendame ennast üle kriitilise piiri.

Mida öelda Singulaarsuse enese saabumise kohta?

Kuna see mõiste sisaldab intellektuaalset võidujooksu, saabub see tõenäoliselt kiiremini, kui seninähtud tehnoloogilised revolutsioonid.
Lõplik kiirendust määrav sündmus on arvatavasti ootamatu – võib-olla isegi uurijatele, kes asjaga tegelevad.
("aga meie kõik eelmised mudelid olid katatoonilised! Me lihtsalt kruttisime mõningaid parameetreid”).

Kui arvutivõrk on piisavalt levinud (kuni kõikjalolevate sisseehitatud süsteemideni), võib see tunduda äkki meid ümbritsevate tehisobjektide ellu ärkamisena!

Mis juhtub kuu või kahe (või 1-2 päeva) möödudes?

Saan viidata vaid analoogiatele minevikust: inimkonna teke.
Jõuame post-humaansesse aega.
Ja kogu mu ohjeldamatust tehnoloogilisest optimismist sõltumata mõtlen vahel, et ehk oleks veidi mugavam, kui vaatleksin neid trantsedentaalseid sündmusi tuhandeaastaselt, mitte 20 aastaselt kauguselt.

Saab Singulaarsust vältida?


Oletame, et ehk ei juhtu seda kunagi. Olen vahel püüdnud ette kujutada sümptomeid, mida peaksime nägema, kui Singulaarsust välja ei areneks.
On olemas laialt tuntud argumendid Penroselt [19] ja Searlelt [22] masinmõtlemise praktilisuse vastu.
Augustis 1992 pidas “Mõtlevate Masinate Korporatsioon” sellekohase seminari, et uurida küsimust:
“Kuidas me hakkame ehitama masinat, mis mõtleb!”
Nagu võiksite oletada seminari pealkirja põhjal, ei toetanud osavõtjad eriti argumente masinintelligentsi vastu.

Faktiliselt oldi üldiselt nõus sellega, et mõistus saab eksisteerida mittebioloogilistel substraatidel ning kõige tähtsamal koha sellises arengus omandavad algoritmid.
Ent väga palju vaidlusi toimus selle üle, kui suur peaks olema “toore” raudvara arvutusvõimsus, mis oleks võrreldav meie ajude võimekusega.

Vähemus arvas, et suurimad 1992 arvutid jäävad alla kolm järku.
Enamus osavõtjad olid ühel meelel Moravec-i hinnanguga, et oleme 10-40 aasta kaugusel raudvara ja inimese aju pariteetsusest.

Siiski leidus veel üks vähemus, kes viitasid [7] ja [21] , ning väitsid, et üheainsa neuroni arvutuslik võimsus võib olla palju kõrgem, kui üldiselt usutakse.
Kui aga nii, siis võib meie praeune arvutite raudvara olla 10 järku aeglasem, kui see mida kanname kaasas oma peades.
Kui see on tõsi (või antud teemas püsimiseks, kui Penrose või Searle kriitika on õige), ei pruugi me iialgi näha Singulaarsust.
Selle asemel peaksime nägema varastel 00-del [pärast 2000, sek. märkus] meie raudvara arengukõveraid aeglustumas meie võimetuse tõttu automatiseerida tööd, mida oleks vaja teha edasiseks raudvara täiustamiseks.



Me lõpetaksime mingit sorti väga võimsate arvutitega, kuid ilma võimeta arendada seda edasi.
Digitaalne signaalitöötlus võiks olla näiteks väga arenenud, andes analoog-välimuse igasugustele
digitaalsetele operatsioonidele. Kuid mitte miski ei ärkaks iialgi ellu ning jääks saabumata Singulaarsuse olemust väljendav intellektuaalne võidujooks.
Seda võidaks tõenäoliselt vaadelda kui kuldajastut … ja see võiks olla ka progressi lõpp. See meenutab väga seda, mida ennustab tulevikus Gunther Stent.
Aga lk. 137 [25] kirjeldab Stent ka transhumaanse intelligentsi arengut, millest piisaks tema projektsioonide põrmustamiseks.

Kui aga tehnoloogiline Singulaarsus saab toimuda, see ka toimub.
Isegi siis, kui kõik maailma valitsused saaksid aru ohust ning oleksid surmahirmus selle ees, jätkuks sellesihiline progress.

Ulmekirjanduses on kirjutatud palju lugusid seadustest, mis kõik on vastu võetud selliste mõtlevate masinate konstrueerimise vastu.
Tegelikult saavutatavad konkurentsieelised – majanduslikus, sõjalises, isegi kunstilises, automatiseerimise safaris osutuvad nii meelitavateks, et selliste seaduste vastuvõtmine, mis seda kõike keelustavad, määrab lihtsalt, et keegi teine teeb seda esimesena.

Eric Drexler [8] kirjeldas haaravalt seda, kui kaugele tehniline areng võib minna.
Ta on nõus, et üliinimlik mõistus saab lähitulevikus kättesaadavaks - - ja et sellised
Süsteemid kujutavad ennast ohtu inimese status quo-le.
Aga Drexler väidab, et me saame luua selliseid üliinimlikke seadmeid nii, et nende tulemusi saab uurida ja kasutada ohutult.
See on siis teatud doosi ettevaatusega ehitatud I. J. Goods-i ultraintelligentne masin.
Väidan, et selline piiramine on sisemiselt ebapraktiline.
Kujutlege füüsilise piiramise varianti: olete lukustatud oma majja vaid piiratud juurdepääsuga andmetele väljastpoolt, teie peremeestelt.
Kui need peremehed mõtlevad miljon korda aeglasemalt, kui teie, pole palju kahtlust, et mõne aja möödudes tulete mingi abistava mõtte peale, mis teid vabastab.
(ma kutsun seda kiiret üliintelligentsuse vormi “nõrgaks üliinimlikkuseks”)
Selline nõrgalt üliinimlik seadeldis põletab ennast vabaks välise ajaskaala mõttes mõne nädala jooksul.
“Tugev üliinimlikkus” võiks olla midagi enamat, kui inimesega ekvivalentse olendi kella kiiremaks kruttimine.
On raske öelda täpselt, missugune selline “tugev üliinimlikkus” võiks välja näha, aga erinevus ilmselt saab olema väga sügav.
Kujutlege koera aju töötavat väga suurel kiirusel.
Kas tuhanded aastad koera elu võiksid anda talle inimliku arusaamise?
(Kui aga koera aju oleks targalt ümber häälestatud ja siis jooksutataks seda kõrgel kiirusel, me näeksime midagi erinevat).

Paljud spekulatsioonid üliintelligentsuse osas paistavad põhinevat nõrgal üliinimese mudelil.

Arvan, et meie parimad oletused post-singulaarsest maailmast on hoomatavad pigem tugevat üliinimlikkust vaagides.
Pöördun selle punkti juurde artiklis hiljem tagasi.

Veel üks lähenemisviis piiramisele on ehitada reeglid loodava superaju sisemusse
(näiteks Asimovi reeglid [3]).
Ma arvan, et igasuguste küllalt tugevate efektiivsete reeglite rakendamine, loob seadme, mille võimed on selgelt madalamad tõkestamata versioonidest.
Nii soodustab inimeste konkurents enam ohtlike mudelite arendamist.

Asimovi unistus on siiski imetlusväärne:
Kujutlege agarat orja, kellel on 1000 korda rohkem võimeid igas suhtes.
Kujutlege olevust, kes võiks rahuldada teie iga ohutu soovi (mida see ka ei tähendaks)
ning tal jääks ikkagi 99.9% aega üle teisteks tegevusteks.
See oleks uus universum, mida me iialgi reaalselt ei mõistaks, aga täidetud heatahtlike jumalatega, kuigi üheks minu sooviks võiks olla saada üheks neist.

Kui Singulaarsust ei saa vältida või piiritleda, siis kui halb võiks posthumaanne ajastu olla?
Tegelikult .... üsna paha.
Inimrassi füüsiline hävimine on üks võimalus (või nagu Eric Drexler pakub: viia see kõik värk üle nanotehnoloogia peale.
Hoolimata kõigest, mida selline tehnoloogia võib teha, võib valitsus lihtsalt otsustada, et nad enam ei vaja kodanikke!

Siiski ei ole füüsiline hävinemine kõige hirmutavam võimalus. Jälle kasutame analoogiaid: mõelgem mitmesugustele viisidele, kuidas kasutatakse loomi.
Mõned julmad füüsilised kuritarvitused on siiski ebameeldivad ....
Post-humaanses maailmas võib olla siiski piisavalt nisse, kus inimesega ekvivalente automaat oleks soovitav: autonoomsed seadmed, iseendast teadlikud olevad deemonid aistmisseadmetena....
(tugevalt üliinimlik intelligents võiks tõenäoliselt olla vaimuühiskond [16] mõnede väga kompetentsete komponentidega.
Mõningaid neist inimese ekvivalentidest võidaks kasutada mitte millekski muuks ,kui digitaalseks signaalitöötluseks.
Nad võiksid olla rohkem nagu vaalad kui inimesed.
Teised võiksid olla väga inimese moodi, aga ühekülgsed, pühendatud millelegi, mis meie ajal paigutaks nad vaimuhaiglasse.
Ometi ei pruugi ükski neist olendeist olla lihast-verest inimesed, nad võiksid olla lihtsalt uues keskkonnas lähimad sugulased nendele olestele, keda me praegu kutsume inimesteks.
( I. J. Good -l on ühte teist öelda selle kohta, kuigi sellel hilisel tunnil võiks nõuanne olla selline:
Good tegi ettepaneku meta-kuldreegli juurutamiseks: käituge endast alamatega nii, nagu te soovite, et teiega käituksid teist võimekamad ....

See on tähelepanuväärne ja paradoksaalne idee (enamik mu sõpru ei usu sellesse) selle mänguteoreetilise võlu tõttu.

Kuid kui meie oleksime võimelised seda reeglit järgima, siis võiks see midagi öelda sellise suuremeelsuse realiseeritavuse kohta Universumis.

Ülal väitsin, et me ei saa vältida Singulaarsust, et ta on vältimatu järeldus inimese looduslikust konkureerimissoovist ja tehnoloogias peidusolevatest võimalustest.
Aga siiski oleme MEIE INITSIAATORITEKS.
Isegi suurim laviin saab alguse väikestest asjadest.
Meil on vabadus valida esialgseid tingimusi, panna asjad juhtuma viisidel, mis on vähem kahjulikud, kui teised.
Loomulikult (nagu ka algavate laviinidega), ei pruugi olla selge, milline õige juhtmüks võiks olla.


Teised võimalikud arenguteed Singulaarsuse juurde: Intelligentsuse Võimendamine


Kui inimesed räägivad üliinimlikult mõistuslike olendite loomisest, kujutlevad nad tavaliselt endale ette AI (Tehisintellekti) projekti.
Aga nagu ma märkisid artikli alguses, on olemas ka teised võimalused üliinimlike võimete arenemiseks.

Arvutivõrgud ja inimese-arvuti liidesed paistavad rohkem maised, kui AI, aga sellest hoolimata võivad nad viia Singulaarsuseni.

Ma nimetan seda alternatiivset lähenemisviisi Intelligentsi Võimendamiseks (Intelligence Amplification, IA).

IA on midagi, mis toimub väga loomulikult, enamikul juhtudel isegi nende arendajatele märkamatult.
Kuid iga kord, kui meie võime informatsioonile juurdepääsuks ning suhtlemiseks on paranenud, oleme saavutanud loomuliku mõistusega võrreldes selle kasvamise.
Isegi nüüd on inimene ja arvutitööjaam koostöös võimelised maksimeerima iga kirjutatud intelligentsustesti (Sek kahtlused selles osas??)

On väga tõenäoline, et IA on palju lihtsam tee üliinimlikkuse saavutamiseks kui puhas AI, sest inimeste juures on raskeimad arenguprobleemid juba lahendatud.
Ehitades üles iseenestest lähtudes võiks olla kergem, kui mõista, kes me tegelikult oleme ja seejärel selliste masinate ehitamine.
Vähemalt on olemas ka pretsedent evolutsioonist sellisele lähenemisviisile:
Cairns-Smith spekuleerib [6], et bioloogiline elu sai alguse veel primitiivsemast elust, mis baseerus kristallide kasvul.
Lynn Margulis (15] on toonud tugevaid tõendeid selle kasuks, et mutualism on evolutsiooni suur liikumapanev jõud

Märgin, et ma siin sugugi ei tee ettepanekut AI uurijaid ignoreerida või vähem finantseerida.
See, mis toimub AI-s, sellest saavad sageli kasu rakendused IA-s ja vice versa.


Rõhutaks, et me mõistaksime, et võrgu ja liidestuste uurimises on midagi sama sügavat (ning potentsiaalselt ohtlikku), kui AI-s.
Sellise vaateviisi abiga võiksime kujutleda projekte, mis ei ole nii otseselt rakendatavad, nagu tavalised liidestuse ja võrgu arendustööd, aga mis viivad meid edasi Singulaarsuse poole, järgides IA kurssi.
Siin on mõned võimalikud projektid, millel on eriline tähendus, vaadatuna IA vaatepunktilt
1. Inimese- arvuti meeskonnatöö automatiseerimine.
Võtame näiteks probleemid, mida normaalselt käsitletakse vaid puhtalt masinlahenduvatena (niinimetatud mäkketõusu optimeerimise probleemid, millel küll puhta alpinismiga kokkupuude puudub, sek. märkus) ning projekteerimise programmid ja liidesed, mis võtavad arvesse inimese paremusi ning kättesaadavat arvutitarkvara.
Vaadeldes kõiki veidraid kõrgedimensionaalseid mäkketõusu probleeme (ning puhtaid algoritme, mis on arendatud nende lahendamiseks), võiksid olla väga huvitavad menüüd ja kontrollvahendid inimesest meeskonnaliikme jaoks

2. Arendada inimese-arvuti sümbioosi kunstis. Kombineerida kaasaegsete arvutite graafikageneratsioonivõimalusi ja inimeste esteetilist tundlikkust.
Loomulikult on siin tehtud määratut tööd arvutiabiliste kavandamisel kunstnike jaoks, samuti töö hõlbustusvahendite osas.

Ma pakun välja, et me teadlikult suunaksime oma jõupingutused suuremale kompetentsuse liitmisele, et me avastaksime kooperatiivse lähenemise võimalused.
Karl Sims [23] on siin teinud suurepärast uurimistööd.

3. Lubada inimesed-arvutite võistkondadel osaleda maleturniiridel [on juba tehtud, Sek. märkus]

Meil juba on programmid, mis suudavad mängida paremini, kui peaaegu kõik inimesed.
[praegu on siiski nii, et oma läptopist enam ükski suurmeister võitu ei saa, Sek. märkus].
Aa kui palju tööd on tehtud, et seda võimsust saaks kasutada inimene, et ta mängiks veelgi paremini?

Kui sellistel võistkondadel lubataks mängida maleturniiridel, omaks see positiivset mõju IA uuringutele, nagu arvutite lubamine maleturniiridele mõjus positiivselt AI uuringutele.


4. Arendada liideseid, mis võimaldavad arvutitele ning arvutivõrgule juurdepääsu, et inimene poleks seotud ühe kohaga, istudes arvuti ees. (See on IA üks külg, mis sobitub väga hästi tuntud majanduslike eelistega, mistõttu palju jõupingutusi selle nimel on juba tehtud.

5. Arendada senisest enam sümmeetrilisi otsuste toetussüsteeme.
Viimastel aastatel on see valdkond olnud populaarne uurimise-tootmise valdkond. See on IA üks vorme, aga võib-olla liialt fokuseeritud süsteemidele, mis käituvad kui oraaklid.

Samavõrra, kui programm annab kasutajale informatsiooni, peaks toimima idee kasutajast, kes annab programmile juhiseid.


6. Kasutada lokaalseid võrke selleks, et panna inimesed reaalselt tööle meeskonnana (s.o. oleksid koostöös enam efektiivsemad, kui seda on iga meeskonna liige omaette võetuna).

Need programmid on praegu nimetatud grupitöö vahenditeks ning need on juba väga populaarsed äris.
Võiks muuta vaatepunkti ja vaadelda grupi tegevust nagu kombineeritud organismi käitumist.
Ühes mõttes võiks seda ettepanekut vaadelda kui reeglite loomist sääraste kombineeritud operatsioonide jaoks.
Näiteks võiks grupi fokuseering olla paremini säilitatav, kui klassikalistel koosolekutel.
Individuaalsete grupi liikmete ekspertteadmised võiksid olla isoleeritud egoga seotud probleemidest, nii et erinevate liikmete koostöö oleks suunatud meeskonnaprojektile.
Loomulikult võiksid ühiskasutusega andmebaasid olla enamkasutatavad, kui tavalistel koosistumistel.
Pidagem silmas, et see ettepanek on suunatud meeskonnatööle, mitte poliitiliste kohtumiste parandamisele. Poliitilises kontekstis võiks kirjeldatud automatiseerimine võimendada inimeste võimu, kes määravad reegleid!

7. Kasutada Internetti kui kombineeritud inimene-masin töövahendit.
Kõikidest loendis olevatest teemadest on progress selles vallas kiireim ning võib viia meid Singulaarsusesse enne kõike muud.

Isegi tänase päeva Interneti mõju ja võimu on äärmiselt alahinnatud.

Näiteks arvan, et meie kaasaegsed arvutisüsteemid võinuksid kokku kukkuda nende eneste keerukuse raskuse alla, kui poleks olnud võimalust, et USENET “grupivaim” andis süsteemile administreerivad ja toetusisikud.
Just üleilmse võrgu arengu anarhia annab tunnistust selle potentsiaalist.

Kui ühendatus, ribalaius ning arhiivide suurus koos arvutikiirusega pidevalt suurenevad, näeme midagi Lynn Margulise [15] visiooni järgselt, kus biosfäär on nagu andmetöötlusprotsessor, aga miljoneid kordi kiiremini töötav ning miljonite inimintelligentsi omavate agentidega.

Ülaltoodud näited illustreerivad uuringuid, mida saaks teha kaasaegse arvutiteaduse kontekstis.

On ka teisi paradigmasid. Näiteks soodustaksid tööd AI ning neuronvõrkude vallas tihedamast seosest bioloogilise eluga.

Selle asemel, et lihtsalt proovide modelleerida ning mõista elu arvutite abiga, võiks uurimist suunata liitsüsteemide loomise suunas, mis toetuksid bioloogilisele nendes valdkondades, mida me veel piisavalt hästi ei mõista, et seda realiseerida raudvaras.

Teadusliku fantaasiakirjanduse pikaajaliseks unelmaks on olnud otsene aju-arvuti liides [2], [29]
Tegelikult on võimalik siin teha (ning tehaksegi juba) selles vallas konkreetset tööd:

* Jäsemete proteesimine on erinevatel kommertslikel rakendusastmetel.
Saab valmistada närvisignaalide ränimuundureid. See on tõeliselt vaimustav, lähiajal tehtav samm otsese kommunikatsiooni suunas.Otsesed lingid ajusse peaksid olema teostatavad, kui ülekande kiirus on madal; arvestades inimese õppimisvõime paindlikkust, ei pea ajuneuronitest sihtmärgid olema täpselt välja valitud.Isegi 100 bitti sekundis võiks olla suureks abiks ajurabanduse ohvritele, kes muidu peaksid piirnema menüüst juhitud liidestega.

Optilise närvi sisse ühendumine peaks andma ülekandekiiruseks 1 Mbitti sekundis. Kuid selleks peame teadma nägemise peenstruktuuri ning peaksime paigaldama mahuka võrgustiku elektroode erakordse täpsusega.

Kui sooviksime oma kiiret ühenduskiirust kasutada LISAKS nendele teedele, mis juba on olemas ajus, muutub probleem palju enam juhitamatuks.
Lihtsalt istutades kõrge ribalaiusega vastuvõtjaid ajusse kindlasti ei tee nõutavat.

Aga eeldada tuleb, et kõrge ribalaiusega vastuvõtjad olid olemas, kui tegelikud ajustruktuurid tekkisid koos embrüo arenguga.
See viib mõttele loomembrüote eksperimentidele.
Esimestele aastatel ma ei looda erilist IA edu sellistele uurimustele.
Pikas perspektiivis võiksid sellised eksperimendid luua loomi, kellel on täiendavad sensorvõimed ning huvitavad intellektuaalsed võimed.

Algselt eeldasin, et see arutelu IA-st võiks anda selgelt ohutumaid lähenemisviise Singulaarsusele.
Lõppude lõpuks, IA võimaldab meie osavõttu mingil ületataval viisil.
Aga oh häda – vaadates üle need IA ideed, mille kasutatavuses olen kindel, sest nad suurendavad meie valikute hulka… siis ohutuse osas on mõned ettepanekud üsna hirmutavad.
Minu üks kritiseerija osutas sellele, et individuaalsetele inimestele rakendatud IA loob pigem ebasümpaatse eliidi.

Meil on miljonite aastate ulatuses evolutsioonilist ballasti, mis sunnib meid vaatlema konkurentsi elu ohustavas valguses.
Palju sellest surmavusest ei tohiks olla vajalik tänapäeva maailmas, kus kaotajad võtavad üle võitjate trikid ning koopereeruvad nende ettevõtmistesse.
Olend, mida ehitatakse de novo, võiks tegelikult olla palju heasoovlikum, kui see, kelle tuum baseerub kihvadel ning küünistel.
Aga isegi egalitaarne vaade Internetile, mis ärkab ellu koos kogu inimkonnaga, võib osutuda õudusunenäoks [26].
Probleem pole mitte lihtsalt selles, et Singulaarsus nihutab inimkonna tema keskselt kohalt, vaid et see on vastuolus meie kõige sügavamate kujutlustega olemisest.
Arvan, et tugeva ülihumaansuse lähem vaatlus selgitab, miks see nii on.


"Tugev ülihumaansus ja ülim, mida võiksime soovida"


Oletame, et me võiksime kohandada Singulaarsuse enesele sobivaks. Oletame, et me võiksime jõuda oma kõige ekstravagantsemate lootuste täitumiseni. Mida siis sooviksime saada?

Kas seda, et inimesed saaksid iseeneste järglasteks, et igasugune ebaõiglus mahenduks meie teadmiste tõttu oma juurtest?

Neile, kes säiluvad muutumatutena, võiks sooviks olla heatahtlik kohtlemine. Äkki koguni see, et jätta eesriide taga peituvatelt mulje, et ollakse jumalasarnaste orjade peremehed.
See võiks olla kuldaeg, mis isegi sisaldab progressi (ületades Stent-i barjääri).
Surematus (või vähemasti Universumi eeldatav eluiga [10],[4] võiks olla saavutatav).

Aga selles helges ja lahkes maailmas saavad häirivateks hoopis filosoofilised probleemid.

Meel, mis jääb samale võimekuse tasemele, ei saa elada igavesti. Paari tuhande aasta möödudes võiks see tunduda pigem korduva lindistusena kui isiksusena.
(Kõige kainestavam pilk mida sellest võib leida, on esitatud [18] )
Määramatult pikaks eluks peab meel ennast kasvatama ... ja kui ta lõpuks saab küllalt suureks ja vaatab tagasi ...millist sugulastundeid saab tal olla selle originaalhingega?
Kindlasti sisaldaks viimane versioon igat võimalust, mis originaalgi, aga kindlasti ka määratult enam. Niisiis isegi indiviidi jaoks kehtib Cairns-Smithi või Lynn Margulise nägemus uuest elust, mis järk järgult kasvab välja vanast
[ selle kohta ütleksin küll so what, kuna ma ei tunne mingit sugulust iseendaga isegi 5 aaasta tagant, sek. ]

Sama surematusprobleem kerkib üles ka palju otsesemalt:
Kujutlus egost ja eneseteadlikkusest on olnud jäärapäise ratsionalismi nurgakivi viimased paar sajandit. Aga nüüd on eneseteadlikkuse kujutlus AI uurijate rünnaku all
("eneseteadvus ja teised pettekujutlused" )

IA (intelligentsi võimendamise) lähenemisnurk uuristab meie ego kontseptsiooni teisest suunast. Post-singulaarne maailmas hakkab toimima erakordselt kõrge edastuskiirusega võrk.
Selle tugevalt üliinimlike olendite üks oluline omadus on ilmselt nende suhtlusvõime erinevate edastuskiirustel, sisaldades nende seast palju kõrgemaid ülekandekiirusi, kui kõne või kirjutatud teated.
Mis toimib, kui ego tükke saab kopeerida või kokku liita, kui eneseteadvus võib kasvada või kahaneda selle probleemi olemusest lähtuvalt, millega tegeletakse?
Need on tugeva üliinimlikkuse ja Singulaarsuse olulised tunnused.
Nendest mõtlemisel hakkab tunnetama, kuivõrd oluliselt erinev ja veider saab Post-Humaanne aeg olema -- ning pole oluline, kui targalt või üllalt on seda kavandatud.
Ühelt poolt sobitub see nägemus meie paljude ilusate unelmatega:
lõputu aeg, kus võime tõesti üksteist tundma õppida ning mõista kõige sügavamaid müsteeriume.


Teiselt poolt on siin palju ühist halvimate arengukäikudega, millest rääkisin varem selles artiklis.

Milline on tõene vaatenurk?
Tegelikult usun, et uus ajastu on lihtsalt liiga erinev, sobitumaks klassikalisse hea ja kurja raamistikku.

See raamistik põhineb isoleeritud, muutumatute inimvaimude ideele, kes on omavahel seotud aeglaste, vaevaliste linkidega.
Aga Post-Singulaarsus sobitub paremini laiemasse muutuse ja koopereerumise traditsiooni, mis käivitus kaua aega tagasi, võimalik, et isegi enne bioloogilise elu teket.
Usun, et on mingid kujutlused eetikast, mis võiksid käibida sellisel ajastul.
IA ja kõrge edastuskiirusega võrkude uurimine võib sellist arusaamist parandada.
Praegu näen sellest vaid terendusi [32].
On olemas Good'i Meta-Kuldreegel. Äkki saavad olema ka reeglid, mis põhinevad enese eraldusel teistest kommunikatsioonikiirusel?

Kuigi ego ja meel saavad minevikuga võrreldes olema määratult enam labiilsemad, ei pruugi väärtuslik iialgi kaduda (mälu, teadmised, mõtted).
Freeman Dysonil oli õigus, kui ta ütles [9]:
"Jumal on see, milleks saab meel, kui ta ületab meie arusaamisvõime"


[ Sooviksin tänada selle artikli visandi üle toimunud arutelu eest John Carrolit San Diego Ülikoolist ning Howard Davidsoni Sun Microsystem-st.]

Tõlkija lõppmärkus:

Allpoolviidatud allikmaterali ma jätan siin tõlkimata täielikult, et mitte teha võimatuks nende leidmise kas Internetist või kiviaegse RVL teel (sest Eestist ei leia te mitte tuhkagi)
Lisaks kõigele käitusin artikli aluslausetega võrdlemisi arrogantselt (loe võhiklikult), nagu füüsikud ikka teevad valdkondades, kus nad esimest korda kätt proovivad. Pean lootma, et andestate mulle sellise taidurluse.
Üritan järgmises blogikirjes selle visiooni kohta avaldada ka oma praeguse hetke arvamust.
Sek. ]



Annotated Sources [and an occasional plea for bibliographical help]

[1] Alfve'n, Hannes, writing as Olof Johanneson, _The End of Man?_,
Award Books, 1969 earlier published as "The Tale of the Big
Computer", Coward-McCann, translated from a book copyright 1966
Albert Bonniers Forlag AB with English translation copyright 1966
by Victor Gollanz, Ltd.

[2] Anderson, Poul, "Kings Who Die", _If_, March 1962, p8-36.
Reprinted in _Seven Conquests_, Poul Anderson, MacMillan Co., 1969.

[3] Asimov, Isaac, "Runaround", _Astounding Science Fiction_, March 1942,
p94. Reprinted in _Robot Visions_, Isaac Asimov, ROC, 1990.
Asimov describes the development of his robotics stories in this
book.

[4] Barrow, John D. and Frank J. Tipler, _The Anthropic Cosmological
Principle_, Oxford University Press, 1986.

[5] Bear, Greg, "Blood Music", _Analog Science Fiction-Science Fact_,
June, 1983. Expanded into the novel _Blood Music_, Morrow, 1985.

[6] Cairns-Smith, A. G., _Seven Clues to the Origin of Life_, Cambridge
University Press, 1985.

[7] Conrad, Michael _et al._, "Towards an Artificial Brain", _BioSystems_,
vol 23, pp175-218, 1989.

[8] Drexler, K. Eric, _Engines of Creation_, Anchor Press/Doubleday, 1986.

[9] Dyson, Freeman, _Infinite in All Directions_, Harper && Row, 1988.

[10] Dyson, Freeman, "Physics and Biology in an Open Universe", _Review
of Modern Physics_, vol 51, pp447-460, 1979.

[11] Good, I. J., "Speculations Concerning the First Ultraintelligent
Machine", in _Advances in Computers_, vol 6, Franz L. Alt and
Morris Rubinoff, eds, pp31-88, 1965, Academic Press.

[12] Good, I. J., [Help! I can't find the source of Good's Meta-Golden
Rule, though I have the clear recollection of hearing about it
sometime in the 1960s. Through the help of the net, I have found
pointers to a number of related items. G. Harry Stine and Andrew
Haley have written about metalaw as it might relate to
extraterrestrials: G. Harry Stine, "How to Get along with
Extraterrestrials ... or Your Neighbor", _Analog Science Fact-
Science Fiction_, February, 1980, p39-47.]

[13] Herbert, Frank, _Dune_, Berkley Books, 1985. However, this novel was
serialized in _Analog Science Fiction-Science Fact_ in the 1960s.

[14] Kovacs, G. T. A. _et al._, "Regeneration Microelectrode Array for
Peripheral Nerve Recording and Stimulation", _IEEE Transactions
on Biomedical Engineering_, v 39, n 9, pp 893-902.

[15] Margulis, Lynn and Dorion Sagan, _Microcosmos, Four Billion Years of
Evolution from Our Microbial Ancestors_, Summit Books, 1986.

[16] Minsky, Marvin, _Society of Mind_, Simon and Schuster, 1985.

[17] Moravec, Hans, _Mind Children_, Harvard University Press, 1988.

[18] Niven, Larry, "The Ethics of Madness", _If_, April 1967, pp82-108.
Reprinted in _Neutron Star_, Larry Niven, Ballantine Books, 1968.

[19] Penrose, Roger, _The Emperor's New Mind_, Oxford University Press,
1989.

[20] Platt, Charles, Private Communication.

[21] Rasmussen, S. _et al._, "Computational Connectionism within Neurons:
a Model of Cytoskeletal Automata Subserving Neural Networks", in
_Emergent Computation_, Stephanie Forrest, ed., pp428-449, MIT
Press, 1991.

[22] Searle, John R., "Minds, Brains, and Programs", in _The Behavioral and
Brain Sciences_, vol 3, Cambridge University Press, 1980. The
essay is reprinted in _The Mind's I_, edited by Douglas R.
Hofstadter and Daniel C. Dennett, Basic Books, 1981 (my source
for this reference). This reprinting contains an excellent critique
of the Searle essay.

[23] Sims, Karl, "Interactive Evolution of Dynamical Systems", Thinking
Machines Corporation, Technical Report Series (published in _Toward
a Practice of Autonomous Systems: Proceedings of the First European
Conference on Artificial Life_, Paris, MIT Press, December 1991.

[24] Stapledon, Olaf, _The Starmaker_, Berkley Books, 1961 (but from
the date on forward, probably written before 1937).

[25] Stent, Gunther S., _The Coming of the Golden Age: A View of the End
of Progress_, The Natural History Press, 1969.

[26] Swanwick Michael, _Vacuum Flowers_, serialized in _Isaac Asimov's
Science Fiction Magazine_, December(?) 1986 - February 1987.
Republished by Ace Books, 1988.

[27] Thearling, Kurt, "How We Will Build a Machine that Thinks", a workshop
at Thinking Machines Corporation, August 24-26, 1992. Personal
Communication.

[28] Ulam, S., Tribute to John von Neumann, _Bulletin of the American
Mathematical Society_, vol 64, nr 3, part 2, May 1958, pp1-49.

[29] Vinge, Vernor, "Bookworm, Run!", _Analog_, March 1966, pp8-40.
Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen
Books, 1987.

[30] Vinge, Vernor, "True Names", _Binary Star Number 5_, Dell, 1981.
Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen
Books, 1987.

[31] Vinge, Vernor, First Word, _Omni_, January 1983, p10.

[32] Vinge, Vernor, To Appear [ :-)