NJUJORŠKA PROROČANSTVA: ZAMIŠLJENA BUDUĆNOST VEŠTAČKE INTELIGENCIJE
Tuesday, May 18th, 2010Budućnost je ono što je i bila
“BioloÅ¡ka inteligencija je nepromenljiva, zato Å¡to je u pitanju stara, zrela paradigma, dok nova paradigma nebioloÅ¡kog raÄ?unarstva i inteligencije eksponencijalno raste. Prelaz će se odigrati 2020-ih a nakon toga, bar sa stanoviÅ¡ta hardvera, dominiraće nebioloÅ¡ko raÄ?unarstvo…“
Kurcvejl (Kurzweil), 2004, str. 3.
Na poÄ?etku 21. veka, san o veÅ¡taÄ?koj inteligenciji ukorenjen je duboko u savremenu maÅ¡tu. Od detinjstva pa nadalje, ljudima u razvijenom svetu se govori da će raÄ?unari jednog dana moći da rasuÄ‘uju – Ä?ak i da imaju osećanja – baÅ¡ kao ljudi. U priÄ?ama nauÄ?ne fantastike, maÅ¡ine koje misle su odavno omiljeni likovi. Publika je odrastala sa likovima robota drugara, kao Å¡to je Dejta iz serije Zvezdane staze: Nova generacija. ili nemilosrdnih robota-Ä?udoviÅ¡ta poput kiborga iz Terminatora. (Startrek.com 2005; Kameron/Cameron 1984). Ove nauÄ?nofantastiÄ?ne maÅ¡tarije dodatno podstiÄ?u pouzdana predviÄ‘anja istaknutih informatiÄ?ara. Neprekidna poboljÅ¡anja hardvera i softvera naposletku će dovesti do stvaranja veÅ¡taÄ?kih inteligencija, moćnijih od “bioloÅ¡ke inteligencije” ljudskog mozga.
Komercijalni proizvoÄ‘aÄ?i već neko vreme sa nestrpljenjem iÅ¡Ä?ekuju dan kada će prodavati svesne maÅ¡ine koje obavljaju kućne poslove i pomažu starijima (Honda 2004). Neki informatiÄ?ari Ä?ak veruju da je stvaranje “nebioloÅ¡kih inteligencija” jedna duhovna potraga. U Kaliforniji, Rej Kurcvejl, Vernor Vindž (Ray Kurzweil, Vernor Vinge) i njihove kolege s nestrpljenjem oÄ?ekuju Singularnost: Prvi dolazak silicijumskog mesije (Vindž 1993; Bel/Bell 2004). Bilo da su nadahnuti novcem ili misticizmom, svi ovi zagovornici veÅ¡taÄ?ke inteligencije dele uverenje da se sadaÅ¡njost mora shvatiti kao ‘embrion’, kao budućnost u zametku – a upravo iz budućnosti će se rasvetljivati potencijal sadaÅ¡njosti. Svaki napredak u raÄ?unarskoj tehnologiji objavljuje se kao novi korak ka stvaranju potpuno svesne maÅ¡ine. ProroÄ?anstvo o veÅ¡taÄ?koj inteligenciji sve bliže je ispunjenju sa pojavljivanjem svakog novog komada softvera ili hardvera. Nije važno ono Å¡to raÄ?unari mogu sada, već ono Å¡to će moći uskoro. SadaÅ¡njica je beta verzija nauÄ?nofantastiÄ?nog sna: zamiÅ¡ljena budućnost.
Uprkos svom istaknutom mestu u kulturi, vera u svesne maÅ¡ine podložna je teorijskom egzorcizmu. Daleko od toga da bude prazan oznaÄ?itelj, ovo proroÄ?anstvo duboko je ukorenjeno u vremenu i prostoru. OÄ?ekivano, savremeni propagatori veÅ¡taÄ?ke inteligencije retko priznaju koliko je sâm koncept star. Žele da napreduju, ne da se osvrću. Ipak, proÅ¡lo je viÅ¡e od Ä?etrdeset godina otkad je san o razumnim maÅ¡inama prvi put zaokupio maÅ¡tu javnosti. ZamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije ima dugu povest. Analiziranje te prvobitne verzije proroÄ?anstva preduslov je za razumevanje njegovog savremenog ponavljanja. S tim u vidu, vratimo se u drugu deceniju Hladnog rata kada je najveća svetska raÄ?unarska kompanija priredila predstavu o Ä?udesima razumnih maÅ¡ina u finansijskoj prestonici najmoćnije i najbogatije zemlje na planeti…
Milenijum napretka
Na dan 22. aprila 1964. godine, Svetski sajam (World’s Fair) u Njujorku otvoren je za javnost. U naredne dve godine, ta moderna zemlja Ä?uda ugostila je preko 51 milion posetilaca. Na izložbi su bili zastupljeni svi delovi ameriÄ?ke elite: savezna vlada, državne uprave, velike korporacije, finansijske ustanove, industrijski lobiji i verske grupe. Svetski sajam je dokazao da SAD prednjaÄ?i u svemu: u robi Å¡iroke potroÅ¡nje, demokratiji, Å¡ou-biznisu, modernistiÄ?koj arhitekturi, lepim umetnostima, verskoj toleranciji, kućnom životu i, iznad svega, tehnologiji. Kao Å¡to je sugerisao jedan od reklamnih slogana izložbe, “milenijum progresa” doživeo je vrhunac u ameriÄ?kom stoleću (Stenton/Stanton 2004, 2004a; Ljus/Luce 1941).
Ta rodoljubiva poruka slavljena je veliÄ?anstvenim predstavljanjem novih tehnologija na Svetskom sajmu. Pisci i filmadžije odavno su maÅ¡tali o putovanju na druge svetove. Sada je u Nasinom (National Aeronautics and Space Administration – Nacionalna agencija za aeronautiÄ?ka i svemirska ustraživanja, popularno NASA) Svemirskom parku, javnost mogla da se divi ogromnim raketama koje su odnele ameriÄ?ke astronaute u orbitu (urednici knjiga Tajm-Lajf /Time-Life Books 1964, str. 208; Lorens/Laurence 1964, str. 2-14). Uprkos svom poÄ?etnom neuspehu kada su Rusi lansirali prvi satelit 1957, SAD sad tek Å¡to nisu pretekle svog takmaca u “svemirskoj trci” (Å efter/Schefter 1999, str. 145-231). A ono Å¡to je najbolje od svega, posetiocima Svetskog sajma govorilo se kako će i sami imati priliku da za svog životnog veka postanu astronauti. U paviljonu Futurama Dženeral motorsa (General Motors), Amerikanci iz 1980-ih bili su prikazani kako provode godiÅ¡nji odmor na Mesecu (urednici knjiga Tajm-Lajf 1964, str. 222). Druge korporacije bile su podjednako sigurne da će dostignuća sadaÅ¡njice ubrzo biti prevaziÄ‘ena trijumfima sutraÅ¡njice. U svom paviljonu Progreslend (Progressland), Dženeral motors predvideo je da će elektriÄ?na energija proizvedena u reaktorima za nuklearnu fuziju biti “isuviÅ¡e jeftina da bi se naplaćivala” (urednici knjiga Tajm-Lajf 1964, str. 90-92; Lorens 1964, str 40-43). U zamiÅ¡ljenoj budućnosti Svetskog sajma, Amerikanci neće samo postati svemirski turisti – oni će takoÄ‘e biti blagosloveni besplatnom elektriÄ?nom energijom…
Za mnoge korporacije, najdelotvorniji metod da dokažu svoju tehnoloÅ¡ku savremenost bio je taj da izlože raÄ?unar. Klerolova (Clairol) maÅ¡ina birala je “najlaskavije boje za kosu” za posetiteljke, a mejnfrejm (eng. mainframe, veliki, Ä?esto i ogromni centralni kompjuterski sistemi, kakvi su poÄ?eli da se razvijaju 40-ih i 50-ih godina, prim. prev.) Parker pena je uparivao ameriÄ?ku decu sa “prijateljima za dopisivanje” iz stranih zemalja (urednici knjiga Tajm-Lajf 1964, str. 86, 90). Koliko god možda delovali impresivno svojoj publici, ti eksponati nisu bili niÅ¡ta drugo do reklamni trikovi. Za razliku od njih, IBM (skraćeno od International Business Machines, jedna od prvih i najvećih informatiÄ?kih kompanija, osnovana pod imenom Tabulating Machine Company 1896, danas sa oko 400 000 zaposlenih u 170 zemalja, prim. prev.) je bio u mogućnosti da svoj paviljon posveti iskljuÄ?ivo Ä?udima informatike kao zasebne tehnologije. U 1961, jedan jedini proizvod – IBM 1401 – Ä?inio je Ä?etvrtinu svih raÄ?unara koji su radili u SAD-u (Pju 1995, str. 265-267). Po poimanju mnogih Amerikanaca, IBM je bio sinonim za ‘kompjuter’. BaÅ¡ pred otvaranje Svetskog sajma, korporacija je izbacila seriju proizvoda koji će joj obezbediti dominaciju industrijom i u iduće dve decenije: System/360 (DeLamarter 1986, str. 54-146). UgrabivÅ¡i priliku za isticanje koju je sajam nudio, Å¡efovi IBM-a naruÄ?ili su paviljon koji će zaseniti sve ostale. Ero Sarinen (Eero Saarinen) – renomirani finski arhitekta – nadgledao je konstrukciju veliÄ?anstvene zgrade: bele dvorane u obliku jajeta sa reljefnim korporativnim logotipom, koja je lebdela visoko u vazduhu uz pomoć 45 metalnih stabala boje rÄ‘e. Ispod te upeÄ?atljive atrakcije nalazile su se interaktivne izložbe koje su veliÄ?ale IBM-ov doprinos raÄ?unarskoj industriji (Stern, Melins i FiÅ¡man/Stern, Mellins, Fishman, 1997, str. 1046-1047).
Za samu dvoranu, ÄŒarsl i Rej Ims (Charles i Ray Eames) – par koji je bio oliÄ?enje ameriÄ?kog modernistiÄ?kog dizajna – napravili su glavnu zanimljivost u IBM-ovom paviljonu: “InformatiÄ?ku maÅ¡inu” (The Information Machine). PoÅ¡to bi zauzeli svoja mesta u “Ljudskom zidu” (People Wall) sa 500 sediÅ¡ta, posetioci bi bili podignuti u jajoliku graÄ‘evinu. Kada bi se naÅ¡li unutra, narator bi najavio “veliÄ?anstvenu” multimedijalnu predstavu o tome kako su maÅ¡ine izložene u IBM-ovom paviljonu preteÄ?a svesnih maÅ¡ina budućnosti. RaÄ?unari su u procesu sticanja svesti. (urednici knjiga Tajm-Lajf 1964, str. 70-74; Lorens 1964, str. 57-58). U bliskoj budućnosti, svaki Amerikanac biće vlasnik odanog mehaniÄ?kog sluge baÅ¡ kao Å¡to je Robot Robi (Robby the Robot) iz Zabranjene planete (Forbidden Planet), popularnog nauÄ?nofantastiÄ?nog filma iz 1956. godine (Vilkoks/Wilcox, 1999). Na Svetskom sajmu u Njujorku, IBM je ponosno objavio da će taj san o veÅ¡taÄ?koj inteligenciji napokon biti ostvaren. Sa izbacivanjem serije System/360, mejnfrejmovi su postali dovoljno moćni da izgrade prototipe jednog potpuno svesnog raÄ?unara.
Ta Ä?udesna meÅ¡avina avangardne arhitekture i multimedijalnog performansa u IBM-ovom paviljonu doživela je veliki uspeh i u medijima i u javnosti. Zajedno sa svemirskim raketama i nuklearnim reaktorima, raÄ?unar je potvrdio svoju poziciju kao jedna od tri ikoniÄ?ne tehnologije moderne Amerike. IdeoloÅ¡ka poruka tih maÅ¡ina bila je nedvosmislena: sadaÅ¡njost je budućnost u zametku. U IBM-ovom paviljonu, raÄ?unari su postojali istovremeno u dva vremenska okvira. Sa jedne strane, tadaÅ¡nji modeli su prikazani kao prototipovi svesnih maÅ¡ina iz budućnosti; sa druge strane, vizija raÄ?unarske svesti pokazala je istinski potencijal mejnfrejmova izloženih u IBM-ovom paviljonu. Na Svetskom sajmu u Njujorku 1964, izbacivanje serije System/360 se slavilo kao najava zamiÅ¡ljene budućnosti veÅ¡taÄ?ke inteligencije.
“Nije daleko dan kada će sposobnostî [ljudskog] mozga za reÅ¡avanje problema i rukovanje informacijama biti prekopirane; iznenadio bih se ako se to ne bi ostvarilo u narednoj deceniji.”
Sajmon/Simon, str. 39.
Otkrivanje razumne mašine
FuturistiÄ?ke fantazije iz IBM-ove multimedijalne predstave bile su nadahnute nepristrasnom logikom akademskog sveta. Alan Tjuring (Turing) – utemeljivaÄ? informatike – oznaÄ?io je razvoj veÅ¡taÄ?ke inteligencije kao dugoroÄ?ni cilj te nove discipline. Sredinom 1930-ih, ovaj matematiÄ?ar sa Kembridža objavio je uticajan Ä?lanak koji je opisivao apstrakni model za programabilni raÄ?unar: “univerzalnu maÅ¡inu” (Tjuring 2004). Za vreme Drugog svetskog rata, njegov tim inženjera napravio je prvi elektriÄ?ni kalkulator kako bi se ubrzalo deÅ¡ifrovanje nemaÄ?kih vojnih signala. Kada se sukob okonÄ?ao, Tjuring se preselio na Univerzitet u ManÄ?esteru kako bi se pridružio timu istraživaÄ?a koji su pravili programabilnu maÅ¡inu. Kao Å¡to je bilo izloženo u njegovom Ä?lanku iz 1936, koristiće se softver kako bi se hardveru omogućilo da obavlja niz razliÄ?itih zadataka. Na dan 21. juna 1948, pre no Å¡to je Tjuring Ä?ak i doÅ¡ao na svoje novo radno mesto, njegove kolege ukljuÄ?ile su prvi svetski elektronski raÄ?unar sa unapred ugraÄ‘enim programom: Baby. Taj teoretski koncept, do tada opisan u jednom struÄ?nom Ä?asopisu, se materijalizovao u obliku ogromne metalne kutija ispunjene ventilima, prekidaÄ?ima, žicama i brojÄ?anicima (Tjuring 2004a; Ejgar/Agar, 2001, str. 3-5, 113-124; Hodžis/Hoges, 1992, str. 314-402).
Za Tjuringa, Baby je bio daleko viÅ¡e od poboljÅ¡ane verzije kancelarijskog tabulatora. Kada hardverom upravlja softver, raÄ?unanje postaje svest. U nizu uticajnih Ä?lanaka, Tjuring je izneo tezu da je njegova matematiÄ?ka maÅ¡ina preteÄ?a jednog sasvim novog oblika života: mehaniÄ?kog matematiÄ?ara. To predviÄ‘anje potkrepio je odredivÅ¡i ljudsku inteligenciju kao neÅ¡to Å¡to bi mogli raditi i raÄ?unari. Budući da je raÄ?unanje prefinjeni vid razmiÅ¡ljanja, raÄ?unarske maÅ¡ine su zasigurno sposobne da misle. Ako deca stiÄ?u znanje obrazovanjem, edukativni softver mogao bi da stvori obrazovane raÄ?unare. PoÅ¡to ljuski mozak radi kao maÅ¡ina, oÄ?igledno je da bi se maÅ¡ina mogla ponaÅ¡ati kao elektronski mozak (Tjuring 2004a, 2004b, 2004d, 2004e; Å afer/Schaffer, 2000). Sudeći po Tjuringu, iako prvobitni raÄ?unari joÅ¡ nisu bili dovoljno moćni da bi dostigli svoj pravi potencijal, pre ili kasnije, kroz neprestano poboljÅ¡avanje hardvera i softvera, ta ograniÄ?enja bi bila prevaziÄ‘ena. U drugoj polovini dvadesetog veka, raÄ?unarska tehnologija brzo se razvijala ka svojoj unapred utvrÄ‘enoj sudbini: veÅ¡taÄ?koj inteligenciji.
“Memorijski kapacitet ljudskog mozga verovatno je reda deset hiljada miliona binarnih brojeva. Ali najveći deo toga po svoj prilici se koristi za pamćenje vizuelnih utisaka, i na druge relativno rasipniÄ?ke naÄ?ine. Ostvarivanju istinskog napretka [ka veÅ¡taÄ?koj inteligenciji] možemo se osnovano nadati sa nekoliko miliona brojeva [raÄ?unarske memorije].”
Tjuring 2004a, str. 393
U svom najpoznatijem Ä?lanku, Tjuring je opisao test za prepoznavanje pobednika u toj ‘trci za budućnost’. Kada posmatraÄ? ne bude mogao da razluÄ?i da li razgovara ljudskim bićem ili raÄ?unarom u onlajn konverzaciji, onda viÅ¡e neće postojati bitna razlika izmeÄ‘u te dve vrste svesti. Ako se imitacija ne može razlikovati od originala, maÅ¡ina se onda mora smatrati razumnom – kompjuter je položio ispit (Tjuring 2004c, str. 441-448; Å afer 2000). Od tada pa nadalje, raÄ?unari su postali mnogo viÅ¡e od pukih praktiÄ?nih alatki i robe kojom se trguje. Kao Å¡to je Tjuringov Ä?lanak objasnio, zamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije otkrivala je potencijal ove nove tehnologije da se konstantno menja. Uprkos svojim nedostacima, aktuelni modeli raÄ?unara predstavljaju preteÄ?u svesnih maÅ¡ina koje će za njima doći…
Pred kraj 1940-ih, katihizis veÅ¡taÄ?ke inteligencije već je bio ustoliÄ?en. U okviru informatike, ono Å¡to je bilo i ono Å¡to će biti je postalo jedno te isto. Uprkos tom dostignuću, Tjuring je bio prorok Ä?iji je uticaj slabio u njegovoj roÄ‘enoj zemlji. RaÄ?unar je možda izmiÅ¡ljen u Britaniji, ali njena zadužena vlada nije imala sredstava da bi dominirala razvojem te nove tehnologije (Ejgar 2003, str. 266-278). S druge strane Atlantika, prilike su se umnogome razlikovale. Za vreme Drugog svetskog rata, ameriÄ?ka vlada takoÄ‘e je obezbedila izdaÅ¡na sredstva za istraživanje elektronskog raÄ?unarstva. Shodno tome, kada je pobeda izvojevana, presudilo je to Å¡to se nauÄ?nici koji su radili na tim projektima nisu susreli sa ozbiljnim poteÅ¡koćama u daljem obezbeÄ‘ivanju sredstava. Dok je Britanija oskudevala u novcu, SAD su lako sebi mogle priuÅ¡titi da finansiraju najsavremenija istraživanja u oblasti novih tehnologija. Kada je Hladni rat poÄ?eo, ameriÄ?kim politiÄ?arima nije bilo teÅ¡ko da svojim biraÄ?ima opravdaju te dotacije (Lesli/Leslie, 1993, str. 1-13; Luontin/Lewontin, 1997).
U SAD, informatiÄ?ari su imali joÅ¡ jednu veliku prednost u odnosu na svoje britanske suparnike: meta-teoriju kibernetike. Tokom poznih 1940-ih i ranih 1950-ih, grupa istaknutih ameriÄ?kih intelektualaca sastajala se na Mejsi konferencijama (Macy conferences) kako bi istraživala naÄ?ine da se sruÅ¡e granice izmeÄ‘u razliÄ?itih nauÄ?nih disciplina: (Hajms/Heims, 1991). Od samog poÄ?etka, kao guru tog poduhvata izdvojio se Norbert Viner (Norbert Wiener). Dok je radio na MIT-ju (skraćeno od Massachusetts Institute of Technology, privatni istraživaÄ?ki univerzitet i institut lociran u gradu Kejmbridžu, država MasaÄ?usets, SAD, prim. prev.), on je izmislio kibernetiku kao novi teorijski okvir za analiziranje ponaÅ¡anja i ljudi i maÅ¡ina. Input (unos, ulaz) informacija o okruženju vodi do autputa (output, izlaz, rezultat) delovanja Ä?iji je cilj da to okruženje promeni. Nazvan “povratna sprega” (feedback loop), taj ciklus nadražaja i rezultirajućih odgovora je Å¡irenje entropije u svemiru okrenuo u obrnutom pravcu – red je moguće stvoriti iz haosa (Viner 1948, str. 21, 32-33). U 1948, Viner je izneo svoju novu univerzalnu teoriju u knjizi ispunjenoj stranicama matematiÄ?kih dokaza: “Kibernetika – ili komanda i kontrola u životinji i maÅ¡ini” (Cybernetics – or command and control in the animal and the machine).
Na svoje veliko iznenaÄ‘enje, ovaj nauÄ?nik je napisao bestseler. Prvi put, jedan zajedniÄ?ki skup apstraktnih naÄ?ela povezivao je i prirodne i druÅ¡tvene nauke. Vinerov tekst pružio je moćne metafore za opisivanje haj-tek (hi-tech, visoko-tehnoloÅ¡kog, prim. prev.) sveta Amerike u periodu Hladnog rata. ÄŒak i ako nisu razumeli njegove matematiÄ?ke jednaÄ?ine, Ä?itaoci su lako mogli da prepoznaju kibernetiÄ?ke sisteme u okviru druÅ¡tvenih institucija i mreža komunikacije koje su dominirale njihovim svakodnevnim životom. Povratna sprega, informacije i sistemi ubrzo su postali deo narodnog govora (Konvej/Conway i Sigelman/Siegelman 2005, str. 171-194; Hajms 1991, str. 271-272). Uprkos javnom odobravanju, Viner je ostao autsajder u krugovima ameriÄ?ke inteligencije. Podsmevajući se ideoloÅ¡kom pravoverju Amerike u Hladnom ratu, ovaj guru bio je pacifista i socijalista.
PoÄ?etkom 1940-ih, Viner – kao i skoro svaki ameriÄ?ki nauÄ?nik – verovao je da će Ä?oveÄ?anstvo imati koristi od razvijanja oružja kojima bi se pobedila nacistiÄ?ka NemaÄ?ka. Kada je poÄ?eo Hladni rat, njegove kolege koje je finansirala vojska tvrdile su kako njihov istraživaÄ?ki rad takoÄ‘e doprinosi borbi protiv jednog agresivnog totalitarnog neprijatelja (Luontin 1997). Osporavajući taj patriotski konsenzus, Viner je izneo tezu da bi ameriÄ?ki nauÄ?nici trebalo da zauzmu sasvim drugaÄ?iji stav u sukobu sa Rusijom. Upozorio je da bi trka u nuklearnom naoružanju mogla dovesti do uniÅ¡tenja Ä?oveÄ?anstva. SuoÄ?eni sa ovom opasnom novom situacijom, odgovorni nauÄ?nici bi trebalo da odbiju da sprovode vojna istraživanja (Konvej i Sigelman 2005, str. 237-243, 255-271). Tokom 1950-ih i ranih 1960-ih, Vinerovo politiÄ?ko otpadniÅ¡tvo nadahnulo je njegovo socijalistiÄ?ko tumaÄ?enje kibernetike. U epohi korporativnih monopola i atomskog oružja, teorija koja objaÅ¡njava ponaÅ¡anje i ljudi i maÅ¡ina mora se upotrebiti kako bi ljudi uspostavili kontrolu nad svojim maÅ¡inama. NapuÅ¡tajući svoje prvobitno oduÅ¡evljenje Tjuringovim proroÄ?anstvom, Viner je sada naglaÅ¡avao opasnosti koje predstavljaju svesni raÄ?unari (Viner 1966, str. 52-60, 1967, str. 239-254). Pre svega, pokuÅ¡aj stvaranja veÅ¡taÄ?ke inteligencije predstavljao je skretanje sa neodložnog zadatka uspostavljanja socijalne pravde i globalnog mira.
“Svet budućnosti biće jedna sve zahtevnija borba protiv ograniÄ?enja naÅ¡e sopstvene inteligencije, a ne udobna ležaljka na koju se možemo ispružiti da bi nas služili naÅ¡i robovi – roboti.”
Viner 1966, str. 69.
Suprotstavljajući se militarizaciji nauÄ?nog istraživanja, osnivaÄ? kibernetike je svoje pokrovitelje iz redova ameriÄ?ke elite doveo u priliÄ?no nezgodnu situaciju. Na sreću po vladare Amerike, na Mejsi konferencijama bio je joÅ¡ jedan briljantan matematiÄ?ar, koji je istovremeno bio i fanatiÄ?an borac u Hladnom ratu: Džon fon Nojman (John von Neumann). Budući traumatizovan nacionalizacijom svoje porodiÄ?ne banke za vreme MaÄ‘arske revolucije iz 1919, njegovi antikomunistiÄ?ki stavovi su bili toliko ekstremni da je sredinom 1940-ih bio zagovornik preventivnog rata kako bi se Rusija spreÄ?ila da napravi nuklearno oružje (Hajms 1980, str. 235-236, 244-251). Dok je igrao glavnu ulogu i u razvoju atomske bombe, Fon Nojman je već primenjivao svoje matematiÄ?ke i organizacione veÅ¡tine u tada novoj oblasti informatike. Kada se 1946. održala prva Mejsi konferencija, njegov tim istraživaÄ?a radio je na izgradnji prototipa mejnfrejm kompjutera za ameriÄ?ku mornaricu (ÄŒeruci/Ceruzzi, 2003, str. 21-4). U Fon Nojmanu, ameriÄ?ka imperija je pronaÅ¡la gurua bez i jednog traga krivoverja.
Na prvim Mejsi konferencijama, politiÄ?ke razlike meÄ‘u prisutnima nisu bile oÄ?igledne. Ujedinjeni u antifaÅ¡istiÄ?koj borbi, Viner i Fon Nojman mogli su da zastupaju isti koncept kibernetike (Konvej i Sigelman 2005, str. 143-149; Hajns 1980, str. 201-207). MeÄ‘utim, kako su im se politiÄ?ki stavovi razilazili, ove dve zvezde Mejsi konferencija poÄ?ele su da zastupaju suparniÄ?ka tumaÄ?enja te meta-teorije. U svojoj leviÄ?arskoj verziji, veÅ¡taÄ?ka inteligencija optužena je kao apoteoza tehnoloÅ¡ke dominacije. Kada je formulisao svoj desniÄ?arski remiks, Fon Nojman je odveo kibernetiku u dijametralno suprotnom pravcu. Pre svega, njegovo tumaÄ?enje podvlaÄ?ilo je Ä?injenicu da je njegova univerzalna teorija nadahnuta proroÄ?anstvom o razumnim maÅ¡inama. Sredinom 1930-ih, Tjuring je kratko radio sa Fon Nojmanom na univerzitetu Prinston. ÄŒitavu deceniju pre no Å¡to je i sam poÄ?eo da se bavi informatikom, maÄ‘arski nauÄ?nik znao je sve o zamisli da se napravi univerzalna maÅ¡ina. Kada su dva Ä?ikaÅ¡ka psihologa poÄ?etkom 1940-ih primenila Tjuringovu teoriju kako bi objasnili procese ljudskog miÅ¡ljenja, Fon Nojman je bio oÄ?aran implikacijama njihovih pretpostavki.
PoÅ¡to je mehaniÄ?ki raÄ?unar napravljen po modelu ljudskog mozga, Voren Mekalok (Warren McCulloch) i Volter Pits (Walter Pitts) izneli su tezu da je svest isto Å¡to i raÄ?unanje. Poput elektriÄ?nih veza IBM-ovog tabulatora, neuroni su prekidaÄ?i koji prenose informacije u binarnom obliku (Mekalok i Pits 1943). OÄ?aran ovom inverzijom Tjuringove linije argumenta, Fon Nojman je postao uveren da je teorijski moguće napraviti razumnu maÅ¡inu. Ako se neuroni ponaÅ¡aju kao prekidaÄ?i u ljudskom mozgu, ventili bi se mogli upotrebiti kako bi se po istom principu napravio elektronski mozak (Fon Nojman 1966, str. 43-46, 1976, str. 308-311). Dok se bavio raÄ?unarskim istraživanjima za ameriÄ?ku vojsku, Fon Nojman je koristio ljudski mozak kao model za svoju eponimsku kompjutersku arhitekturu. SliÄ?no kao i Tjuring, ovaj prorok je tvrdio da će – kada se broj ventila u raÄ?unaru bude približio broju neurona u mozgu – maÅ¡ina moći da misli (Fon Nojman 1966, str. 36-41, 1976, str. 296-300, 2000, str. 39-52). U roku od decenije, Fon Nojman i njegove kolege opremaće ameriÄ?ku vojsku kibernetiÄ?kim vojnicima sposobnim da se bore u nuklearnom ratu i izvojuju svaku pobedu…
“Dr Mekalok: Å ta mislite o pravljenju raÄ?unarskih maÅ¡ina tako da ako budu oÅ¡tećene u vazduÅ¡nim napadima… mogu da zamene delove… i nastave sa radom?
Dr Fon Nojman: To su zaista pre kvantitativna no kvalitativna pitanja.”
Fon Nojman 1976, str. 324
Do ranih 1950-ih, ameriÄ?ki akademski svet i korporativni istraživaÄ?ki timovi preoteli su od svojih britanskih takmaca vodeći položaj u informatici. Od tada pa nadalje, sve najnaprednije maÅ¡ine pravile su se u Americi (ÄŒeruci 2003, str. 13-46). Ipak, stvorivÅ¡i kibernetiku bez Vinera, Fon Nojman se postarao da ove ameriÄ?ke laboratorije poÄ‘u Tjuringovim putem ka zamiÅ¡ljenoj budućnosti: kroz izgradnju veÅ¡taÄ?ke inteligencije. Metafora povratne sprege sada je dokazala da raÄ?unari funkcioniÅ¡u kao ljudi. Inputi informacija vode do autputa delovanja. Ako mozak radi kao maÅ¡ina, onda mora biti moguće razviti maÅ¡inu koja oponaÅ¡a funkcije mozga. Kompjuteri već raÄ?unaju brže od ljudi koji su ih izmislili. Ovladavanje složenostima matematiÄ?ke logike mora biti prvi korak ka opremanju ovih maÅ¡ina novim odlikama ljudske svesti. Jezik je skup pravila koji se može kodifikovati u obliku softvera. UÄ?enje iz novih iskustava može se programirati u hardver (Minski/Minsky, 2004, 2004a). Tokom 1950-ih i ranih 1960-ih, ameriÄ?ki nauÄ?nici su naporno radili na izgradnji misleće maÅ¡ine. Jednom kada bude imao dovoljnu moć obrade podataka, raÄ?unar će postati svestan (Edvards/Edwards, 1996, str. 239-273). Kada je IBM izbacio svoj mejnfrejm System/360 na Svetskom sajmu 1964, delovalo je kao da je Tjuringov san blizu svom ostvarenju.
Informatika za vreme Hladnog rata
ÄŒetvrt veka ranije, jedna od zvezda Svetskog sajma u Njujorku 1939. bio je Elektro (Electro): robot koji je – sudeći po njegovim publicistima – “… umeo da priÄ?a, hoda, broji na prste, pućka cigaretu, i razlikuje crvenu i zelenu boju pomoću fotoelektriÄ?ne ćelije” (Ims i Ims 1973, str. 105). Uprkos svoj svojoj pretvornosti, na ovoj izložbi je prvi put ponovljena zamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije. Pre Svetskog sajma 1939, roboti u knjigama i filmovima gotovo uvek su prikazivani kao frankenÅ¡tajnovska Ä?udoviÅ¡ta koja imaju nameru da uniÅ¡te svoje ljudske stvoritelje (Å elijeva/Shelley 1969; Lang 2003). Nadahnut svojim odlascima na izložbu, Isak Asimov (Isaac Asimov) je odluÄ?io da promeni tu negativnu sliku. BaÅ¡ kao i Elektro, roboti iz njegovih nauÄ?nofantastiÄ?nih priÄ?a su bezbedni i prijateljski nastrojeni proizvodi jedne velike korporacije (Asimov 1968, 1968a). Kada je 1964. godine otvoren Svetski sajam u Njujorku, ova pozitivna slika veÅ¡taÄ?ke inteligencije već je bila jedna od najpopularnijih zamiÅ¡ljenih budućnosti u Americi. I u nauÄ?noj fantastici i u nauÄ?noj stvarnosti, robot sluga bio je simbol boljih vremena koja će uslediti…
Na Svetskom sajmu u Njujorku 1939, Elektro se nadmetao sa aktuelnom tehnoloÅ¡kom ikonom tog trenutka: automobilom. Zanimljivosti koje se nisu smele propustiti bile su Demokrasiti (Democracity) – maketa izložena u zgradi Perisfera Njujork Stejta (New York State Perisphere) – i Futurama – diorama (Ä?esto “trodimenzionalna” predstava, model ili maketa odreÄ‘enog objekta ili pejzaža, prim. prev.) u paviljonu Dženeral motorsa (General Motors). Obe izložbe promovisale su viziju bogate i haj-tek Amerike 1960-ih. U zamiÅ¡ljenoj budućnosti, najveći deo stanovniÅ¡tva živi u porodiÄ?nim domovima u predgraÄ‘u i na posao odlazi vlastitim automobilom (publikacije sa izložbe/Exposition Publications 1939, str. 42-45, 207-209). Za najveći broj posetilaca Svetskog sajma u Njujorku 1939, ovo proroÄ?anstvo potroÅ¡aÄ?kog blagostanja zasigurno je delovalo kao utopijski san. AmeriÄ?ka ekonomija i dalje se oporavljala od najgore recesije u istoriji zemlje, Evropa je bila na rubu novog razornog graÄ‘anskog rata a istoÄ?na Azija već u vrtlogu smrtonosnih sukoba. No, kada se otvorio Svetski sajam 1964, najÄ?uvenije predviÄ‘anje sa izložbe 1939. već je bilo ostvareno. Koliko god da su posetioci bili podozrivi 1939, dvadeset godina kasnije, diorame Demokrasiti i Futurama delovale su izuzetno dalekovido. Do ranih 1960-ih, Amerika je postala potroÅ¡aÄ?ko druÅ¡tvo koje živi u predgraÄ‘u i poseduje kola. ZamiÅ¡ljena budućnost postala je savremena stvarnost.
“Automobil… upravlja celokupnim [druÅ¡tvenim] ponaÅ¡anjem, od ekonomije do govora. Protok saobraćaja je jedna od glavnih funkcija druÅ¡tva… Prostor [u gradskim oblastima] osmiÅ¡ljava se u skladu sa automobilistiÄ?kim potrebama, a saobraćajni problemi imaju veću važnost od smeÅ¡taja… Ä?injenica je da je za mnoÅ¡tvo ljudi auto možda i najvažniji deo njihovih ‘životnih prilika’.”
Lefebr/Lefebvre, 1984, str. 100
Budući da su se predviÄ‘anja sa izložbe iz 1939. u velikoj meri ostvarila, posetiocima Svetskog sajma u Njujorku 1964. moglo se oprostiti Å¡to su poverovali da će se njegove tri glavne zamiÅ¡ljene budućnosti takoÄ‘e ostvariti. Ko je mogao sumnjati u to da će – najkasnije do 1990. godine – većina Amerikanaca uživati u blagodetima svemirskog turizma i besplatne elektriÄ?ne energije? A ono Å¡to je najbolje od svega, živeće u svetu gde će im svesne maÅ¡ine biti verne sluge. MeÄ‘utim, vera ameriÄ?ke javnosti u te zamiÅ¡ljene budućnosti zasnivala se na pogreÅ¡nom osećaju kontinuiteta. Uprkos tome Å¡to je održan na istom mestu i Å¡to je na njemu uÄ?estvovalo mnogo istih izlagaÄ?a, Svetski sajam iz 1964. bio je usredsreÄ‘en na neÅ¡to sasvim drugo od njegovog prethodnika iz 1939. Dvadeset pet godina ranije, glavni eksponat na izložbi bio je automobil: potroÅ¡aÄ?ki proizvod masovne proizvodnje. Za razliku od njega, zvezde izložbe na Svetskom sajmu 1964. bile su tehnologije subvencionisane od strane države, a za potrebe voÄ‘enja Hladnog rata. Kompjuteri su izraÄ?unavali putanje kojima će se ameriÄ?ke rakete naoružane nuklearnim bombama kretati kako bi uniÅ¡tavale ruske gradove i njihove nesrećne stanovnike (Ajzeks/Isaacs i Dauling/Dowling 1998, str. 230-243). Ako je reprezentativni objekat na njegovom prethodniku iz 1939. bio motorizovani prevoz za mase, zvezde Svetskog sajma 1964. su bile maÅ¡ine atomskog armagedona.
Dok je osmiÅ¡ljavala svoj paviljon, korporacija IBM je morala da se pozabavi sa ovim problemom u odnosima sa javnošću. Nalik nuklearnim reaktorima i svemirskim raketama, i raÄ?unari su razvijani kao oružja za Hladni rat. ENIAC – prvi prototipski mejnfrejm napravljen u Americi – bio je maÅ¡ina za izraÄ?unavanje tabela kako bi se poboljÅ¡ala preciznost artiljerijskih topova (ÄŒeruci 2003, str. 15). Od ranih 1950-ih pa nadalje, IBM-ov raÄ?unarski odsek bio je usredsreÄ‘en na dobijanje narudžbi od Ministarstva odbrane (Pju/Pugh, 1995, str. 167-172). Koristeći mejnfrejmove nabavljene od ove korporacije, ameriÄ?ka vojska se spremala za nuklearni rat, pripremala invazije na “neprijateljske2 zemlje, upravljala bombardovanjem neprijateljskih meta, isplaćivala plate svojim trupama, vodila složene ratne igre i rukovodila lancem snabdevanja (Berkli/Berkeley 1962, str. 56-7, 59-60, 137-145). Zahvaljujući ameriÄ?kim poreskim obveznicima, IBM je postao tehnoloÅ¡ki lider raÄ?unarske industrije.
Kada se 1964. otvorio Svetski sajam u Njujorku, IBM je i dalje bio tesno povezan sa mnogo razliÄ?itih vojnih projekata. Ipak, paviljon te korporacije je bio posvećen promovisanju nauÄ?nofantastiÄ?ne maÅ¡tarije o razumnim maÅ¡inama. Kao i u sluÄ?aju predviÄ‘anja o besplatnoj energiji i svemirskom turizmu, zamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije onemogućavala je posetiocima Svetskog sajma da otkriju pravi motiv za izgradnju IBM-ovih mejnfrejmova: ubijanje miliona ruskih civila. Iako je imperijalna hegemonija supersila zavisila od atomskog oružja, njegovo posedovanje postajalo je sve problematiÄ?nije usled pretnje od sveopÅ¡teg uniÅ¡tenja. Dve godine ranije, SAD i Rusija umalo nisu greÅ¡kom uÅ¡le u katastrofalan rat oko Kube (Dalek/Dallek, 2003, str. 535-574). Uprkos tome Å¡to je propast za dlaku izbegnuta, supersile nisu bile sposobne da prekinu trku u naoružanju. U bizarnoj logici Hladnog rata, predupreÄ‘ivanje totalnog sukoba izmeÄ‘u dva bloka zavisilo je od neprestanog povećanja broja nuklearnih glava koje obe strane poseduju. Vladajućim elitama SAD i Rusije bilo je teÅ¡ko da priznaju sebi – a kamoli svojim graÄ‘anima – duboku iracionalnost te nove vrste vojnog nadmetanja. U retkom trenutku lucidnosti, ameriÄ?ki analitiÄ?ari izmislili su ironiÄ?nu skraćenicu za tu visokoriziÄ?nu strategiju “uzajamnog sigurnog uniÅ¡tenja”: MAD (skraćeno od Mutually Assured Destruction:, na engleskom “mad” znaÄ?i, otprilike, “ludilo”, uglavnom u nasilnom ili agresivnom obliku, prim. prev.) (Ajzeks i Dauling/Dowling, 1998. str. 230-243; Kan/Kahn 1960, str. 119-189).
OÄ?ekivano, propagandisti sa obe strane opravdavali su ogromno traćenje sredstava na trku u naoružanju promovisanjem mirnodopske primene vodećih tehnologija primenjenih u Hladnom ratu. Do otvaranja Svetskog sajma u Njujorku 1964, oružje genocida uspeÅ¡no je prepakovano u proizvode korisne za ljude. Nuklearna sila uskoro će svima obezbeÄ‘ivati besplatnu elektriÄ?nu energiju. Svemirske rakete ubrzo će voziti turiste na godiÅ¡nje odmore na Mesecu. Nestali su gotovo svi tragovi vojnog porekla tih tehnologija. SliÄ?no, u IBM-ovom paviljonu, mejnfrejm System/360 promovisan je kao preteÄ?a veÅ¡taÄ?ke inteligencije. Od posetilaca se oÄ?ekivalo da se dive tehnoloÅ¡kim dostignućima korporacije i da ne preispituju njenu sumnjivu ulogu u proizvodnji naoružanja. Užasi tekućeg Hladnog rata bili su skriveni Ä?udesima zamiÅ¡ljene budućnosti. IBM-ov ideoloÅ¡ki trik umnogome je olakÅ¡ala jedna od osobenih crta industrijske modernosti: kidanje eksplicitnih veza izmeÄ‘u proizvoda i njihovih proizvoÄ‘aÄ?a. Hiljadama godina, ratnici i sveÅ¡tenici otvoreno su od seljaÅ¡tva izvlaÄ?ili njihove proizvodne viÅ¡kove radi sopstvene koristi. MeÄ‘utim, kada su Evropljani poÄ?eli da privatizuju vlasniÅ¡tvo nad zemljiÅ¡tem i mehanizuju ruÄ?nu proizvodnju, rodio se jedan novi – i napredniji – ekonomski sistem: liberalni kapitalizam. Preduzetnici su dokazali da se, konkurentnošću cena, ljudskim radom posredno može daleko delotvornije upravljati nego neposrednim metodama feudalizma. Pustolovi su otkrili da je prodavanje robe na svetskom tržiÅ¡tu daleko unosnije od nametanja otimaÄ?ke najamnine zemljoradnicima na jednoj ograniÄ?enoj teritoriji. Prvi put u ljudskoj istoriji ostvarivao se proizvodni potencijal kolektivnog rada (Smit/Smith 1976, str. 1-287; 401-445; Marks/Marx 1976, str. 762-940).
U toj novoj ekonomiji od ljudi se zahtevalo da meÄ‘usobno komuniciraju putem stvari: robe, novca i kapitala. Podela rada u Ä?itavoj ekonomiji regulisala se cenama i platama koje je odreÄ‘ivala konkurencija na tržiÅ¡tu. MeÄ‘utim, kraj aristokratije i sveÅ¡tenstva nije okonÄ?ao klasnu vladavinu. Kada se rad kupuje i prodaje u kapitalistiÄ?koj ekonomiji, jednakost na tržiÅ¡tu vodi do nejednakosti na radnom mestu (Marks 1976, str. 270-280; Rubin 1972, str. 77-253). PoÅ¡to se roba razmenjivala za drugu robu iste vrednosti, ovaj novi oblik klasne vladavine bio je umnogome drugaÄ?iji od onoga koji mu je prethodio. Neposredno vladanje zamenjeno je posrednim izrabljivanjem. I, pre svega, sudbinu pojedinaca sada je odreÄ‘ivalo bezliÄ?no kretanje tržiÅ¡ta. Svetom viÅ¡e nisu vladali ljudi, već stvari.
“To znaÄ?i da se tajanstvenost robnog oblika sastoji prosto u tome Å¡to on ljudima druÅ¡tvene karaktere njihovog sopstvenog rada odražava kao karaktere koji objektivno pripadaju samim proizvodima rada, kao druÅ¡tvena svojstva koja te stvari imaju od prirode, a otuda im (se) i druÅ¡tveni odnos proizvoÄ‘aÄ?a prema celokupnom radu odražava kao druÅ¡tveni odnos koji izvan i nezavisno od proizvoÄ‘aÄ?a postoji meÄ‘u predmetima.”
Marks 1976, str. 164-165
Razvoj kapitalizma stvorio je mnogo složeniju podelu rada unutar ekonomije. Uporedo sa povećanjem broja radnih mesta u fabrikama i kancelarijama, nauÄ?no istraživanje se takoÄ‘e izdvojilo kao zaseban poziv (Bar/Bahr 1980; Smit 1976, str. 7-16). UspeÅ¡na preduzeća rasla su ne samo tako Å¡to su zapoÅ¡ljavala joÅ¡ radnika, već i ulažući u novu maÅ¡ineriju. U fetiÅ¡izovanom svetu kapitalizma, rast produktivnosti prouzrokovan sve prefinjenijom saradnjom rada i fabrici i nauÄ?nog istraživanja je bio izražen kroz razvoj najsavremenijih tehnologija. Sa ljudskom kreativnošću skrivenom iza robe, proces modernizacije dobio je kao svoj subjekat jedan izuzetno vidljiv objekat: “… automatski sistem maÅ¡inerije… pokretaÄ?ku snagu koja pokreće samu sebe.” (Marks 1973, str. 692)
Sredinom dvadesetog veka, fetiÅ¡izacija tehnologije dostigla je svoju apoteozu u proroÄ?anstvu o veÅ¡taÄ?koj inteligenciji. Za ljude koji su živeli u druÅ¡tvu u kojem je nova maÅ¡inerija naoko bila pokretaÄ?ka snaga druÅ¡tvene evolucije, Tjuringova i Fon Nojmanova tvrdnja da maÅ¡ine evoluiraju u živa bića nije delovala neobiÄ?no. Kada raÄ?unari vrÅ¡e svoje operacije, rad uložen u razvoj njihovog hardvera i pisanje njihovih programa nije neposredno vidljiv. OÄ?arani tehnoloÅ¡kim fetiÅ¡izmom, obožavatelji Tjuringa i Fon Nojmana ubedili su sebe da će elektronski mozak ubrzo moći da misli kao i ljudski mozak. U 1964-toj, raÄ?unarska moć mejnfrejma System/360 je bila toliko velika da se Ä?inilo kao da je ta IBM-ova maÅ¡ina na pragu svesnosti. Tvorevina je trebalo da postane stvoritelj.
KibernetiÄ?ka nadmoć
Na Svetskom sajmu 1964, zamiÅ¡ljene budućnosti privremeno su uspele da od ameriÄ?ke javnosti prikriju osnovni cilj svoje tri ikoniÄ?ne tehnologije. Ali, Ä?ak ni najbriljantnije opsenarsko umeće nije moglo veÄ?no da krije njihove lažne upotrebne vrednosti. Kako su decenije proticale, nijedno od predviÄ‘anja o kljuÄ?nim tehnologijama iz Hladnog rata datih na Svetskom sajmu se nije ostvarilo. ElektriÄ?na energija se i dalje naplaćivala, turisti nisu posećivali Mesec, a raÄ?unari joÅ¡ uvek nisu postali razumni. Za razliku od dalekovide vizije automobila za mase na Svetskom sajmu iz 1939, proroÄ?anstva o Ä?uvenim tehnologijama sa izložbe iz 1964. delovala su gotovo besmisleno dvadeset pet godina kasnije. Hiper-realnost se sudarila sa realnošću – i izgubila bitku.
Uprkos neuspehu svog proroÄ?anstva, IBM nije pretrpeo nikakvu Å¡tetu. Za razliku od nuklearne energije i putovanja u svemir, informatika je bila hladnoratovska tehnologija koja je uspeÅ¡no pobegla iz konteksta Hladnog rata. Od samog poÄ?etka, maÅ¡ine koje su se pravile za ameriÄ?ku vojsku prodavale su se i profesionalnoj klijenteli (Pju 1995, str. 152-155). Kada je IBM izgradio svoj paviljon za Svetski sajam 1964, zamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije morala je da Ä?uva u tajnosti viÅ¡e od sumnjive primene informatike u vojne svrhe. FetiÅ¡izam robe takoÄ‘e je odigrao svoju klasiÄ?nu ulogu skrivanja ljudkog rada u procesu proizvodnje. RaÄ?unari su opisivani kao “razumni” kako bi se zanemario naporan rad uložen u njihovo projektovanje, graÄ‘enje, programiranje i rukovanje. Iznad svega, proroÄ?anstvo o veÅ¡taÄ?koj inteligenciji sakrilo je ulogu tehnoloÅ¡kih inovacija u okviru ameriÄ?kih radnih mesta. Pronalazak raÄ?unara odigrao se u pravi Ä?as za krupan biznis. Tokom prve polovine dvadesetog veka, velike korporacije postale su dominantne institucije ameriÄ?ke ekonomije. Divovska fabrika automobila Henrija Forda (Henry Ford) postala je eponimni simbol nove druÅ¡tvene paradigme: fordizma (Ford i Krouter/Crowther 1922; Aljeta/Aglietta 1979). Kada im je to uvećavalo zaradu, korporacije su zamenjivale posredno regulisanje proizvodnje putem tržiÅ¡ta neposrednim nadzorom preko birokrata. Kako su plate kancelarijskih službenika postojano rasle, preduzećima je bilo potrebno sve viÅ¡e opreme kako bi se podigla produktivnost na radnom mestu. Mnogo pre pronalaska raÄ?unara, fordistiÄ?ke korporacije vodile su informatiÄ?ku ekonomiju uz pomoć tabulatora, pisaćih maÅ¡ina i drugih vrsta kancelarijske opreme (Benidžer/Beniger, 1986, str. 291-425). MeÄ‘utim, do poÄ?etka 1950-ih, mehanizacija u administraciji se zaustavila. Povećanje produktivnosti u kancelariji dobrano je zaostajalo za povećanjem produktivnosti u fabrici. Kada su se na tržiÅ¡tu pojavili prvi raÄ?unari, upravnici korporacija brzo su uvideli da nova tehnologija nudi reÅ¡enje za taj urgentan problem (Sobel 1981, str. 95-184). Posao velikog broja operatera tabulatora sada je mogla obavljati mnogo manja grupa inženjera uz pomoć mejnfrejm kompjutera (Berkli 1962, str. 5). JoÅ¡ i bolje, nove informatiÄ?ke tehnologije omogućavale su kapitalistima da prodube kontrolu nad svojim organizacijama. Mnogo viÅ¡e informacija o mnogo viÅ¡e tema sada je moglo da se sakuplja i obraÄ‘uje na sve složenije naÄ?ine. Upravnici su bili gospodari svega Å¡to su mogli da drže na oku.
Maltene od svog prvog pojavljivanja na radnom mestu, mejnfrejm je – sa dobrim razlogom – karikiran kao mehaniÄ?ko savrÅ¡enstvo birokratske tiranije. U nauÄ?nofantastiÄ?nim priÄ?ama Isaka Asimova, gospodin i gospoÄ‘a ProseÄ?ni bili su ponosni vlasnici sluge-robota. Ali, kada su prvi raÄ?unari stigli u ameriÄ?ke fabrike i kancelarije, tom novom tehnologijom upravljali su Å¡efovi, a ne radnici. U 1952, Kurt Vonegat (Kurt Vonnegut) je objavio nauÄ?nofantastiÄ?ni roman koji je satirizovao autoritarne ambicije korporativne informatike. U njegovoj antiutopijskoj budućnosti, vladajuća elita poverila je upravljanje druÅ¡tvom sveznajućoj veÅ¡taÄ?koj inteligenciji.
“EPIKAK XIV… odluÄ?ivao je koliko od svega Amerika i njene muÅ¡terije mogu dobiti i koliko će ih to stajati. I… odluÄ?ivaće koliko će inženjera i upravnika i… državnih službenika, i kakvih veÅ¡tina, biti potrebno da se roba isporuÄ?i; i koji će koeficijent inteligencije i nivo sposobnosti deliti korisne muÅ¡karce [i žene] od onih beskorisnih, i koliko se zaposlenih… može izdržavati na odreÄ‘enom nivou plate…”
Vonegat, 1969, str. 106
Na Svetskom sajmu 1964, IBM-ov paviljon obećavao je da će razumne maÅ¡ine biti sluge Ä?itavog Ä?oveÄ?anstva. A ipak, u isto vreme, njihove službe za prodaju su objaÅ¡njavale Å¡efovima velikih korporacija kako raÄ?unari uvode birokratsku vlast u savremeno druÅ¡tvo. Herbert Sajmon (Herbert Simon) – jedan od vodećih ameriÄ?kih teoretiÄ?ara upravljanja i nekadaÅ¡nji Fon Nojmanov kolega – predvideo je da će sve veća moć mejnfrejmova omogućiti preduzećima da automatizuju sve viÅ¡e i viÅ¡e administrativnih zadataka. Upravo kao u fabrici, i u kancelariji maÅ¡ine preuzimaju posao od ljudske radne snage. Sa pojavom veÅ¡taÄ?ke inteligencije, mejnfrejmovi će bezmalo sasvim zameniti birokratsku i tehniÄ?ku radnu snagu u okviru proizvodnje. Krajnji cilj je stvaranje potpuno automatizovanog radnog mesta. Preduzećima tada viÅ¡e neće biti potrebni ni fiziÄ?ki ni kancelarijski radnici koji bi pravili proizvode ili pružali usluge. ÄŒak će i sami upravnici većinom postati ‘viÅ¡ak’. Umesto njih, ameriÄ?kim fabrikama i kancelarijama upravljaće razumne maÅ¡ine (Sajmon 1965, str. 26-52). U zamiÅ¡ljenoj budućnosti veÅ¡taÄ?ke inteligencije, korporacija i raÄ?unar biće jedno isto. Ovo predviÄ‘anje temeljilo se na Fon Nojmanovom konzervativnom tumaÄ?enju kibernetike. U svojim tekstovima o teoriji upravljanja, Sajmon je izneo tezu da rad u jednom preduzeću nalikuje operacijama raÄ?unara. Kao i u psihologiji Mekaloka i Pitsa (McCulloch i Pitts), ovo poistovećivanje bilo je dvosmerno. Upravljanje radnicima izjednaÄ?avano je sa programiranjem raÄ?unara. Pisanje softvera bilo je nalik sastavljanju poslovnog plana. I zaposlenima i maÅ¡inerijom upravljalo se nareÄ‘enjima izdatim odozgo. RadniÄ?ka antiutopija ‘Veliki Brat’ superkompjutera je mutirala u kapitalistiÄ?ku utopiju kibernetiÄ?kog fordizma. IroniÄ?no, verodostojnost Sajmonove ideologije upravljanja zavisila je od toga hoće li njegovi Ä?itaoci zaboraviti žestoke kritike koje je na raÄ?un korporativne informatike izneo sam utemeljivaÄ? teorije sistema. Pozivajući se na Marksa, Viner je upozoravao da je osnovna uloga nove tehnologije pod kapitalizmom intenziviranje izrabljivanja radnika. Umesto da stvori viÅ¡e slobodnog vremena i poboljÅ¡a životne standarde, kompjuterizacija ekonomije će pod fordizmom povećati nezaposlenost i smanjiti plate (Viner 1967, str. 206-221). Da bi se izbegla Vonegatova antiutopija, ameriÄ?ki sindikalisti i politiÄ?ki aktivisti moraju se mobilisati protiv korporativnog Golema (Viner 1966, str. 54-55). U skladu sa Vinerom, kibernetika je dokazala kako veÅ¡taÄ?ka inteligencija predstavlja pretnju za ljudske slobode.
„Ne zaboravimo da je automatska maÅ¡ina… precizan ekvivalent robovske radne snage. Svaka radna snaga koja se nadmeće sa robovskom mora prihvatiti ekonomske uslove robovske radne snage.“
Viner 1967, str. 220
Za poslovne rukovodioce, Vonegatova i Vinerova noćna mora bila je njihov raÄ?unarski san na javi. MeÄ‘utim, ova korporativna vizija kibernetiÄ?kog fordizma znaÄ?ila je zaboravljanje istorije samog fordizma. Ova ekonomska paradigma zasnivala se na uspeÅ¡noj koordinaciji masovne proizvodnje sa masovnom potroÅ¡njom. IroniÄ?no, budući da su bile u većoj meri povezane sa druÅ¡tvenom realnošću, izložbe Demokrasiti i Futurama iz 1939. pružile su daleko taÄ?nije predviÄ‘anje razvojnog puta informatike nego Å¡to je to uÄ?inio IBM-ov paviljon iz 1964. BaÅ¡ kao i automobili dvadeset pet godina ranije, ova nova tehnologija polako se preobražavala iz retke, ruÄ?no pravljene maÅ¡ine u sveprisutnu robu masovno proizvedenu u fabrici. Isto kao i u Fordovim fabrikama, IBM-ovi mejnfrejmovi sastavljali su se na pokretnim trakama (Pju, Džonson/Johnson i Palmer 1991, str. 87-105, 204-210). Ti prvi koraci ka masovnoj proizvodnji raÄ?unara predvideli su ono Å¡to će biti najvažniji pomak u ovom sektoru dvadeset pet godina kasnije: masovnu potroÅ¡nju raÄ?unara. Po svojem spoljaÅ¡njem obliku, mejnfrejm System/360 iz 1964. je bio nezgrapan i skup prototip mnogo sitnijeg i jeftinijeg IBM-ovog PC-ja iz 1989.
ZamiÅ¡ljena budućnost veÅ¡taÄ?ke inteligencije bila je naÄ?in da se izbegne razmiÅ¡ljanje o verovatnim druÅ¡tvenim posledicama Å¡iroko rasprostranjenog posedovanja raÄ?unara. Ranih 1960-ih, superkompjuter tipa ‘Veliki Brat’ je pripadao moćnoj vladi i krupnom biznisu. Pre svega, povratna sprega je bila znanje onih nad kojima se vlada, monopolizovano od strane vladara. MeÄ‘utim, kao Å¡to je istakao Viner, fordistiÄ?ka proizvodnja će skupe mejnfrejmove neminovno pretvoriti u jeftinu robu (Viner 1967, str. 210-211). Zauzvrat, sve rasprostranjenije posedovanje raÄ?unara verovatno će poremetiti postojeći druÅ¡tveni poredak. Jer je povratna sprega informacija u okviru ljudskih institucija najdelotvornija kada je dvosmerna (Viner 1967, str. 67-73). Ponovnim povezivanjem zamisli i izvrÅ¡enja, kibernetiÄ?ki fordizam je podrivao druÅ¡tvene hijerarhije koje su bile osnova samog fordizma.
“… prosta koegzistencija dve jedinice infomacije relativno je male vrednosti, psim ako se te dve jedinice ne mogu uspeÅ¡no kombinovati u nekom umu… koji je sposoban da jednu oplodi pomoću druge. Ovo je upravo suprotno od organizacije u kojoj svaki Ä?lan prelazi unapred odreÄ‘eni put…”
Viner 1967, str. 172
Na Svetskom sajmu 1964, ta mogućnost definitivno nije bila deo IBM-ove zamiÅ¡ljene budućnosti. Pre nego da za cilj ima proizvodnju sve većeg broja sve efikasnijih maÅ¡ina po nižim cenama, korporacija je bila usredsreÄ‘ena na stabilno povećavanje sposobnosti svojih raÄ?unara kako bi saÄ?uvala svoj skoro potpuni monopol nad vojnim i korporativnim tržiÅ¡tem. Umesto da se maÅ¡ine veliÄ?ine sobe smanjuju i vremenom postaju stoni raÄ?unari, laptopovi i, naposletku, mobilni telefoni, IBM je bio uveren da će raÄ?unari zauvek ostati krupni i nezgrapni mejnfrejmovi. Korporacija je iz sve snage verovala da će – ukoliko taj put tehnoloÅ¡kog razvoja bude ekstrapoliran – rezultat sasvim sigurno biti veÅ¡taÄ?ka inteligencija. I, najvažnije, ovaj konzervativni oporavak kibernetike je podrazumevao da će svesne maÅ¡ine neizbežno evoluirati u oblike života naprednije od obiÄ?nih ljudi. FordistiÄ?ko razdvajanje izmeÄ‘u ideje i izvrÅ¡enja bi dostiglo svoju tehnoloÅ¡ku apoteozu.
OÄ?ekivano, IBM je bio reÅ¡en da se usprotivi tom uznemirujućem tumaÄ?enju sopstvene futuristiÄ?ke propagande. Na Svetskom sajmu 1964, paviljon korporacije je isticao utopijske mogućnosti informatike. Ipak, i upkros svojim najvećim naporima, IBM nije mogao da u potpunosti izbegne dvosmislenost sadržanu u zamiÅ¡ljenoj budućnosti veÅ¡taÄ?ke inteligencije. Ta fetiÅ¡izovana ideologija mogla je biti privlaÄ?na svim slojevima ameriÄ?kog druÅ¡tva samo u sluÄ?aju da će raÄ?unari ispunjavati najdublje želje obe strane na radnom mestu. Stoga je IBM, na izložbama u svom paviljonu, promovisao jednu jedinu viziju zamiÅ¡ljene budućnosti, viziju koja je objedinjavala dva nepomirljiva tumaÄ?enja veÅ¡taÄ?ke inteligencije. Sa jedne strane, radnicima se govorilo da će sve njihove potrebe zadovoljavati razumne maÅ¡ine-roboti: sluge koje se nikada ne umaraju, ne žale i ne dovode nareÄ‘enja u pitanje. Sa druge strane, kapitalistima se obećavalo da će njihovim fabrikama i kancelarijama upravljati razumne maÅ¡ine-roboti: proizvoÄ‘aÄ?i koji nikada ne zabuÅ¡avaju, ne izražavaju miÅ¡ljenje i ne Å¡trajkuju. Robot Robi viÅ¡e se nije mogao razlikovati od EPIKAK-a XIV. Iako tek na nivou ideologije, IBM je pomirio klasne podele u Americi 1960-ih. U zamiÅ¡ljenoj budućnosti, radnici viÅ¡e neće morati da rade, a poslodavcima viÅ¡e neće biti potrebni nameÅ¡tenici. NauÄ?nofantastiÄ?na maÅ¡tarija o veÅ¡taÄ?koj inteligenciji uspeÅ¡no je omela ljude u pokuÅ¡aju da preispitaju posledice uvoÄ‘enja informatike na radnom mestu. Posle posete IBM-ovom paviljonu na Svetskom sajmu 1964, bilo je suviÅ¡e lako poverovati da će svi biti na dobitku jednom kada maÅ¡ine dobiju svest…
Izmišljanje novih budućnosti
ÄŒetrdeset godina kasnije, joÅ¡ Ä?ekamo na zamiÅ¡ljenu budućnost veÅ¡taÄ?ke inteligencije. U meÄ‘uvremenu, neprestano su nam obećavali njen neposredni dolazak. Ipak, uprkos stalnim pomacima u razvoju hardvera i softvera, maÅ¡ine i dalje nisu sposobne da “misle”. Likovi u video-igrama i dalje predstavljaju neÅ¡to najbliže veÅ¡taÄ?koj inteligenciji sa Ä?ime se većina ljudi susrela. MeÄ‘utim, kao Å¡to pokazuje rastuća popularnost igranja na Internetu, gde ljudi i dalje igraju jedni protiv drugih, virtuelni protivnik je slaba zamena za ljudskog igraÄ?a. Kada se osvrnemo na istoriju ove zamiÅ¡ljene budućnosti, oÄ?igledno je da se ni optimistiÄ?ka ni pesimistiÄ?ka verzija veÅ¡taÄ?ke inteligencije nisu ostvarile. Robot Robi nije naÅ¡ verni sluga, a EPIKAK XIV ne upravlja naÅ¡im životima. Umesto da se razviju u razumne maÅ¡ine, raÄ?unari su postali potroÅ¡aÄ?ka roba. Mejnfrejmovi veliÄ?ine sobe nastavljaju da se smanjuju u sve sitnije i sitnije maÅ¡ine. U savremenom svetu raÄ?unari su svugde – a njihovi korisnici itekako znaju da su oni i dalje glupi.
Ovi ponovljeni neuspesi bi, oÄ?ekivano, trebalo da su nepovratno naruÅ¡ili ugled zamiÅ¡ljene budućnosti veÅ¡taÄ?ke inteligencije. Ipak, njeni zagovornici nemaju griže savesti. ÄŒetiri decenije posle Svetskog sajma 1964, IBM i dalje tvrdi da su njihove maÅ¡ine na pragu toga da postanu svesne (Bel/Bell 2004, str. 2). Upornost ove nauÄ?nofantastiÄ?ne fantazije pokazuje trajnu važnost Fon Nojmanovog konzervativnog pripajanja kibernetike raÄ?unarskoj industriji. Kao i ranih 1960-ih, veÅ¡taÄ?ka inteligencija i dalje pruža sjajan alibi za razvoj novih vojnih tehnologija. Stvaranje Singularnosti deluje daleko prijateljskije od saraÄ‘ivanja sa ameriÄ?kim imperijalizmom. A Å¡to je joÅ¡ važnije, ova zamiÅ¡ljena budućnost nastavlja da prikriva posledice uvoÄ‘enja informatike na radno mesto. I upravnicima i radnicima i dalje se obećavaju tehnoloÅ¡ka reÅ¡enja za druÅ¡tveno-ekonomske probleme. San o svesnim maÅ¡inama je mnogo bolji medijski materijal od realnosti kibernetiÄ?kog fordizma. Na poÄ?etku 21. veka, veÅ¡taÄ?ka inteligencija ostaje dominantna ideoloÅ¡ka manifestacija (velikog) obećanja informatike.
Verodostojnost ove zamiÅ¡ljene budućnosti zavisi od zaboravljanja njene sramotne istorije. Osvrt na to kako su ranije verzije proroÄ?anstva iznova i iznova diskreditovane podstiÄ?e duboki skepticizam po pitanju njegovog savremenog ponavljanja. NaÅ¡a liÄ?na frustriranost raÄ?unarskom tehnologijom bi trebalo da pokaže koliko je mala verovatnoća da se ona pretvori u Silicijumskog mesiju. ÄŒetrdeset godina posle Svetskog sajma u Njujorku, veÅ¡taÄ?ka inteligencija je postala zamiÅ¡ljena budućnost iz davne proÅ¡losti. Ono Å¡to nam umesto toga sada treba jeste daleko prefinjenija analiza potencijala informatike. Viner – ne Fon Nojman – mora biti naÅ¡ kibernetiÄ?ki guru. ProuÄ?avanje istorije bi trebalo da nas pouÄ?i kako da iznova izmislimo budućnost. Mesijanski misticizam se mora zameniti pragmatiÄ?nim materijalizmom. Pre svega, ta nova slika budućnosti bi trebalo da slavi raÄ?unare kao oruÄ‘a za uvećavanje ljudske inteligencije i kreativnosti. VeliÄ?anje hijerarhija kontrole mora se zameniti zagovaranjem dvosmernog deljenja informacija. Budimo nadahnuti i strastveni u zamiÅ¡ljanju naÅ¡ih sopstvenih vizija boljih vremena koja će uslediti (Barbruk/Barbrook i Å ulc/Shultz 1997; Barbruk 2000).
––––––––––––––––––––––––––––––––––––––––––––––––––––––––
Argumenti u ovom Ä?lanku dalje se razvijaju u knjizi RiÄ?arda Barbruka ZamiÅ¡ljene budućnosti: od razumnih maÅ¡ina do globalnog sela, Pluto, London 2007. ViÅ¡e tekstova i ažurirane informacije na adresi: www.imaginaryfutures.net
––––––––––––––––––––––––––––––––––––––––––––––––––––––––
Reference
Agar, J. (2001) Turing and the Universal Machine: the making of the modern computer, Cambridge: Icon.
Agar, J. (2003) The Government Machine: a revolutionary history of the computer, Cambridge Mass: MIT Press.
Aglietta, M. (1979) A Theory of Capitalist Regulation: the US experience, London: Verso.
Asimov, I. (1968) I, Robot, London: Panther.
Asimov, I. (1968a) The Rest of the Robots, London: Panther.
Bahr, H.-D. (1980) ‘The Class Structure of Machinery: notes on the value form’ in P. Slater (ed.), Outlines of a Critique of Technology, London: Ink Links, pp. 101-141.
Barbrook, R. (2000) ‘Cyber-communism: how the Americans are superseding capitalism in cyberspace’, Science as Culture, No. 1, Vol. 9, pp. 5-40.
Barbrook, R. and Schultz, P. (1997) ‘The Digital Artisans Manifesto’, ZKP 4, Ljubljana: nettime, pp. 52-53.
Bell, J. (2004) ‘Exploring the ‘Singularity’’.
Beniger, J. (1986) The Control Revolution: technological and economic origins of the information society, Cambridge Mass: Harvard University Press.
Berkeley, E. (1962) The Computer Revolution, New York: Doubleday.
Cameron, J. (dir.) (1984) The Terminator, MGM/United Artists.
Ceruzzi, P. (2003) A History of Modern Computing, Cambridge Mass: MIT Press.
Conway, F. and Siegelman, J. (2005) Dark Hero of the Information Age: in search of Norbert Wiener father of cybernetics, New York: Basic Books.
Dallek, R. (2003) John F. Kennedy: an unfinished life 1917-1963, London: Penguin.
DeLamarter, R. (1986) Big Blue: IBM’s use and abuse of power, London: Pan.
Eames, C. and Eames, R. (1973) A Computer Perspective: a sequence of 20th century ideas, events and artefacts from the history of the information machine, Cambridge Mass: Harvard University Press.
Editors of Time-Life Books (1964) Official Guide New York World’s Fair 1964/5, New York: Time.
Edwards, P. (1996) The Closed World: computers and the politics of discourse in Cold War America, Cambridge Mass: MIT Press.
Exposition Publications (1939) Official Guide Book of the New York World’s Fair 1939, New York: Exposition Publications.
Ford, H. and Crowther, S. (1922) My Life and Work, London: William Heinemann.
Heims, S. (1980) John von Neumann and Norbert Wiener: from mathematics to the technologies of life and death, Cambridge Mass: MIT Press.
Heims, S. (1991) The Cybernetics Group, Cambridge Mass: MIT Press.
Hodges, A. (1992) Alan Turing: the enigma, London: Vintage.
Honda (2004) ‘Asimo’.
Isaacs, J. and Dowling, T. (1998) Cold War: for 45 years the world held its breath, London: Bantam.
Kahn, H. (1960) On Thermonuclear War, Princeton: Princeton University Press.
Ray Kurzweil, (2004) ‘The Intelligent Universe’.
Lang, F. (dir.) (2003) Metropolis, Eurekavideo.
Laurence, W. (1964) Science at the Fair, New York: New York 1964-1965 Fair Corporation.
Lefebvre, H. (1984) Everyday Life in the Modern World, New Brunswick: Transaction Publications.
Leslie, S. (1993) The Cold War and American Science: the military-industrial complex at MIT and Stanford, New York: Columbia University Press.
Lewontin, R.C. (1997) ‘The Cold War and the Transformation of the Academy’ in A. Schiffin (ed.), The Cold War and the University, New Press, New York, pp. 1-34.
Luce, H. (1941) The American Century, New York: Time.
Marx, K. (1973) Grundrisse, London: Penguin.
Marx, K. (1976) Capital Volume 1: a critique of political economy, London: Penguin.
McCulloch, W. and Pitts, W. (1943) ‘A Logical Calculus of the Ideas Immanent in Nervous Activity’, Bulletin of Mathematical Biophysics, Volume 5, pp. 115-133.
Minsky, M. (2004) ‘Steps Towards Artificial Intelligence’.
Minsky M. (2004) ‘Matter, Mind and Models’.
von Neumann, J. (1966) The Theory of Self-Reproducing Automata, Urbana: University of Illinois Press.
von Neumann, J. (1976) ‘The General and Logical Theory of Automata’. Collected Works Volume V: design of computers, theory of automata and numerical analysis, Oxford: Pergamon Press, pp. 288-326.
von Neumann, J. (2000) The Computer and the Brain, Yale: Yale University Press.
Pugh, E. (1995) Building IBM: shaping an industry and its technology, Cambridge Mass: MIT Press.
Pugh, E., Johnson, L. and Palmer, J. (1991) IBM’s 360 and Early 370 Systems, Cambridge Mass: MIT Press.
Rubin, I. (1972) Essays on Marx’s Theory of Value, Detroit: Black & Red,.
Schaffer, S. (2000) ‘OK Computer’.
Schefter, J. (1999)The Race: the definitive story of America’s battle to beat Russia to the moon, London: Century.
Shelley, M. (1969) Frankenstein: the modern Prometheus, Oxford: Oxford University Press.
Simon, H. (1965) The Shape of Automation for Men and Management, New York: Harper.
Sobel, R. (1981) IBM: colossus in transition, New York: Truman Talley.
Smith, A. (1976) An Inquiry into the Nature and Causes of the Wealth of Nations Volume 1 & Volume 2, Chicago: University of Chicago Press.
Stanton, J. (2004) ‘Best of the World’s Fair’.
Stanton, J. (2004a) ‘Building the 1964 World’s Fair’.
Startrek.com (2005), ‘Data’.
Stern, R., Mellins, T. and Fishman, D. (1997) New York 1960: architecture and urbanism between the Second World War and the Bicentennial, Köln: Benedikt Taschen.
Turing, A., (2004) ‘On Computable Numbers, with an Application to the Entscheidungsproblem’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 58-90.
Turing, A., (2004a) ‘Lecture on the Automatic Computing Engine’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 378-394.
Turing, A., (2004b) ‘Intelligent Machinery’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 410-432.
Turing, A., (2004c) ‘Computing Machinery and Intelligence’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 433-464.
Turing, A., (2004d) ‘Intelligent Machinery, a Heretical Theory’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 472-475.
Turing, A., (2004e) ‘Can Digital Computers Think?’ in B. J. Copeland (ed.), The Essential Turing: seminal writings in computing, logic, philosophy, artificial intelligence and artificial life plus the secrets of the Enigma, Oxford: Oxford University Press, pp. 482-486.
Vinge, V. (1993) ‘The Coming Technological Singularity: how to survive in the post-human era’, VISION-21 Symposium, 30-31 March.
Vonnegut, K. (1969) Player Piano, St. Albans: Panther.
Wiener, N. (1948) Cybernetics – or command and control in the animal and the machine, New York: John Wiley.
Wiener, N. (1966) God & Golem, Inc.: a comment of certain points where cybernetics impinges on religion, Cambridge Mass: MIT Press.
Wiener, N. (1967) The Human Use of Human Beings: cybernetics and society, New York: Avon Books.
Wilcox, F. (dir.) (1999) Forbidden Planet, Turner Entertainment.