Reģistrējieties, lai lasītu žurnāla digitālo versiju, kā arī redzētu savu abonēšanas periodu un ērti abonētu Rīgas Laiku tiešsaistē.
Cilvēka smadzenēs neironi sakārtoti tīklos, lielos un mazos. Šie tīkli mainās ar katru mūsu darbību, ar katru domu: atsevišķie neironi tiek tajos iekļauti vai no tiem izslēgti, un saiknes starp tiem pastiprinās vai pavājinās. Šis process turpinās nepārtraukti (tas norisinās arī šobrīd, kad jūs lasāt šos vārdus), un tā mērogi ir prātam neaptverami. Jums ir aptuveni 80 miljardu neironu, ko savā starpā saista vairāk nekā 100 triljonu savienojumu. Galvaskausā satilpināta vesela zvaigznāju galaktika, un tā nemitīgi mainās.
Džefrijs Hintons, datorzinātnieks, kuru bieži dēvē par MI krusttēvu, pasniedza man nūju.
– Jums tā būs vajadzīga, – viņš sacīja un sāka soļot pa taku, kas cauri mežam stiepās līdz krastam. Tā izvijās cauri ēnainam izcirtumam, garām pāris šķūņiem, tad pa akmens pakāpieniem aizveda pie nelieliem steķiem. – Te ir slidens, – Hintons brīdināja, kad sākām lejupceļu.
Jaunas zināšanas iekļaujas jau eksistējošajos neironu tīklos ar pavisam sīku pārkārtojumu palīdzību. Reizēm tie ir īslaicīgi: ja jūs viesībās iepazīstaties ar kādu svešu personu, tās vārds, iespējams, jūsu atmiņas tīklos atstās tikai ātri gaistošas pēdas. Taču vārds var nostiprināties arī uz mūžu, teiksim, ja šis cilvēks kļūst par jūsu dzīvesbiedru. Jaunās zināšanas saplūst ar vecajām, tāpēc tas, ko jūs zināt, iespaido to, ko jūs uzzināt no jauna. Ja minētajās viesībās kāds jums pastāsta par savu ceļojumu uz Amsterdamu, nākamajā dienā muzejā jūsu neironu tīkli var jūs mazliet pastumt uz Vermēra gleznu pusi. Šādā veidā pavisam nelieli pārkārtojumi sagatavo augsni dziļām pārvērtībām.
– Te mums bija sakurts ugunskurs, – Hintons sacīja.
Mēs stāvējām uz klints, kas iesniedzās Džordža līcī; rietumos tas saplūst ar Hūronu. Ūdens klajums bija piebārstīts ar salām. To, uz kuras mēs tobrīd atradāmies, Hintons iegādājies 2013. gadā 65 gadu vecumā, par 44 miljoniem pārdevis Google savu trīs cilvēku jaunuzņēmumu. Pirms tam viņš 30 gadus bija datorzinātņu profesors Toronto Universitātē, vadošs pētnieks šīs disciplīnas necilajā apakšnozarē, kas pazīstama kā mākslīgie neironu tīkli un ko iedvesmojuši dabisko neironu savstarpējo savienojumu principi īstās smadzenēs. Mākslīgie neironu tīkli dažādos tiem uzticētos uzdevumos – attēlu klasificēšanā, runas atpazīšanā un tamlīdzīgās lietās – tolaik bija guvuši tikai pieticīgus panākumus, tāpēc vairums pētnieku tos labākajā gadījumā uzskatīja par viegli intriģējošiem, bet sliktākajā – par tukšu laika nosišanu. “Mūsu neironu tīkli nespēja paveikt neko vairāk par mazu bērnu,” atcerējās Hintons. 80. gados pēc “Terminatora” noskatīšanās viņu neuztrauca fakts, ka Skynet, mākslīgais intelekts, kas filmā cenšas iznīcināt pasauli, ir neironu tīkls; zinātnieks priecājās redzēt, ka šī tehnoloģija parādīta kā daudzsološa.
No nelielās iedobes, kur savulaik iekurta uguns, uz visām pusēm kā stari stiepās nokaitētajā akmenī izveidojušās plaisas. Hintons, kas ir garš un slaids cilvēks, pēc izcelsmes anglis, pabakstīja šo vietu ar savu spieķi. Viņš ir zinātnieks līdz kaulu smadzenēm un vienmēr komentē visu, kas norisinās fiziskajā pasaulē, – dažādu radību dzīvi, straumju virzienu līcī, salas ģeoloģiju.
– Zem malkas es toreiz paliku tērauda režģi, lai no apakšas piekļūtu gaiss, un tas sakarsa tik stipri, ka metāls kļuva gluži mīksts, – viņš stāstīja, un viņa balsī jautās izbrīns. – Izdevās kārtīga uguns – ir ar ko lepoties!
Hintons turpināja ķibināties vairākus gadu desmitus, būvējot dažādus atjautīgi iekārtotus neironu tīklus. Viņš iztēlojās jaunas metodes, ar kādām tos apmācīt un palīdzēt pilnveidoties. Viņš vervēja doktorantūras studentus, pārliecinot, ka neironu tīkli nebūt nav bezcerīga ideja. Hintons uzskatīja, ka strādā pie projekta, kas varētu nest augļus tālākā nākotnē, pēc kādiem 100 gadiem, kad viņš pats jau būs miris. Vienlaikus viņš, kļuvis par atraitni, audzināja divus mazus bērnus. Kādā īpaši smagā dzīves posmā, kad ģimenes dzīves un pētījumu pienākumi likās nepanesama nasta, Hintonam šķita, ka viņš jau izdarījis visu, ko spējis.
– 46 gadu vecumā man bija sajūta, ka tālāk ceļa uz priekšu nav, – viņš sacīja. Viņš neparedzēja straujo tempu, kādā pirms 10 gadiem sāka attīstīties neironu tīklu tehnoloģija. Datori kļuva ātrāki, un neironu tīkli, smeļoties internetā pieejamos datus, sāka transkribēt runu, spēlēt spēles, tulkot tekstus, pat vadīt automašīnas. Ap to laiku, kad Hintons pārdeva savu uzņēmumu, sākās īsts MI bums, kura rezultātā parādījās tādas sistēmas kā pētniecības laboratorijas OpenAI sarunbots ChatGPT un Google izstrādātais Bard, kuri, pēc daudzu domām, sākuši pārveidot pasauli jau gluži neparedzamā veidā.
Hintons devās tālāk gar krastu, un es sekoju; ieplaisājusī klints viegli šūpojās man zem kājām.
– Tagad skatieties, – viņš teica. Hintona priekšā bija liels, grubuļains bluķis cilvēka augumā; tas aizšķērsoja mums ceļu.
– Pāri var tikt šādi. Pārmetiet uz otru pusi savu nūju, – viņš pārsvieda savu spieķi pāri klints bluķim. – Atbalsts kājām ir te un te, bet ar rokām var pieturēties šeit.
Es vēroju, kā viņš bez piepūles pārvar labi pazīstamo šķērsli, un tad, jau krietni piesardzīgāk, atkārtoju šos soļus pats.
Ik reizi, kad mēs kaut ko mācāmies, mūsu neironu tīkli mainās – bet tieši kā tas notiek? Hintons un citi pētnieki, strādājot ar datoriem, gribēja atklāt mākslīgo neironu tīklu “mācīšanās algoritmus”, procedūras, kurās mākslīgo neironu savienojumu statistiskais “svars” varētu mainīties, lai uzņemtu jaunas zināšanas. 1949. gadā psihologs, vārdā Donalds Hebs, noformulēja vienkāršu likumu, kas paskaidro, kā cilvēks mācās; tā pamatideju mēdz izteikt ar frāzi “neironi, kas kopā “izšauj”, saslēdzas kopā”. Ja kāda neironu grupa smadzenēs sinhroni aktivizējusies, ir lielāka iespēja, ka tā atkārtos to vēlreiz; tas palīdz izskaidrot, kāpēc mums ir vieglāk atkārtot kādu darbību otrreiz. Taču drīz vien kļuva pilnīgi skaidrs, ka datorizētiem neironu tīkliem sarežģītu problēmu risināšanai vajag citu pieeju. 60. un 70. gados Hintons, toreiz vēl jauns zinātnieks, zīmēja burtnīcās neironu tīklus un iztēlojās, kā pie to robežām ierodas jaunas zināšanas. Kā vairāku simtu mākslīgu neironu tīkls uzglabātu jauniegūtu priekšstatu? Kā tas pārskatītu šo priekšstatu, ja tas izrādītos kļūdains?
Gar krastu mēs nonācām līdz Hintona mājai, vienīgajai ēkai uz šīs salas. Stiklā ieslēgtais nams uz pāļiem stāvēja platu, tumšu akmeņu kāpņu galā.
– Reiz mēs šeit iznācām un ieraudzījām, kā no ūdens galvu izbāž liela ūdensčūska, – Hintons stāstīja, kamēr mēs tuvojāmies mājai.
Tās viņam bija dārgas atmiņas. Hintona tēvs, ievērojams entomologs, kurš devis vārdu kādai mazpazīstamai metamorfozes stadijai, dēlā ieaudzinājis mīlestību pret aukstasiņu būtnēm. Bērnībā viņiem ar tēvu garāžā bija īpaša bedre, pilna ar odzēm, bruņurupučiem, vardēm, krupjiem un ķirzakām. Tagad, kad Hintons ir uz salas (viņš bieži te uzturas gada siltākajos mēnešos), viņš mēdz nest mājās atrastās čūskas, lai varētu tās vērot terārijā. Viņš ir labs necilvēcisku prātu novērotājs, jo visu mūžu domājis par domāšanu no pašiem tās pamatiem.
Pirms dažiem mēnešiem Hintons aizgāja no darba Google, kur bija strādājis kopš uzņēmuma pārdošanas. Viņš raizējās par MI potenciālu kļūt bīstamam un sāka sniegt intervijas, kurās runāja par šīs tehnoloģijas iespēju eksistenciāli apdraudēt cilvēci. Jo vairāk viņš izmantoja ChatGPT, MI sistēmu, kas apmācīta, izmantojot plašu cilvēka rakstītu tekstu kopumu, jo bažīgāks jutās. Kādu dienu viņam uzrakstīja no Fox News, lūdzot interviju par mākslīgo intelektu. Hintonam patīk uz e-pasta vēstulēm atbildēt ar vienu vienīgu sarkastisku frāzi (saņēmis pagaru sūtījumu no kādas kanādiešu izlūkošanas aģentūras, viņš atbildēja: “Snoudens ir mans varonis”), un viņš sāka eksperimentēt ar dažām šādām vienrindēm. Beidzot viņš palika pie teikuma “Fox News is an oxy moron”, “Fox News ir oksi morons”. Tad Hintons tāpat vien, lai mazliet uzjautrinātos, pajautāja ChatGPT, vai tas var paskaidrot viņa joku. Sistēma atbildēja, ka šis teikums liek saprast, ka Fox News izplata viltus ziņas, un, kad Hintons tai norādīja, ka vārds “oksimorons” viņa tekstā ar atstarpi sadalīts divās daļās (moron – kretīns), paskaidroja, ka Fox News rada atkarību – gluži kā oksikodons. Hintons apstulba. Šāds sapratnes līmenis, šķiet, norādīja, ka sākusies jauna ēra MI attīstībā.
Netrūkst iemeslu raizēties par mākslīgā intelekta ieviešanos. Piemēram, ir tikai saprātīgi bažīties par to, ka cilvēkus darbavietās var aizvietot datori. Taču Hintons līdz ar daudziem ievērojamiem tehnologiem, kuru vidū ir arī OpenAI ģenerāldirektors Sams Oltmans, brīdina, ka MI sistēmas var sākt domāt patstāvīgi un pat mēģināt kontrolēt vai iznīcināt cilvēci. Bija pārsteidzoši dzirdēt, ka viens no ievērojamākajiem MI pētniekiem pauž tik satraucošu viedokli.
– Cilvēki saka, ka tā esot tikai mazliet izpušķota automātiskā vārdu pabeigšana, – viņš man sacīja, stāvot savā virtuvē. (Hintons lielāko daļu mūža cietis no muguras sāpēm; ar laiku tās kļuva tik stipras, ka viņš atteicās no sēdēšanas. Kopš 2005. gada viņš sēdus nepavada ilgāk par stundu.)
– Paanalizēsim. Pieņemsim, ka jūs gribat iemācīties ļoti labi paredzēt nākamo vārdu. Ja jūs gribat to darīt ar patiesi labiem panākumiem, jums jāsaprot, kas tiek sacīts. Tas ir vienīgais ceļš. Tātad, mācot kaut kam labi paredzēt nākamo vārdu, jūs to būtībā piespiežat saprast. Jā, tā ir “automātiskā vārdu pabeigšana”, tikai jūs neesat kārtīgi padomājis, ko tad nozīmē tiešām laba automātiskā vārdu pabeigšana.
Hintons domā, ka “lielie valodas modeļi”, tādi kā GPT, kas darbina OpenAI sarunbotus, spēj saprast vārdu nozīmes un idejas.
Skeptiķi, kuri saka, ka mēs pārspīlējam MI spējas, norāda, ka starp cilvēka prātu un neironu tīklu ir liela atšķirība. Kaut vai tāda, ka neironu tīkli nemācās tā kā mēs: mēs uzkrājam zināšanas organiski, ar pieredzes palīdzību, izprotot savu pieredzējumu saistību ar realitāti un mums pašiem, turpretim mākslīgie neironu tīkli mācās abstrakti, lielos daudzumos apstrādājot uzkrātu informāciju par pasauli, kurā paši reāli nedzīvo. Taču Hintons apgalvo, ka MI sistēmu demonstrētais saprāts sniedzas ārpus tā mākslīgās izcelšanās novilktajām robežām.
– Kad mēs ēdam, mēs uzņemam pārtiku un to sašķeļam sīkās sastāvdaļās, – viņš man sacīja. – Tātad it kā varētu teikt, ka mana ķermeņa daļiņas ir veidotas no citu dzīvnieku daļiņām. Taču tas būtu ļoti maldinoši.
Hintons uzskata, ka, analizējot cilvēka radītus tekstus, lieli valodas modeļi, tādi kā GPT, izzina, kā darbojas pasaule, un rada sistēmu, kas spēj domāt; rakstīšana ir tikai daļa no tā, kas tai pa spēkam.
– Tas līdzinās procesam, kurā kāpurs pārvēršas par tauriņu, – viņš turpināja. – Kūniņā kāpurs kļūst par putru, un no šīs putras izveidojas tauriņš.
Viņš sāka rakņāties pa nelielu skapi turpat blakus virtuvei.
– Ahā! – viņš izsaucās.
Ar plašu žestu Hintons nolika uz virtuves letes kādu objektu – nedzīvu spāri. Tā bija nevainojami saglabājusies.
– Es to uzgāju laivu piestātnē, – viņš paskaidroja. – Tā bija tikko izlīdusi no kūniņas uz kāda akmens un žāvēja spārnus, un tā man izdevās to noķert. Paskatieties apakšā.
Hintons spāri bija noķēris uzreiz pēc tās iznākšanas no kāpura stadijas. Kāpurs bija pilnīgi cita izskata radījums, kam bija pašam savas acis un kājas; uz muguras tam bija caurums, pa kuru izlīdusi pieaugusī spāre.
– Spāres kāpurs ir, lūk, šāds briesmonis, kas dzīvo zem ūdens, – Hintons skaidroja. – Un, gluži kā filmā “Svešais”, spāre izlaužas no šī briesmoņa muguras. Kāpura attīstībā bija stadija, kad tas iekšpusē pārvērtās par putru, un tad no šīs putras tika izveidota spāre.
Šajā metaforā kāpurs ir dati, kas izmantoti mūsdienu mākslīgo neironu tīklu apmācībā, bet spāre simbolizē veiklo MI, kas no tiem izveidots. Šo metamorfozi izraisījusi dziļā mācīšanās, tehnoloģija, kuras izstrādē savu ieguldījumu devis arī Hintons. Es pieliecos tuvāk, lai spāri labāk aplūkotu; Hintons palika stāvam izslējies, kā viņš dara gandrīz vienmēr, cenšoties nemainīt stāju.
– Tā ir ļoti skaista, – viņš klusi sacīja. – Jūs saprotat manu domu. Šī būtne sākusies kā viena lieta, bet kļuvusi par kaut ko citu.
Pirms dažām nedēļām, kad Hintons mani uzaicināja paviesoties viņa salā, es iztēlojos dažādus iespējamos scenārijus. Varbūt viņš izrādīsies introverts, kurš vēlas dzīvot vienatnē, vai kaut kāds tehnoloģiju pasaules varenais ar Dieva kompleksu un futūristisku mūra norobežotu mājokli. Dažas dienas pirms manas ierašanās Hintons atsūtīja fotogrāfiju, kurā bija uzņēmis salas zālē saritinājušos klaburčūsku. Es netiku skaidrībā, vai jūtos iepriecināts vai iebiedēts.
Patiesībā, zinot, kādas mēdz būt privātas salas, Hintona mājvieta šķiet samērā pieticīga: tās kopējā platība ir 8000 kvadrātmetru. Pats Hintons ir pilnīgs pretstats stereotipiskajam Silīcija ielejas tehnomesijam. 75 gadu vecumā viņam ir Džošuas Reinoldsa portretu seja; augsto pieri ieskauj sirmi mati, bet zilo acu izteiksme bieži ir nenolasāma: emociju izrādīšana paliek mutes ziņā. Hintons ir dzēlīgs un mutīgs sarunu biedrs, un viņam patīk runāt par sevi (““Džefs” ir anagramma no ego fortissimo,” viņš man sacīja), taču nav egocentriķis; viņa dzīvē bijis pārāk daudz traģisku pārdzīvojumu.
– Man droši vien vajadzētu jums pastāstīt par savām sievām, – viņš man teica mūsu pirmajā sarunā. – Esmu bijis precējies trīs reizes. Viena laulība beigusies ar draudzīgu šķiršanos, bet pārējās divas – ar traģēdiju. Hintonam vēl joprojām ir labas attiecības ar Džoanu, pirmo sievu, ar kuru apprecējās jaunībā, bet otrā un trešā sieva, Rozalinda un Džekija, abas mirušas ar vēzi – 1994. un 2018. gadā. Pēdējos četrus gadus Hintons ir kopā ar Rozmariju Gārtneri, pensionētu socioloģi.
– Man šķiet, viņš ir tāds cilvēks, kuram vienmēr nepieciešams partneris, – viņa man teica ar maigumu balsī.
Hintons ir romantisks racionālists, kas savā pasaules uztverē spēj atrast līdzsvaru starp zinātni un emocijām. Viņa mājas vienīgajā lielajā istabā, kas aizņem lielāko daļu no pirmā stāva, mājvietu atradusi tumšsarkana kanoe. Viņi ar Džekiju laivu savulaik atrada salas mežā pilnīgā avārijas stāvoklī, un Džekija, kas bija mākslas vēsturniece, to kopā ar vairākām kanoe būvētājām pamazām atjaunoja; šie gadi sakrita ar viņas slimību.
– Viņa ar to devās pirmajā braucienā, – Hintons teica. Kopš tā laika neviens laivu nav lietojis.
Hintons noglabāja spāri, tad devās pie neliela stāvus darbam pielāgota rakstāmgalda, kur līdzās sudoku mīklu kaudzei un piezīmju grāmatiņai ar datora parolēm atradās viņa klēpjdators. (Šo piezīmju grāmatiņu viņš izmanto reti, jo izstrādājis mnemonisku sistēmu, kas ļauj sastādīt un paturēt prātā īpaši garas paroles.)
– Vai apskatīsim dzimtas koku?
Ar diviem pirkstiem uzrakstījis “Džefrija Hintona dzimtas koks” (rakstīšanai viņš nelieto skārienekrānu), viņš nospieda ievadīšanas taustiņu. Google 2013. gadā Hintona jaunuzņēmumu iegādājās daļēji tāpēc, ka viņa komanda bija atradusi veidu, kā ar neironu tīklu palīdzību būtiski uzlabot attēlu pazīšanas funkciju; tagad ekrānā spietoja bezgalīgi dzimtas koki.
Hintona ģimene pieder pie īpaša angļu zinātnieku dzimtu tipa; tie ir politiski radikāli un nepagurstoši jaunradoši cilvēki. Mazliet virs viņa dzimtas kokā ir viņa vectēvocis Sebastjans Hintons, bērnu kāpelēšanas rāmja izgudrotājs, un māsīca Džouna Hintone, fiziķe, kura piedalījusies Manhatanas projektā. Tālākā pagātnē Hintona senču vidū ir Lūsija Everesta, pirmā sieviete, kura kļuvusi par Karaliskā ķīmijas institūta vēlēto locekli, Čārlzs Hauards Hintons, matemātiķis, kas noformulējis priekšstatu par teseraktu, izeju uz ceturto dimensiju (tāds parādās filmā “Starp zvaigznēm”), un Džeimss Hintons, novatorisks ausu ķirurgs un poligāmijas popularizētājs. (“Kristus bija visas cilvēces pestītājs, bet es – sieviešu,” viņš esot izteicies.) 19. gadsimta vidū Hintona vecvecvectēvs, angļu matemātiķis Džordžs Būls, izstrādāja binārās domāšanas sistēmu, tagad pazīstamu kā Būla algebru, kas pamatā jebkādai skaitļošanai. Būls bija precējies ar Mēriju Everestu, matemātiķi un grāmatu autori; viņas tēvocis bija Džordžs Everests, topogrāfs, kura vārdā nosaukta pasaulē augstākā virsotne.
– Džefs ienāca zinātnē jau līdz ar piedzimšanu, – man teica Jans Lekēns, bijušais Hintona students un līdzstrādnieks, kas tagad nodarbojas ar MI kompānijā Meta. Tomēr ar to Hintona ģimenes īpatnības nebeidzas. Viņa tēvs Hauards Everests Hintons uzauga Meksikā revolūcijas laikā, 20. gadsimta otrajā desmitgadē, sava tēva pārvaldītajās sudraba raktuvēs.
– Viņš bija skarbs cilvēks, – Hintons man teica, runājot par tēvu.
Ģimenes leģenda vēsta, ka 12 gadu vecumā Hauards piedraudējis nošaut savu boksa treneri, kam bijusi pārāk smaga roka, un treneris to uztvēris pietiekami nopietni un aizbraucis no pilsētas. Runāt Hauards vispirms iemācījies spāniski, un Bērklijā, kur studējis, viņš izsmiets par akcentu.
– Viņš brāļojās ar bariņu filipīniešu, ko arī diskriminēja, un kļuva par vienu no Bērklijas radikāļiem, – Hintons stāstīja.
Brieduma gados Hauards savos politiskajos uzskatos bija nevis vienkārši marksists, bet staļinists; 1968. gadā, kad padomju tanki iebrauca Prāgā, viņš esot izsaucies: “Sen bija laiks!”
Skolas gados Hintona intereses nosliecās uz zinātnes pusi. Taču tēvs viņam ideoloģisku iemeslu dēļ aizliedza studēt bioloģiju; pēc Hauarda domām, ģenētiskā determinisma iespējamība bija pretrunā ar komunistisko pārliecību, ka cilvēka dabu var pārveidot. (“Es neieredzu jebkāda veida ticību,” Hintons sacīja, atminoties šo laiku savā dzīvē.) Hauards, Bristoles Universitātes pasniedzējs, bija sava veida entomoloģijas pasaules Indiana Džonss: viņš mēdza, paslēptus bagāžā, nelegāli vest mājās retus insektus no visas pasaules un bija ietekmīga savas nozares žurnāla redaktors. Hintons, kura otrais vārds arī ir Everests, juta milzīgu spiedienu paveikt kaut ko paliekošu. Viņš atceras, kā tēvs teicis – ja strādāsi divtik smagi kā es, tad varbūt, kad tev būs divreiz vairāk gadu nekā man tagad, tu būsi sasniedzis vismaz pusi no tā, ko es.
Kembridžā Hintons izmēģināja dažādas disciplīnas, taču sarūgtināts konstatēja, ka ne reizi nav bijis spožākais prāts starp kursabiedriem. Uz neilgu laiku viņš pameta koledžu, lai “lasītu drūmus romānus” un strādātu gadījuma darbus Londonā, tad atgriezās, lai izmēģinātu roku arhitektūras studijās – aptuveni uz vienu dienu. Pēdīgi, uz brīdi pievērsies pēc kārtas fizikai, ķīmijai, fizioloģijai un filozofijai, viņš, cerēdams beidzot atrast fokusa punktu, nolēma beigt universitāti ar grādu eksperimentālajā psiholoģijā. Viņš bieži piestaigāja uz konsultācijām pie morāles filozofa Bernarda Viljamsa, kuru, izrādījās, interesēja datori un cilvēka prāts. Kādu dienu Viljamss norādīja, ka mūsu dažādajām domām vajadzētu atspoguļot dažādu fizisku izkārtojumu mūsu smadzenēs; tas būtu pilnīgi atšķirīgi no situācijas datorā, kur programmatūra ir pilnīgi neatkarīga no skaitļošanas aparatūras. Uz Hintonu šī atziņa atstāja spēcīgu iespaidu; viņš atcerējās, kā vidusskolā kāds draugs viņam reiz teicis, ka cilvēka atmiņa varbūt uzkrāj faktus “hologrāfiski”, tas ir, izkliedētā veidā, taču tā, lai visam kopumam varētu piekļūt caur jebkuru atsevišķo daļu. Te Hintons saskārās ar “konekcionismu”, pieeju, kas apvieno neirozinātni, matemātiku, filozofiju un programmēšanu, pētot, kā neironi varētu sadarboties, lai “domātu”. Viens no konekcionisma mērķiem bija izveidot datorā smadzeņveidīgu sistēmu. Bija jau gūti zināmi panākumi: perceptrons, mašīna, ko 50. gados uzbūvēja psiholosgs un konekcionisma celmlauzis Franks Rozenblats, ar vienkāršas datora aparatūras palīdzību simulēja simtiem tīklā savienotu neironu. Kad šo aparātu pieslēdza gaismas sensoram, tas spēja pazīt burtus un formas, izsekojot, kurus mākslīgos neironus aktivizē konkrētas gaismas signālu kombinācijas.
Mājās Hintons stāvēja vai staigāja šurpu turpu aiz virtuves letes un pa visu pirmo stāvu. Viņš sagrauzdēja mums maizītes, sadabūja katram pa ābolam, tad, izmantojot pakāpienu soliņu, iekārtoja sev nelielu palīggaldiņu. Ģimenes spiediena ietekmē Hintons savulaik bija pamazām vien atradinājies no jebkādiem īslaicīga gandarījuma stāvokļiem.
– Man vienmēr paticis strādāt ar koku, – viņš ar ilgām atminējās, kamēr ēdām. – Skolā pēc stundām varēja iet uz galdniecības nodarbībām. Un es bieži esmu prātojis, vai nejustos laimīgs, ja būtu kļuvis par arhitektu, jo uz to man nevajadzēja piespiesties. Turpretim zinātnē man vienmēr nācies piespiesties. Ģimenes dēļ man vajadzēja zinātnē kaut ko sasniegt – vajadzēja atrast savu ceļu. Tajā bija arī zināms prieks, taču lielākoties bažas. Tagad jūtos neizsakāmi atvieglots, ka man tas izdevies.
Notinkšķēja Hintona klēpjdators. Kopš aiziešanas no Google viņa e-pasta vēstuļu kastīti pārpildīja lūgumi komentēt MI jautājumus. Viņš nesteidzīgi piegāja un paskatījās uz pienākušo vēstuli, tad atkal iegrima dzimtas koku mežā; katrs no tiem, šķiet, bija kaut kādā ziņā nepareizs.
– Paskatieties uz šo, – viņš teica.
Es piegāju un ieskatījos ekrānā. Tajā bija redzams “akadēmiskais dzimtas koks”, kurā Hintons bija attēlots pašā galotnē, bet viņa skolnieki ar saviem skolniekiem izkārtoti zem viņa. Koks bija tā izpleties, ka attēlu vajadzēja ritināt horizontāli, lai novērtētu Hintona ietekmes mērogu.
– Ak debestiņ, – Hintons noteica, pētot koku. – Viņa īstenībā nemaz nebija mana studente.
Viņš paritināja tālāk.
– Viņš bija lielisks, bet ne padomdevēja lomā, jo vienmēr pats visu varēja izdarīt labāk.
Hintons, kas vienmēr bijis rūpīgs jaunu talantu kopējs, šķiet, priecājas, ja skolniekiem izdodas viņu pārspēt: izvēloties jaunus līdzstrādniekus, viņš kandidātiem mēdza jautāt, vai viņi ir labāki par saviem skolotājiem. Atceroties tēvu, kas nomira 1977. gadā, Hintons sacīja:
– Viņš bija ārkārtīgi godkārīgs cilvēks. Un es bieži esmu prātojis, kā būtu, ja viņš būtu piedzīvojis manus panākumus, – vai viņš sirds dziļumos būtu bijis ar to apmierināts. Es taču tagad esmu sasniedzis vairāk nekā viņš.
Kā vēsta Google Scholar dati, Hintons tagad ir otrais visbiežāk pieminētais pētnieks psihologu vidū un visbiežāk pieminētais datorzinātnieks un kognīcijas pētnieks. Viņa karjeras gausais un ekscentriskais aizsākums Kembridžā daļēji izskaidrojams ar faktu, ka Hintons tolaik līkumoja pa lauku, kas vēl tikai veidojās.
– Neironu tīkli – ar tiem labās universitātēs nodarbojās pavisam nedaudzi cilvēki, – viņš sacīja, aizverot klēpjdatoru. – Ar to nevarēja nodarboties MIT. Ar to nevarēja nodarboties Bērklijā. Ar to nevarēja nodarboties Stanfordā.
Tas, ka Hintons ieņēma vietu topoša zināšanu tīkla rosības centrā, deva ievērojamas priekšrocības. Vēl gadiem ilgi daudzi no spožākajiem prātiem nāca tieši pie viņa.
Mums vajadzētu nocirst koku. Laiks ir labs, – nākamajā rītā sacīja Hintons.
Viņš bija ģērbies pogājamā kreklā, kas sabāzts kokvilnas darba biksēs, un īpaši neatgādināja mežstrādnieku, tomēr berzēja rokas priecīgās gaidās. Uz savas salas Hintons regulāri cērt kokus, lai veidotu kārtīgākas un skaistākas ainavas.
Arī pati māja vēl īsti nav pabeigta. Reti kura būvbrigāde gatava doties uz tik nomaļu vietu, un Hintona nolīgtie cilvēki savulaik pieļāvuši nevajadzīgas kļūdas (notekcauruli, pa kuru ūdeņiem būtu jātek kalnup, kārtīgi neieliktas grīdas), kas viņu tracina vēl tagad. Gandrīz katrā istabā paredzēts kāds koriģējošs miniprojekts, un manas viesošanās laikā Hintons kritiskajās vietās bija pielipinājis mazas zīmītes, lai palīdzētu nākamajiem celtniekiem; bieži viņš savas piezīmes bija uzrakstījis tieši uz pašiem būvmateriāliem. Pirmā stāva vannas istabā uzraksts uz grīdlīstes gabala, kas atsliets pret sienu, vēstīja: “Vannas istabā vajadzīgas šāda tipa grīdlīstes (kļavas koka līstes tikai dušas priekšā).” Viesu guļamistabas sienas skapī gar plaukta malu bija pielipināta krāsotāju līmlente: “Negruntēt plauktu, gruntēt plaukta balstu.”
Cilvēka prātam ir noderīgi sašķirot lietas, it kā pielipinot katrai šādu zīmīti; tas palīdz orientēties realitātē. Taču ko tāda darbība nozīmētu mākslīgā prātā gadījumā? Kad Hintons studēja Edinburgas Universitātes mākslīgā intelekta doktorantūrā, viņš daudz domāja par to, kā varētu datorā simulēt smadzeņu “zināšanas” funkciju. Tolaik, 70. gados, lielais vairums MI pētnieku bija “simbolisti”. Viņi uzskatīja: lai dators zinātu, teiksim, kas ir kečups, tā rīcībā jābūt vairākiem jēdzieniem, tādiem kā “ēdiens”, “mērce”, “ēdiena piedeva”, “salds”, “umami”, “sarkans”, “amerikāņu”, “fritēti kartupeļi”, “majonēze” un “sinepes”; kopā tie visi izveidotu kaut ko līdzīgu stalažām, uz kurām tad varētu uzkabināt tādu jaunu jēdzienu kā “kečups”. Lielā un dāsni finansētā MI projekta Cyc pamatā bija ideja, ka jāizveido plaša zināšanu krātuve, kurā zinātnieki, izmantojot īpašu valodu, varētu ievadīt jēdzienus, faktus un noteikumus, kas papildināti ar neizbēgamo izņēmumu uzskaitījumu. (Visi putni lido, izņemot pingvīnus, putnus ar savainotiem spārniem vai…)
Taču Hintons par šo pieeju šaubījās. Tā likās pārāk neelastīga, pārāk iecentrēta uz tāda tipa spriešanas prasmēm, kādas piemīt filozofiem un lingvistiem. Viņš zināja, ka dabā daudzi dzīvnieki uzvedas saprātīgi, kaut arī tiem nav piekļuves jēdzieniem, ko varētu izteikt vārdos. Tie vienkārši pieredzes ceļā iemācījušies būt saprātīgi. Saprātu darbina nevis zināšanas, bet mācīšanās.
Bieži vien šķiet, ka cilvēka domāšana sarežģītākajos līmeņos norisinās ar simbolu un vārdu starpniecību. Taču Hintons un viņa līdzautori Džeimss Makklelands un Deivids Ramelhārts uzskatīja, ka liela daļa no šī akta notiek līmenī, kas atrodas zemāk par jēdzieniem. Pievērsiet uzmanību, viņi rakstīja, kā, “uzzinot jaunu faktu par kādu objektu, mēdz mainīties tas, ko jūs gaidāt no citiem, līdzīgiem objektiem”: piemēram, ja jums pastāsta, ka šimpanzēm garšo sīpoli, jūs varētu minēt, ka tie patīk arī gorillām. Tas vedināja domāt, ka zināšanas prātā, visticamāk, ir “izkliedētas”, saliktas kopā no mazākiem klucīšiem, kas var būt kopīgi vairākām savā starpā radniecīgām idejām. Jēdzieniem “šimpanze” un “gorilla” tad nebūtu divi atsevišķi neironu tīkli; neironu saišķus, kas pārstāv dažādas konkrētas vai abstraktas “īpašības” – matainību, četrkājainību, primātību, dzīvniecību, saprātu, savvaļību un tā tālāk –, varētu aktivizēti vienējādi, lai apzīmētu šimpanzi, un mazliet atšķirīgi, domājot par gorillu. Šim īpašību mākonim varētu pievienot sīpolpatiku. Šādi būvēts prāts riskē nonākt apjukuma un maldu situācijā: salieciet minētās īpašības nepareizā izkārtojumā, un rezultāts būs kaut kāda fantastiska būtne, kas nav ne īsti gorilla, ne šimpanze. Taču smadzenes ar īsto mācīšanās algoritmu varētu svaru starp saviem neironiem sadalīt tā, lai priekšroka būtu saprātīgām, nevis nesakarīgām kombinācijām.
Hintons turpināja iedziļināties šajās idejās, vispirms Kalifornijas Universitātē Sandjego, kur piedalījās pēcdoktorantūras programmā (un apprecējās ar Džoanu, ko konsultēja datorredzes studijās), tad Kembridžā, kur darbojās lietišķās psiholoģijas pētniecībā, un vēlāk Kārnegija un Melona Universitātē Pitsburgā, kur viņš 1982. gadā kļuva par datorzinātnes pasniedzēju. Lielu daļu sava pētījumu budžeta viņš tur iztērēja par vienu vienīgu datoru, kurš bija pietiekami jaudīgs, lai darbinātu neironu tīklu. Drīz viņš apprecējās otrreiz – ar Rozalindu Zeilinu, molekulārbioloģi. Kārnegija un Melona Universitātē Hintona meklējumiem bija pirmie reālie rezultāti. Sadarbībā ar datorzinātnieku un neirozinātnieku Terensu Sejnovski viņš uzbūvēja neironu tīklu, ko nosauca par Bolcmaņa mašīnu. Šāds vārds sistēmai tika dots par godu Ludvigam Bolcmanim, 19. gadsimta austriešu fiziķim, kurš matemātiski aprakstīja, kā gāzes izturēšanās lielā mērogā saistīta ar tās daļiņu izturēšanos mazā mērogā. Hintons un Sejnovskis šos vienādojumus apvienoja ar mācīšanās teoriju.
Bija grūti pierunāt Hintonu, lai viņš man paskaidro, kas ir Bolcmaņa mašīna.
– Es jums pateikšu, kā tas ir, – viņš sacīja. – Tas ir kā ar mazu bērnu. Tu nolem doties pastaigā, un priekšā ir kalns. Un šis mazais bērns vispirms jāuzdabū kalna galā un pēc tam jānoved atkal lejā.
Viņš paskatījās uz mani – metaforisko bērnu – un nopūtās. Viņš gluži pamatoti bažījās, ka vienkāršots skaidrojums mani varētu maldināt, bet es pēc tam maldinātu citus.
– Bezjēdzīgi mēģināt paskaidrot sarežģītas idejas, kas jums nav saprotamas. Vispirms jums jāsaprot, kā šāda lieta darbojas. Citādi jūs vienkārši sarakstīsiet blēņas.
Visbeidzot viņš paņēma dažas papīra lapas, sāka zīmēt ar bultiņām savienotu neironu diagrammas un rakstīt vienādojumus, kam es centos sekot. (Pirms brauciena biju noskatījies Hana Akadēmijas kursu lineārajā algebrā.)
Viņš sacīja, ka viens veids, kā saprast Bolcmaņa mašīnu, ir iztēloties fotorobotu jeb sistēmu, ar kuras palīdzību atsevišķus sejas elementus – kuplas uzacis, zilas acis, līku degunu, plānas lūpas, lielas ausis un tā tālāk – var apvienot cilvēka portretā, ko izmanto, teiksim, policija. Lai fotorobots varētu strādāt, atsevišķajiem elementiem jābūt pienācīgā veidā noformētiem. Bolcmaņa mašīna var iemācīties ne tikai salikt vaibstus kopā vienā sejā, bet arī veidot tos pati, mainot savu mākslīgo neironu savienojumu svaru1. Tā sāk ar nejaušiem vaibstiem, kas izskatās kā televīzijas ekrāna “trokšņa” ņirbināšanās, tad tos precizē divās fāzēs – “nomoda” un “miega” fāzē. Nomodā mašīna vaibstus pielāgo tā, lai tie labāk iekļautos īstā sejā. Miega stāvoklī tā izfantazē neeksistējošu seju un tad maina tās vaibstus, lai tie būtu pēc iespējas nesaderīgāki.
Sapņi mašīnai pastāstīja, ko nemācīties. Šai sistēmai piemita zināma elegance: laika gaitā tā spēja attālināties no kļūdām un pietuvoties realitātei, un tai nevajadzēja, lai kāds pasaka, vai kaut kas ir pareizi vai nepareizi: tai vajadzēja tikai redzēt, kas ir, un sapņot par to, kā nav.
1983. gadā Hintons un Sejnovskis Bolcmaņa mašīnu aprakstīja zinātniskā publikācijā.
– Šo pētījumu es izlasīju, kad sāku studēt doktorantūrā, un sacīju: “Ar šiem vīriem man noteikti jāparunā; viņi ir vienīgie cilvēki pasaulē, kas saprot, ka mums vajag mācīšanās algoritmus,” – man teica Jans Lekēns.
80. gadu vidū Jošua Bendžio, dabisko valodu apstrādes un datorredzes celmlauzis, tagad Kvebekas MI institūta MILA zinātniskais direktors, maģistra darba gaitā iemācīja Bolcmaņa mašīnai atpazīt izrunātas zilbes.
– Džefs bija viens no pieaicinātajiem recenzentiem, – viņš atcerējās. – Un viņš uzrakstīja: “Tam nevajadzētu izdoties,” – vai kaut ko tādā garā.
Bolcmaņa mašīnas Bendžio versija bija veiksmīgāka, nekā Hintons gaidīja, un Bendžio vajadzēja vairākus gadus, lai saprastu, kāpēc. Vēlāk tas kļuva par ierastu situāciju. Turpmākajās desmitgadēs neironu tīkli bieži uzrādīja labākus rezultātus, nekā gaidīts, iespējams, tāpēc, ka mācību gaitā neironi bija izveidojuši jaunas struktūras. “Darba eksperimentālā daļa apsteidza teoriju,” atcerējās Bendžio. Bieži vien pētnieki vienkārši izmēģināja jaunas pieejas un tad skatījās, ko tīkli izdarīs.
Viņi pārcēlās uz Toronto Universitāti – arī tāpēc, ka Rozalindai riebās Ronalds Reigans, piezīmēja Hintons. Viņi adoptēja divus bērnus, zēnu un meiteni no Latīņamerikas, un dzīvoja pilsētas mājā.
– Es biju pasniedzējs ar sociālistisku pārliecību, pilnībā nodevies savam darbam, – teica Hintons.
Rozalinda bija cīnījusies ar neauglību, un viņai bija nācies saskarties ar neiejūtīgiem mediķiem. Iespējams, tieši šīs pieredzes dēļ vēlāk, kad viņai konstatēja olnīcu vēzi, Rozalinda izvēlējās homeopātiskās ārstēšanas ceļu.
– Tas likās vienkārši nesaprotami, – teica Hintons. – Nevar taču, kaut ko atšķaidot, padarīt to spēcīgāku.
Viņš nespēja saprast, kā molekulārbioloģe var kļūt par homeopātijas piekritēju. Un tomēr Rozalinda, apņēmusies pieveikt vēzi pašas spēkiem, atteicās no ķirurģiskas iejaukšanās pat tad, kad viņai izmeklēšanā atklāja greipfrūta izmēra audzēju. Vēlāk gan viņa operācijai piekrita, taču atteicās no ķīmijterapijas un tā vietā izmēģināja arvien dārgākus homeopātiskus līdzekļus – vispirms Kanādā, pēc tam Šveicē. Viņai konstatēja metastāzes un sekundārus audzējus. Rozalinda lūdza Hintonu pārdot viņu māju, lai varētu samaksāt par jauniem homeopātiskiem preparātiem.
– Tur nu es novilku svītru, – viņš atcerējās, samiedzis acis pēkšņā sāpju uzplūdā. – Es teicu: “Nē, māju mēs nepārdosim. Ja tu nomirsi, man vajadzēs rūpēties par bērniem, un viņiem būs daudz labāk, ja mēs varēsim palikt savās mājās.”
Rozalinda atgriezās Kanādā un uzreiz nonāca slimnīcā. Viņa noturējās vēl pāris mēnešus, taču neļāva bērniem nākt viņu apraudzīt līdz pat savai nāves dienai: viņa negribēja, ka bērni viņu redz tik smagi slimu. Visu slimības laiku Rozalinda bija pārliecināta, ka drīz izveseļosies. Aprakstot šos notikumus, Hintons vēl joprojām liekas smagi satriekts – dusmīgs, vainas apziņas mocīts, sāpināts, pilnīgā neizpratnē. Kad Rozalinda nomira, Hintonam bija 46 gadi, dēlam – pieci un meitai – trīs.
– Viņa sāpināja tuviniekus, nespēdama pieņemt domu, ka mirs, – viņš teica.
Šalkoņa pārtrauca agrās pēcpusdienas klusumu. Pa lielajiem logiem – no grīdas līdz griestiem – istabā gāzās spēcīgi, zeltaini saules stari; tie izgaismoja logos smalku zirnekļa tīmekļu apveidus. Hintons brīdi stāvēja, cenšoties saņemties.
– Liekas, ka man jāiet nozāģēt to koku, – viņš sacīja.
Mēs pa taku aizgājām līdz šķūnim. Hintons sameklēja mazu zaļu motorzāģi un divus pārus aizsargbriļļu.
– Rozmarija man neļauj zāģēt kokus, ja neviena cita nav klāt, – ja nu es gadījumā nocērtu sev roku vai kaut ko citu, – viņš teica. – Vai jūs esat vadījis motorlaivu?
– Nē, – es atbildēju.
– Tādā gadījumā man nevajadzētu nocirst sev labo roku.
Virs biksēm viņš drošībai aplika čapšu pāri.
– Es negribētu radīt jums iespaidu, ka zinu, ko daru, – viņš sacīja. – Bet pamatideja ir tāda, ka jāiezāģē daudz V veida iegriezumu un tad koks nogāzīsies.
Hintons devās pie koka, ko bija nolūkojis, pa ceļam pārliecinoties, ka krūmos nav čūsku. Tā bija rietumu tūja ar kuplu vainagu, varbūt kādus sešus metrus augsta. Hintons pacēla skatienu, lai redzētu, uz kuru pusi koks dabiski liecas, iedarbināja zāģi un sāka zāģēt stumbru liekšanās virzienam pretējā pusē. Viņš izvilka zāģi un atkārtoja to vēlreiz, izveidojot V formas griezuma vietu. Tad Hintons apstājās un pagriezās pret mani.
– Tā kā koks liecas prom no griezuma vietas, tad, iezāģējot dziļāk, šis “V” atvērsies un zāģa asmens neiestrēgs, – viņš paskaidroja.
Hintons klusējot strādāja ar motorzāģi, pa brīdim apstājoties, lai noslaucītu no pieres sviedrus. Saulē bija karsti, un katrā ēnainākā vietā spietoja odi. Es aplūkoju šķūņa sienu, pie kuras man neizprotamā un nebeidzamā rosībā ņēmās skudras un zirnekļi. Tālāk, takas galā, mirguļoja ūdens virsma. Tā bija skaista vieta. Tomēr man likās, ka saprotu, kāpēc Hintons šo ainavu vēlas mainīt: tieši te skaists, noapaļots pakalns nolaideni pārauga nelielā ieplakā, un, ja koka vairs nebūs, te ieplūdīs gaisma. Koks bija kļūda.
Pēc laiciņa Hintons ķērās pie jauna iegriezuma otrā pusē, veidojot to leņķī pret pirmo. Tad viņš sāka pārmaiņus darboties te šeit, te tur, pēc kārtas padziļinot abus iegriezumus, pakāpeniski tuvinot koku entropijas mirklim. Pēkšņi gandrīz bez skaņas virsroku ņēma gravitācija. Koks sabruka pats zem sava svara un pārsteidzoši klusi piezemējās. Ieplakā ielauzās gaismas straume.
Hintons no sirds mīlēja Bolcmaņa mašīnu. Viņš cerēja, ka tā vai kaut kas tai līdzīgs varētu būt pamatā mācīšanās procesam īstās smadzenēs.
– Tā tam vajadzētu būt, – viņš man sacīja. – Ja es būtu Dievs, es izdarītu tā, ka tā ir patiesība.
Tomēr tālākie eksperimenti parādīja, ka, turpinot augt un attīstīties, Bolcmaņa mašīnas mēdz piekāpties tajās iebūvētās nejaušības priekšā. “Mēs ar Džefu par Bolcmaņa mašīnu nebijām vienisprātis,” teica Lekēns. “Džefs uzskatīja, ka tas ir brīnišķīgi skaists algoritms. Man tas likās neglīts. Tas bija stohastisks,” proti, tā pamatā daļēji bija nejaušība. Turpretim atpakaļizplatīšanas algoritms, pēc Lekēna domām, bija “supertīrs”.
Atpakaļizplatīšana ir algoritms, ar ko vairāki savā starpā nesaistīti pētnieki nodarbojās kopš 60. gadiem. Laikā, kad Hintons kopā ar Sejnovski strādāja pie Bolcmaņa mašīnas, viņš paralēli sadarbojās ar Ramelhārtu un vēl vienu datorzinātnieku, Ronaldu Viljamsu, pētot atpakaļizplatīšanu. Viņiem bija aizdomas, ka šai metodei ir neizmantots potenciāls mācīšanās jomā, konkrētāk – viņi gribēja to apvienot ar neironu tīkliem, kas darbojas vairākos līmeņos.
Viena pieeja, kas palīdz saprast atpakaļizplatīšanu, ir iztēloties kafkisku tiesu sistēmu. Iedomājieties, ka neironu tīkla augstākais līmenis ir zvērinātie, kam bezgalīgi jāiztiesā dažādas prāvas. Zvērinātie tikko vienojušies par spriedumu. Šai distopijā, kurā norisinās atpakaļizplatīšana, tiesnesim ir iespēja pateikt zvērinātajiem, ka viņu spriedums ir aplams un ka viņi tiks sodīti tik ilgi, līdz beidzot labosies un nāks pie prāta. Zvērinātie konstatē, ka trīs no viņiem īpaši iespaidojuši pārējos, novirzot visu grupu pa nepareizo ceļu. Šī vainīgo identificēšana ir atpakaļizplatīšanas pirmais solis.
Nākamajā stadijā trīs nepareizi domājošie zvērinātie tiek skaidrībā, kā viņi tikuši maldināti. Viņi izvērtē visus, kas iespaidojuši viņu uzskatus, – vecākus, skolotājus, ekspertus un tamlīdzīgas autoritātes – un to vidū atrod tās personas, kas sniegušas maldinošu informāciju. Tālāk vainīgajām autoritātēm pašām jāidentificē savi iespaidotāji un to vidū jāatrod vaininieki. Tā sākas daudzas rekursīvas vainīgā meklēšanas kārtas, kurās katra nākamā līmeņa iespaidotāji sauc pie atbildības savus iespaidotājus – kā lavīna, kas pagriezusies atpakaļgaitā. Kad beidzot noskaidrots, kurš maldinājis kuru un kādā mērā, tīkls attiecīgi pielāgojas, pārkārtojoties tā, lai katrs indivīds mazliet mazāk klausītu savus “sliktos” ietekmes avotus un mazliet vairāk – “labos”. Viss process matemātiskā precizitātē atkārtojas atkal un atkal, līdz beidzot spriedumi – ne tikai šajā prāvā, bet arī visās citās – ir kolektīvi tik “pareizi”, cik vien iespējams.
1986. gadā Hintons, Ramelhārts un Viljamss publicēja trīs lappuses garu rakstu žurnālā Nature, kurā aprakstīja, kā šāda sistēma varētu strādāt neironu tīklā. Viņi atzīmēja, ka atpakaļizplatīšana, tāpat kā Bolcmaņa mašīna, nav “ticams smadzenēs noritoša mācību procesa modelis”: smadzenes atšķirībā no datora nevar “attīt atpakaļ lenti” un pārbaudīt savas pagātnes funkcijas. Tomēr atpakaļizplatīšana padara iespējamu neironu specializāciju, kas raksturīga smadzenēm. Īstās smadzenēs neironi reizēm izkārtoti struktūrās, kuru uzdevums ir risināt specifiskas problēmas: teiksim, redzes sistēmā dažādas neironu “kolonnas” atpazīst ārējās kontūras tajā, ko mēs redzam. Kaut kas līdzīgs vērojams arī atpakaļizplatīšanas tīklā. Augstākie līmeņi zemākos pakļauj sava veida evolucionāram spiedienam; tā rezultātā, teiksim, tīklā, kam dots uzdevums atšifrēt rokrakstu, noteikti līmeņi stingri koncentrējas uz līniju, izliekumu vai kontūru identificēšanu. Pakāpeniski visa sistēma kopumā spēj attīstīt “atbilstošas iekšējas reprezentācijas”. Tīkls zina un šīs zināšanas arī izmanto.
50. un 60. gados perceptrons un citi konekcionistu darba rezultāti tika uzņemti ar milzu sajūsmu; turpmākajos gados aizraušanās ar konekcionisma idejām noplaka. Šī publikācija par atpakaļizplatīšanas algoritmu iekļāvās zināmā atdzimstošas intereses vilnī un izpelnījās plašu ievērību. Taču reālā atpakaļizplatīšanas tīklu veidošana noritēja lēni – gan praktisku, gan arī konceptuālu iemeslu dēļ. Tīri praktiskā ziņā tāpēc, ka datori vēl bija visai gausi.
– Progresa mērogus būtībā varēja izteikt ar jautājumu “Cik dators spēj iemācīties vienas dienas laikā?”, – Hintons atcerējās. – Atbilde ļoti bieži bija: ne sevišķi daudz.
Savukārt konceptuāli neironu tīkls bija mīklaina lieta. To nebija iespējams saprogrammēt tradicionālajā ceļā. Nevarēja tajā ieiet un pēc savas patikas mainīt mākslīgo neironu savienojumu svaru. Jebkurā gadījumā bija visai sarežģīti saprast, ko šis svars nozīmē, jo apmācības gaitā tas bija pielāgojies un mainījies.
Mācīšanās varēja aiziet neceļos daudzos un dažādos veidos. Teiksim, pārmērīga pielāgošanās nozīmēja, ka tīkls būtībā tikai iegaumē apmācības datus, nevis iemācās tos vispārināt. Ne vienmēr bija vienkārši izvairīties no dažādiem klupšanas akmeņiem, jo mācīšanās bija paša tīkla ziņā. Tas bija gandrīz kā koka zāģēšana: pētnieki varēja veidot iegriezumu te vai tur, taču kādā brīdī bija spiesti atkāpties un vērot, kas notiks tālāk. Viņi varēja izmēģināt tādas metodes kā “ansamblēšana” (vāju tīklu apvienošana vienā spēcīgā tīklā) vai “agrā apturēšana” (tīklam ļauj mācīties, taču ne pārāk daudz). Viņi varēja “iepriekš apmācīt” sistēmu, ņemot Bolcmaņa mašīnu, liekot tai kaut ko iemācīties un tad pa virsu uzslāņojot atpakaļizplatīšanas tīklu tā, lai sistēmas “uzraudzītā” apmācība nesāktos, kamēr tā nav uzkrājusi pati savas sākotnējās zināšanas. Tad pētnieki ļāva tīklam mācīties, cerot, ka tas nonāks tieši tur, kur viņi vēlas.
Tika izstrādāti jauni neironu tīklu “arhitektūras” veidi: rekurentie un konvolutīvie tīkli ļāva sistēmām attīstīties, dažādos veidos izvēršot tālāk savu paveikto darbu. Taču bija tāds iespaids, ka pētnieki atklājuši kaut kādu citplanētiešu tehnoloģiju, kam neredz nekādu pielietojumu. Viņi grozīja šo Rubika kubu gan šādi, gan tādi, pūloties šajā kakofonijā atrast kaut kādu kārtību.
– Es vienmēr esmu bijis pārliecināts, ka tās nav nekādas blēņas, – teica Hintons. – Es to nesauktu par ticību; man tas vienkārši bija acīmredzami.
Smadzenes izmanto neironus, lai mācītos, tātad jābūt iespējamam arī sarežģītam mācīšanās procesam ar mākslīgo neironu tīklu palīdzību. Hintons bija gatavs strādāt divtik smagi un divtik garas stundas.
Kad tīklus apmācīja ar atpakaļizplatīšanas palīdzību, tiem vajadzēja pastāstīt, tieši kad tie pieļāvuši kļūdas un cik lielas. Tas prasīja milzīgus daudzumus precīzi klasificētu datu, kas ļautu tīkliem saskatīt atšķirību starp rokraksta cipariem 7 un 1 vai starp zeltaino retrīveru un īru seteru. Taču bija grūti atrast pietiekami lielas labi klasificētu datu datubāzes, bet apkopot jaunas ir ilgstošs un grūts darbs. Lekēns ar kolēģiem izveidoja milzīgu ar roku rakstītu ciparu datubāzi, ko vēlāk izmantoja, apmācot tīklus nolasīt ASV pasta sagādātos pasta indeksu paraugus. Datorzinātniece Feifeja Li Stanfordā vadīja gigantisku projektu ar nosaukumu ImageNet; lai izveidotu šo datubāzi, bija jāsavāc vairāk nekā 14 miljoni attēlu un ar rokām tie jāsašķiro 20 000 kategorijās.
Neironu tīkliem augot arvien lielākiem, Hintons izgudroja veidu, kā nogādāt zināšanas no liela tīkla uz daudz mazāku, kas varētu darboties tādā ierīcē kā mobilais telefons.
– To sauc par destilāciju, – viņš man paskaidroja, stāvot savā virtuvē. – Skolas laikos mākslas vēstures skolotājs mēdza mums rādīt diapozitīvus un komentēt: “Šis ir Rubenss, tas ir van Gogs, bet šis – Viljams Bleiks.” Bet tagad pieņemsim, ka skolotājs pasaka: “Tā, šis ir Ticiāns, bet visai īpatnējs Ticiāns, jo zināmos aspektos izskatās gandrīz pēc Rafaēla, kas Ticiānam ir ļoti neparasti.” Tas jau ir daudz noderīgāk. Tev ne tikai pasaka pareizo atbildi, bet arī nosauc citas ticamas versijas.
Destilācijas apmācībā viens neironu tīkls sniedz otram ne tikai pareizās atbildes, bet arī veselu klāstu ticamu atbilžu un to iespējamības rādītāju. Tās ir jau krietni bagātīgākas zināšanas.
Dažus gadus pēc Rozalindas nāves Hintons atjaunoja kontaktus ar Džaklīnu Fordu, mākslas vēsturnieci, ar kuru viņu pirms pārcelšanās uz ASV saistīja neilgas attiecības. Džekija bija vispusīgi izglītota, sirsnīga, zinātkāra un skaista. “Nu gan tu mērķē par augstu,” Hintonam teica māsa. Un tomēr Džekija aizgāja no darba Lielbritānijā, lai pārceltos uz Toronto. Viņi apprecējās 1997. gada 6. decembrī, Hintona 50. dzimšanas dienā. Sekojošās desmitgades bija laimīgākais laiks Hintona mūžā. Viņam atkal bija pilna ģimene. Viņa bērni mīlēja jauno mammu. Hintons un Džekija sāka apgūt Džordža līča salas. Atceroties šo laiku, Hintons raudzījās uz sarkano kanoe savā dzīvojamā istabā.
– Mēs to atradām mežā, apgāztu uz mutes, pārklātu ar brezentu; laiva bija pilnīgi satrunējusi no viena gala līdz otram, – viņš stāstīja. – Bet Džekija nolēma, ka tā tik un tā jāglābj, tieši tāpat, kā viņa izdarīja ar mani un bērniem.
Par atpakaļizplatīšanu Hintons nebija nekādā sajūsmā.
– Tīri intelektuāli tas ir visai neapmierinoši, – viņš man sacīja. – Atšķirībā no Bolcmaņa mašīnas šis algoritms ir viscaur deterministisks. Diemžēl tas vienkārši strādā labāk.
Uzkrājoties praktiskiem panākumiem, palēnām kļuva skaidrs, ka atpakaļizplatīšanas iedarbīgumu nav iespējams noliegt. Hintons stāstīja, ka 70. gados britu valdība nolīgusi matemātiķi, vārdā Džeimss Laithils, lai viņš nosaka, vai MI izpētei ir kaut cik ticamas izredzes vainagoties ar panākumiem. Laithils secinājis, ka tādu nav.
– Un viņam bija taisnība, – sacīja Hintons, – ja atzina par pareizu vispārējo pieņēmumu, ka datori var kļūt tūkstoškārt ātrāki, taču ne miljardu reižu ātrāki.
Hintons parēķināja galvā. Pieņemsim, ka viņš 1985. gadā jaudīgā pētījumiem paredzētā datorā palaidis kādu programmu un atstājis to darbojamies līdz šim brīdim. Ja viņš šo pašu programmu šodien palaistu kādā no ātrākajām patlaban MI izmantotajām sistēmām, tai nebūtu vajadzīga pat sekunde, lai panāktu 80. gados palaisto.
Divtūkstošo gadu sākumā, kad ar jaudīgiem datoriem nodrošināti daudzlīmeņu neironu tīkli sāka mācīties, izmantojot krietni lielākas datu kopas, Hintons, Bendžio un Lekēns sāka runāt par “dziļās mācīšanās” potenciālu. Šis darbs būtisku slieksni pārkāpa 2012. gadā, kad Hintons, Alekss Križevskis un Iļja Suckevers nāca klājā ar AlexNet, astoņu līmeņu neironu tīklu, kas ar laiku iemācījās ar cilvēka līmeņa precizitāti atpazīt ImageNet attēlos redzamos objektus. Hintons ar Križevski un Suckeveru nodibināja kompāniju un pārdeva to Google. Hintons un Džekija nopirka salu Džordža līcī – “vienīgo īsto greznību, ko esmu atļāvies”, sacīja Hintons.
Pēc diviem gadiem Džekijai atklāja aizkuņģa dziedzera vēzi. Ārsti viņai deva vienu vai divus gadus.
– Viņa bija neticami drosmīga un neticami racionāla, – Hintons teica. – Viņa nemēģināja izlikties, ka tā nav realitāte, izmisīgi nemēģināja aizbēgt no patiesības. Viņas nostāja bija šāda: “Es varu ļauties sevis žēlošanai, vai arī es varu sev pateikt, ka man nav palicis daudz laika un es labāk darīšu, ko varēšu, lai to izbaudītu un parūpētos par to, kā jutīsies citi.”
Viņi ar Hintonu pamatīgi iedziļinājās statistikā un tikai tad izlēma, kādu ārstēšanu izvēlēties. Lielā mērā pateicoties ķīmijterapijai, Džekijai izdevās šo solīto vienu vai divus gadus pagarināt līdz trim. Salas mājā, kad viņa vairs netika galā ar kāpnēm, Hintons uzmeistaroja nelielu auklā iesietu grozu; tajā Džekija varēja nolaist tējas krūzi no otrā stāva uz pirmo, kur viņš to sasildīja mikroviļņu krāsnī. (“Vajadzēja vienkārši pārcelt mikroviļņu krāsni uz augšstāvu,” Hintons atzīmēja.)
Vēlāk mēs stāvējām atbalstījušies ar elkoņiem uz Hintona augstā rakstāmgalda, kamēr viņš savā klēpjdatorā rādīja man Džekijas fotogrāfijas. Kāzu dienas foto viņi ar Hintonu stāv kopā ar viņa bērniem kaimiņa dzīvojamā istabā brīdī, kad viens otram dod laulību solījumu. Hintons izskatās starojošs un mierīgs; Džekija viegli saņēmusi viņa roku savējās. Vienā no pēdējiem attēliem, ko viņš man parādīja, viņa skatās objektīvā no tumšsarkanās kanoe, kurā airējas pa sīki ņirbošo ūdeni steķu tuvumā.
– Tas bija 2017. gada vasarā, – Hintons sacīja.
Džekija nomira nākamajā aprīlī. Tā gada jūnijā Hintonam, Bendžio un Lekēnam piešķīra Tjūringa balvu, Nobela prēmijas ekvivalentu datorzinātnes jomā.
Hintons ir pārliecināts, ka neironu tīkli ir spējīgi uz jūtām pavisam reālā nozīmē.
– Es domāju, ka jūtas ir kontrafaktuāls izteikums par kaut ko, kas būtu varējis izraisīt zināmu rīcību, – viņš man todien sacīja. – Pieņemsim, ka man rodas vēlēšanās iekraut kādam pa ģīmi. Tas nozīmē: ja man nebūtu sociālu inhibīciju, ja es pats sevi neatturētu no šādas rīcības, es tiešām ņemtu un šim cilvēkam iegāztu. Tātad, kad es saku, ka esmu dusmīgs, tas ir īsāks veids, kā pasacīt, ka es jūtu vēlēšanos pastrādāt agresīvu aktu. Jūtas ir veids, kā runāt par noslieci uz noteiktu rīcību.
Viņš stāstīja, ka pats 1973. gadā redzējis “frustrācijas pārņemtu MI”. Kāds dators bijis pieslēgts pie divām TV kamerām un vienkāršas robota rokas; sistēmai dots uzdevums uz galda izkliedētos klucīšus salikt rotaļu auto formā.
– Tas bija grūts uzdevums, īpaši 1973. gadā, – Hintons paskaidroja. – Redzes sistēma prata atpazīt atsevišķos gabaliņus katru par sevi, bet, kad tie bija sakrauti kaudzītē, tā klucīšus vairs nespēja nolasīt. Un ko tā izdarīja? Tā mazliet atkāpās un tad – blaukt! – izbārstīja klucīšus pa visu galdu. Būtībā sistēma nespēja tikt galā ar notiekošo, tāpēc ieviesa savas izmaiņas – ar krietni spēcīgu žestu. Ja tā būtu izdarījis cilvēks, mēs sacītu, ka tās ir bezspēcīgas dusmas. Dators nespēja klucīšus pareizi saskatīt, tāpēc trieca tos pret galdu.
Šajā gadījumā jūtas nozīmēja gribēt to, kas nav pieejams.
– Es mīlu šo māju, bet reizēm tā ir skumja vieta, – Hintons sacīja, kamēr aplūkojām fotogrāfijas. – Tāpēc, ka viņa mīlēja te būt, bet tagad viņas te nav.
Saule bija jau gandrīz norietējusi, un Hintons ieslēdza nelielu lampu virs rakstāmgalda. Viņš aizvēra datoru un pastūma brilles augstāk uz deguna. Viņš izslēja plecus, atgriežoties tagadnē.
– Es gribēju jums pastāstīt par Rozu un Džekiju, jo viņas ir svarīga manas dzīves daļa, – Hintons sacīja. – Taču vispār šis stāsts diezgan lielā mērā attiecas arī uz mākslīgo intelektu. Pastāv divas pieejas MI. Ir noliegums, un ir stoicisms. Pirmā reakcija uz MI visiem ir: “Tam jādara gals.” Tāpat kā pirmā reakcija uz vēzi visiem ir: “Kā mēs to izgriezīsim?” Taču ir svarīgi saprast, kuros gadījumos tāda izgriešana ir tikai fantāzija.
Viņš nopūtās.
– Mēs nedrīkstam dzīvot, atsakoties pieņemt faktus, – Hintons sacīja. – Mums jābūt reālistiem. Mums jādomā: “Kā rīkoties, lai tas cilvēcei nebūtu tik briesmīgi, kā ir iespējams?”
Cik noderīgs – vai bīstams – izrādīsies MI? Skaidri to neviens nezina, daļēji tāpēc, ka neironu tīkli ir tik dīvaini. 20. gadsimtā daudzi pētnieki gribēja uzbūvēt datoru, kas atdarinātu smadzenes. Taču, lai gan neironu tīkli, tādi kā OpenAI GPT modeļi, ir līdzīgi smadzenēm tādā ziņā, ka darbina miljardiem mākslīgo neironu, patiesībā tie būtiski atšķiras no bioloģiskām smadzenēm. Šodienas MI ir balstīti mākonī un mājo datu centros, kas tērē enerģiju industriālos mērogos. Dažā ziņā tie ir pilnīgi nejēgas, bet citā – viedi domātāji; tie domā miljoniem lietotāju vietā, taču tikai tad, kad tiek uz to pamudināti. Tie nav dzīvi. Tie, visticamāk, jau izturējuši Tjūringa testu un atbilst šim sen izsludinātajam standartam, ko noformulējis datorzinātņu celmlauzis Alans Tjūrings: par datoru, kurš spēj sarunā pārliecinoši imitēt cilvēku, var pamatoti teikt, ka tas domā. Un tomēr intuīcija mums var sacīt, ka kaut kas pārlūkprogrammas cilnē dzīvojošs vienkārši nevar domāt tā kā mēs. Šīs sistēmas spiež jautāt, vai vērā ņemama ir tikai tāda veida domāšana, kāda raksturīga mums.
Pēdējos Google pavadītajos gados Hintons galveno uzmanību veltījis centieniem radīt tradicionālam prātam līdzīgāku mākslīgo intelektu, izmantojot skaitļošanas aparatūru, kas vislielākajā mērā atdarina īstas smadzenes. Šodienas MI mākslīgo neironu savienojumu svaru izsaka skaitliski – tā, it kā smadzenes uzglabātu datus pašas par sevi. Taču īstajās, analogajās smadzenēs šis svars ir iekļauts neironu fiziskajos savienojumos. Hintons strādāja pie mākslīgas šīs sistēmas versijas, izmantojot specializētas datora mikroshēmas.
– Ja tas izdotos, būtu fantastiski, – viņš man sacīja.
Procesori spētu mācīties, variējot savu vadītspēju. Svars būtu integrēts aparatūrā, tāpēc to nevarētu pārkopēt no vienas mašīnas otrā; katram mākslīgajam intelektam vajadzētu mācīties pašam.
– Tiem nāktos iet skolā, – sacīja Hintons. – Bet varētu pāriet no megavata uz 30 vatiem. Runājot viņš noliecās uz priekšu un ar skatienu ieurbās manī; uz mirkli es ieraudzīju Hintonu sludinātāju. Zināšanas, ko uzkrātu katrs MI, tiktu zaudētas, ja to izjauktu, tāpēc šo pieeju viņš sauca par “mirstīgo skaitļošanu”.
– Mēs atteiktos no nemirstības, – viņš teica. – Literatūrā dievi mīļotās sievietes dēļ atsakās no savas dievišķības, vai ne? Šajā gadījumā mēs iegūtu kaut ko daudz svarīgāku, proti, energoefektivitāti. Cita starpā tā veicina individualitāti: tā kā smadzenes var darboties, barojoties no auzu biezputras, pasaule var pabarot miljardiem smadzeņu, un katras no tām ir citādas. Un katras smadzenes var mācīties nepārtraukti, atšķirībā no mākslīgā intelekta, kas tiek vienreiz apmācīts un tad izstumts pasaulē.
Kā zinātnisks projekts mirstīgais MI varētu mūs pietuvināt prasmei darināt tādas pašas smadzenes kā mūsējās. Taču Hintons ar dziļu nožēlu nonācis pie atziņas, ka digitālais saprāts varētu būt spēcīgāks par dabisko.
– Analogā intelekta gadījumā, – viņš sacīja, – ja smadzenes nomirst, iet bojā arī zināšanas. Turpretim digitālā intelekta gadījumā, ja nomirst atsevišķs dators, tādu pašu savienojumu svaru iespējams izmantot citā datorā. Un, pat ja nomirtu visi digitālie datori, ja vien mēs būtu kaut kur uzglabājuši datus par savienojumu svaru, tad varētu izgatavot jaunu digitālo datoru un izmantot tajā tās pašas svara vērtības. Desmit tūkstoši neironu tīklu var vienlaicīgi iemācīties 10 000 dažādu lietu un tad apmainīties ar to, ko iemācījušies.
Šī nemirstības un atkārtojamības kombinācija, viņš saka, liek domāt, ka “mums ir pamats bažām, ka digitālais intelekts var pārņemt varu no bioloģiskā”.
Kā būtu pareizi aprakstīt prāta dzīvi, ko dzīvo digitāls intelekts bez mirstīga ķermeņa vai individuālas identitātes? Pēdējos mēnešos vairāki MI pētnieki, runājot par GPT, sākuši lietot apzīmējumu “spriestspējīga mašīna”; iespējams, tas ir veids, kā novelt no pleciem to nastu, par ko kļuvis vārds “domājošs”, kuru mums ir grūti definēt.
– Cilvēki mums pārmet, ka lietojam šos vārdus – “domāšana”, “zināšana”, “saprašana”, “izlemšana” un tā tālāk, – man sacīja Bendžio. – Taču, lai gan mēs pilnībā neizprotam šo vārdu nozīmi, tie mums ievērojami palīdzējuši veidot analoģijas, kas nāk talkā saprast, ar ko tieši mēs nodarbojamies. Mums bijis ļoti noderīgi runāt par “iztēli”, “uzmanību”, “plānošanu” vai “intuīciju”: tas bijis rīks, kas ļauj precizēt un iedziļināties. Bendžio uzskata:
– Liela daļa no mūsu darba bijusi prāta “intuīcijas” aspekta risināšana.
Intuīciju var saprast kā domas, kuras mēs nevaram izskaidrot: prāts tās rada mūsu vietā, neapzināti – veidojot saiknes starp to, ar ko saskaramies tagadnē, un mūsu pagātnes pieredzi. Mēs mēdzam saprātu vērtēt augstāk par intuīciju, taču Hintons uzskata, ka mēs esam daudz intuitīvāki nekā paši atzīstam.
– Gadiem ilgi simboliskā MI ļaudis teikuši, ka cilvēka patiesā daba ir domājoša mašīna, – viņš man sacīja. – Manuprāt, tā ir galīga aplamība. Mūsu patiesā daba ir analoģiju veidošanas mašīna, kam pa virsu uzbūvēta neliela saprāta virskārta; tā ļauj mums pamanīt, kad analoģijas piedāvā nepareizas atbildes, un izlabot tās.
Kopumā pašreizējā MI tehnoloģija ir pļāpīga un intelektuāla: pie robežas, aiz kuras sākas fiziskā pasaule, sākas klupšana.
– Jebkurš pusaudzis var iemācīties vadīt automašīnu 20 praktisku nodarbību stundās ar minimālu uzraudzību, – man teica Lekēns. – Jebkurš kaķis var, pēc kārtas uzlecot uz dažādām mēbelēm, nokļūt uz paša augstākā plaukta. Mums šodien nav MI sistēmu, kas būtu kaut vai tuvu šādām spējām, ja neskaita pašbraucošās automašīnas, bet tās prasa pārspīlēti lielu projektēšanu – veselas pilsētas kartografēšanu, simtiem inženieru, simtiem tūkstošu apmācības stundu. Grūti notveramo fiziskās intuīcijas problēmu risināšana būs nākamās desmitgades grūtākais uzdevums.
Un tomēr pamatdoma ir vienkārša: ja to var neironi, tad var arī neironu tīkli.
Hintonam ir aizdomas, ka skeptisko attieksmi pret MI potenciālu, lai cik mierinoša tā liktos, bieži motivē nepamatota pārliecība par cilvēka neatkārtojamību. Pētnieki žēlojas, ka MI sarunboti “halucinē”, sacerot ticamas atbildes uz jautājumiem, kas viņus pārsteidz nesagatavotus. Taču Hintons iebilst pret šādu terminoloģiju.
– Mums būtu jāsaka “safabricē”, – viņš man sacīja. – Par halucināciju var runāt, ja mēs domājam, ka ir kādi sensorie ievaddati – dzirdes halucinācijas, redzes halucinācijas, ožas halucinācijas. Bet vienkārši izdomātas atbildes – tā ir safabricēšana.
Viņš atsaucas uz gadījumu ar Džonu Dīnu, prezidenta Ričarda Niksona Baltā nama juriskonsultu, kuru izvaicāja par Votergeitu, kad viņš vēl nezināja, ka viņa pieminētās sarunas ir ierakstītas. Dīns savu stāstījumu safabricēja, kļūdoties dažādās detaļās, sajaucot, kurš ko sacījis.
– Taču pamatdoma bija pareiza, – Hintons teica. – Viņš atcerējās šos notikumus un prātā savas atmiņas projicēja uz dažādiem personāžiem. Būtībā viņš sacerēja nelielu ludziņu. Tā darbojas cilvēka atmiņa. Mūsu prātā nav reālas robežas starp vienkāršu sacerēšanu un patiesības stāstīšanu. Pastāstīt patiesību nozīmē gluži vienkārši pareizi sacerēt. Jo visu taču izšķir neironu savienojumu svars, vai ne?
Šādā aspektā ChatGPT spēja izdomāt ir trūkums, taču vienlaikus arī norāda uz cilvēka saprātam līdzīgu intelektu.
Hintonam bieži jautā, vai viņš savu darbu nožēlo. Viņš to nenožēlo. (Nesen viņš kādam žurnālistam aizsūtīja kārtējo vienrindas e-pasta vēstuli – “sūtu Jums dziesmu” – ar saiti uz Edītes Piafas “Non, je ne regrette rien”.) Savulaik, kad viņš sāka savus pētījumus, saka Hintons, neviens nedomāja, ka šī tehnoloģija izrādīsies veiksmīga, un pat tad, kad tā sāka gūt panākumus, neviens nedomāja, ka to izdosies sasniegt tik drīz. Tieši tāpēc, ka Hintons uzskata MI par patiesi saprātīgu, viņš domā, ka tas dos savu ieguldījumu daudzās jomās. Tomēr viņš raizējas, kas notiks, kad cilvēki varas pozīcijās to izlietos nelietīgi.
– Droši vien nav grūti iztēloties, kā Vladimirs Putins rada autonomu nāvējošu ieroci un dod tam uzdevumu nogalināt ukraiņus, – sacīja Hintons.
Viņš uzskata, ka autonomus ieročus vajadzētu aizliegt – ASV Bruņotie spēki pie tiem aktīvi strādā –, taču brīdina, ka pat labdabīga autonoma sistēma spēj nodarīt lielus postījumus.
– Ja gribat, lai sistēma ir efektīva, tai jādod spēja radīt pašai savus apakšmērķus, – viņš teica. – Problēma ir tāda, ka pastāv viens ļoti vispārīgs apakšmērķis, kas palīdz sasniegt gandrīz jebkuru mērķi: iegūt lielāku kontroli. Pētījuma jautājums ir – kā novērst iespēju, ka šīm sistēmām radīsies vēlēšanās iegūt pilnīgu kontroli? Un atbildi uz to nezina neviens.
(Viņš atzīmēja, ka kontrolei nav jābūt fiziskai: “Tas var notikt tā, kā Tramps iebruka Kapitolijā: ar vārdiem.”)
Nozarē Hintona uzskatus gan atbalsta, gan apstrīd.
– Es nebaidos no MI, – man teica Lekēns. – Domāju, ka būs samērā viegli tos projektēt tā, lai to mērķi sakristu ar mūsējiem. Izplatīta tāda ideja, ka, ja sistēma ir domājoša, tā vēlēsies dominēt. Taču dominances tieksmei nav nekāda sakara ar intelektu – tai ir sakars ar testosteronu.
Es atcerējos Hintona mājā redzētos zirnekļus un to tīklus, kas klāja logu stikla virsmu. Tiem arī nebija vēlēšanās dominēt – un tomēr šo radījumu posmkājiskais intelekts tos mudināja arvien paplašināt savu teritoriju. Dzīvas sistēmas bez centralizētām smadzenēm, piemēram, skudru kolonijas, “nevēlas” neko darīt, tomēr tik un tā atrod barību, šķērso upes un nogalina neskaitāmus konkurentus. Taisnība var izrādīties tiklab Hintonam, kā Lekēnam. Metamorfoze vēl nav galā. Mēs nezinām, par ko kļūs MI.
– Varbūt vienkārši vajag to atslēgt? – es Hintonam jautāju, domājot MI vispār. – Vai tas ir absolūti nesaprātīgs jautājums?
– Nebūt nav nesaprātīgi pateikt: “Bez tā mums būs labāk – tas vienkārši nav tā vērts”, – viņš atbildēja. – Tāpat kā mums varbūt būtu bijis labāk bez fosilajiem kurināmajiem. Bez tiem mēs būtu krietni primitīvāki radījumi, taču varbūt nebija vērts tā riskēt. – Tad viņš stoiski piemetināja: – Taču tas nenotiks. Tāpēc, ka tāda ir sabiedrība. Un tāpēc, ka starp nācijām ir tāda sāncensība. Ja ANO ideja tiešām darbotos, kaut kas tamlīdzīgs šo procesu tiešām varētu apturēt. Lai gan pat šādā gadījumā būtu svarīgi, ka MI ir tik ļoti noderīgs. Tam ir milzīgs potenciāls darīt labu, teiksim, tādās jomās kā medicīna – un, protams, arī dot kādai nācijai priekšrocības ar autonomu ieroču palīdzību.
Pirms dažiem mēnešiem Hintons atteicās parakstīt populāru petīciju, kas aicināja pasludināt vismaz sešus mēnešus ilgu pārtraukumu MI izpētē.
– Ķīna nepārtrauks darbu pie MI, – viņš teica.
– Ko tad mums vajadzētu darīt? – es jautāju.
– Nezinu, – Hintons atbildēja. – Būtu jau lieliski, ja šī lieta būtu kā klimata pārmaiņas, kur var pateikt: klausieties, mums vai nu jābeidz dedzināt oglekli, vai arī jāatrod efektīvs ceļš, kā izvākt no atmosfēras oglekļa dioksīdu. Tur vismaz ir saprotams, kā izskatās iespējamais risinājums. Šajā gadījumā tā nav.
Hintons uzvilka zilu vējjaku. Mēs taisījāmies doties uz laivu piestātni sagaidīt Rozmariju.
– Viņa atvedusi jaunus krājumus! – viņš smaidot sacīja.
Izejot pa durvīm, es pagriezos un pārlaidu skatu Hintona mājai. Lielajā istabā glāstošajos saules staros laistījās tumšsarkanā kanoe. Ap to pusaplī bija izvietoti krēsli tā, lai sēdētāji pa logiem redzētu ūdens klaju. Uz maza galdiņa bija sakrauti žurnāli. Tā bija skaista māja. Cilvēka prāts dara vairāk nekā tikai spriež; tas eksistē laikā, tas rēķinās ar dzīvi un nāvi un būvē ap sevi pasauli. Tas apkopo sevī jēgu – it kā gravitācijas spēku iespaidā. MI varbūt spētu iztēloties šo māju, es domāju. Bet vai tam šāda vieta būtu vajadzīga?
Pa meža taku mēs devāmies garām šķūņiem un lejup pa pakāpieniem līdz steķiem, tad iekāpām Hintona laivā. Debesis todien bija nevainojami zilas; spirgts vējš uzkūla ūdenī viļņus. Hintons stāvēja pie stūres. Es sēdēju laivas priekšgalā, vēroju, kā garām slīd citas salas, un domāju par MI. Dažiem liekas, ka tas ir Kopernika mēroga stāsts, kurā mūsu intuitīvos priekšstatus par cilvēka prāta unikalitāti izspiež domājošas mašīnas. Citiem tas vairāk līdzinās leģendai par Prometeju: mēs esam nozaguši uguni un riskējam apdedzināties. Ir cilvēki, kuri domā, ka mēs maldinām paši sevi – ka mūs apved ap stūri mūsu pašu mašīnas un uzņēmumi, kas cer gūt no tām peļņu. Dīvainā kārtā tas tikpat labi varētu būt arī stāsts par cilvēka iespēju robežām. Ja mēs būtu dievi, tad varētu uzbūvēt citādu MI; realitātē tieši šī versija ir tas, ko mēs esam spējuši dabūt gatavu. Tomēr man gribot negribot bija jādomā par šo stāstu tīri ēdeniskā gaismā. Tiecoties no jauna radīt zināšanu veidošanas sistēmu, kas darbojas mūsu prātā, mēs esam paķēruši aizliegto augli; tagad mēs riskējam tikt izraidīti no savas burvīgās pasaules. Bet kurš gan atteiktos no iespējas uzzināt, kā darbojas zināšana?
Laivu piestātnē Hintons izveicīgi ar vēja palīdzību vispirms strauji tuvojās krastmalai, tad pagrieza laivu un ļāva, lai vējš to aizvirza pie pareizās laipas.
– Es mācos, – viņš lepni noteica.
Mēs izkāpām krastā un gaidījām pie veikala Rozmariju. Pēc brītiņa Hintons iegāja nopirkt elektrisko spuldzīti. Es paliku ārā, baudot siltos saules starus, un tad ieraudzīju, ka pāri auto stāvlaukumam uz manu pusi nāk slaida sieviete ar dzīvu skatienu un gariem sirmiem matiem.
Mēs ar Rozmariju sarokojāmies. Tad viņa paskatījās man pāri plecam. No krūmāja veikala priekšā smaidot iznira Hintons.
– Ko tu tur esi man atnesis? – viņa jautāja.
Hintons pacēla rokās melni dzeltenu prievīščūsku; tā bija varbūt kādu metru gara, savijusies līkumu līkumos kā atspere.
– Es nāku ar dāvanu, – viņš sacīja galantā tonī. – Es to atradu krūmos.
Rozmarija iesmējās un pagriezās pret mani.
– Tas ir vienkārši tipiski, – viņa teica.
– Viņa nav apmierināta, – Hintons sacīja, vērojot čūsku.
– Vai tu viņas vietā būtu? – Rozmarija vaicāja.
– Es ļoti uzmanos ar viņas kaklu, – teica Hintons. – Tie ir tik trausli.
Viņš paņēma čūsku otrā rokā, tad pastiepa plaukstu. Tā bija notriepta ar čūskas muskusveidīgajiem izdalījumiem.
– Paostiet, – viņš teica.
Mēs pēc kārtas ostījām viņa roku. Tā bija dīvaina smaka – minerāla un kodīga, reptiliska un ķīmiska, nepārprotami biotiska.
– Tev nosmērēts viss krekls! – sacīja Rozmarija.
– Man taču vajadzēja viņu noķert, – Hintons paskaidroja.
Viņš nolika čūsku zemē; tā aizlocījās pa zāli un pazuda. Hintons apmierināti vēroja čūskas attālināšanos.
– Nu ko, – viņš sacīja. – Šodien ir skaista diena. Vai esam gatavi spēkoties ar viļņiem?
© The New Yorker, 2023. gada 13. novembrī
1 Sinaptiskais svars izsaka neironu savienojuma stiprumu vai ietekmes plašumu. (Red. piezīme)