Mākslīgais intelekts ir viltus dievs

Slavenajā Artura Klārka īsajā stāstā “Deviņi miljardi Dieva vārdu” kāda Tibetas mūku sekta tic, ka cilvēces eksistencei ir dievišķu spēku nosprausts mērķis: pierakstīt visus neskaitāmos Dieva vārdus. Kad šis saraksts būs pabeigts, viņi domā, Dievs pieliks pasaules pastāvēšanai punktu. Gadsimtiem rakstījuši Dieva vārdus ar roku, mūki pēdīgi nolemj izmantot mūsdienu tehnoloģijas. Himalajos ierodas divi skeptiski noskaņoti inženieri, kas atved superjaudīgu datoru. Ar tā palīdzību vairs nav vajadzīgi 15 tūkstoši gadu, lai uzskaitītu visas iespējamās Dieva vārda variācijas; šis darbs tiek paveikts trīs mēnešos. Inženieri sēžas poniju mugurās un sāk ceļu lejup no kalna. Klārka stāsts beidzas ar vienu no skopākajiem beigu teikumiem literatūras vēsturē: “Virs galvas klusi un mierīgi dzisa zvaigznes.”

Šī aina tēlo datoru kā īsāko ceļu uz objektivitāti vai augstāko jēgu, un tieši šāds skatījums vismaz daļēji atbildīgs par šībrīža vispārējo aizraušanos ar mākslīgo intelektu. Lai gan tehnoloģijas, kas liktas pamatā MI, pastāvējušas jau kādu laiku, tikai kopš 2022. gada beigām līdz ar OpenAI produkta ChatGPT ieviešanu radies iespaids, ka jau pavisam drīz izdosies piekļūt mākslīgam saprātam. Microsoft Canada 2023. gada atskaitē prezidents Kriss Barijs pasludina, ka “pienākusi MI ēra, atnesot transformatīvu vilni, kam piemīt potenciāls iespaidot jebkuru mūsu dzīves šķautni” un ka “tas nav tikai tehnoloģisks progress; tās ir sociālas pārmaiņas, kas mūs virza uz nākotni, kurā centrālo vietu ieņems inovācija”. Tā bijusi viena no nosvērtākajām reakcijām. Mākslinieki un rakstnieki ir panikā, ka kļūs nevajadzīgi, valdības pa galvu pa kaklu steidzas neatpalikt no šī procesa un to regulēt, bet zinātnieki nododas kaismīgām debatēm.

Kompānijas ar lielu entuziasmu izmanto iespēju pavizināties šai ažiotāžas vilcienā. Dažas no pasaulē lielākajām korporācijām, tai skaitā Microsoft, Meta un Alphabet, uz MI kārts liek pamatīgas summas. Klāt pie lielo tehnoloģiju kompāniju tērētajiem miljardiem MI jaunuzņēmumu finansējums 2023. gadā sasniedza gandrīz 50 miljardus ASV dolāru. Aprīlī kādā pasākumā Stanforda Universitātē OpenAI ģenerāldirektors Sams Oltmans izteicās, ka neuztraucas par to, ka viņa kompānija MI projektiem tērē 50 miljardus dolāru gadā. Viņš cer radīt arī sava veida superasistentu, kas būtu kā “superkompetents kolēģis, kurš zina absolūti visu par manu dzīvi, katru e-vēstuli, katru sarunu, kāda man bijusi, taču nerada iespaidu, ka ir mans pagarinājums”.

Tomēr līdztekus pastāv arī dziļa pārliecība, ka MI ir drauds. Viens no pazīstamākajiem kritiķiem, kas apgalvo, ka MI nozīmē eksistenciālu risku, ir filozofs Niks Būstrems. Kā viņš skaidro 2014. gadā izdotajā grāmatā “Superintelekts: ceļi, briesmas, stratēģijas”: “Ja mēs būvēsim mašīnsmadzenes, kas vispārīgā intelekta ziņā pārspēj cilvēka smadzenes, mūsu sugas liktenis kļūs atkarīgs no mašīnas superintelekta rīcības.”

Klasiskais piemērs par šo tēmu ir stāsts par MI sistēmu, kuras vienīgais un šķietami nekaitīgais mērķis ir ražot papīra saspraudes. Būstrems uzskata, ka sistēma ātri vien secinātu, ka cilvēki ir šķērslis ceļā uz šī mērķa sasniegšanu, jo viņi varētu kādā brīdī to izslēgt. Tāpat viņi var arī izlietot resursus, kas vajadzīgi lielāka papīra saspraužu daudzuma ražošanai. Tas ir piemērs tam, ko MI katastrofas prognozētāji sauc par “kontroles problēmu”, – bailēm, ka mēs zaudēsim kontroli pār MI, jo jebkādus drošības protokolus, ko būsim tajā iestrādājuši, likvidēs intelekts, kurš būs miljons soļus mums priekšā.

Pirms mēs patiešām vēl tālāk piekāpjamies saviem tehnoloģiskajiem pavēlniekiem, ir vērts atskatīties uz 90. gadu vidu un globālā tīmekļa ierašanos. Arī to pavadīja dažādas prognozes par kādu jaunu utopiju, par viscaur savienotu pasauli, kurā pienāktu gals robežām, atšķirībām un trūkumam. Šodien būtu visai apšaubāmi paziņot, ka internets ir absolūti neproblemātisks labums. Fantāzijas tiešām piepildījās: mēs varam nēsāt kabatā visas pasaules zināšanas. Taču tas radījis samērā dīvainu efektu – padarījis cilvēkus mazliet trakus, vairojis neapmierinātību un polarizāciju, veicinājis jaunus ultralabējo spēku aktivitātes uzplūdus un destabilizējis demokrātiju un patiesību. Nebūtu pareizi teikt, ka vienkārši jāpretojas tehnoloģijai, tā tomēr iedarbojas arī pretēji, vairojot brīvību. Drīzāk būtu jāsaka, ka reizēs, kad lielā tehnoloģija ierodas pie mums ar dāvanu, vajadzētu vispirms piesardzīgi paskatīties, kas tajā iekšā.

Tas, ko mēs saucam par MI, patlaban pārsvarā koncentrējas uz LLM, lielajiem valodas modeļiem. Šiem modeļiem tiek iebarotas milzīgas datu kopas – ChatGPT būtībā kā putekļu sūcējs iesūcis visu publisko internetu –, un tos apmāca saskatīt šajos datos zināmas sakarības. Nozīmes vienības, tādas kā vārdi, vārdu daļas un burti, kļūst par zīmēm un saņem noteiktas skaitliskas vērtības. Modeļi iegaumē, kādas attiecības katra zīme veido ar citām zīmēm, un ar laiku apgūst kaut ko līdzīgu kontekstam: kur kāds vārds var parādīties, kādā secībā un tā tālāk.

Pats par sevi tas neizklausās īpaši iespaidīgi. Taču nesen es liku ChatGPT sarakstīt stāstu par mākoni, kas spēj just un ir noskumis par to, ka uzspīdējusi saule; rezultāts bija pārsteidzoši cilvēcisks. Čatbots bija ne tikai iekļāvis dažādus bērnu fabulai raksturīgus elementus, bet arī izstrādājis sižeta līniju, kuras atrisinājumā mākonītis, vārdā Nimbs, atrada sev vienu debesu stūrīti un samierinājās ar to, ka apkārt ir saulaina diena. Varbūt to nevarētu nosaukt par sevišķi labu stāstu, taču tas noteikti izklaidētu manu piecgadīgo māsasdēlu.

Robina Zebrovska, Viskonsinas pavalsts Beloitas koledžas kognitīvās zinātnes profesore un katedras vadītāja, manis sajusto cilvēciskumu paskaidroja šādi: “Vienīgās patiesi lingvistiskās lietas, ar ko mēs jebkad esam sastapušies, ir tās, kurām ir prāts. Tāpēc, kad sastopamies ar kaut ko, kas ar valodu šķietami rīkojas kā mēs, nostrādā visa mūsu iepriekšējā pieredze un mēs sakām: “Tas neapšaubāmi ir kaut kas domājošs!””

Tāpēc gadu desmitiem standarta tests, ar ko pārbaudīja, vai tehnoloģija tuvojas saprātam, bija Tjūringa tests, kas nosaukts tā radītāja, britu matemātiķa un Otrā pasaules kara kodu atšifrētāja Alana Tjūringa, vārdā. Testā piedalās cilvēks, kurš ar teksta ziņojumu starpniecību izvaicā divus neredzamus subjektus – datoru un cilvēku –, lai noteiktu, kurš no tiem ir mašīna. Jautātāja un respondenta lomu uz maiņām pilda vairāki cilvēki, un, ja mašīnai izdevies piemānīt pietiekami lielu izvaicātāju daļu, tad tiek atzīts, ka tā izrāda saprāta izpausmes. ChatGPT jau tagad spēj piemānīt vismaz atsevišķus cilvēkus atsevišķās situācijās.

Šādi testi rāda, cik cieši mūsu priekšstati par intelektu saistīti ar valodu. Mēs tiecamies domāt, ka būtnes, kas spēj “rīkoties ar valodu”, ir domājošas: mēs brīnāmies par suņiem, kuri, šķiet, saprot sarežģītas komandas, vai gorillām, kas prot sazināties zīmju valodā, – tieši tāpēc, ka tas ir tuvāk tam mehānismam, ar kuru mēs paši padarām pasauli jēgpilnu.

Taču droši vien spēja lietot valodu bez spējas vienlaikus arī domāt, just, vēlēties vai vispār būt ir iemesls, kāpēc MI čatbotu sarakstītie teksti ir tik nedzīvi un aptuveni. Pateicoties tam, ka LLM būtībā darbojas, aplūkojot milzīgus datu sakarību kopumus un analizējot, kā tie savā starpā saistīti, tie bieži izspļauj apgalvojumus, kas gan izklausās pilnīgi jēdzīgi, taču patiesībā ir kļūdaini, absurdi vai vienkārši dīvaini. Šāda valodas reducēšana līdz datu kopumam ir arī iemesls, kāpēc, piemēram, kad es palūdzu ChatGPT uzrakstīt manu biogrāfiju, tas pavēstīja, ka es esot dzimis Indijā, studējis Karltonas Universitātē un saņēmis grādu žurnālistikā, – un kļūdījās visos trīs punktos (pareizi: Lielbritānijā, Jorkas Universitātē un angļu filoloģijā). ChatGPT izpratnē atbildes forma, pārliecinošs formulējums ir svarīgāks nekā saturs: pareizām sakarībām ir lielāka nozīme nekā pareizai atbildei.

Tomēr LLM ideja – krātuve, kas glabā nozīmes, kuras pēc tam tiek savā starpā dažādi kombinētas, – saskan ar dažiem 20. gadsimta filozofijas apgalvojumiem par to, kā cilvēki domā, izjūt pasauli un rada mākslu. Franču filozofs Žaks Deridā, tālāk attīstot lingvista Ferdināna de Sosīra darbu, izteica domu, ka nozīme ir diferenciāla: katra vārda nozīme atkarīga no citu vārdu nozīmēm. Iztēlojieties vārdnīcu: vārdu nozīmes var izskaidrot vienīgi ar citiem vārdiem. Trūkstošais vienmēr ir kāda “objektīva” nozīme, kas pastāvētu ārpus šīs nebeidzamās signifikācijas ķēdes un beidzot liktu tai apstāties. Bet mēs esam uz mūžiem iestrēguši un turpinām riņķot pa šo diferences cilpu. Daži domātāji, tādi kā krievu literatūrzinātnieks Vladimirs Props, sprieda, ka folkloras naratīvus var sadalīt tos veidojošos strukturālos elementos, kā tas izklāstīts Propa novatoriskajā darbā “Pasakas morfoloģija”. Protams, tas neattiecas uz visiem naratīviem, taču kļūst saprotams, kā varētu kombinēt sižeta sastāvdaļas – sākotnējā darbība, krīze, atrisinājums un tā tālāk –, lai pēc tam radītu stāstu par domājošu un jūtošu mākoni.

Uzskats, ka datori spēj domāt, strauji sāk šķist arvien dzīvotspējīgāks. Rafaels Miljērs ir Sidnejas Makvorija Universitātes asistējošais profesors un visu savu līdzšinējo karjeru veltījis apziņai un vēlāk arī mākslīgajam intelektam. Viņš aprakstījis savu līdzdalību lielā sadarbības projektā, ko sauc par BIG-bench testu. Tajā MI modeļiem tīšuprāt izvirza uzdevumus, kas sniedzas tālāk par to “normālajām” spējām, lai redzētu, cik ātri tie “mācās”. Līdz šim MI līmenis pārbaudīts, piemēram, liekot prognozēt nākamo gājienu šaha spēlē, spēlēt lomu inscenētā tiesas prāvā un arī kombinēt dažādus jēdzienus.

Šodien MI spēj paņemt agrāk nekādi nesaistītas, pat nejauši izvēlētas lietas, teiksim, Toronto pilsētas siluetu un impresionistu glezniecības stilu, un apvienot tās, radot kaut ko līdz tam neeksistējušu. Taču tas vedina izdarīt secinājumu, kas liek justies mazliet neomulīgi vai nemierīgi. Vai tas kaut kādā ziņā nav veids, kā domājam mēs paši? Miljērs saka, ka, teiksim, mēs zinām, kas ir mājdzīvnieks (radība, ko mēs turam savās mājās), un mēs zinām arī, kas ir zivs (dzīva būtne, kas peld lielās ūdenstilpēs); tālāk mēs šīs divas lietas apvienojam, paturot dažas pazīmes un atmetot citas, un iegūstam jaunu konceptu: mājas zivs. Jaunākie MI modeļi apveltīti ar šādu spēju – apvienojot veidot šķietami jaunu jēdzienu –, un tieši tāpēc tos sauc par ģeneratīviem modeļiem.

Šādā veidā var interpretēt pat samērā sarežģītus argumentus. Teodicejas problēma gadsimtiem bijusi neizsmeļama teoloģisko diskusiju tēma. Jautājums, ko tā izvirza, ir šāds: ja absolūti labais Dievs ir viszinošs, visvarens un visuresošs, kā tas iespējams, ka pasaulē ir ļaunums, kaut arī Dievs zina, ka tas būs, un spēj to apturēt? Tā ir radikāli pārāk vienkāršota pieeja šai teoloģiskajai problēmai, taču arī teodiceja savā ziņā ir loģikas uzdevums, ideju kopa, ko noteiktā veidā var pārkombinēt. Ar to es negribu sacīt, ka MI var atrisināt mūsu fundamentālos epistemoloģiskos vai filozofiskos jautājumus, tomēr tas liek domāt, ka robeža, ko varam novilkt starp domājošām būtnēm un paraugu atpazīšanas mašīnām, nebūt nav tik skaidra un spilgta, kā mēs varbūt cerējām.

Sajūtu, ka MI čatbotu pamatā ir kāda domājoša būtne, veicina arī tagad vispārpieņemtais viedoklis, ka mēs precīzi nezinām, kā MI sistēmas darbojas. Tā saucamo melnās kastes problēmu bieži pasniedz kā misticismu: roboti mūs tik tālu apsteiguši vai arī ir mums tik sveši, ka dara kaut ko mums nesaprotamu. Tā gan ir taisnība, taču ne gluži tādā izpratnē, kā varētu domāt. Ņujorkas Universitātes profesors Leifs Veterbijs saka, ka modeļi apstrādā tik daudzas datu permutācijas, ka vienam cilvēkam to nav iespējams aptvert. MI misticisms nav kaut kāds nesaskatāms vai neizdibināms prāts, kas paliek mums slēpts, tas saistīts ar mērogiem un jaudu.

Tomēr arī tad, ja saskatām atšķirību, apzinoties, ka MI spēj lietot valodu vienīgi ar skaitļošanas jaudas palīdzību, paliek neatbildēts interesants jautājums: ko vispār nozīmē domāt? Jorkas Universitātes profesore Kristīne Andrūsa, kas pēta dzīvnieku domāšanu, norāda, ka ir daudz tādu kognitīvu uzdevumu – atcerēties, kā iegūt ēdienu, atpazīt objektus vai citas būtnes –, ar ko dzīvnieki tiek galā arī tad, ja sevi neapzinās. Tādā izpratnē MI gluži labi varētu piedēvēt saprātu, jo tas spēj nodarboties ar to, ko mēs parasti saucam par kognīciju. Taču, kā atzīmē Andrūsa, nekas neliecina, ka MI piemistu identitāte, griba vai vēlmes.

Tik daudz no tā, kas rada gribu un vēlmes, atrodas ķermenī – ne jau tikai pašsaprotamajā izpratnē, kā erotiska iekāre, bet arī kā sarežģītāka saikne starp iekšējo subjektivitāti, mūsu bezapziņu un to, kā mēs kā ķermenis pārvietojamies pa pasauli, procesējot informāciju un reaģējot uz to. Pēc Zebrovskas domām, varētu apgalvot, ka “ķermenis ir svarīgs tam, kā mēs varam domāt, kāpēc mēs domājam un par ko mēs domājam”. Viņa piemetina, ka “nevar vienkārši paņemt datora programmu, iebāzt to robotam galvā un tikt pie iemiesotas būtnes”. Pilnīgi iespējams, ka datori jau ir tuvu tam, ko mēs saucam par domāšanu, taču tie nesapņo, negrib un neiekāro, un tas ir daudz svarīgāk, nekā vēlētos atzīt MI atbalstītāji, ne tikai attiecībā uz to, kāpēc mēs domājam, bet arī – pie kādām domām nonākam. Kad izmantojam savu intelektu, lai meklētu risinājumus ekonomiskai krīzei vai apkarotu rasismu, mūs vada mūsu priekšstati par morāli vai pienākuma apziņa pret apkārtējiem un mūsu pēctečiem – mūsos izkoptā sajūta, ka mūsu pienākums ir uzlabot lietas kādā morāli būtiskā ziņā.

Tālab iespējams, ka dators Klārka stāstā, sava veida īsākais ceļš uz transcendenci vai absolūtajām zināšanām, ir nepareizs piemērs. Daglasa Adamsa superdators “Galaktikas ceļvedī stopētājiem” varētu būt tuvāk patiesībai. Kad tam uzdod galveno jautājumu par “dzīvi, Visumu un visu pārējo”, superdators, protams, izspļauj savu slaveno mīklaino atbildi: “42.”

Šis absurda humors ir pilnīgi pašpietiekams, taču smieklīgā atbilde atgādina arī par kādu viegli aizmirstamu patiesību. Dzīvi un tās jēgu nav iespējams reducēt līdz vienkāršam izteikumam vai vārdu sarakstam, tāpat kā cilvēka domāšanu un jūtas nevar reducēt līdz formulai, kas izteikta ar vieninieku un nullīšu palīdzību. Ja mēs nonākam pie tā, ka uzdodam MI jautājumu par dzīves jēgu, kļūdaina nav atbilde. Kļūdains ir pats jautājums. Un šajā konkrētajā vēstures punktā liekas, ka būtu vērts padomāt, kas tieši šobrīd liek mums lūgt atbildes no kāda labvēlīga, viszinoša digitālā dieva, kurš visdrīzāk nav ne viens, ne otrs.

Šī gada martā es divas dienas pavadīju Microsoft galvenajā mītnē netālu no Sietlas. Microsoft ir viens no tiem vadošajiem tehnoloģijas jomas spēlētājiem, kuri visu likuši uz MI kārts. Lai pierādītu, cik lielā mērā, viņi bija saaicinājuši žurnālistus no visas pasaules uz “ekskursiju” pa savu “inovāciju pilsētiņu”; pasākumā tika piedāvāta reibinoša lekciju un demonstrējumu programma, maltītes šķietami bezgalīgā pilsētiņas restorānu klāstā un pāris naktis tāda līmeņa viesnīcā, kādu žurnālisti parasti nevar atļauties.

Mūs izvadāja pa datu centru, pirms tam izsniedzot ausu aizbāžņus, lai izfiltrētu neliela ventilatoru lauka dūkoņu. Noklausījāmies vairākus ekspertu priekšlasījumus par to, kā viņu komandas integrē MI un kā speciālistiem, kas strādā pie “atbildīga MI”, dots uzdevums saņemt grožos tehnoloģiju, kamēr tā nav aizgājusi neceļos. Bija daudz pļāpu par to, kā šis darbs ietekmēs visu, kas notiks nākotnē. Vienā no sesijām simpātiskais Sets Huaress, MI platformu galvenais programmu menedžeris, MI ieviešanu salīdzināja ar pāreju no lāpstas pie traktora: runājot viņa vārdiem, tā “ļaus cilvēcei pāriet uz jaunu līmeni”.

Šis un tas no tur redzētā likās patiesi iedvesmojošs, tai skaitā prezentācija, ko vadīja Sākibs Šeihs, kurš ir neredzīgs un gadiem ilgi strādā pie projekta Seeing AI. Tā ir lietotne, kas arvien labāk spēj reāllaikā definēt redzes laukā esošos objektus. Pavērsiet to pret rakstāmgaldu ar skārdeni, un tā paziņos: “Sarkana dzēriena kārba uz zaļa galda.” Tāpat optimismu viesa ideja, ka MI var izmantot, lai glābtu izmirstošās valodas, precīzāk meklētu audzējus vai efektīvāk prognozētu, kur izvietot resursus katastrofu seku novēršanai, – pārsvarā apstrādājot lielus datu apjomus un tad atpazīstot un analizējot sakarības tajos.

Tomēr, neraugoties uz visām pretenciozajām runām par to, ko MI kādu dienu varētu darīt, radās iespaids, ka pagaidām tas vislabāk tiek galā ar gluži triviālām lietām – saskaņo skaitļus finanšu pārskatos, transkribē un apkopo sanāksmju saturu, efektīvāk šķiro e-pasta vēstules. Tāds akcents uz ikdienas pienākumiem liek domāt, ka MI diez vai radīs kādu brīnumainu, jaunu pasauli, bet drīzāk, atkarībā no jūsu skatpunkta, padarīs jau esošos procesus nedaudz efektīvākus vai varbūt intensificēs un nostiprinās šodienas struktūru. Jā, daļa no jūsu pienākumiem varbūt kļūs vieglāk paveicami, taču vēl ticamāk, ka šie automatizētie uzdevumi gluži vienkārši būs daļa no jauna, vēl lielāka darba apjoma.

Tā ir taisnība, ka MI spēja vienlaicīgi procesēt miljoniem faktoru var ar uzviju kompensēt cilvēku prasmi analizēt zināma veida problēmas, īpaši tādas, kurās iesaistītos faktorus iespējams reducēt par datiem. Pēc Microsoft ekspertu lekcijām par MI izpēti katram no mums piedāvāja grāmatu ar nosaukumu “MI par labu cilvēcei”, kurā sīkāk aplūkoti iespējamie altruistiskie MI pielietojumi. Iztirzāto projektu vidū bija mašīnmācīšanās izmantošana, lai analizētu ar skaņas vai satelītu palīdzību ievāktos dzīvās dabas novērojumus, kā arī iespēja prognozēt, kur Indijā vislabāk izvietot saules paneļus.

Tas iedrošina un, īpaši šobrīd, 21. gadsimta 20. gados, ļauj uz mirkli sajust kaut vai nojausmu par atvieglojumu vai cerību, ka kaut kas varbūt tomēr uzlabosies. Taču problēmas, kas traucē, teiksim, Indijā izmantot saules enerģiju, nav tikai zināšanu trūkuma radītas. Tās saistītas ar resursiem, labo gribu, dziļi sakņotu ieinteresētību un, vienkāršāk izsakoties, naudu. Tas ir aspekts, ko utopiskie nākotnes modeļi tik bieži atstāj neievērotu: ja un kad pārmaiņas notiks, būs jārisina jautājumi, vai un kā zināma tehnoloģija tiks izplatīta, izvietota, pieņemta. Būtiski būs tas, kā valdības izlems sadalīt resursus, kā tiks līdzsvarotas iesaistīto pušu intereses, kā ideja tiks pasniegta un propagandēta, un tā tālāk. Īsi sakot, visu izšķirs politiskā griba, resursi un sāncensība starp konkurējošām ideoloģijām un interesēm. Problēmas, ar ko nākas saskarties Kanādai vai visai pasaulei, – ne tikai klimata pārmaiņas, bet arī mājokļu krīzi, toksisko narkotiku krīzi vai augošo noskaņojumu pret imigrantiem – nav radījis intelekta vai skaitļošanas jaudas trūkums. Dažos gadījumos problēmu risinājumi, virspusīgi raugoties, ir ļoti vienkārši. Piemēram, bezpajumtnieku krīze mazinās, ja pieejams vairāk lētāku māju. Taču risinājumus grūti realizēt sociālu un politisku spēku, nevis izpratnes, domāšanas vai jaunievedumu trūkuma dēļ. Citiem vārdiem, progresu šajos jautājumos kavēs tieši tas pats, kas kavē visu pārējo, – mēs paši.

Priekšstats par eksponenciāli pieaugošu intelektu, tik mīļš Lielajai Tehnoloģijai, ir savāda fantāzija, kas abstrahē saprātu, padarot to par zināmu superspēju, kas var vienīgi vairoties; problēmu risināšana tiek aplūkota kā atzīmes uz skalas, pa kuru virzīties arvien tālāk. Šāda izpratne ir tā saucamais tehnoloģiskais solucionisms; šo terminu pirms 10 gadiem radījis Jevgeņijs Morozovs, progresīvs baltkrievu autors, kurš par savu misiju izvēlējies nesaudzīgu Lielās Tehnoloģijas kritiku. Viņš viens no pirmajiem norādīja uz Silīcija ielejas tendenci uzlūkot tehnoloģiju par visu problēmu risinājumu.

Daži Silīcija ielejas uzņēmēji tehnoloģisko solucionismu noveduši līdz galējībai. Tieši šo MI akcelerācijas sludinātāju idejas ir pašas šausminošākās. Marks Andrīsens bijis vistiešākajā veidā iesaistīts pirmo tīmekļa pārlūkprogrammu izstrādē un tagad ir miljardieris, riska kapitālists, kurš uzskata, ka viņa sūtība ir cīņa ar “voukisma prāta vīrusu” un vispārēja kapitālisma un libertārisma propaganda. Pērn publicētā apcerējumā “Tehnooptimista manifests” Andrīsens izklāstījis savu pārliecību, ka “nav tādas materiālas problēmas, vienalga, dabas vai tehnoloģijas radītas, ko nebūtu iespējams atrisināt ar vēl lielāku tehnoloģijas apjomu”.

Kad vēsturnieks un žurnālists Riks Pērlstīns piedalījās vakariņās Andrīsena 34 miljonus dolāru vērtajā mājā Kalifornijā, viņš tur sastapa cilvēku grupu, kas dedzīgi iebilst pret jebkādiem noteikumiem vai cita veida ierobežojumiem, kuri kontrolētu tehnoloģijas attīstību (2023. gada beigās kādā tvītā Andrīsens MI regulēšanu nosauca par “jaunajiem totalitārisma pamatiem”). Kad Pērlstīns to atstāstīja kolēģim, tas “atzīmēja zināmu līdzību ar kādu savu studentu, kurš kategoriski apgalvo, ka visas gadsimtiem senās problēmas, par ko tā raizējas vēsturnieki, pats par sevi saprotams, visai drīz atrisinās labāki datori, tāpēc visu šo humānistu ņemšanos uzskata par mazliet smieklīgu”.

Andrīsena manifestā iekļauta arī absolūti normāla un ne mazākajā mērā ne draudīga sadaļa, kurā viņš uzskaita visus iespējamos ienaidniekus. Pie tiem pieder visi parastie labējo bubuļi: regulācija, viszinīgi zinātnieki, “inovācijas” ierobežojumi, paši progresīvie aktīvisti. Riska kapitālista uztverē tie ir pašsaprotami ļaunumi. Kopš 2018. gada Andrīsens darbojas Facebook/Meta valdē, un šī kompānija ļāvusi ar maldināšanas un dezinformācijas palīdzību uzbrukt demokrātiskajiem iedibinājumiem. Tomēr viņš apgalvo – šķietami bez mazākās ironijas –, ka tieši eksperti “tēlo dievu, iejaucoties citu cilvēku dzīvē, turklāt paliekot pilnīgi pasargāti no sekām”.

Valda vispārpieņemts uzskats, ka tehnoloģija ir rīks. Tev ir kāds uzdevums, ko vajag veikt, un tehnoloģija palīdz tikt ar to galā. Taču ir tādas nozīmīgas tehnoloģijas – jumts virs galvas, iespiedmašīna, atombumba vai raķete, internets –, kuras pasauli gandrīz vai radījušas no jauna, tādējādi mainot kaut ko arī tajā, kā mēs uztveram sevi un apkārtējo realitāti. Tā nav vienkārša evolūcija. Kad parādījās grāmata – un līdz ar to spēja dokumentēt sarežģītas zināšanas un izplatīt informāciju ārpus tās agrākās pieejamības robežām –, mainījās pašas realitātes pamati.

MI ieņem dīvainu stāvokli, proti, tas, visticamāk, pieder pie šīm tehnoloģiskajām transformācijām, taču vienlaikus tā loma ir ievērojami pārspīlēta. Ideja, ka MI mūs aizvedīs uz kādu diženu utopiju, ir dziļi apšaubāma. Tehnoloģija tiešām spēj kā arkls apvērst lauku, atsedzot jaunu zemi, taču tas, kas pirms tam bijis augsnē, tāpat vien nekur nepazudīs.

Pēc sarunām ar ekspertiem man radies iespaids, ka MI būs lielisks palīgs, kurš apstrādās datus, kas eksistē apjomos, ar kādiem cilvēki vienkārši nespēj strādāt. Paraugu atpazīšanas mašīnas, pielietotas bioloģijā vai fizikā, visticamāk, dos aizraujošus un noderīgus rezultātus. Pārējie potenciālie MI pielietojumi šķiet ikdienišķāki, vismaz pagaidām: tas var vairot darba efektivitāti, racionalizēt zināmus satura veidošanas aspektus, atvieglot piekļuvi tādām vienkāršām lietām kā ceļojumu maršruti vai tekstu kopsavilkumi.

Taču tas nebūt nenozīmē, ka MI visādā ziņā nesīs tikai labumu. MI modeli var apmācīt ar miljardiem datu vienību, taču tas nevar pasacīt, vai kaut kas no tā visa ir labs vai kaut kādā ziņā mums vērtīgs, un nav nekāda pamata domāt, ka tas mainīsies. Pie morāliem vērtējumiem mēs nonākam, ne jau risinot loģikas uzdevumus, bet ņemot vērā visu to, kas mūsos ir nereducējams, – subjektivitāti, pašcieņu, iekšējo dzīvi, vēlmes – visu to, kā MI trūkst.

Ja kāds saka, ka MI jebkad spēs patstāvīgi radīt mākslu, tad pārprot iemeslus, kāpēc mēs vispār pievēršamies estētikas pasaulei. Mēs alkstam pēc lietām, ko radījis cilvēks, jo mums ir svarīgi, ko cilvēks saka un sajūt par savu pieredzi, kura gūta, dzīvojot kā personai un kā ķermenim pasaulē.

Ir vēl arī kvantitātes jautājums. Nojaucot barjeras ceļā uz satura radīšanu, MI vienlaikus pārplūdinās pasauli ar pilnīgām drazām. Google jau tagad kļūst arvien nelietojamāks – tieši tāpēc, ka internets ir pārblīvēts ar MI ražotu saturu, kas veidots ar vienu mērķi: savākt klikšķus. Te mēs saskaramies ar problēmu problēmā: digitālā tehnoloģija radījusi pasauli, kas ir tik pilna ar datiem un tik sarežģīta, ka dažos gadījumos mums tagad nepieciešama tehnoloģija, kas to visu izsijās. Ļoti iespējams, ka tas, vai jūs šo burvju loku uzskatāt par ļaunumu vai labumu, atkarīgs no tā, vai jūs piederat pie tiem, kas no tā gūst kādu labumu, vai arī pie tiem, kuriem nākas rakties cauri šai putrai.

Taču bažas raisa arī MI iekļaušanās jau eksistējošajās sistēmās. Kā sarunā man aizrādīja Deimjens Viljamss, Ziemeļkarolīnas Universitātes Šārlotā profesors, modeļi mācību laikā asimilē milzīgas datu masas, kam pamatā ir patlaban esošais un agrāk pastāvējušais. Tādēļ tiem ir grūti izvairīties no pagātnē un tagadnē eksistējošajiem aizspriedumiem un tendenciozitātes. Viljamss norāda: ja MI liktu attēlot, piemēram, ārstu, kas kliedz uz medmāsu, tā izpildījumā ārsts noteikti būtu vīrietis, bet medmāsa – sieviete. Pērn, kad Google steigšus laida klajā Gemini, kam jākonkurē ar citu kompāniju MI čatbotiem, tas savos nacistu un Amerikas dibinātāju attēlos ieviesa “rasu daudzveidību”. Šo dīvaino kļūdu cēlonis bija neveikls mēģinājums jau iepriekš novērst apmācības datu tendenciozitātes problēmu. MI paļaujas uz to, kas ir bijis, un šķiet, ka mēģinājumi ņemt vērā visus tos neskaitāmos veidus, kādos mēs sastopamies ar pagātnes aizspriedumiem un reaģējam uz tiem, gluži vienkārši nav tam pa spēkam.

Strukturālā problēma, kas saistīta ar tendenciozitāti, pastāvējusi jau krietnu laiku. Algoritmi jau izmantoti tādā jomā kā kredītspējas vērtējumi, un MI pielietojums, teiksim, darbinieku atlasē, atkārtoti demonstrē tendenciozu ievirzi. Abos gadījumos digitālajās sistēmās uzskatāmi parādījušies jau iepriekš eksistējušie rasu aizspriedumi. Tā nu bieži vien patiesā problēma ir tieši šādi jautājumi, nevis vecā klišeja – no kontroles izgājusi MI sistēma, kas patvaļīgi palaiž kodolraķetes. Tomēr tas nenozīmē, ka MI mūs nenogalinās. Pavisam nesen kļuva zināms, ka Izraēla, uzbrūkot mērķiem Palestīnā, izmantojusi MI versiju, kas saucas “Lavanda”. Sistēmas uzdevums ir iezīmēt Hamās un Palestīnas islāma džihāda locekļus un tad norādīt viņu atrašanās vietas kā potenciālus gaisa uzbrukuma mērķus – tai skaitā šo cilvēku mājas. Kā ziņo žurnāls +972 Magazine, daudzos šādos uzbrukumos bojā gājuši civiliedzīvotāji.

MI kā tāds mūs neapdraud kā mašīna vai sistēma, kas ņems un uz līdzenas vietas apslaktēs cilvēci. Taču pieņēmums, ka MI patiešām ir saprātīgs, pamudina mūs nodot datora programmatūrai plašu sociālo un politisko funkciju klāstu; mūsu ikdienas dzīvē nemanāmi iestrādājas ne tikai pati tehnoloģija, bet arī tās specifiskā loģika un ētoss, tās libertāriski kapitālistiskā ideoloģija. Tātad jautājums ir, kādiem mērķiem MI tiek izmantots, kādā kontekstā un kādās robežās. “Vai var izmantot MI, lai automašīnas sevi vadītu pašas?” Tas ir interesants jautājums. Tomēr svarīgāki ir citi jautājumi: vai mums vajadzētu pieļaut, ka uz ceļiem ir pašbraucošas mašīnas, kādos apstākļos, kādās sistēmās tās būtu iestrādātas; bet varbūt vispār vajadzētu atņemt automašīnai tās prioritāro statusu? Un uz šiem jautājumiem neviena MI sistēma mums nevar atbildēt.

No tehindustrijas tipiņa, kas savas cerības uz cilvēces progresu saista ar pārcilvēcisku intelektu, līdz militāristam, kurš, izvēloties mērķus, paļaujas uz MI sistēmu, – visi demonstrē tās pašas ilgas pēc kaut kādas objektīvas autoritātes, pie kuras varētu apelēt. Kad mēs vēršamies pie mākslīgā intelekta, cerot, ka tas palīdzēs izprast pasauli, kad uzdodam tam jautājumus par realitāti un vēsturi vai gaidām, ka tas mums attēlos pasauli tādu, kāda tā ir, – vai gan mēs jau neesam sapinušies MI loģikā? Mēs slīkstam digitālās drazās, šodienas kakofonijā, un mūsu atbilde uz to ir meklēt kaut kādu pārcilvēcisku palīgu, kas izzvejotu patiesības graudus no melīguma un maldu slīkšņas. Taču mēs tik bieži tiekam aizvesti neceļos, kad MI kļūdās.

Iespējams, noteicošais faktors, kas rada šo dziņu saklausīt kādu objektīvu balsi tur, kur tās nav, ir apstāklis, ka mūsu jēgas meklēšanas aparāti jau iepriekš iedragāti veidos, kas raksturīgi ne jau MI vien. Internets arī tāpat bijis destabilizējošs spēks, un MI draud visu vēl vairāk sarežģīt. Sarunājoties ar Vērmontas Universitātes profesoru Todu Makgauanu, kurš darbojas kino teorijas, filozofijas un psihoanalīzes jomā, es pēkšņi aptvēru, ka mūsu attiecības ar MI būtībā izskaidrojamas ar vēlēšanos pārvarēt šo destabilizāciju.

Mēs dzīvojam laikā, kad patiesība ir nestabila, mainīga, pastāvīgi apstrīdēta. Iedomājieties kaut vai pievēršanos sazvērestības teorijām, pretvakcinācijas kustības uzplaukumu vai rasistiskas pseidozinātnes izraušanos priekšplānā. Katram laikmetam ir savi zaudējumi: modernismam tā bija līdzsvarota un saskaņota patība, postmodernismam – pamatnaratīvu stabilitāte, un tagad, 21. gadsimtā, vērojams arvien lielāks spiediens uz priekšstatu par kopīgu skatījumu uz realitāti. Vienlaikus sabiedriskas figūras, no politiķiem līdz slavenībām un sabiedrībā pazīstamiem intelektuāļiem, šķiet vairāk nekā jebkad pakļautas slavas vilinājumam, cieš no ideoloģiski šaura skatījuma uz pasauli un sludina acīmredzami nepatiesas idejas.

Makgauans saka, ka trūkstošais elements ir tas, ko psihoanalītiķis un domātājs Žaks Lakāns sauca par “subjektu, kuram būtu jāzina”. Sabiedrībā it kā vajadzētu būt papilnam personu, kurām jāzina, – skolotāju, garīdznieku, politisku līderu, ekspertu –, un tiem visiem būtu jāfunkcionē kā autoritātēm, kas nozīmes struktūrām un domāšanas veidiem piešķir stabilitāti. Taču, kad sistēmas, kas lietām piešķir konkrētus apveidus, sāk pagaist vai tiek apšaubītas, kā tas noticis ar reliģiju, liberālismu, demokrātiju un daudzām citām, cilvēkam atliek meklēt jaunu dievu. Kaut kas īpaši smeldzīgs jaušams mūsu vēlmē lūgt, lai ChatGPT pastāsta mums kaut ko par šo pasauli, kurā reizēm uzmācas sajūta, ka nekas nav patiess. Cilvēkiem, kuros pludo subjektivitāte, MI iemieso transcendento – neiespējami loģisko prātu, kas var mums pateikt patiesību. Arī Klārka īsajā stāstā par tibetiešu mūkiem kaut kur iztālēm jaušams līdzīgs priekšstats par tehnoloģiju kā lietu, kas ļauj mums, vienkāršiem mirstīgajiem, pārvarēt savu ierobežotību.

Taču šīs pārvarēšanas iznākums ir visa gals. Ņemot palīgā tehnoloģiju, lai padarītu efektīvāku savu dziļi garīgo, pašrocīgi, rūpīgi veicamo darbu, Klārka varoņi izdzēš pašu ticības aktu, kas devis spēku viņu ceļam pretim transcendencei. Šeit, reālajā pasaulē, mūsu mērķis droši vien nav satikt Dievu. Mērķis ir tās mokas un ekstāze, ko mēs piedzīvojam šajos centienos. Mākslīgais intelekts vēl pieņemsies mērogā, jaudā un spējās, taču pieņēmumi, kas pamatā mūsu ticībai, ka tas, tā sakot, varētu ļaut mums piekļūt tuvāk Dievam, var mūs aizvest vienīgi vēl tālāk no viņa.

Pēc gadiem 10 vai 20 MI neapšaubāmi būs attīstījies tālāk nekā patlaban. Visticamāk, nebūs atrisinātas tā problēmas ar neprecizitātēm, halucinācijām vai tendenciozitāti, toties varbūt tas beidzot sarakstīs kādu jēdzīgu eseju. Un tomēr, ja vien man paveiksies un es vēl būšu tepat, no mājas es iziešu, bruņojies ar MI asistentu, kurš čukstēs man ausī. Trotuārā vēl joprojām būs plaisas. Pilsēta, kurā es dzīvoju, vēl joprojām tiks celta. Satiksme droši vien vēl joprojām būs haotiska – arī tad, ja automašīnas sevi vadīs pašas. Varbūt es paraudzīšos apkārt vai pacelšu acis pret debesīm un mans MI asistents man pastāstīs, ko es redzu. Taču viss vēl joprojām noritēs tikai pavisam nedaudz citādi nekā šobrīd. Un zvaigznes? Par spīti visām pārmaiņām, kas patlaban var likties tik milzīgas, debesis vēl joprojām būs kā nosētas ar tām.

© The Walrus, 2024. gada 29. maijā