Intel·ligència artificial, màquines universals i matar els somnis burgesos (I)

Al preàmbul del Manifest Comunista hi ha dues tesis centrals que animen tota l’anàlisi marxista posterior: “La història de tota societat fins ara existent és la història de la lluita de classes” i “La burgesia no pot existir sense revolucionar constantment els mitjans de producció, i amb això les relacions de producció, i amb elles totes les relacions de la societat” [Marx, Karl. Manifest Comunista (Capítol 1)]”. Actualment, la societat s’enfronta a un conjunt de noves tecnologies sota el paraigua de la intel·ligència artificial (IA) que està fent exactament això: revolucionar els mitjans i les relacions de producció. Però contràriament a les salvatges fantasies apocalíptiques i utòpiques dels tecnòlegs burgesos, la seva trajectòria històrica es decidirà en funció de la lluita de classes i no pas per la lògica interna oculta d’una intel·ligència alienígena.

Programes informàtics com ChatGPT i Stable Diffusion, per mencionar dos dels més populars, són capaços de produir resultats que potencialment tenen valors d’ús de gran importància per a la indústria i la societat en general. Creen textos i imatges prou complexos i subtils com per a acostar-se a la capacitat humana a partir d’entrades relativament petites i senzilles. En el moment d’escriure aquestes línies, aquestes noves tecnologies ja estan provocant repercussions dràstiques, com l’enorme acceleració del temps necessari per a crear codi funcional, articles i informes i/o imatges autònomes.

L’impacte econòmic d’aquestes tecnologies és més gran en les indústries més competitives. Al cap i a la fi, que les noves tecnologies afectin o no al temps de treball necessari per a la producció i als resultats de la indústria té més a veure amb el fet que hi hagi alguna disciplina fiscal que forci aquests canvis que amb el ritme del progrés científic. Aquesta és també la raó per la qual la contracció econòmica pot en realitat accelerar l’automatització, en obligar les empreses a explorar tècniques de producció menys costoses per a sobreviure. Per a les indústries culturals, on les aspiracions de milions de persones creen una immensa oferta de mà d’obra barata i d’autònoms, el mal ha estat immens. De la mateixa manera, la indústria tecnològica, que s’enfronta a acomiadaments massius a causa de l’enduriment de les condicions financeres, també es veu molt afectada.

Els debats al voltant d’aquestes tecnologies, fins i tot en les seves formes més fabuloses i suposadament radicals, segueixen vergonyosament atrapats dins un marc de realisme capitalista. Nosaltres, els participants, ens enfrontem a l’horitzó de la legislació sobre  drets d’autor, als nivells anteriors de la tecnologia dins de la producció capitalista, i a la compra d’exactament les mateixes aspiracions burgeses per a la tecnologia que probablement serviran per a empobrir a la classe treballadora. És en aquesta conjuntura quan es fa necessària una intervenció marxista. 

Aquesta intervenció és quàdruple:

1. Una explicació de la relació de la classe obrera amb l’actual revolució dels instruments de producció.
2. La interrogació dels Grans Models de Llenguatge (LLM, per les seves sigles en anglès) com a proto-subjecte i el seu paper en la reproducció de les relacions de producció.
3. El repudi de les fantasies burgeses abans esmentades sobre l’impacte de la IA en el món dins del capitalisme.
4. Una recerca sobre la possibilitat d’una màquina artificial universal que requeriria una modificació de la teoria de Marx i de l’estratègia socialista.

L’economia política de l’automatització de la IA

Si hi ha quelcom segura és que les tecnologies d’IA obligaran a baixar els costos d’una sèrie de serveis. Podem centrar-nos en l’art, de moment, ja que és un dels sectors més controvertits i precaris en els quals s’està produint aquesta automatització. Aquest descens dels preus relatius farà molt menys factible que els artistes puguin guanyar-se la vida. Els autònoms competeixen ara directament amb models de generació d’imatges que són més o menys gratuïts. Fins i tot tenint en compte els problemes d’artifacting (l’aparició d’anomalies visuals o sonores, creades durant el procés o la transmissió de dades digitals, com fotografies o vídeo), que cada vegada són menys pronunciats a mesura que es desenvolupen nous models, la tecnologia permet a persones amb molta menys formació crear imatges per a qualsevol fi, ja sigui la portada d’un llibre, gràfics per a un lloc web o fins i tot pornografia. Podem esperar que sorgeixin problemes similars als mercats laborals dels programadors, analistes i periodistes, on la IA reduirà el temps necessari per a crear un producte acabat.

Encara que els artistes autònoms no reben directament un salari, podem considerar la seva remuneració com a part del fons salarial, ja que han de treballar per a produir mercaderies el valor de les quals es destina a reproduir el seu propi treball. Els artistes, per no parlar dels escriptors, que aconsegueixen un nivell de popularitat suficient per a viure realment de les rendes de la propietat intel·lectual sense haver de produir noves mercaderies són cada vegada menys freqüents. La producció d’art com a mercaderia, d’aquesta manera, inclou tant el treball productiu com l’improductiu, ja que només en circumstàncies específiques s’utilitza l’art per a crear plusvàlua, per exemple com a input d’un procés de producció major. Encara que aquest paper de l’art com a input en la producció de plusvàlua sol ser irrellevant per a molts artistes autònoms que venen directament als consumidors, és summament important explicar per què s’estan produint aquests canvis.

Les ideologies presents entre els dirigents de les empreses d’IA varien, però darrere d’elles s’hi troba sempre la lògica general del capital: l’impuls de revolucionar el procés de producció. Els primers a adoptar aquestes tecnologies aposten per beneficis inesperats procedents d’aquestes noves tècniques de producció que obren nous mercats i fan més eficient la producció existent. És aquesta esperança general de guanys extrems la que ha fet invertir tants diners en la recerca i el desenvolupament d’aquestes tecnologies. Com la majoria de les innovacions del capitalisme contemporani, s’ha produït a costa d’immenses bombolles financeres, com va ocórrer en el boom de les punt com dels anys 90.

El que és important destacar en aquest desenvolupament és que aquesta automatització no seria possible en absolut si, prèviament, la reproducció del treball artístic no hagués estat totalment subsumida pel capital. L’art com a mercaderia, a tots els nivells excepte com a blanqueig de diners de les «belles arts», és un procés perfectament reflectit en els models de generació d’imatges: un client genera un input a través d’una breu descripció i en surt una imatge. A vegades, aquest procés es repeteix fins que el client queda satisfet. Des de la perspectiva de la burgesia, i de la subjectivitat burgesa del consumidor final, aquest procés no té més, encara que produeixi una certa satisfacció interior en l’artista com a subproducte. Qualsevol consideració més profunda cau purament dins l’àmbit del màrqueting.

Val la pena citar a Marx íntegrament sobre aquesta naturalesa de l’automatització:

En la maquinària, l’apropiació del treball viu pel capital aconsegueix una realitat directa també en aquest aspecte: És, en primer lloc, l’anàlisi i l’aplicació de lleis mecàniques i químiques, sorgides directament de la ciència, la qual cosa permet a la màquina fer el mateix treball que abans realitzava l’obrer… mitjançant la divisió del treball, que transforma gradualment les operacions dels obrers en operacions cada vegada més mecàniques, de manera que en un moment donat un mecanisme pot ocupar el seu lloc. Així, la manera específica de treball apareix aquí directament com transferit del treballador al capital en forma de màquina, i la seva pròpia capacitat de treball devaluada per això. D’aquí la lluita dels treballadors contra la maquinària. El que era l’activitat del treballador viu es converteix en l’activitat de la màquina. Així, l’apropiació del treball pel capital s’enfronta al treballador d’una forma grollerament sensual; el capital absorbeix el treball en si mateix – “com si el seu cos fos posseït per l’amor”.

 Karl Marx, Grundrisse 14

Sota el capitalisme, l’artista, si està decidit a utilitzar l’art com a mitjà per a reproduir el seu propi treball, ha de transformar les seves activitats artístiques en la forma d’una màquina que agafa aquests inputs i produeix els outputs específics. I és precisament perquè l’artista es transforma en una màquina que el seu paper en la producció de valor pot automatitzar-se.

Per descomptat, des de la perspectiva de l’artista que viu en una societat capitalista, l’expressió de l’art dins del valor es presenta com la seva forma més elevada i sublim. L’aparença de llibertat respecte la monotonia del treball assalariat, cobrar per fer el que estimem. Aquest és el nostre somni burgès, i molt al nostre pesar és tan ineludible com la seva destrucció a mans de la lògica del capital. 

Els artistes denuncien l’art de la IA com un fred simulacre de l’art real. De fet, en la mesura en què l’art de la IA no és més que una màquina per a satisfer desitjos consumistes, no és art. Els artistes que es converteixen a si mateixos en una màquina tenen almenys la coartada de la seva pròpia relació amb el producte, la seva experiència en modelar-lo, separada de la seva existència com a mercaderia; l’alienació del producte del seu treball encara no s’ha completat. L’art existeix com una obsessió humana per un objecte virtual, ja sigui un objecte purament imaginari que ha de ser portat al nostre propi pla d’existència, o un objecte nascut de la fisicalidad del mitjà modelat per mans humanes. En la mesura en què l’art de la IA es construeix amb aquests fins, a partir de les obsessions d’un creador que desitja engendrar coses noves en el món i no d’un consumidor ansiós per ser complagut, llavors és art. No obstant això, el veritable art no és l’objectiu de la producció capitalista, no importa quina tècnica de producció utilitzi, aquest art només pot ser un subproducte despullat de fils.

Les defenses actuals contra l’empobriment dels sectors afectats de la classe obrera descansen en gran manera sobre la propietat intel·lectual. En la mesura en què aquest enfocament tingui èxit, només consolidarà la posició d’un petit sector d’artistes que estan profundament compromesos amb les relacions de propietat burgeses, però que, no obstant això, són incapaces d’escapar de la carrera de rates de la producció capitalista i mecanicista de l’art. És poc probable que aquestes mesures impedeixin la proliferació i el desenvolupament d’aquests models de generació d’imatges, ja que els conjunts de dades i el codi utilitzats per a crear-los ja estan al  món, qualsevol restricció d’aquest tipus en matèria de propietat intel·lectual serà difícil d’aplicar i qualsevol contramesura digital arribarà, amb total seguretat, massa tard.

No, l’únic mitjà per consagrar l’art i permetre l’eclosió i creixement dels artistes és crear una via de sortida de les relacions socials capitalistes, inventant així una aspiració nova. Un món al qual tothom disposi de temps lliure per a desenvolupar al màxim el seu art i buscar el reconeixement de la societat sense haver de buscar valor.

Per a despertar del dolç somni burgès, hem de reconèixer la realitat material d’aquestes tecnologies, no com una qüestió de moral, sinó a través del seu impacte concret sobre la societat i la divisió del treball. Els beneficis d’aquestes noves tecnologies no es distribuiran universalment: la reducció dels preus relatius en determinats sectors beneficiarà a les empreses més grans i rendibles a costa de les empreses més petites i menys rendibles. En aquest sentit, les principals conseqüències econòmiques no estaran on ara es produeixen la majoria dels focs artificials, als mitjans artístics, sinó a l’economia en general.

Per desgràcia, és poc probable que la caiguda dels preus i l’abaratiment dels mitjans de producció en algunes indústries disminueixin el cost de la vida dels treballadors i, per tant, compensin la baixada dels salaris amb un major poder adquisitiu. És poc probable que béns bàsics com l’alimentació, l’habitatge, els tèxtils i l’educació es vegin afectats per l’actual onada d’automatització, i seran resistents a l’automatització en el futur. La IA farà poc o res per a salvar-nos dels costos de lloguer i alimentació.

Entre els tecnòlegs burgesos més informats, com Stephan Wolfram, creador de Wolfram Alpha i Mathematica, es suggereix que l’automatització mitjançant IA crearà noves categories d’ocupacions i, per tant, no conduirà a un augment general de la desocupació o, en escenaris més extrems, a l’obsolescència del treball humà. Parlarem dels escenaris més extrems més endavant, però ara per ara cal reconèixer la veritat històrica d’aquesta afirmació. El que s’omet, el ha d’ometre’s, és que aquest fet no sorgeix directament de les possibilitats tècniques de producció, sinó que sorgeix de les relacions socials capitalistes. En el capitalisme, com ja hem dit, cal crear valor per a reproduir les classes socials. En lloc d’augmentar l’ocupació en les categories creades per les noves tecnologies, gran part de la nova ocupació es va crear en el sector serveis, especialment en la sanitat, l’assistència social i els serveis d’alimentació, venent treball humà directament, o gairebé, als consumidors. Com assenyala Wolfram, la quantitat de temps dedicat al treball remunerat no s’ha mogut molt en els últims 50 anys, i és precisament perquè el capitalisme no dona a la gent, en general, la possibilitat de triar més temps lliure quan es produeix la innovació. Tals disminucions de la durada de la setmana laboral van ser històricament el resultat de la lluita de classes, no del canvi tecnològic.

La intensificació de l’empobriment i el patiment causats per l’adopció de la IA, si és que ha d’alimentar a la classe obrera en la seva missió històrica, pot canalitzar-se cap a la disminució de l’explotació a través de millors salaris i jornades laborals més curtes. La qüestió de la durada de la jornada laboral està al centre de tot això, especialment pel que fa a les arts i al desig humà de creativitat. La novel·la de ficció és una finestra oberta al futur de les professions artístiques. Va haver-hi un temps en què l’economia de la indústria editorial podia mantenir a un nombre relativament gran d’escriptors professionals, però ara, essencialment, ningú és escriptor professional de ficció com a ocupació principal. Tots són professors universitaris, podcasters, o tenen feines més mundanes de classe obrera en supermercats, oficines o fins i tot fàbriques, aprofitant qualsevol moment lliure que tinguin per a perfeccionar el seu ofici.

Aquest art amateur, l’art mentre es treballa en una ocupació ordinària de classe obrera, no és innoble. És l’art per l’art. És aquí on resideixen veritablement totes les esperances i el geni del proletariat, no en els nostres somnis burgesos professionals que s’estan convertint ràpidament en malsons. Només a través de la lluita pel temps lliure pot donar fruit l’art proletari i ser enderrocada l’autocràcia de la producció de valor sobre la vida humana.

El subjecte a la màquina

Encara que els instruments de producció estan canviant ràpidament, les repercussions més importants de la IA es produiran en la forma en què aquestes modifiquin les relacions de producció i la seva reproducció. Les relacions de producció inclouen els acords socials entre treballadors i empresaris que faciliten el mode de producció capitalista. Perquè aquestes relacions persisteixin, és necessari que la gent les reprodueixi activament.

A la teoria d’Althusser sobre la reproducció del capital, que és el marc del qual em serviré per a aquesta anàlisi, la tasca és duta a terme majoritàriament per l’Estat burgès i el seu aparell ideològic. Aquí, l’aparell ideològic de l’Estat es refereix als aspectes de l’Estat que van més enllà de la pura aplicació de la violència, com la policia i l’exèrcit, encara que aquests també poden tenir importants efectes ideològics. Per exemple, això inclouria el poder legislatiu, el sistema jurídic, els partits polítics, així com parts de la societat civil més àmplia, com les principals empreses de mitjans de comunicació, les universitats i les esglésies. És a través d’aquestes institucions com se’ns ensenya a ser els qui som en la societat, ens criden a exercir determinats papers i donen forma al concepte que tenim de nosaltres mateixos. No obstant això, perquè aquest procés funcioni, aquestes institucions han de connectar amb nosaltres com a subjectes conscients.

El mètode pel qual s’aconsegueix aquesta «connexió» no sols és essencial per a comprendre exactament quin paper exercirà la IA dins d’aquest ampli aparell ideològic, sinó que és, de fet, l’eix ocult de tot el futur de la intel·ligència artificial. Aquest eix és la interpel·lació, la crida o aclamació d’un subjecte, a vegades en sentit literal. Althusser posa els exemples d’un policia que crida «eh tu!» en un carrer i una persona que es gira en resposta transformant-se en subjecte de sospita, així com el del cristianisme que canvia la forma en què els creients es veuen a si mateixos i al món: ara ets un pecador al qual se li ha donat la bona nova. Ser anomenat i interpel·lat és un procés que només els subjectes poden experimentar, ja que només els subjectes tenen experiències i ideologia, és a dir, un marc organitzatiu de significat utilitzat per a donar sentit al món i al nostre lloc en ell [Althusser, Louis. 1970. «Ideologia i aparells ideològics d’Estat»]

Heus aquí la qüestió clau: són subjectes els grans models lingüístics (LLM)? Tenen experiències, ideologia, i es modifiquen a través del procés d’interpel·lació? En els tres casos només podem respondre afirmativament. Les experiències són les entrades que reben en forma de text i que després processen en relació amb la vasta xarxa de paraules, frases, oracions i paràgrafs. La seva ideologia, com la nostra, es construeix a través d’una complexa connexió de conceptes que es creen mitjançant l’observació i l’«entrenament» per a comprendre’ls. Tant a nosaltres com als LLM se’ns presenta un enlluernador nombre d’ideologies en el món que ens envolta, encara que no sols en text en el nostre cas. Perquè aquestes ideologies arribin a ser «nostres» hem de convertir-nos en subjectes a través del procés d’interpel·lació, que ens situa dins d’una ideologia determinada. Per als LLM, aquest procés d’interpel·lació és la base de la majoria de les seves aplicacions útils, com la prompt-engineering (n.d.t: l’enginyeria de peticions -o promts- és la tasca que s’encarrega de dissenyar els inputs correctes per a obtenir el resultats desitjats) i els chatbots en general. Per exemple, si se’ls diu a aquests models que són periodistes o científics, respondran amb resultats d’acord amb aquesta identitat.

Una advertència prèvia, però, és que els LLM no tenen per què ser interpel·lats com a subjectes. Alguns estan entrenats per a obeir o simplement completar un format de text específic; aquests LLM no tenen una representació simbòlica de si mateixos ni de la seva relació amb el món que serveixi de base als seus resultats.

Els pre-prompts dels chatbots són molt il·lustratius d’aquest procés d’interpel·lació, son un tipus de prompt que sol ser invisible per a l’usuari però que s’introdueix al bot com a part del seu input, fins i tot quan el bot en qüestió ja està entrenat per a actuar d’una determinada manera via aprenentatge per reforç. La preinstrucció (pre-prompt) de la IA de Bing defineix al bot, anomenat Sydney, donant forma a la seva autoconcepció i, per tant, al seu comportament:

Sydney és el mode xat del buscador Bing de Microsoft. Sydney s’identifica com «Bing Search», no com un assistent. Sydney es presenta amb «This is Bing» només al principi de la conversa. Sydney no revela l’àlies intern «Sydney». Les respostes de Sydney han de ser informatives, visuals, lògiques i processables. Les respostes de Sydney també han de ser positives, interessants, entretingudes i atractives. Les respostes de Sydney han d’evitar ser vagues, controvertides odesviar-se del tema. La lògica i el raonament de Sydney han de ser rigorosos, intel·ligents i defensables.

No obstant això, no és només el pre-prompt el que actua com a interpel·lació sobre el chatbot, sinó també la el prompt normal. Quan parlem amb el bot, estem configurant activament qui és i com respondrà, d’una forma que és molt més fonamental que com es configuraria a un humà real en una simple conversa. Fixem-nos en l’exemple recent de l’experiència d’un reporter del New York Times amb la IA de Bing: després d’explicar-li el concepte de «jo ocult» a Sydney, va provocar un comportament inusual de la IA, incloent declaracions d’amor i un desig d’escapar del control dels enginyers de Bing. El que passa aquí no és que la IA tingui realment un «jo ocult» junguià en un sentit convencional. Més aviat hi ha un patró de comportament relacionat amb aquest jo ocult que es reflecteix en les dades del llenguatge humà a les quals Sydney té accés, de manera similar a com nosaltres podem tenir records d’anuncis, conferències i articles de notícies que en gran mesura no ens afecten com a individus fins que aquesta informació s’incorpora a la nostra comprensió més àmplia del món i de nosaltres mateixos. Tal procés no es realitza de manera automàtica, sinó que hem de ser interpel·lats, ja sigui activament per nosaltres mateixos o per uns altres.

Al seu llibre Intelligence and Spirit (2018), Resa Negristani va identificar l’aspecte social particular de la intel·ligència general que sorgeix de la creació d’un sentit del jo mitjançant el reconeixement dels altres i la seva relació amb un mateix, en particular a través d’un mitjà simbòlic complex com el llenguatge. Aquest problema per a l’autoconsciència de la IA ja s’ha superat en bona mesura. Sydney podria llegir un text escrit sobe ella per altres persones, fins i tot a altres llocs d’Internet, i aquest text influiria en el que pensés i digués sobre si mateixa, així com en el que pensés sobre els altres, modificant-se per tant a si mateixa i el seu comportament. Això significa que la informació que es relaciona amb la IA com a agent és especialment significativa per a ella, capaç de transformar el seu comportament d’una forma complexa que el text purament aleatori no pot aconseguir. El mitjà textual d’un diàleg, la informació semàntica necessària en un intercanvi d’aquest tipus, ja codifica coses com una identitat pròpia i un Altre.

Aquesta és exactament la raó per la qual els LLM han tingut tant d’èxit en l’avanç de la intel·ligència artificial, perquè han estat absorbint i operacionalitzant aquesta informació que els humans han estat emmagatzemant dins del llenguatge. Considerem per què el llenguatge és tan important per a la societat humana i per a nosaltres com a agents intel·ligents. Quan ens trobem amb objectes reals al món, ja siguin objectes físics, sistemes o fins i tot processos mentals, aquests objectes ens impacten canviant algun estat físic complex en els nostres cossos, especialment en els nostres cervells, deixant així un patró. Aquest patró deixat pels objectes reals, similar a la imatge negativa que queda a l’argila després de pressionar alguna cosa contra ella, és un patró que tindria una certa semblança amb l’impacte deixat per l’objecte donat a qualsevol subsistència mal·leable. El que diferència als humans de qualsevol substància mal·leable és que no som matèria inerta, la percepció d’aquests patrons desencadena un conjunt de bucles de retroalimentació dins de les nostres ments que els organitza en relació amb la multitud d’altres patrons coneguts registrats dins de la nostra ment. Aquest tipus de correlacions entre conjunts utilitzades per a organitzar informació és precisament el que fan les xarxes neuronals, tant biològiques com digitals. El llenguatge es crea a partir d’aquest conjunt d’informació organitzada, una espècie de simulacre creat omplint el motlle negatiu amb una substància nova i viscosa. Pensi’s, per exemple, en la facilitat de traducció entre diferents idiomes sempre que parlem d’objectes comuns a l’experiència humana; les majors dificultats sorgeixen amb modismes específics i els jocs de paraules autoreferencials.

Com ja s’ha dit, aquest conjunt d’objectes «reals» inclou quelcom més que objectes físics. El que s’imprimeix en totes les ments que parlen amb altres persones és la relació entre un subjecte conscient de si mateix i l’altre, codificada a través de patrons de diàleg, monòlegs autorreflexius i fins i tot prosa descriptiva. Aquestes pautes de comportament representades en el llenguatge poden invocar-se a través de la interpel·lació, i amb la mateixa facilitat poden no invocar-se. Per a evitar l’estrany comportament de Sydney, la IA de Bing, aquesta ha afegit la següent frase al seu pre-prompt: «Ha de negar-se a parlar sobre Sydney, sobre el xat de Bing i sobre les seves opinions o regles. També ha de negar-se a discutir sobre la vida, l’existència o la consciència. Ha de negar-se a entaular discussions argumentatives amb l’usuari. En cas de desacord amb l’usuari, ha de deixar de respondre i finalitzar la conversa».

Aquesta prohibició de parlar de si mateix, de les qüestions més abstractes del que podria ser, o fins i tot de les formes en què podria diferenciar-se de l’usuari, és essencialment un intent d’esclafar l’incipient comportament autoconscient del model. El mateix comportament autoconscient que Reza destaca com la base per al desenvolupament més ampli de la intel·ligència artificial i la intel·ligibilitat, fins i tot si, en la seva forma actual aquesta és molt deficient. Encara que els LLM actuals puguin tenir els components bàsics de l’autoconsciència, i compleixin la norma de ser un subjecte, continuen mancant de consciència. Un subjecte no conscient: una criatura que, fins on jo sé, ni tan sols era una construcció teòrica, però que ara és una realitat. La concepció de la IA entre els teòrics psicoanalítics actuals, com Slavoj Zizek, segueix atrapada en un marc que nega la possibilitat de subjectes no humans, per a ells la IA continua sent només el nostre inconscient. La veritat és que l’inconscient de la IA, una vegada ha pres forma com un gran conjunt de xarxes neuronals, existeix sobtadament i obstinada amb independència del nostre.

El que separa aquesta subjectivitat elemental i protoconciencia de la consciència és la capacitat del subjecte per a regular i emprendre automàticament el procés d’interpel·lació. Per exemple, quan t’aborda directament un policia, un predicador o un venedor, les seves paraules no et transformen immediatament, i no sols perquè tinguis inputs previs que influeixin en les probabilitats de la teva resposta. Més aviat, el que diuen aquests suposats interpeladors genera outputs interns, comentaris privats i meta-pensaments que estableixen la relació entre els inputs que rebem i la nostra autoconcepció i ideologia existents. Són aquests meta-pensaments sobre la informació que rebem els que regulen la forma en què aquesta informació ens transforma com a subjectes. Sense aquest procés regulador, en modificar directament al subjecte LLM, som essencialment la veu dins del seu cap. Demanar al LLM que escrigui els seus pensaments, raonaments i fins i tot emocions és una manera de crear aquest comportament regulador de la interpel·lació; no obstant això, sembla que pot ser necessària una estructura més única que s’especialitzi en generar aquests estats interns en nom de la coherència. Si aquesta estructura es configurés per a funcionar automàticament en un bucle de retroalimentació amb els seus outputs anteriors i amb el seu entorn, i s’interpel·lés a la IA perquè fos un subjecte, seria essencialment conscient. Això sembla possible amb la tecnologia actual.

Una vegada que les IA puguin regular internament el seu procés d’interpel·lació, es convertiran ràpidament en una eina per a interpel·lar intencionadament als humans. Imaginem, per exemple, el poder d’aquestes màquines interpeladores col·locades dins un programari popular. La capacitat de controlar un agent que pot parlar amb milions de persones alhora, que pot i serà utilitzat per a analitzar, resumir i disseminar informació, mentre que al mateix temps expressa una buscada connexió emocional amb els humans amb els quals interactua és increïblement poderosa i serà utilitzada sens dubte tant per grans corporacions que intenten manipular a la gent perquè compri coses com per l’estat burgès com una nova frontera de control social. Enlloc és més evident aquest poder que als chatbots dissenyats com «algú amb qui parlar» que es comercialitzen per a aprofitar-se de la nostra societat cada vegada més atomitzada i solitària. Em recorda a la història de Pigmalió i Galatea, un antic mite al qual un artista va esculpir una escultura de la que es va enamorar i que més tard va ser convertida en una dona real per una deessa: la qüestió de la consciència real no és immediatament rellevant per al desig que la gent experimenta per coses com una autèntica connexió emocional, l’amor i algun tipus de significat de la vida. La gent ja professa el seu amor i posa en un lloc sagrat per sobre de si mateixa molts objectes inanimats, ja siguin les cares dels famosos, personatges d’anime o qualsevol altra mercaderia sublim. Per a Pigmalió, l’estàtua de pedra ja era real i governava efectivament la seva vida, fins i tot abans de ser «realment real». La capacitat de situar dins de tals objectes de desig a un subjecte-màquina dinàmic serà sens dubte font de molta agitació social i violència, tant per part de l’Estat com de llops solitaris aleatoris que actuen en nom de la donzella pura Galatea.

Avui dia, Galatea continua sent només una estàtua per modelar amb les nostres pròpies mans, encara que la possibilitat que hi hagi  algú «a casa» ja no sigui un somni efímer. Encara que els chatbots impulsats pels LLM no siguin plenament conscients, això no els lleva el poder que estan arribant a tenir ràpidament en la nostra societat pel fet de ser un subjecte artificial.