IL CAVALLO IL LAVORO E IL CAPITALE
Nick Bostrom . 2014
arteideologia raccolta supplementi
nømade n.15 Maggio 2018
LA RIPRESA DELLE OSTILITÀ
14
pagina
SCENARIO CON CAVALLI, UOMINI  E CAVALIERI ERRANTI
A noi, qui — N. Bostrom, Superintelligence.Paths.Dangers. Strategies, 2014; Ed.It. Superintelligenza.Tendenze, pericoli, strategie, Bollati Boringhieri, Torino 2018 — interessa riportare esclusivamente quanto viene detto attorno al cavallo, al lavoro e all’uomo; mentre non ci interessa affatto seguire oltre una intelligenza scientifica in evidente difficoltà tra le grinfie dell'ideologia - capace cioè di prefigurarsi una transizione donchisciottesca nella quale, ad esempio, il lavoro umano salariato sparirebbe senza la conseguente sparizione del capitale. Dunque, partiamo con i cavalli dall'inizio del capitolo 11, cioè da pagina 242 e, dove i cavalli non saranno più nominati, lì ci fermeremo per proseguire in automobile. 

Scenari multipolari

Abbiamo visto (in particolare nel capitolo 8) quanto potrebbe essere minaccioso un risultato unipolare, in cui un'unica superintelligenza ottiene un vantaggio strategico decisivo e lo usa per istituire un singleton. In questo capitolo esaminiamo che cosa accadrebbe in uno scenario multipolare, una, società post-transizione con molte superintelligenze in competizione. Il nostro interesse per questa classe di scenari è duplice. In primo luogo, come accennato nel capitolo 9, si potrebbe pensare che l'integrazione sociale offra una soluzione al problema del controllo; abbiamo già notato alcune limitazioni di questo approccio e qui viene presentato un quadro più completo. In secondo luogo, anche se nessuno si propone di creare una condizione multipolare come modo per affrontare il problema del controllo, è una situazione che potrebbe presentarsi comunque. Quali caratteristiche potrebbe avere? La conseguente società competitiva non è necessariamente attraente né duratura.

Negli scenari con un singleton, ciò che accade dopo la transizione dipende quasi per intero dai suoi valori. Il risultato potrebbe quindi essere molto negativo o molto positivo a seconda dei valori in questione. Quali sono i valori del singleton dipende, a sua volta, dal fatto che il problema del controllo sia stato risolto e - nella misura in cui è stato risolto - dagli scopi del progetto che ha creato il singleton.
Se si è interessati al risultato degli scenari con un singleton, pertanto, in realtà si dispone solo di tre tipi di informazioni: informazioni su questioni che non possono essere influenzate dalle azioni del singleton (come le leggi della fisica), informazioni sui valori strumentali convergenti e informazioni che permettono di prevedere o ipotizzare quali valori ultimi avrà il singleton.
Negli scenari multipolari, entra in gioco un altro insieme di vincoli, che hanno a che fare con il modo in cui interagiscono gli agenti. La dinamica sociale che emerge da queste interazioni può essere studiata utilizzando tecniche della teoria dei giochi, dell'economia e della teoria dell'evoluzione. Sono pertinenti anche elementi delle scienze politiche e della sociologia, nella misura in cui possono essere distillati e astratti da alcune delle caratteristiche più contingenti dell'esperienza umana. Anche se sarebbe irrealistico aspettarci che forniscano un quadro preciso del mondo post-transizione, questi vincoli possono aiutarci a individuare alcune possibilità importanti e a mettere in dubbio alcuni assunti privi di fondamento.
Inizieremo esplorando uno scenario economico caratterizzato da un basso livello di regolamentazione, una forte difesa dei diritti di proprietà e un'introduzione relativamente rapida di menti digitali poco costose.[1] Questo tipo di modello è strettamente associato all'economista americano Robin Hanson, che ha svolto un lavoro pionieristico sull'argomento. Più avanti in questo capitolo, prenderemo in esame alcune considerazioni evolutive e Ie prospettive di un mondo post-transizione inizialmente multipolare che in seguito si fonde in un singleton.

Dei cavalli e degli uomini

L'intelligenza digitale generale potrebbe essere utile come sostituto dell'intelligenza umana. Le menti digitali sarebbero in grado non solo di svolgere il lavoro intellettuale oggi svolto dagli esseri umani, ma anche, una volta dotate di buoni attuatori o corpi robotici, di rimpiazzarli nel lavoro fisico. Supponiamo che i lavoratori digitali - che sono rapidamente riproducibili - diventino più economici e più capaci dei lavoratori umani in quasi ogni mansione.
Che cosa accadrebbe?

Retribuzioni e disoccupazione

Se la forza lavoro può essere riprodotta a basso costo, le retribuzioni di mercato crollano. L'unico settore in cui le persone resterebbero competitive potrebbe essere quello in cui i clienti hanno una preferenza fondamentale per il lavoro svolto da esseri umani. Oggi gli oggetti artigianali prodotti da popolazioni indigene a volte sono molto cari. In futuro i consumatori potrebbero preferire i servizi e i prodotti realizzati da esseri umani e atleti umani, artisti umani, amanti umani e leader umani ai loro corrispondenti artificiali funzionalmente indistinguibili o superiori. La possibile diffusione di queste preferenze, però, non è chiara. Se le alternative fatte a macchina fossero sufficientemente superiori, forse sarebbero più apprezzate.
Un parametro che potrebbe influenzare la scelta dei consumatori è la vita interiore del lavoratore che fornisce il servizio o il prodotto. Il pubblico di un concerto, per esempio, potrebbe essere più contento se sa che il musicista è cosciente della musica e della sala. In mancanza dell'esperienza fenomenologica, il musicista potrebbe essere considerato soltanto come un jukebox molto potente, seppur capace di creare l'apparenza tridimensionale di un esecutore che interagisce in modo naturale con la folla. Si potrebbero quindi progettare macchine in cui si producono gli stessi stati mentali che sarebbero presenti in un essere umano che svolge lo stesso compito. Anche se si riuscissero a riprodurre alla perfezione le esperienze soggettive, tuttavia, alcuni potrebbero comunque preferire i lavoratori naturali. Queste preferenze potrebbero anche avere radici ideologiche o religiose. Come molti musulmani ed ebrei evitano i cibi preparati in modi che classificano come haram o treif, così in futuro potrebbero esistere gruppi che rifuggono da prodotti la cui lavorazione comporta l'uso non autorizzato di un'intelligenza digitale.
Che cosa ne discenderebbe? Nella misura in cui i lavoratori umani possono essere sostituiti da lavoratori digitali economici, i posti di lavoro per gli esseri umani potrebbero scomparire. I timori per l'automazione e la perdita del lavoro naturalmente non sono una novità. Le preoccupazioni riguardo alla disoccupazione tecnologica sono emerse periodicamente, almeno a partire dalla rivoluzione industriale, e in effetti non poche professioni sono scomparse, come i tessitori e gli artigiani tessili inglesi che all'inizio dell’ottocento si riunirono sotto lo stendardo del mitico «generale Ludd» per combattere l'introduzione dei telai meccanici. Ciò malgrado, anche se i macchinari e la tecnologia hanno sostituito molti tipi particolari di lavoro umano, la tecnologia fisica nel complesso ha fatto da complemento al lavoro. Le retribuzioni umane medie hanno avuto una prolungata tendenza al rialzo in tutto il mondo, in gran parte a causa di questa complementarità. Ciò che parte come complemento al lavoro, tuttavia, in uno stadio successivo può diventare un suo sostituto. Agli inizi i cavalli erano integrati da carrozze, carri e aratri, che aumentavano di molto la produttività degli animali; in seguito, furono sostituiti dalle automobili e dai trattori. Queste innovazioni ridussero la domanda di lavoro equino e portarono al crollo di una popolazione. La specie umana potrebbe avere un destino simile?
Possiamo estendere il parallelo con la storia del cavallo se ci domandiamo perché i cavalli sono ancora in circolazione. Una delle ragioni è che esistono ancora nicchie in cui i cavalli hanno un vantaggio funzionale, per esempio il lavoro della polizia. La ragione principale, però, è che per qualche motivo gli esseri umani hanno una particolare preferenza per i servizi forniti da questi animali, tra cui l'equitazione e le corse dei cavalli. Possiamo paragonare queste preferenze a quelle che abbiamo ipotizzato per gli esseri umani del futuro, per beni e servizi prodotti da esseri umani.
L'analogia è suggestiva, però è inesatta, poiché non esiste ancora un sostituto funzionale completo dei cavalli. Se esistessero dispositivi meccanici non costosi, alimentati a fieno, esattamente uguali alla vista, al tatto e all'odorato e con lo stesso comportamento dei cavalli biologici - forse persino con le stesse esperienze coscienti -, la domanda di cavalli biologici probabilmente subirebbe un ulteriore calo.

Se la domanda di lavoro umano si riducesse in misura sufficiente, le retribuzioni scenderebbero sotto il livello di sussistenza umana. Il potenziale svantaggio per i lavoratori umani è quindi estremo: non solo tagli delle retribuzioni, retrocessioni e necessità di riconversione professionale, ma fame e morte. Quando i cavalli   diventarono obsoleti come fonte di energia mobile, molti furono venduti ai mattatoi per fame cibo per cani, farina di ossa, cuoio e colla. Questi animali non avevano un impiego alternativo per guadagnarsi il mantenimento. Negli Stati Uniti, nel 1915 esistevano all'incirca 26 milioni di cavalli; all'inizio degli anni cinquanta ne rimanevano 2 milioni.[2]

Capitale e benessere

Una delle differenze tra gli esseri umani e i cavalli è che i primi possiedono capitali. Un fatto empirico stilizzato è che la quota di reddito da capitale per lungo tempo è rimasta costante intorno al 30 per cento (anche se con fluttuazioni a breve termine significative).[3]
Ciò significa che il 30 per cento del reddito globale complessivo è percepito come rendita da chi possiede capitali e il restante 70 per cento è percepito come retribuzione dai lavoratori. Se classifichiamo un'lA come capitale, con l'invenzione di intelligenze digitali in grado di sostituire completamente i lavoratori umani, le retribuzioni scenderebbero fino al costo marginale di questi sostituti digitali, che - supponendo che le macchine siano molto efficienti - sarebbe molto basso, decisamente al di sotto del reddito minimo di sussistenza per gli esseri umani. La quota di reddito da lavoro diminuirebbe praticamente fino a zero. Ma ciò implica che la quota di reddito da capitale diventerebbe quasi il 100 per cento del prodotto mondiale totale. Poiché dopo un'esplosione di intelligenza il PIL mondiale salirebbe rapidamente (a causa di enormi quantità di nuove macchine sostitutrici dei lavoratori, ma anche dei progressi tecnologici compiuti da una superintelligenza e, in seguito, dell'acquisizione di grandi quantità di nuovi territori grazie alla colonizzazione dello spazio), ne segue che il reddito totale da capitale aumenterebbe enormemente. Se gli esseri umani restassero proprietari di questo capitale, il reddito totale percepito dalla popolazione umana crescerebbe in misura astronomica, nonostante il fatto che in questo scenario gli esseri umani non percepirebbero più redditi da lavoro.
Quindi nel complesso la specie umana potrebbe diventare ricca al di là dell'immaginazione. Come sarebbero distribuiti questi redditi? In prima approssimazione, il reddito da capitale sarebbe proporzionale al capitale posseduto. Dato l'effetto di enorme amplificazione, anche una minuscola ricchezza pre-transizione aumenterebbe rapidamente diventando un'enorme fortuna post-transizione. Nel mondo contemporaneo, però, molti non possiedono ricchezze, non solo quanti vivono in povertà, ma anche alcuni che guadagnano bene o hanno un capitale umano notevole ma un patrimonio netto negativo. Per esempio, in Danimarca e in Svezia, due nazioni ricche, il 30 per cento della popolazione ha una ricchezza negativa; spesso sono giovani di classe media, che possiedono pochi beni materiali e hanno contratto debiti con le carte di credito o prestiti per studenti.[4]
Anche se i risparmi potrebbero fruttare un interesse estremamente alto, per dare inizio alla capitalizzazione è necessario avere un po' di grano da seme, un certo capitale di partenza.[5]
Ciò nonostante, potrebbero diventare estremamente ricche anche persone che all'inizio della transizione non hanno un patrimonio private. Per esempio, gli aderenti a un piano pensionistico, pubblico o privato, dovrebbero essere in una buona posizione, a patto che il sistema sia almeno parzialmente finanziato.[6]
Anche i non abbienti potrebbero diventare ricchi, grazie alla filantropia di chi vede salire alle stelle la propria ricchezza: a causa delle straordinarie dimensioni della fonte di ricchezza, in termini assoluti anche una piccola percentuale donata in elemosina sarebbe una somma enorme.
Forse sarebbe ancora possibile diventare ricchi con il lavoro anche in una fase post-transizione in cui le macchine sono funzionalmente superiori agli esseri umani in tutti i domini (e anche più economiche del lavoro umano a livello di sussistenza).
Come si è gia osservato, potrebbe accadere se esistessero nicchie in cui il lavoro umano è preferito per ragioni estetiche, ideologiche, etiche, religiose o per altre ragioni non pragmatiche. In uno scenario in cui la ricchezza dei detentori umani di capitale aumenta in modo spettacolare, la domanda di lavoro umano potrebbe aumentare in misura, corrispondente. I nuovi multimiliardari potrebbero permettersi di pagare un sovrapprezzo notevole per avere una parte dei propri beni e servizi fornita da una forza lavoro non artificiale. La storia dei cavalli offre un altro parallelo. Dopo essere scesa a 2 milioni all'inizio degli anni cinquanta del secolo scorso, la popolazione equina degli Stati Uniti ha avuto una forte ripresa: in base all'ultimo censimento, qualche anno fa esistevano poco meno di 10 milioni di cavalli.[7]
L'aumento non è dovuto a nuove necessità funzionali di cavalli nell’agricoltura e nei trasporti, ma al fatto che la crescita economica ha permesso a un maggior numero di cittadini di indulgere alla passione per l'equitazione.
Un'altra differenza importante tra gli esseri umani e i cavalli, oltre al possesso di capitali, è che i primi sono capaci di mobilitazione politica. Un governo gestito da esseri umani potrebbe usare il potere fiscale dello stato per ridistribuire i profitti privati, o per raccogliere risorse vendendo beni di valore di proprietà dello stato, come terreni pubblici, e usare il ricavato per mandare in pensione i suoi elettori. Sempre a causa della crescita economica esplosiva durante la transizione e subito dopo, la quantità di ricchezza in circolazione sarebbe enormemente maggiore, permettendo di soddisfare con relativa facilità i bisogni di tutti i cittadini disoccupati. Anche una singola nazione potrebbe fornire a ogni abitante del pianeta un reddito abbondante a un costo proporzionalmente non superiore a quanto spendono oggi molti paesi per gli aiuti all'estero.[8]
pagina
SINGLETON . Per darvi un’idea di cosa si intende con questo termine, riportiamo un passo dal cap.5 in cui l’A. si chiede: “…Se un progetto (di Intelligenza Artificiale) ottenesse un vantaggio strategico decisivo, lo userebbe per eliminare i concorrenti e dare forma a un singleton  (un ordine mondiale in cui al livello globale vi è un’unica entità che prende le decisioni)?”

[1] . Non perché questo sia necessariamente il genere di scenario più probabile o più desiderabile, ma perché è quello più facile da analizzare con la cassetta degli attrezzi della teoria economica standard e quindi è un punto di partenza appropriato per la nostra discussione.
[2] . American Horse Council (2005). Si veda anche Salem e Rowan 2001.
[3] . Acemoglu 2003; Mankiw 2009; Zuleta 2008.
[4] . Fredriksen 2012, p. 8; Salverda etal. 2009, p. 133.
[5] . E’ essenziale anche che almeno una parte del capitale sia investita in beni che aumentano di valore insieme alla marea generale. Un portafoglio di attività diversificate, come quote di un fondo d'investimento indicizzato, aumenterebbe la probabilità di non subire una perdita completa.
[6] . Molti sistemi previdenziali europei non sono finanziati, nel senso che le pensioni sono pagate con i contributi e le tasse dei lavoratori e non grazie a un insieme di risparmi. Questi sistemi non soddisferebbero automaticamente il requisito - in caso di un'improvvisa disoccupazione di massa, le entrate con cui si pagano le prestazioni potrebbero esaurirsi. I governi, tuttavia, potrebbero decidere di compensare l'ammanco con altre fonti.
[7] . American Horse Council 2005.
[8] . Fornire a 7 miliardi di persone una pensione annua di 90000 dollari costerebbe 630000 miliardi all'anno, pari a dieci volte l'attuale PIL mondiale. Negli ultimi cento anni, il PIL mondiale è aumentato di circa 19 volte, da circa 2000 miliardi di dollari nel 1900 a 37000 miliardi di dollari nel 2000 (in dollari internazionali del 1990), secondo Maddison 2007. Se questo tasso di crescita si mantenesse costante per altri due secoli, con una popolazione costante, fornire a tutti una pensione annua di 90000 dollari costerebbe all'incirca il 3 per cento del PIL mondiale. Un'esplosione di intelligenza potrebbe portare a questo aumento della crescita in un intervallo di tempo molto minore. Si vedano anche Hanson 1998a, Hanson 1998b e IIanson 2008.