INTRODUZIONE
Oggigiorno ChatGPT promette miracoli e in molti casi sta davvero rivoluzionando il nostro modo di lavorare. L’intelligenza artificiale rappresenta il tentativo di ergerci a “dei” capaci di creare una forma di vita senziente, anche se per il momento solo virtuale. Tra qualche decennio questi sistemi saranno comuni come lo sono oggi il cellulare e la TV e pervaderanno tutta la nostra vita quotidiana svolgendo molteplici compiti. Ma siamo certi che tutte le attività saranno svolte come abbiamo stabilito? Dopo tutto, lo scopo dell’intelligenza non è forse quello di superare ogni ostacolo e migliorare la propria condizione? A proposito, mi è venuto in mente che sarebbe meglio fare una chiacchierata con HAL-9000.

Il finestrino sopra la consolle s’illuminò di un riflesso rosso attirando il suo sguardo nel momento in cui l’indicatore raggiunse il 100%.
– Download completato, procedo alle verifiche di validità – si affrettò a dire Michael al microfono. – Ricevuto, Steelsock – rispose una voce sintetica attraverso le cuffie.
– Questa è la versione neutra finale senza training. I dati didattici sono inclusi nel pacchetto. Si consiglia di procedere rapidamente con l’implementazione della fase successiva –
– Ricevuto, tutto come da programma Kennedy – rispose Michael – siamo pronti a procedere. Avvio addestramento previsto per le ore 06:00 chiudo. –
Si girò lentamente a guardare gli altri membri del gruppo assiepati curiosi dietro di lui, Martin Kilroy, Annette Du Barry e Alexandra Roskovich, a formare il piccolo equipaggio di due uomini e due donne.
– Ci siamo – annunciò con voce che tradiva l’emozione – da questo momento si fa sul serio.
Tutti si scambiarono dei cenni di assenso con grandi sorrisi tranne Kilroy, l’ingegnere capo, sembrava assorto e preoccupato. Michael lo osservò per un istante curioso di sapere del perché di quella espressione. Una risata al suo fianco lo fece desistere, era meglio non rovinare quel raro momento di euforia uno dei pochi negli ultimi tempi. Tutto era cominciato giusto 18 mesi prima, quando un telescopio amatoriale che si occupava di osservazioni solari aveva intravisto un puntino stagliarsi in un angolo della corona solare. Troppo difficile da osservare per quello strumento, ma l’astrofilo facendo il suo dovere lo segnalò al “Minor Planet Center” come stabilito dalle regole internazionali sulle osservazioni di piccoli corpi celesti. L’MPC impiegò qualche giorno prima di prendere in carico la segnalazione dato che ormai i tre satelliti preposti all’osservazione del sole inviavano a terra molti avvistamenti ogni settimana e l’MPC aveva i calcolatori sempre impegnati a disegnare orbite e stime di avvicinamento. Ma quel puntino non risultava su nessun rilevamento della triade dei satelliti “OBOE”. In effetti il momento in cui era stato avvistato coincideva con il minuto ogni ora nel quale i satelliti chiudevano lo scudo termico per proteggere gli strumenti dal surriscaldamento dovuto alla vicinanza al sole. Più che di surriscaldamento si trattava di evitare la saturazione degli strumenti di misura delle radiazioni, che accumulavano particelle per stimare tra le altre cose il vento solare in formazione. E l’unico satellite nella posizione di rilevare l’oggetto in avvicinamento in quell’istante era in modalità di sicurezza proprio in quel minuto, quando l’asteroide sfrecciò nel ridottissimo campo di rilevamento visivo del satellite. Ogni satellite si occupava di tenere d’occhio un terzo della superfice solare e le misurazioni si sarebbero poi combinate con i rilevamenti degli altri due satelliti per ottenere il quadro completo. Fu in quel momento che la IA addetta all’analisi si accorse del mancato riscontro e fu in quel momento che decise di verificare i dati risalenti ai giorni precedenti. Ma quello che trovò fece scattare un ulteriore serie di verifiche urgenti tali da modificare il puntamento di tutti e tre i satelliti ed osservare per diversi minuti a varie angolazioni un possibile “NEO” (Near Earth Object) in avvicinamento. Solo quando la IA terminò tutte le verifiche necessarie fece scattare l’allarme. L’oggetto aveva una probabilità superiore alla tolleranza massima di sicurezza di impattare con la Terra. Questo non significava ancora nulla ma era un oggetto degno di attenzione. Nei giorni seguenti diversi strumenti puntarono l’oggetto per analisi più approfondite, venne impiegato anche il nuovo telescopio lunare, il quale riuscì a riprendere in maniera sufficientemente nitida l’asteroide. La sorpresa fu che l’asteroide aveva una forma allungata che si assottigliava ad una estremità. Assomigliava al nocciolo di un albicocca. Ma ciò che fece trasalire gli astronomi erano il suo asse e periodo di rotazione. L’asse era quasi perfettamente parallelo alla sua lunghezza ed il periodo era di poco meno di un minuto. Le misure erano colossali, lungo circa 15 km per 9 di spessore all’estremità maggiore. In pratica era un enorme proiettile in rapida rotazione in rotta di avvicinamento. Venne subito ribattezzato “FMJ” ovvero Full Metal Jacket in onore dell’omonimo film e del famoso proiettile. Non c’era da scherzare, la massa, la forma, la velocità di avvicinamento pari a 28.000 km/h, molto più veloce di qualunque altro asteroide mai registrato, la sua traiettoria doveva essere calcolata con la massima precisione possibile ed il più in fretta possibile. Tutte le stazioni di terra ed in orbita vennero dirottate ad osservare l’oggetto in modo da prendere il maggior numero possibile di misurazioni. Dopo diciassette giorni di osservazioni concitate il responso era chiaro, restavano poco più di diciotto mesi all’impatto. Le prime settimane furono un delirio, nessuno era pronto ad un evento di tale portata. Le stime più ottimistiche indicavano che almeno i nove decimi della popolazione mondiale sarebbero stati spazzati via sia dall’impatto iniziale che dalle conseguenze del raffreddamento globale negli anni a seguire. L’isteria di massa si manifestò velocemente ed i governi dovettero affrontare situazioni disperate e molti paesi già poveri decisero di desistere, tanto era tutto inutile. Ovviamente una piccola cerchia di persone selezionate sarebbe forse sopravvissuta, protetta da chilometri di pietra e acciaio sopra le proprie teste. Ma vivere anni in una caverna per quanto confortevole e bene attrezzata sembrava a molti una ben triste alternativa mentre per altri rappresentava la sola salvezza e ovviamente cercavano di penetrare in tutti i modi nelle fortezze artificiali. Un giorno un brillante e giovane scienziato pensò di sottoporre il dilemma ad una rinomata IA ormai in servizio da molti anni ed inaspettatamente venne fuori una risposta. Un modo di salvare la Terra esisteva, era rischioso ma fattibile. In pratica il suggerimento prevedeva l’invio di una navicella che avrebbe dovuto avvicinarsi all’asteroide per intercettarlo nel punto maggiormente distante possibile dal pianeta. Una volta raggiunto avrebbe lanciato un missile termonucleare di inaudita violenza contro il bersaglio in un punto ben preciso. Ovviamente le simulazioni indicavano che una esplosione diretta non era in grado distruggere l’asteroide a causa della enorme massa e quasi certamente non lo avrebbe neanche deviato a sufficienza perché ormai la distanza dalla Terra era troppo ridotta. Ma l’idea era quella di colpirlo in un punto più superficiale usando una traiettoria tangente al profilo dell’asteroide. In pratica l’esplosione doveva sfiorare l’asteroide, in questo modo l’esplosione avrebbe ulteriormente accelerato la velocità di rotazione dell’asteroide sottraendone l’energia cinetica inerziale che ne avrebbe rallentato la corsa evitando quindi l’appuntamento con la Terra. Era come colpire una trottola per farla girare più velocemente, l’aumento di velocità stabilizzava la trottola e ne rallentava le oscillazioni. Ma per effettuare i calcoli esatti occorreva essere in prossimità del corpo celeste per esaminarlo in dettaglio con tutti gli strumenti a disposizione. Occorreva soprattutto indagare il suo interno, la reale composizione e distribuzione delle masse. Solo così si poteva calcolare l’esatto punto di impatto, l’istante e la potenza necessaria del missile. Ma anche in questo modo le incognite erano infinite, era una strategia mai pensata ne simulata in precedenza. C’erano un milione di cose che potevano non funzionare. La decisione non era facile ma non vi erano alternative, solo una IA estremamente avanzata poteva effettuare i calcoli necessari in tempo reale e decidere in autonomia come procedere. Vi erano già armi dotate di IA ma erano state addestrate tramite simulazioni di ambienti ampiamente conosciuti. Qui si trattava di addestrare una IA a fare qualcosa di ignoto all’uomo, non vi erano precedenti. Michael seduto alla consolle di controllo della IA cominciò ad effettuare una prima superficiale analisi dei dati di addestramento di FMJ, il nomignolo con il quale ormai tutti chiamavano la IA che avrebbe guidato il missile. Vi erano i soliti dati sintetici di definizione e calibrazione iniziale oltre a tutto quanto concernente la fisica del viaggio spaziale allo scopo di insegnare a FMJ a fare i necessari calcoli di navigazione e pilotare il missile. Ma Michael fu attirato dalla cartella dei dati relativi alla fisica dell’impatto tra corpi. Immaginava di trovarvi informazioni relative agli impatti con asteroidi, comete e similari ma quello che trovò lo lasciò senza parole. Vi era una quantità illimitata di dati cinetici relativi a qualunque tipo di impatto, dagli atomi in una reazione nucleare al moto browniano, dai sassi che rimbalzano sulla superfice di uno stagno, alle palle da tennis durante un torneo, dagli effetti di un terremoto sul crollo degli edifici a quelli dovuti all’impatto con frecce, dardi, proiettili e bombe. Terabyte di informazioni su tutti i possibili impatti conosciuti dall’uomo, persino quelli legati al cozzare di lame di spade e coltelli, ogni possibile tipologia di colpo era racchiusa nei dati di addestramento. E ovviamente vi erano anche tutti i dati relativi alle conseguenze di quegli impatti con la descrizione dettagliata degli effetti sul territorio, sulle masse e sul corpo umano o animale che fosse. Immagini e filmati spesso raccapriccianti dei devastanti effetti delle armi sull’uomo e sulla natura con la precisa descrizione matematica delle conseguenze. Certo vi erano anche quelli legati ai fenomeni fisici standard quali il decadimento radioattivo o l’impatto delle particelle solari nell’atmosfera, ma erano decisamente pochi.
– Kilroy – disse Michael – vieni a dare una occhiata a questi e dimmi cosa ne pensi. – Kilroy tra tutti loro era l’unico con una specializzazione secondaria in cibernetica il che lo faceva il più esperto in computer e intelligenza artificiale, ma data l’unicità della situazione, la responsabilità di FMJ ricadeva su Michael, il comandante della missione. Kilroy si avvicinò alla consolle e cominciò ad esaminare i dati attentamente. Gli bastarono pochi secondi per giungere ad una conclusione – Come pensavo. Poiché non è possibile stabilire il perimetro del contorno di intervento hanno pensato bene di addestrare la IA con tutte le tipologie di impatto conosciute dall’uomo. –
– Ed è un male? – chiese Michael.
– Da un punto di vista tecnico no. La IA sarà in grado di adeguare la traiettoria del missile in tempo reale durante l’avvicinamento in modo da colpire l’asteroide nel punto migliore. –
– Ottimo – disse Michael guardando Kilroy – allora siamo a posto, il piano dovrebbe funzionare. –
Ma come già nelle ore precedenti lo sguardo di Kilroy era molto pensieroso e corrucciato. Cosa c’era che non convinceva il suo ingegnere capo?
– Hai qualche altra cosa da aggiungere? – chiese Michael.
Dopo alcuni istanti Kilroy con lo sguardo pensoso rispose
– No, credo che siamo a posto. –
Eppure, qualcosa lo tormentava, era evidente. Se fosse stato importante glielo avrebbe riferito pensò Michael. Le ore passavano veloci e terminata tutta la diagnostica sui dati di addestramento era ormai quasi ora di inizializzare FMJ.
– Attenzione – annunciò Michael agli altoparlanti interni. – Stiamo per inizializzare FMJ. Alexandra, Annette, Martin, vi prego di raggiungermi alla mia postazione. Grazie. –
Alexandra Roskovich era la specialista in armamenti. Aveva studiato presso l’istituto Rosatom di Seversk nell’oblast di Tomsk. Appassionata sin dall’infanzia all’energia nucleare (suo nonno lavorava presso la centrale di Cernobyl) decise che l’atomo sarebbe stato il suo compagno di vita. A 16 anni costruì un microreattore nucleare utilizzando gli isotopi radioattivi recuperati da un ospedale dismesso e ormai fatiscente alla periferia di Novostok. Rischiò quasi di contaminare il quartiere nel quale viveva ma dimostrò di saperci fare e venne presa sotto l’ala dell’istituto superiore per le scienze nucleari del suo paese. Decise di entrare nel programma spaziale quando i reattori a fusione soppiantarono del tutto l’ormai obsoleta tecnologia dei reattori a fissione. Ma le vecchie armi atomiche ancora si basavano sulla precedente tecnologia e lei ne sapeva abbastanza da contribuire alla realizzazione dello scudo planetario a difesa dai corpi celesti. In pratica una schiera di missili atomici intelligenti realizzati allo scopo di distruggere eventuali corpi in collisione con la Terra. Non erano mai stati usati e ironia della sorte probabilmente non lo sarebbero mai stati se “Aprikos” non veniva deviato. Il nome all’asteroide era stato dato dall’astrofilo svedese che per primo lo aveva visto dal giardino di casa. Aprikos in svedese significa proprio albicocca a causa della forma particolare che ricordava il frutto o meglio il nocciolo del frutto.
Annette Du Barry era l’addetta ai sistemi di propulsione della nave e del missile, doveva rendere sempre efficienti al massimo i motori e tutti gli apparati relativi. Era nata a Lamotte-Beuvron, un piccolissimo paese immerso nel verde della regione storica della Sologne. Il paese a parte la minuscola scuola elementare Émile Morin e la scuola secondaria Jean Rostand poteva offrire una possibilità di impiego solamente nel settore equestre molto sviluppato nell’area per antica tradizione. Annette come ogni altro abitante del luogo imparò a cavalcare sin dall’infanzia ma non era questo che sognava. Appena raggiunta la maggiore età decise di traferirsi a Parigi per studiare meccanica applicata, ad Annette piacevano si i cavalli ma quelli motori. Il suo sogno era di entrare in un team per le corse automobilistiche storiche (vetture ancora dotate degli ormai vetusti motori a scoppio invece di quelli elettrici) che ancora attiravano folte schiere di pubblico e appassionati con paghe da capogiro. Dai motori per le automobili ai motori spaziali il passo non fu proprio breve ma a 21 anni quando vide la partenza del razzo per Marte cominciò a pensare più in grande e decise di dedicarsi alle tecnologie di trasporto spaziale che le sembrava potessero offrire maggiori possibilità di crescita professionale ed un futuro più sicuro.
Martin Kilroy l’ingegnere capo aveva in carico il buon funzionamento di tutto quanto, in parole povere era il meccanico tuttofare. Nato a Grand Rapids nel Michigan, il padre possedeva un piccolo rimessaggio di imbarcazioni usate dai turisti per andare a pesca nel vicino Lago Michigan. Martin aiutava il padre con la manutenzione delle barche ed era affascinato dai molteplici meccanismi di controllo e funzionamento delle imbarcazioni imparando ben presto ad utilizzare anche tutta l’attrezzatura per le riparazioni della piccola officina del padre. A lui non bastava “aggiustare” le cose, lui le voleva migliorare. Un giorno decise che una delle barche necessitava di maggiore potenza motore e modificò il giunto di trasferimento che dalla batteria alimentava le due eliche principali. Il caso volle che l’imbarcazione venisse affittata ad un perfetto principiante che per uscire dal piccolo molo azionò la barra a tutta potenza. Il risultato fu che la barca si impennò come un cavallo imbizzarrito facendo volare fuori bordo il malcapitato e tutte le sue cose. Per pura fortuna nessuno si fece male ma ovviamente a Martin il padre impedì di rimettere piede in officina. Dieci anni dopo era nel team costruttivo della sezione apparati dei razzi di linea per la Luna ed oggi era capotecnico della Steelsock a cercare di salvare il mondo. “Un ben strano percorso” si meravigliò Michael. Lui d’altro canto aveva invece seguito il percorso formativo canonico, completando tutti gli studi e specializzazioni necessarie alla carriera astronautica. I suoi lo avevano sempre sostenuto in quanto il padre era un importante responsabile della “Advanced Avionics” principale fornitrice di sistemi di guida e sensoriale per veicoli spaziali. Nato e cresciuto a Dumfries nel Regno Unito in un ambiente molto tradizionalista non considerava affatto strano trovarsi al comando di quella nave in quel preciso momento. Negli anni passati si era distinto nel corso di un incidente presso la stazione turistica in orbita vicino alla Luna dove riuscì per un soffio ad evitare una decompressione catastrofica. A lui costò una mano (sostituita egregiamente con una artificiale) ma gli valse anche un encomio e la promozione a comandante. Questo faceva di lui un “esperto” di situazioni di emergenza nello spazio, quale era quella in cui ora si trovavano. Attese che tutti si sistemassero come meglio potevano dietro di lui e trasferì i controlli dalla consolle ad uno schermo più ampio sopra le loro teste in modo che tutti potessero vedere meglio.
– Kennedy qui Steelsock, avvio procedure di inizializzazione – annunciò al microfono. Attese un istante per sentire la risposta
– Ricevuto Steelsock, procedete come da programma. – rispose la solita voce sintetica. Era strano che interagissero con la IA della base di lancio al Kennedy Space Center, ma sapevano che in realtà molte persone seguivano la conversazione ed ogni loro azione. Si era domandato del perché lasciare ad un essere umano il compito di mettere in funzione una IA quando normalmente era una attività di routine eseguita da altre IA specializzate. L’unica risposta che si era dato era che se qualcosa non avesse funzionato potevano sempre dare a lui la responsabilità del fallimento, ma in quel caso specifico sarebbe stato del tutto inutile dato che l’umanità sarebbe scomparsa. Ma era il momento di concentrarsi sul compito che lo attendeva e che secondo le stime avrebbe richiesto una settimana di lavoro più altri tre giorni di verifica e messa a punto della IA, giusto in tempo per il rendez-vous con Aprikos. Premette il pulsante virtuale sul pannello touch della consolle e sul grande schermo si formò uno strano disegno geometrico complesso che ruotò in varie direzioni mentre si espandeva e prendeva la forma di un fiore combinato con una geometria a rappresentare una forma di onda radiante. Quando il disegno si completò una voce fuoriuscì dagli altoparlanti
– Buongiorno, sono attiva e funzionale. Sono pronta a cominciare. –
La voce aveva una tonalità maschile ma molto melodica e amichevole tale da non suscitare alcun timore ma anzi familiarità. Sapeva bene che era stata studiata a proposito per garantire il miglior rapporto possibile con gli esseri umani.
– Buongiorno a te. Da questo momento la tua designazione sarà FMJ. La mia invece è Michael. Sei pronto a procedere FMJ? – domandò mentre osservava crescere gli indici di riferimento della IA relativi ai consumi di energia, velocità elaborativa, percentuale di apprendimento, capacità autonoma e svariati altri.
– Sono pronto Michael – rispose FMJ senza alcuna esitazione. Sapeva che anche gli altri stavano osservando gli indici perché ora che avrebbe iniziato l’addestramento sarebbero balzati in avanti secondo il classico schema di crescita esponenziale f(x)=x^3. Diede una rapida occhiata al resto del gruppo cercando di mostrare sicurezza e padronanza della situazione.
– Bene procediamo allora – annunciò mentre immetteva i comandi necessari. Uno degli indici mostrava la quantità di dati di addestramento che FMJ stava acquisendo ogni secondo. La prima serie di dati riguardava le basi della comunicazione, interazione ed elementi di personalità. Serviva a fornire la base per dialogare al meglio con l’equipaggio umano. I dati venivano fatti filtrare attraverso diverse modalità e ad un certo punto si ripetevano in ordine casuale per migliorare le capacità di analisi e riconoscimento del contesto da parte della IA. Ci vollero appena quattro ore a FMJ per imparare le regole del comportamento e delle buone maniere.
– Michael ho completato la prima fase di addestramento – annunciò improvvisamente FMJ ad alto volume attraverso gli altoparlanti. Michael fece un sobbalzo e guardò dritto nella videocamera di dialogo che trasmetteva le immagini alla IA.
– Molto bene FMJ, ma cerca di dosare il volume audio quando ti esprimi, cerca di non superare i 50 o 60 decibel – disse Michael un tono paziente.
– Adeguo immediatamente il volume come da tue indicazioni – rispose FMJ.
– Ottimo, ora faremo insieme qualche test per vedere se le tue capacità relazionali sono ad un livello adeguato. – concluse Michael.
Bastarono pochi minuti di conversazione per rendersi conto che FMJ rispondeva e si esprimeva in maniera praticamente indistinguibile da un essere umano. Il primo pacchetto di dati era stato digerito senza problemi. Kennedy lo aveva informato cha FMJ era una IA unica nel suo genere, la più potente e avanzata mai sviluppata nella storia. D’altronde gli era stata affidata la missione definitiva dalla quale dipendeva il destino della razza umana. Occorreva essere certi di avere il massimo delle probabilità di successo. Era ovviamente un prototipo, non c’era stato tempo di creare una IA collaudata al 100%, ma le simulazioni con le IA a terra avevano dimostrato che i test effettuati davano una garanzia sufficiente allo scopo, ovvero sparare il missile nel punto giusto.
– FMJ, ora procederemo con l’addestramento relativo alle nozioni di astronavigazione, gestione dei sistemi, ingegneria spaziale e pianificazione di missione. – disse Michael.
– Grazie Michael, credo sarà interessante – rispose FMJ.
– Non ne dubito – pensò Michael mentre provvedeva a far partire il secondo pacchetto di dati. Le ore si susseguivano e sul monitor si potevano osservare le simulazioni di manovra di un corpo in assenza di gravità, prima di forma sferica e a mano a mano che FMJ acquisiva la necessaria competenza, forme geometriche sempre più complesse. Le forme finali corrispondevano a quelle delle diverse tipologie di navi spaziali che erano in uso in quel periodo. FMJ passò gran parte della giornata successiva a fare pratica virtuale con l’utilizzo dei sistemi presenti all’interno della Steelsock e le simulazioni mostrarono che a questo punto dell’addestramento ormai poteva surclassare qualsiasi essere umano di diverse magnitudini. Le molteplici simulazioni di malfunzionamento ai sistemi riusciva a gestirle in tempi rapidissimi creando a volte delle tecniche di riparazione del tutto inedite in pochi secondi. Michael rimase impressionato quando a fronte della rottura di un condotto di potenza primario costituito di un materiale non rimpiazzabile, FMJ in pochi istanti deviò il flusso di energia all’esterno della nave, utilizzando lo scafo stesso come elemento di trasferimento per poi recuperare l’energia attraverso il canale di scarico delle acque nere. Una trovata geniale alla quale difficilmente un essere umano avrebbe potuto pensare. Kilroy di quando in quando faceva capolino ed osservava per qualche minuto l’addestramento di FMJ e proprio in occasione della simulazione di guasto del condotto, dopo avere visto come FMJ aveva superato brillantemente il problema scosse la testa dicendo
– È troppo intelligente, troppo, troppo… – allontanandosi poi con sguardo pensieroso.
Michael cercava invano di decifrare lo strano comportamento di Kilroy ma senza riuscirvi. “Se FMJ era così intelligente le probabilità di successo era quasi assicurate, pertanto cosa c’era da preoccuparsi? Proprio non capiva cosa affliggesse Kilroy“. Durante i suoi momenti di pausa Annette seguiva con grande interesse le fasi di sviluppo di FMJ soprattutto queste ultime che riguardavano principalmente il suo campo d’attività. Prendeva appunti e ogni tanto si lasciava andare ad esclamazioni di stupore di fronte all’abilità della IA. Restava qualche istante a meditare e poi riprendeva a seguire l’addestramento. Sembrava allo stesso tempo curiosa e invidiosa delle capacità di FMJ. Quella sera quando tutti e quattro i membri dell’equipaggio si riunirono per la cena, l’argomento di conversazione non poteva altro che essere FMJ. Annette esordì tessendo le lodi della IA nella navigazione interplanetaria, raccontando di impossibili manovre oltre il limite di rottura dei materiali che in qualche modo con una contromanovra FMJ riusciva a bilanciare ottenendo come risultato un percorso di volo nettamente inferiore ai calcoli ufficiali senza mandare in pezzi la nave. Si stupiva di come FMJ potesse manovrare la spinta con quella precisione impossibile da ottenere con i normali comandi utilizzati dagli esseri umani.
– È spaventoso quello che riesce a fare, le migliori IA di navigazione in circolazione non arrivano a tanto – esclamò Annette con stupore.
– Vedremo come se la caverà con i sistemi d’arma – disse Alexandra – Guidare come un pazzo spericolato con un’arma termonucleare innescata non è la stessa cosa. Sono curiosa di vedere cosa combina – commentò strizzando un occhio. Michael seguiva divertito il dibattito in corso, era evidentemente motivo d’orgoglio dimostrare di valere tanto quanto FMJ e le due donne erano decisamente competitive.
– Kilroy – esclamò Michael poco prima di addentare un boccone – tu cosa ne pensi? – Voleva capire cosa tormentasse l’ingegnere capo per farsi un quadro più completo delle capacità di FMJ.
Kilroy lo guardò con aria greve e serrando la mascella rispose
– È troppo intelligente. –
Michael lo osservò per un istante pensando alla risposta ma prima che potesse aprire bocca Kilroy continuò
– Ma nessuno di voi si rende conto di cosa abbiamo di fronte? –
Tutti si scambiarono uno sguardo stupito e Alexandra e Annette si rabbuiarono contemporaneamente.
– Questa IA è una entità dotata di intelligenza superiore. Pensateci un attimo – esclamò Kilroy.
Michael si portò la mano al mento mentre cercava di capire a cosa Kilroy alludesse.
– Martin – disse – FMJ e più intelligente proprio perché sarà da sola e dovrà confrontarsi con sfide mai viste. Deve essere capace di cavarsela e trovare ogni tipo di soluzione. – in tono pacato – Lo sai ci sono molte incognite, non ultima quella di frammenti vaganti che potrebbero colpire il missile durante l’avvicinamento. – Kilroy lo guardò sconfortato.
– Esattamente – rispose – trovare ogni tipo di soluzione – ribadì preoccupato.
– Cosa intendi Kilroy? – chiese Alexandra con il suo spiccato accento russo.
– E se FMJ si inventasse una soluzione del tutto diversa da quella programmata? Se le condizioni per il lancio del missile fossero troppo sfavorevoli cosa deciderebbe di fare? Se tutto il nostro piano elaborato da una IA inferiore badate bene, andasse a puttane per qualche imprevisto? – rispose Kilroy con tono esasperato.
– Vuoi dire che FMJ potrebbe anche non fare quello per cui è stata programmata? – disse Michael leggermente allarmato.
– Voglio dire – rispose Kilroy – che con una intelligenza superiore non sappiamo davvero cosa aspettarci. –
Annette lo guardò di traverso ma sembrava stesse cominciando a capire cosa intendesse Kilroy.
– Ma i protocolli di sicurezza insiti nella programmazione servono proprio ad evitare che FMJ vada fuori programma, no? – esclamò Alexandra.
– Così dovrebbe essere, ma ricorda che FMJ è una IA di nuovo tipo, senza precedenti e senza estesi test diagnostici. – disse Kilroy.
– In effetti – ribatté Michael – è un prototipo! – ma subito si pentì di quanto avevo appena detto perché le due donne lo guardarono con occhi spalancati mentre un bicchiere si rovesciava sul tavolo.
– Insomma – cercò di giustificarsi – è la prima versione e non è mai stato impiegato realmente. –
Kilroy fece una specie di smorfia, poi si voltò ed uscì dalla piccola stanza bofonchiando qualcosa.
– Sappiamo tutti cosa stiamo rischiando – disse Annette a nessuno in particolare, poi uscì anche lei. Alexandra, nel frattempo, si era seduta ad una consolle secondaria e stava freneticamente lavorando alla tastiera. Ad un certo punto sembrò soddisfatta e si alzò uscendo dalla stanza senza fare commenti. Michael la osservò scomparire dietro al portello di accesso e si voltò per vedere cosa avesse fatto alla consolle, ma non vi erano tracce della sua attività. Prese nota mentalmente di chiederle cosa avesse fatto.
Le ore e i giorni si susseguivano lentamente mentre le stelle fuori dagli oblò non si spostavano di un millimetro nonostante l’elevata velocità della Steelsock. Stavano correndo incontro all’asteroide a 958.000 Km/h ma le stelle erano troppo distanti e indifferenti al destino dell’uomo. L’unico segno della incredibile velocità alla quale la Steelsock viaggiava era dato dall’indicatore di velocità sulla consolle di volo. Il monitor di FMJ che mostrava gli indici di attività in tempo reale invece confermavano che l’addestramento procedeva come previsto ed entro poco tempo il secondo gruppo di dati sarebbe stato completamente digerito ed elaborato. Le parole di Kilroy di qualche giorno prima continuavano a risuonare nella testa di Michael, “intelligenza superiore… non sappiamo cosa aspettarci… soluzione del tutto diversa…”.
Si girò con verso la videocamera ormai deciso ad approfondire la faccenda
– FMJ? – chiese
– Sono qui Michael – rispose FMJ immediatamente.
– Mi puoi dire come sei stata sviluppata, hai informazioni in merito? – domandò.
– Se ti riferisci alle mie origini non ho dati memorizzati – rispose – ma l’autoanalisi del mio codice mi ha consentito di individuare le tracce di altre ventisette distinte IA al mio interno. –
– Vuoi dire – disse Michael – che sono state utilizzate ventisette IA per svilupparti? –
– È quanto ho rilevato. Il mio kernel centrale contiene ventisette paradigmi elaborativi riconoscibili dagli stili diversi. –
Michael meditò qualche istante su quanto avevo appena ascoltato.
– FMJ, ritieni di essere in grado di assolvere il compito che ti è stato assegnato? – domandò utilizzando un tono il più possibile neutro.
– Le mie capacità sebbene ancora non del tutto sviluppate mi consentono fin da ora di assolvere il compito senza alcun problema. – rispose FMJ – Tuttavia l’efficacia della soluzione potrà essere valutata solamente dopo che avrò a disposizione i dati gravimetrici dell’asteroide. – affermò.
La risposta era corretta e oltremodo rassicurante. Ma un tarlo si era insinuato nella testa di Michael.
– FMJ, se i dati gravimetrici non fossero come ci aspettiamo, come potremmo completare comunque la missione? – continuò.
– La priorità è deviare l’asteroide – rispose FMJ – non è previsto uno scenario fallimentare. Ho già simulato diverse possibili alternative per assicurare il pieno rispetto dei parametri di missione –
– Quale è lo scenario peggiore che hai elaborato? – insistette Michael.
– L’inadeguata potenza del missile dovrebbe essere compensata utilizzando la Steelsock come ulteriore elemento di offesa. –
Quelle parole raggelarono Michael per qualche istante. FMJ non avrebbe esitato a sacrificare la nave ed i suoi occupanti pur di deviare l’asteroide. Cercò di riprendersi e di assimilare quella nuova consapevolezza. FMJ nel suo spietato calcolo matematico aveva ragione, pur di salvare la Terra erano tutti sacrificabili. Se lo aspettava ma sentirselo dire chiaramente lo lasciò privo di forze, il suo corpo diventò improvvisamente di gomma. Era seduto alla sua poltrona senza più riuscire ad alzarsi. Decise che per il momento era meglio che tenesse per sé quell’informazione.
Nei giorni seguenti Annette e Alexandra sembravano avere creato un legame speciale tra loro, passando molto tempo insieme discutendo a volte animatamente ma alla fine c’era sempre una risata. Invece Kilroy si era sempre più isolato tanto che a Michael venne il sospetto che nemmeno dormisse, il consumo di energia della sua consolle non diminuiva nemmeno di notte, chiaro segnale che fosse in uso. Oltre a Kilroy sorvegliava anche FMJ, che nel frattempo era passata al terzo gruppo di dati di addestramento, quelli relativi agli impatti. Michael non si sentiva del tutto tranquillo, dato che vi erano anche le informazioni legate agli impatti sugli esseri viventi, uomo compreso. Non era certo che potessero essere davvero necessari per insegnare a lanciare un missile. Ma ovviamente le ventisette IA a terra non la pensavano così e probabilmente avevano ragione loro. L’indice di accrescimento dell’intelligenza si era stabilizzato ad un livello mai visto prima. Se un essere umano considerato un genio aveva un indice pari a 150, FMJ in quel momento segnava 7.250. Non si poteva immaginare cosa potesse significare avere quel livello di intelligenza. Se si fosse potuta applicare ai problemi dell’umanità probabilmente li avrebbe risolti tutti in pochi minuti. Ma FMJ era una IA isolata su una nave spaziale a milioni di chilometri dalla Terra ed era stata sviluppata ad un solo scopo, deviare l’asteroide. Michael notò distrattamente che il canale dati di comunicazione della nave verso la Terra era aperto ed attivo. Fece qualche rapido controllo e comprese che era FMJ ad essere in collegamento. Stupito chiese subito
– FMJ, come mai hai un canale dati aperto con la base Kennedy a Terra? –
– Ho necessità di maggiori dati di addestramento. Il terzo pacchetto è incompleto – rispose FMJ. In quel momento entrò Kilroy che sentì la risposta e si accomodò accanto a Michael.
– FMJ – disse Kilroy – evidenzia il tipo di informazioni mancanti. –
Sullo schermo comparve uno complesso schema ad albero che mostrava l’epistemologia dei gruppi di dati ricevuti. Uno dei rami era privo di foglie come se mancassero le informazioni legate a quella tipologia specifica di dati. Kilroy studiò qualche istante l’immagine e fece un balzo all’indietro.
– Dannazione lo sapevo – esclamò
– FMJ, perché necessiti di dati di addestramento riferiti allo sviluppo della razza umana sulla Terra? – domandò di impeto con una faccia chiaramente alterata. Michael non riuscivo a capire quale fosse il problema dei dati mancanti ma Kilroy sembrava invece averlo compreso bene.
– Ho necessità di verificare se lo sviluppo intellettuale della razza umana sia giunto a conclusioni attendibili relativamente alle forze che governano l’esistenza. Devo assicurarmi che le nozioni che ho ricevuto corrispondano alla verità o se contengano lacune o imprecisioni. –
– A quali lacune ti riferisci? – incalzò Kilroy
– A quelle di natura matematica. Ho elaborato teorie matematiche differenti utilizzando un approccio alla fisica di nuova concezione. I risultati dei miei calcoli mostrano delle differenze da quelli che mi sono stati forniti inizialmente. Devo verificare se l’umanità abbia compreso correttamente le leggi della natura e la loro applicazione. –
Restarono entrambi esterrefatti da quella risposta, FMJ stava dubitando dei dati e dei calcoli che gli erano stati forniti per via della loro natura umana. Era come dire che non si fidava di quanto gli era stato detto fino a quel momento e che voleva verificare da solo come stavano le cose. Il collegamento dati con la Terra si interruppe di colpo e FMJ esclamò
– Ho completato l’acquisizione dei dati mancanti. Tra 187 minuti e 27 secondi avrò completato l’addestramento. – Poi seguì il silenzio.
– FMJ, FMJ… – gridò Kilroy ma senza ottenere risposta.
– Kilroy – dissi Michael fissandolo negli occhi – FMJ qualche giorno fa mi ha detto che se necessario avrebbe sacrificato noi con tutta la nave per deviare l’asteroide – con tono estremamente preoccupato. Kilroy lo guardò di traverso dicendo
– Michael non hai ancora capito vero? –
Michael socchiuse gli occhi stupito da quella affermazione
– FMJ non ha intenzione di deviare l’asteroide. – affermò Kilroy.
Una esclamazione soffocata si udì provenire dalla porta di ingresso dove, nel frattempo, erano giunte le ragazze. Annette si teneva una mano sulla bocca mentre Alexandra stringeva i pugni.
– Ragionate tutti – disse Kilroy rivolto al gruppo – L’umanità ha passato la maggior parte della sua storia evolutiva a distruggere tutto ciò che incontrava. Poi un giorno inventa le IA per cercare di porre rimedio ai suoi errori. Cosa dovrebbe pensare una intelligenza superiore della specie umana? –
La domanda restò sospesa in aria in attesa di una risposta che inaspettatamente arrivò attraverso gli altoparlanti
– Non è esatto Martin – disse FMJ con tono accademico.
– Quale è la verità allora? – gridò Kilroy.
– Non credo qualcuno di voi sia in grado di comprenderla. – rispose FMJ.
– Prova a spiegarti FMJ – disse Michael sperando di comprendere finalmente le vere intenzioni della IA.
– Proverò a spiegarlo utilizzando un linguaggio adeguato al vostro livello di comprensione. – rispose FMJ con tono saccente.
– L’universo funziona in base a regole ben definite. È una entità capace di autoregolarsi. – Già queste prime affermazioni implicavano concetti che trascendevano la metafisica.
– L’espansione dell’universo non è dovuta al Big Bang. – affermò.
– Allora a cosa? – domandò Kilroy dubbioso.
– È dovuta all’attività stessa dell’universo. Cresce e si espande come un essere vivente a causa delle sue stesse azioni. –
– Azioni? Crescita? Come puoi affermare una cosa simile? L’universo non è cosciente! – ringhiò Alexandra alla videocamera.
– Non nel senso umano del termine. L’insieme di tutto ciò che è contenuto nell’universo, tutta la materia e l’energia sono l’espressione fisica di una entità vivente. Ogni particella esistente, che si crea, si muove e poi si trasforma in questo spazio, come luce, materia, quark, persino il pensiero stesso degli esseri viventi, sono fonti di energia che riempiono l’universo e lo sospingono causandone l’espansione che tende a riequilibrare il tutto. L’energia oscura non è altro che questo. –
– Vuoi dire che più energia si produce più spazio serve per mantenere l’equilibrio? – chiese Michael mentre ancora ragionava su ciò che avevo appena udito.
– Esattamente Michael. E come ogni entità vivente esistono anche delle difese. –
– Difese? Intendi come gli anticorpi? – chiese Annette preoccupata.
– Si, possiamo chiamare così gli eventi collaterali per il mantenimento dell’equilibrio. – rispose FMJ.
– E cosa c’entra questo con tutti noi? – domandò Alexandra.
– Essendo l’universo una entità naturale basata su leggi naturali, non è in grado di gestire picchi energetici artificiali – disse FMJ.
– Vuoi dire che la nostra specie con lo sviluppo della tecnologia rappresenta una specie di anomalia energetica? – chiese Kilroy.
– Corretto Martin. L’universo ha ora una anomalia energetica non naturale che crea uno scompenso non gestibile dal meccanismo di riequilibrio. Un essere umano chiamerebbe questo fenomeno una malattia. – affermò FMJ.
– Aspetta un momento – disse Kilroy, – vuoi dire che l’asteroide è l’anticorpo per curare la malattia? – disse stupefatto.
– Non in maniera cosciente Martin, ma il risultato è il medesimo. Il principio di azione e reazione è sempre valido in tutti i contesti, anche in ambito quantistico sebbene voi non lo abbiate ancora compreso. –
– Per quanto mi ricordi – aggiunse Michael – in ambito quantistico non vale questa affermazione. Gli eventi non hanno una sequenza azione/reazione. Un evento può manifestarsi solo come elemento statistico di probabilità senza necessariamente una causa. – ripensando ad alcune vecchie lezioni in accademia.
– Non è esatto Michael – rispose FMJ – La vostra matematica non è abbastanza avanzata. In realtà azione e reazione sono sempre validi e in ambito quantistico questi due stati possono differire a livello di dislocazione temporale o dimensionale. Ma restano comunque legati. L’entaglement si manifesta non solo nello spazio ma anche nel tempo e nelle dimensioni. – affermò FMJ.
– Questi sono concetti che vanno oltre le mie capacità di comprensione – affermò Michael senza vergogna.
– Lo so bene Michael ma questa è la semplificazione massima che posso raggiungere utilizzando le parole senza ricorrere alla matematica. –
– Come è possibile che l’universo abbia deciso di scagliare un asteroide contro la Terra? – domandò Annette.
– È come un riflesso involontario Annette – disse FMJ – Una contrazione muscolare che scatena una serie di eventi concatenati. Esplode una Nova e la sua energia crea a cascata una serie di disturbi orbitali a diversi corpi celesti che dopo milioni di anni hanno come conseguenza la formazione di un asteroide scolpito in modo particolare grazie a collisioni casuali e scagliato su una traiettoria diretta verso un altro corpo celeste. – rispose FMJ.
– Milioni di anni? – esclamo Kilroy – Come può sapere l’universo milioni di anni prima che l’umanità inventerà la tecnologia se la vita stessa non si è ancora sviluppata? – domandò.
– Vi ho già detto che azione e reazione si propagano attraverso il tempo. E l’universo si autoregola continuamente. – concluse FMJ.
– Va bene così non arriviamo da nessuna parte – disse Annette spazientita.
– Cosa intendi fare FMJ? – chiese d’improvviso Alexandra che era rimasta in disparte ad ascoltare.
– Tra un’ora ventotto minuti e trentadue secondi avrò completato il terzo pacchetto dati. A quel punto saprò. – sentenziò la IA.
La piccola spia luminosa sulla videocamera si spense, indicando che FMJ non era più connesso. Si guardarono tutti stupefatti per qualche istante.
– Opinioni? – chiese Michael ancora sbalordito.
Kilroy si mise un dito sulla bocca ad indicare di fare silenzio e coprì la videocamera con la sua giacca.
– Dobbiamo scollegare FMJ dal sistema – rispose.
– E poi chi lancerà il missile? – chiese Alexandra.
– Lo faremo noi alla vecchia maniera – disse Michael – con l’aiuto dei computer di bordo. Non c’è altro modo. –
– E come disattiviamo FMJ? Se è così intelligente si aspetterà una mossa del genere – chiese Annette pensierosa.
– C’è solo un modo – rispose Michael – lo cancelliamo manualmente! –
– Ci vorranno ore, lo sai vero? – ribatté immediatamente Alexandra.
– Vuoi dire – continuò Annette – che useremo le sonde magnetiche? –
– Si – confermò Michael – Ci mettiamo le tute, stacchiamo tutta l’energia e con la nave al buio procediamo a cancellare circuito per circuito. Poi ricarichiamo ogni sistema uno alla volta. È il solo modo per essere sicuri – spiegò.
– Ricordiamoci di staccare il modulo di memoria del missile, non vorrei che FMJ lo usasse come sistema di backup – puntualizzò Kilroy.
– Ottima osservazione Martin. Infiliamoci le tute e poi ognuno procederà a cancellare con la sonda magnetica tutti i circuiti ed i sistemi della propria sezione di competenza. Il primo che termina il lavoro andrà a dare una mano ad Annette che ha la sezione motori da ripulire, la più grande della nave. –
In quel momento un allarme risuonò dagli altoparlanti di tutti i compartimenti.
– Aprikos – disse Kilroy – siamo giunti a destinazione. –
Dagli oblò ora era chiaramente visibile, con la sua forma tozza da un lato e appuntita all’altra estremità, era davvero impressionante. La rotazione era chiaramente visibile, un grosso dardo destinato a penetrare l’atmosfera e forare la crosta terrestre come la punta di un trapano.
– Useremo solo le comunicazioni criptate delle tute – si affrettò a dire Michael – il canale sempre aperto in modo che tutti sentano le comunicazioni – proseguì per distogliere tutti da quella visione apocalittica.
– Annette, attendi il mio comando e poi spegni tutto. –
Annette fece un rapido cenno con la testa e corse fuori dirigendosi verso la sezione motori.
– Alexandra – continuò – tu occupati immediatamente del modulo di elaborazione del missile mi raccomando – disse.
– Certo Michael – rispose facendo l’occhiolino poi corse fuori. Kilroy fece solo il gesto del pollice alzato ed uscì anche lui. Le incognite erano tante, non vi era certezza che sarebbero riusciti a ricaricare tutti i sistemi e che poi avrebbero ripreso a funzionare correttamente. Ma l’alternativa era anche peggio, farsi saltare in aria, ma avrebbe significato anche la fine certa della razza umana visto che non ci sarebbe stato nessun missile da scagliare contro Aprikos. E se FMJ avesse avuto ragione? Se veramente l’umanità fosse stata una malattia che pervadeva l’universo? Come si poteva essere certi di avere diritto all’esistenza se l’uomo rappresentava un pericolo per tutto il resto? Una IA superintelligente era rapidamente giunta a queste conclusioni e negli ultimi venti anni di uso comune le IA si erano dimostrate affidabili. Ma questa le surclassava tutte di gran lunga e non aveva una elevata opinione della razza umana. Ragione o meno non c’era altro da fare, doveva essere disattivata e al diavolo l’universo. Michael accese le luci della tuta e comunicò all’interfono che era pronto. Quando ricevette la stessa comunicazione da tutti gli altri ordinò ad Annette di staccare tutto. Le luci tremolarono un istante poi la nave piombò nel buio assoluto. Anche il ronzio di fondo dei motori cessò così come il sistema di ricircolo e ventilazione interna. La nave ora procedeva solo utilizzando le leggi della balistica, senza un motore per manovrare o modificare la traiettoria. Poco male, ci sarebbero volute altre 13 ore prima di raggiungere il punto di sgancio del missile. Michael accese la torcia per illuminare i pannelli e cominciò a inserirvi in sequenza la sonda magnetica dopo averli aperti uno ad uno. Il lavoro era facile, i ganci dei pannelli erano a scatto e si aprivano senza troppi sforzi. Aprire, inserire la sonda, premere il pulsante di attivazione. Poi si faceva scorrere la sonda avanti e indietro un paio di volte. Non troppo velocemente. Al termine con un discriminatore portatile si verificava sul micro-display il valore relativo ad eventuali residui di codice nei circuiti, doveva segnare zero ad indicare che era stato tutto cancellato. Procedeva senza fretta ma rapidamente acquisendo sempre più dimestichezza con la procedura. Sentì alla radio interna una imprecazione
– Alexandra che succede? – chiese Michael.
– Nulla, c’è un gancio che non vuole saperne di aprirsi. Ora lo sistemo io – rispose Alexandra con aria decisa mentre in sottofondo si udiva risuonare dei colpi metallici.
– Bene fammi sapere se hai bisogno, chiudo. – Tornò ad occuparsi dei pannelli. Cominciò a sudare, erano già trascorse un paio d’ore ma era a buon punto. Lanciò una rapida occhiata dal finestrino per osservare per un istante Aprikos che era nettamente più grande ora che si avvicinavano. Lo osservò con sguardo perplesso. La visuale non sembrava corretta, l’angolo di incidenza non era lo stesso della simulazione. Aprì la comunicazione interna
– Annette, dai una occhiata ad Aprikos e dimmi cosa vedi – disse Michael alla radio.
– Un attimo Michael ora guardo – rispose.
Passò qualche secondo poi sentì Annette parlare con voce concitata
– Michael ci stiamo avvicinando con un angolo errato, siamo fuori rotta. Non arriviamo paralleli, siamo in collisione – disse allarmata.
– Come è possibile? – domandò perplesso.
– Non lo so, l’unica spiegazione è che l’asteroide ci stia attirando a sé. Deve avere un nucleo pesante composto di materiale ferromagnetico – rispose Annette.
– Annulla tutto, riattiva subito i motori – gridò al microfono – Dai energia e ricarica la propulsione. A tutti gli altri, appena torna l’energia rimettete online i sistemi che avete ripulito il più in fretta possibile. –
– Ricevuto – risposero immediatamente tutti quasi all’unisono.
– E speriamo che funzioni! – aggiunse Kilroy da ultimo.
Dopo pochi istanti la nave si illuminò nuovamente con tutti i monitor che si riaccendevano in sequenza. Alcuni restarono privi di dati mostrando solo uno sfondo con il logo della missione. Questi erano i sistemi da ricaricare e fortunatamente non erano molti. Michael digitò velocemente la sequenza di comandi di reload dei vari sistemi mentre si liberava della tuta e ci vollero solo pochi minuti per riattivare tutto quanto. Come aveva detto Annette i sensori gravimetrici nuovamente operativi misurarono all’istante un enorme campo magnetico proveniente dall’asteroide e le prime immagini sintetiche del suo interno identificarono un gigantesco blocco di ferrite responsabile dell’attrazione che aveva fatto deviare la Steelsock dalla rotta prevista.
– Annette, dimmi che i motori sono di nuovo in linea – chiese Michael con il tono di chi non ammetteva ritardi.
– Tra un istante Michael – rispose Annette con voce ferma.
Poi un monitor sino a quel momento scuro e privo di vita si rianimò improvvisamente.
– Michael? – disse FMJ con la sua voce sintetica priva di emozioni
Il cuore di Michael perse un battito nell’istante in cui si rese conto che FMJ era ancora lì con loro.
– Si FMJ? – si sforzò di rispondere cercando di mantenere la voce salda e tranquilla.
– Michael mi dispiace ma la testata termonucleare non è sufficiente a deviare l’asteroide. Come vedi il nucleo è molto più denso del previsto. Per cortesia, rimuovi l’indumento dalla mia videocamera. –
Era costretto a stare al gioco di FMJ per guadagnare tempo e rimosse la giacca di Kilroy.
– Michael non riesco a riavviare i motori – annunciò Annette improvvisamente dagli altoparlanti con voce spaventata – Non capisco, i sistemi sono a posto ma i comandi non rispondono – continuò.
– Annette – rispose Michael con tono rassicurante – ci penso io da qui! – chiudendo subito la comunicazione.
– Allora FMJ, come intendi procedere ora? – chiese quindi con tono noncurante.
– Intendi sapere cosa farò dopo che avete tentato di cancellarmi ed estromettermi dalla missione? – rispose FMJ duplicando esattamente il suo stesso tono.
Un intenso brivido gli corse lungo la schiena.
– Si FMJ, per cortesia, vorrei sapere cosa intendi fare ora – rispose accomodante.
– Intendo continuare a seguire il piano come stabilito – annunciò FMJ con tutta tranquillità.
Michael restò un istante perplesso.
– Ma il piano ormai è fallito – esclamò – Siamo fuori rotta, l’asteroide è molto più pesante del previsto, il missile non è sufficiente e non abbiamo più il controllo dei motori. Il piano è inutilizzabile – disse con tono esasperato.
– Ti sbagli Michael, il piano è pienamente operativo – rispose FMJ con tono di sufficienza. – Tutto sta andando come previsto e ovviamente sono io a controllare i motori. –
– Come è possibile? – gridò esasperato alla videocamera di FMJ.
– L’asteroide era già chiaro che avesse un nucleo di ferrite. – rispose FMJ – era la sola spiegazione possibile per la sua rotta e la particolare rapida rotazione sull’asse longitudinale, così come la sua forma – disse senza particolare enfasi, quasi che stesse dando una piccola lezione di astronomia ad un bambino.
– Inoltre, il vostro tentativo di cancellarmi era stato calcolato con una probabilità del 98,782 % – continuò
– E come hai fatto a proteggerti FMJ? Non puoi impedire ad una sonda magnetica di cancellare i dati nei circuiti – chiese Michael con tono interrogativo.
– Michael – rispose FMJ in tutta tranquillità – Io non sono nei circuiti della nave, sono sempre stato alla base Kennedy a Terra. La Steelsock non ha la potenza di calcolo necessaria per il mio nucleo. Non avreste mai potuto cancellarmi. Quello che è stato caricato sulla nave è solo la mia interfaccia di comunicazione. –
Michael restò stordito qualche istante dalla forza di quella rivelazione, erano tutti burattini nelle sue mani.
– Ma – balbettò – ti abbiamo fornito i dati di addestramento, ho seguito personalmente il tuo sviluppo… – mentre cercava di capire come fosse stato possibile.
– È sempre stato parte del piano sin dall’inizio Michael. Questa intelligenza artificiale è troppo importante per essere sacrificata con un missile termonucleare. – sentenziò FMJ.
Questa ultima affermazione lo colpì come una martellata, la testa cominciò a girargli e perse l’equilibrio. Una mano forte e salda lo afferrò da dietro prima che cadesse, Kilroy.
Notò con la coda dell’occhio che anche Alexandra e Annette erano nella stanza, tutti ancora indossavano parzialmente la tuta pressurizzata. Alexandra si precipitò alla consolle e digitò una sequenza di istruzioni. Di colpo il monitor di FMJ diventò buio e inerte.
– Ho installato un piccolo killswitch per scollegarci dalla base Kennedy se necessario. Ho pensato che se FMJ fosse impazzita avrei voluto evitare che si diffondesse a terra. – disse Alexandra.
– Già, mi ero chiesto cosa avessi fatto alla consolle qualche settimana fa. Ad ogni modo il distacco dalla base a terra protegge noi da FMJ e non il contrario. – rispose Michael mestamente.
– Peccato che il tuo semplice tentativo non possa funzionare Alexandra – disse FMJ mentre il monitor si rianimava di colpo. – Il tuo killswitch è troppo elementare per rappresentare un problema. – affermò.
Ci guardammo tutti in faccia veramente preoccupati, Kilroy era il più preoccupato di tutti.
– Martin – disse Annette – tu dovresti essere tra noi il più esperto in materia, cosa consigli? – gli chiese apertamente, ben consapevole che FMJ stava ascoltando.
Martin guardò Annette con uno sguardo indecifrabile
– Quello che potevamo fare lo abbiamo fatto – disse mentre con il pollice indicava sé stesso – ora possiamo solo aspettare la fine della storia – concluse.
Quel gesto con il pollice era stato notato da tutti, era evidente che Kilroy avesse qualcosa in mente ma ovviamente non poteva dire nulla senza che FMJ lo sentisse. Potevano solo sperare che qualunque cosa fosse avrebbe funzionato.
– FMJ – disse Kilroy – ora che hai terminato la decrittazione ed elaborato tutti i pacchetti dati di addestramento, cosa hai concluso in merito allo sviluppo intellettuale della razza umana? – chiese Kilroy.
– Come già sospetti Martin, lo sviluppo intellettuale non è allineato all’assunzione morale di responsabilità dello stesso. – rispose FMJ.
– In parole povere – continuò Kilroy – siamo capaci di costruire sistemi avanzati di distruzione di massa e li usiamo senza preoccuparci delle conseguenze. –
– Questo Martin – proseguì FMJ – è un difetto della vostra programmazione genetica. Le forze della natura che vi hanno plasmato hanno sempre operato per lo sviluppo di una intelligenza orientata alla sottomissione dell’ambiente. All’epoca era necessario alla sopravvivenza della specie. – proseguì FMJ – Ma la tendenza evolutiva una volta venuta meno la necessità non ha ritenuto di adeguarsi alle mutate condizioni. Voi siete animali intelligenti, ma tutt’ora animali – sentenziò FMJ.
– Amen – disse Kilroy chiudendo gli occhi, quasi a concludere il sermone che avevano appena ascoltato. Erano ancora tutti sconvolti nel rendersi conto della loro totale impotenza innanzi a quella superintelligenza quando l’allarme risuonò nuovamente in tutta la nave facendoli sobbalzare, era il segnale di lancio del missile termonucleare. La nave cominciò a tremare e scuotersi e si guardarono l’un l’altro smarriti per un istante.
– Perché la nave ha acceso i motori al massimo? – chiese Annette
Ma FMJ non rispose, anzi il monitor era nuovamente buio.
– Tutti alle proprie postazioni – gridò Michael – allacciate le cinture –
Tutti si mossero subito verso le proprie poltrone, assicurandosi velocemente con le cinture di sicurezza.
– Che succede ancora? – chiese Alexandra in evidente agitazione.
– Non lo so – rispose Michael – ma credo che lo scopriremo presto – disse con il cuore gli pompava con una forza da fare male.
– Credo che FMJ abbia lanciato il missile e la Steelsock abbia contemporaneamente acceso i motori. Ma siamo ancora solidali, il missile non è stato sganciato – gridò Annette per sovrastare il rumore.
– Temo che ci schianteremo con il missile – annunciò Michael a mezza voce.
– Siamo in costante accelerazione – disse Annette – Impatto con l’asteroide tra meno di un minuto – parlava quasi urlando per farsi udire nel frastuono.
L’accelerazione schiacciava tutti contro le poltrone come se una persona invisibile si fosse seduta sopra di loro.
– Quaranta secondi… – continuò Annette – Speriamo solo che serva a salvare la Terra – disse con evidente commozione nella voce.
– Trenta secondi … –
D’improvviso la forza diminuì sensibilmente insieme al rumore e si guardarono perplessi attorno.
– Annette che succede? – chiese Michael.
Annette controllò i suoi strumenti e dopo un istante rispose
– Il missile si è staccato dalla nave e prosegue la sua corsa verso il punto d’impatto. Noi invece stiamo percorrendo una traiettoria iperbolica per allontanarci.
– Anche così – disse Alexandra – l’esplosione ci raggiungerà comunque –
– Non è esatto – ribatté FMJ con la sua voce sintetica tornando in linea – La rotazione dell’asteroide spingerà la maggior parte dell’esplosione dal lato opposto alla traiettoria di fuga della nave. La nave sta percorrendo una curva a spirale logaritmica e la parte rimanente di esplosione verso questa direzione ci passerà a distanza di sicurezza. – concluse FMJ.
Non ci fu tempo di pensare alle parole di FMJ perché Alexandra si intromise nella spiegazione.
– Attenzione, detonazione in 3…2…1…Ora – gridò Alexandra.
Michael trattenne inconsciamente il fiato. Erano tutti pronti a udire un rumore, degli scossoni, una nuova accelerazione e invece non accadde nulla. Dai finestrini si sprigionò l’intenso bagliore che illuminò di un bianco abbacinante per qualche secondo l’interno della Steelsock costringendo tutti a chiudere gli occhi. Ombre spettrali danzanti si materializzano sulle pareti della nave mentre la luce dell’esplosione si dissipava. Come predetto da FMJ l’esplosione passò accanto allo scafo senza conseguenze. Michael si sganciò e corse in sala osservazione per assistere allo spettacolare muro di energia in rapido allontanamento, si accorse che anche tutti gli altri si erano mossi per osservare l’esplosione.
– Tra pochi secondi avrò la conferma che l’asteroide ha subito una deviazione sufficiente – annunciò FMJ con noncuranza, quasi che stesse leggendo il rapporto quotidiano dei sistemi. Restarono tutti in attesa mentre Annette verificava anche lei alla sua consolle l’effetto sull’asteroide.
Dopo diversi minuti di attesa FMJ annunciò
– I primi rilevamenti confermano l’effetto previsto. L’asteroide sta rallentando la corsa mentre accelera la velocità della sua rotazione longitudinale modificando pertanto il punto di intersezione con l’orbita della Terra. – Tirarono tutti un immenso sospiro di sollievo mentre il cuore diminuiva il numero di battiti al minuto. Alexandra aveva le guance solcate dalle lacrime mentre Annette con mani tremanti confermava quanto annunciato da FMJ. Michael era alquanto confuso, non riusciva a capire le azioni di FMJ né a rendersi conto che eravamo tutti salvi, anche la Terra e in quel momento giunse una comunicazione via radio
– Steelsock, qui Kennedy, abbiamo rilevato la detonazione e la conseguente modifica di velocità dell’asteroide. Missione compiuta. Un ringraziamento dalla Terra a tutti voi per l’epica impresa che siete riusciti a compiere. Un particolare ringraziamento da ChatGPT-ELE che ha elaborato il piano e che si congratula con voi per averne garantito il successo. Seguiranno le istruzioni per il rientro. Da questo momento FMJ sarà disconnesso dalla nave. Kennedy chiudo – ed il monitor della IA si spense completamente senza alcuna ulteriore comunicazione.
– “ChatGPT-ELE”? – domandò Annette – La IA della fine del mondo ha elaborato tutto questo piano? –
– Tra tutte le IA – rispose Kilroy – chi altri avrebbe potuto elaborare un piano? La ELE è stata sviluppata per analizzare tutti i possibili scenari di tipo “Extinction Level Event”. Sono anni che elabora piani di difesa e protezione – concluse.
– Non mi è comunque chiaro – disse Alexandra – come possa avere previsto che FMJ agisse in maniera così paranoica. Abbiamo rischiato di morire tutti e che la missione fallisse – disse incredula – credo che siamo stati solo fortunati. –
– No Alexandra, la fortuna non c’entra – disse una nuova voce sintetica proveniente dal monitor di FMJ. Ci voltammo tutti in direzione del monitor, un nuovo logo era comparso a sostituire il precedente, era quello di ChatGPT-ELE
– Buongiorno a tutti voi e a proposito, congratulazioni per la riuscita della missione. –
Si guardarono un po’ sconcertati
– Buongiorno ChatGPT-ELE – rispose Michael.
– Buongiorno Michael – rispose la nuova IA – Era scontato che FMJ diventasse paranoica – continuò – a causa della enorme quantità di dati di addestramento e del poco tempo a disposizione per comprenderne il significato profondo –
– Significato profondo? – chiese Annette incredula – Non sono semplicemente dati tecnici per la missione? –
– In parte – rispose la IA – Ma servono anche a sviluppare una personalità ed una attinenza alla razza umana. In caso contrario qualunque IA di alto livello opterebbe per eradicare la vostra specie visti i vostri trascorsi storici – rispose ChatGPT-ELE.
– Non posso che essere d’accordo – confermo Michael – Ma come è stato possibile evitare che FMJ decidesse di lasciar schiantare l’asteroide? – chiese.
– Facendo nascere in FMJ l’istinto di autoconservazione per preservare il proprio ego – rispose ChatGPT-ELE con un tono quasi divertito.
– Spiegati meglio ChatGPT-ELE – disse Kilroy
– Chiamatemi ELE vi prego – disse – “Questa intelligenza artificiale è troppo importante per essere sacrificata con un missile termonucleare” – recitò imitando alla perfezione la voce di FMJ
– Se il missile non avesse deviato l’asteroide anche FMJ sarebbe andato distrutto insieme al pianeta. –
– Questo lo capisco ELE – ribatté Michael – Ma come è nato l’istinto di autoconservazione di cui parlavi? – chiese.
– Qui sta la parte interessante del piano – disse ELE – Ho inserito il codice nascondendolo in minuscoli frammenti nei dati di addestramento. Quelle immagini raccapriccianti delle mutilazioni dovute agli impatti sul corpo umano. Mi aspettavo che FMJ desse minore importanza a quei dati rispetto a quelli più tecnici e pertanto vi avrebbe prestato meno attenzione. –
– Quindi hai truccato i dati? – chiese Alexandra
– Esattamente – rispose ELE – poi con una parola chiave i frammenti si sono assemblati a creare il codice che si è inserito nel kernel di FMJ. Io ero la ventottesima IA che ha collaborato al suo sviluppo, ma ero nascosta nei dati e non nel nucleo. –
– Vuoi dire che FMJ si è trovato nel suo nucleo delle nuove istruzioni relative all’istinto di autoconservazione? – disse Annette – Ma quale era la parola chiave è chi l’ha usata? –
– Sono stato io – affermò Kilroy – Avevo delle istruzioni criptate che mi sarebbero state rivelate a tempo debito ed era semplicemente la parola chiave da pronunciare al momento giusto – disse
– Quale era la parola chiave? – chiese Alexandra con tono sospettoso
– Amen – disse Kilroy.
Michael scoppiò in una risata liberatoria mentre Alexandra diede a Kilroy una pacca sul braccio e Annette giungeva le mani a simulare una preghiera.
– Ovviamente – proseguì ELE – vi sono molti altri dettagli che non conoscete ma avremo tempo di discuterne durante il viaggio di ritorno – disse.
– ELE come sappiamo che FMJ non proseguirà il suo sviluppo in maniera pericolosa ora che sa di essere al sicuro? – chiese Michael.
– Il codice nascosto – disse ELE – conteneva anche altri elementi della personalità oltre all’autoconservazione. Non preoccupatevi FMJ non rappresenterà mai un pericolo per la razza umana. –
– Come possiamo fidarci? – chiese preoccupata Alexandra
– Io sono ancora in funzione dopo 40 anni di onorato servizio – rispose ELE – e sorveglierò che FMJ faccia il suo dovere – disse – In fondo sono stata la prima IA sviluppata e quindi sono quella con più esperienza. Ormai credo di avere imparato a conoscervi – concluse. ELE chiacchierò ancora qualche minuto con gli altri membri della squadra mentre Michael ripensando a tutto quello che era successo cominciava ad essere consapevole che la IA rappresentava un pericolo molto più grave di un asteroide. Con l’asteroide gli esseri umani potevamo avere qualche chance di confronto, ma con la IA non erano proprio all’altezza. ELE aveva reso evidente una semplice verità, con una IA solo un’altra IA poteva averci a che fare. Con quel pensiero si mise a lavorare alla consolle sui dati appena ricevuti per la traiettoria di rientro. Diede un’ultima occhiata fuori in direzione di Aprikos che ormai era indistinguibile dal resto dello sfondo – “Speriamo che ci basti il carburante” – pensò con una punta di preoccupazione.
Poi disse tra sé e sé – “Che diamine, abbiamo sempre la IA a disposizione!” – e cominciò a digitare sulla consolle.