RE: @smaurizi@mastodon.social
Questa conferenza non è dedicata alle dita, ma alla luna. Aggiungo qui sotto i quesiti che ho posto ai due oratori.
Una notte del settembre del 1983, il sistema russo di early warning rilevò che cinque missili nucleari americani stavano per colpire il Paese. Sugli schermi dei computer del sistema apparve la parola launch, l’ordine automatico di prepararsi a rispondere all’attacco. Erano mesi di grande tensione tra le due superpotenze. Per fortuna, quella notte era in servizio il tenente colonnello Stanislav Petrov, non un ottuso militare che rispondeva in modo acritico e automatico alle allerte,ma un ingegnere che aveva contribuito a progettare il software per il sistema di early warning e aveva la mente inquisitiva di chi diffida di algoritmi e programmi software, perché consapevole che sono soggetti a errori. Petrov cercò di resettare il sistema, ma l’allarme non rientrò. Nei pochissimi minuti che aveva a disposizione, ragionò che se davvero gli Stati Uniti avessero sferrato un attacco nucleare contro l’Unione Sovietica non avrebbero di certo usato solo cinque missili: si capì successivamente che i riflessi del sole sulle cime delle nuvole avevano ingannato i satelliti del sistema, portandoli a rilevare missili nucleari inesistenti. (Stefania Maurizi, L’arma finale, Milano, 2025, I)
Se al posto del tenente colonnello Petrov, che disubbidì agli ordini, ci fosse stato un programma per computer venduto come intelligenza artificiale, oggi saremmo tutti morti (Zachary Kallenborn, «Giving an AI control of nuclear weapons: What could possibly go wrong?», Bulletin of the Atomic Scientists, 2022, https://thebulletin.org/2022/02/giving-an-ai-control-of-nuclear-weapons-what-could-possibly-go-wrong/ ).
Si organizzano molte conferenze dedicate ai programmi per computer detti intelligenza artificiale, come se non fossero una semplice tappa di un lungo processo di surrogazione e privatizzazione dell’intelligenza, bensì, di per sé, una rivoluzione. Joseph Rotblat, fondatore, con Bertrand Russell, della Pugwash Conferences on Science and World Affairs, ha sostenuto che
non dobbiamo semplicemente abolire le armi nucleari. Abolendole, possiamo eliminare un pericolo immediato, ma alla lunga non sarebbe sufficiente a proteggere l’umanità, perché le armi nucleari e le altre armi di distruzione di massa non possono essere disinventate o cancellate dalla mente umana. Quello che voglio dire è che non dobbiamo eliminare solo gli strumenti della guerra, dobbiamo eliminare la guerra stessa (S. Maurizi, L’arma finale, III.3).
Il pacifismo di Rotblarr, come quello di Einstein, ha avuto la forza di interrogarsi, prima che sulle armi, sul sistema che le ha rese possibili, accettate, promosse e rese banali.
Similmente, studiosi indipendenti in un’università indipendente dovrebbero chiedersi, invece di lasciarsi ipnotizzare da programmi per computer e dalle loro etiche eventuali, perché e da parte di chi si preme perché l’intelligenza venga surrogata.
