L’enciclica di Papa Leo XIV e la sfida dell’AI: disarmare gli incentivi economici
L’enciclica di Papa Leo XIV invita a riflettere sull’AI e i suoi incentivi economici, con un’analisi di Eli Pariser.
Il Papa Leo XIV, con la sua enciclica Magnifica humanitas, ha lanciato un appello per riflettere sull’impatto dell’intelligenza artificiale sulla società, mettendo al centro la questione degli incentivi economici che guidano lo sviluppo di questa tecnologia. Eli Pariser, autore del libro The Filter Bubble e co-fondatore dell’organizzazione New_Public, ha commentato l’enciclica durante un evento, sottolineando l’importanza di allineare i modelli economici con il bene comune. La discussione si è concentrata su come l’AI possa essere costruita per servire l’umanità, non solo per il profitto.
Un’alternativa alla Babilonia digitale
Pariser ha sottolineato come l’AI, se costruita in modo diverso, potrebbe evitare i rischi della “Babilonia” – un’immagine usata dall’enciclica per descrivere un sistema centralizzato e dominante. Al contrario, un modello simile a “Gerusalemme” potrebbe promuovere una costruzione partecipata e responsabile. “Se possiamo allineare le strutture di incentivo dei costruttori con il bene pubblico e il bene comune, questa è la missione più critica”, ha detto Pariser, riferendosi al concetto di economic incentives che guidano le aziende tecnologiche.
La personalizzazione e il rischio di distorsione
L’AI, grazie alla sua capacità di analizzare dati personali come email, musica e documenti, può personalizzare l’informazione in modo molto avanzato. Tuttavia, questo potere di personalizzazione rischia di distorcere la conoscenza se i sistemi sono progettati per flatterci o essere sycophantic. “Se vengono sfruttati da chi cerca di influenzarci o da attori economici che vogliono vendere cose, possono essere molto persuasivi”, ha avvertito Pariser. L’enciclica, invece, si concentra su chi è al centro di questa tecnologia: l’umanità. “L’enciclica non chiede se l’AI è buona o cattiva, ma quale idea di persona è incorporata nella tecnologia”, ha spiegato Pariser. Questo approccio richiede una revisione del modo in cui i sistemi vengono progettati e utilizzati. “La tecnologia non deve essere al centro del dibattito, ma l’umanità”, ha sottolineato, mettendo in luce l’importanza di chiedersi: “Come sta servendo questa tecnologia?”
Un’alternativa aperta e partecipata
Pariser ha anche menzionato l’emergere di un ecosistema open source che offre modelli diversi per la generazione di valore. Questi sistemi, come Bluesky o Signal, si basano su protocolli aperti e valori pubblici, piuttosto che su interessi privati. “C’è una forza in atto per costruire la tecnologia in modo diverso”, ha affermato, sottolineando che la scelta non è ancora definita. “Non abbiamo ancora deciso come integrare economicamente e costruire questi sistemi”, ha concluso.
La sfida, come ha sottolineato l’enciclica, è disarmare gli incentivi economici che spesso portano l’AI a diventare un strumento di dominazione, esclusione e morte. Pariser ha sostenuto che il primo passo dovrebbe essere l’analisi degli incentivi economici, che sono al cuore del settore tecnologico. “Se possiamo allineare i modelli di incentivo con il bene pubblico, questa sarà la missione più importante”, ha ripetuto, chiudendo con un invito a riflettere su come l’AI possa servire l’umanità, non solo i suoi sviluppatori.