Africa chiede un ruolo nel decidere la sicurezza dell’AI

L’Africa sta chiedendo un ruolo nel decidere se l’intelligenza artificiale (AI) sia sicura, dopo che le aziende locali hanno adottato rapidamente modelli sviluppati negli Stati Uniti e in Cina, con poca attenzione alla sicurezza. Molti paesi africani non hanno la capacità di testare autonomamente se questi sistemi siano sicuri per le loro popolazioni, secondo esperti intervistati da Rest of World. La mancanza di regolamenti coerenti potrebbe rendere più costosi e complessi i progetti di implementazione globale degli AI. L’Africa, pur rimanendo indietro nell’adozione di questa tecnologia, sta accelerando la sua partecipazione, con oltre il 80% delle aziende grandi che testano modelli AI internamente.

sicurezza e controllo delle tecnologie

Le aziende africane e i governi stanno rapidamente implementando sistemi AI sviluppati negli Stati Uniti e in Cina, ma spesso senza considerare adeguatamente la sicurezza. Molti paesi non hanno strutture formali per monitorare i rischi, secondo un rapporto di PricewaterhouseCoopers. Jonathan Shock, professore all’Università di Cape Town, ha sottolineato che non c’è una discussione reale sulla sicurezza dell’AI, creando un vuoto significativo. L’adozione di modelli AI senza controlli locali potrebbe portare a incidenti gravi, come ha avvertito Shock, che ha anche espresso preoccupazioni per l’uso improprio di AI da parte di gruppi come Boko Haram.

La distinzione tra modelli sviluppati negli Stati Uniti e in Cina non è tanto importante quanto chi detiene il controllo finale. Modelli come ChatGPT e Claude sono modelli chiusi, gestiti centralmente dai loro sviluppatori, mentre modelli come DeepSeek e Kimi sono aperti e possono essere modificati dagli utenti. Questo rende più difficile per i loro sviluppatori interrompere l’uso in caso di problemi. Jane Munga, esperta del Carnegie Endowment, ha sottolineato che chi detiene l’interruttore finale è chi decide la sicurezza.

Chi detiene l’interruttore finale decide la sicurezza dell’AI.

L’Africa, però, chiede di essere coinvolta nella definizione di standard, etica e architettura tecnologica, come ha sottolineato Lewis Garseedah Brown II, rappresentante permanente della Liberia al Consiglio di Sicurezza delle Nazioni Unite. L’obiettivo è non solo di adottare l’AI, ma di farla evolvere in modo che rispetti le esigenze e le priorità locali.

rischi e responsabilità

Le conseguenze di un uso improprio dell’AI sono già visibili in Africa. In Kenya, un algoritmo di machine learning per calcolare le spese assicurative ha aumentato i costi per le famiglie povere. In West Africa, i truffatori hanno usato contenuti generati da AI per estorcere denaro. Boko Haram ha anche utilizzato l’AI per organizzare attacchi e progettare armi, bypassando i controlli. Gathoni Ireri, ricercatrice del programma Ilina a Nairobi, ha sottolineato che un incidente che potrebbe essere considerato minore in un paese occidentale potrebbe causare danni irreparabili in Africa. Africa, però, non ha ancora la capacità di condurre valutazioni di sicurezza autonomamente. Ali Mohamed Omar, ministro per gli affari esteri della Somalia, ha affermato che l’Africa non deve rimanere solo un mercato per sistemi sviluppati altrove, ma deve essere coinvolta attivamente nella gestione di questa tecnologia. L’Africa deve sviluppare capacità per valutare la sicurezza degli AI, come ha sottolineato anche Mélanie Keïta, CEO di Melanin Kapital a Nairobi.

Le aziende attualmente effettuano i propri test di sicurezza, ma è necessario sostituirli con valutazioni di terzi che analizzino i rischi specifici dell’Africa. L’adozione di modelli AI senza controlli locali potrebbe portare a incidenti gravi, come ha avvertito Shock. L’Africa deve quindi sviluppare una propria visione di sicurezza, in linea con le sue esigenze e contesti locali. La mancanza di regolamenti locali e la dipendenza da modelli sviluppati altrove rappresentano un rischio per la sicurezza e la sovranità tecnologica dell’Africa. L’obiettivo è non solo di adottare l’AI, ma di farla evolvere in modo che rispetti le esigenze e le priorità locali.