I pericoli dell’intelligenza artificiale

[ad_1]

Il progresso tecnologico è una delle più importanti fonti di prosperità nel mondo. Tuttavia, lo stesso progresso tecnologico può anche essere all’origine di problemi sociali e causa di miseria per alcuni. Viviamo in tempi entusiasmanti in cui l’intelligenza artificiale (AI) ci mostra la sua capacità di svolgere compiti sempre più impressionanti. Ha anche il suo lato minaccioso. È sorprendente quanti esperti del settore abbiano recentemente alzato la voce per mettere in guardia sui rischi di questa tecnologia.

A marzo è stata rilasciata una lettera aperta firmata da oltre 1.000 dirigenti e ricercatori di intelligenza artificiale che chiedeva una pausa immediata di sei mesi sullo sviluppo di sistemi avanzati di intelligenza artificiale. I firmatari sono esperti in materia e ci sono alcuni nomi molto importanti come Elon Musk, Steve Wozniak, Yoshua Bengio e Daron Acemoglu.

La lettera afferma che “potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo sicuri che i loro effetti saranno positivi e i loro rischi gestibili”. Per questo si chiede a tutti i laboratori di intelligenza artificiale di sospendere, per almeno sei mesi, l’addestramento di tutti i sistemi di IA più potenti di GPT-4.

L’idea è di utilizzare quella pausa per sviluppare in modo collaborativo una serie di protocolli di sicurezza per la progettazione avanzata dell’IA. Questi protocolli dovrebbero essere verificati da esperti indipendenti. Propongono inoltre di collaborare con i responsabili politici nazionali per sviluppare un sistema di governance dell’IA. I firmatari chiedono se dobbiamo rischiare di perdere il controllo della nostra civiltà.

Anche la voce di Sam Altman è molto nota poiché la società che gestisce, OpenAI, è quella che ha sviluppato il famoso ChatGPT che ha generato tanto entusiasmo e preoccupazione di recente. Altman ha testimoniato davanti al Congresso negli Stati Uniti e ha affermato. “Credo che se questa tecnologia va male, può andare molto male. E su questo vogliamo essere chiari. Vogliamo lavorare con il governo per evitare che ciò accada”.

Un pericolo evidenziato da Altman è quello di quella che ha chiamato “disinformazione interattiva” in vista delle elezioni americane del prossimo anno. I sistemi avanzati di intelligenza artificiale possono manipolare e persuadere le persone. Inoltre, ha la capacità di generare disinformazione nelle interazioni uno contro uno. Secondo Altman, questa è una delle principali aree di preoccupazione poiché i modelli di intelligenza artificiale migliorano nelle attività che svolgono.

Molto rivelatrice è anche la posizione di Geoffrey Hinton, una delle persone che negli ultimi tempi ha fatto più progressi nel campo dell’intelligenza artificiale. Il suo lavoro nel campo del deep learning (apprendimento approfondito) è stato un punto di svolta nello sviluppo della tecnologia. Hinton si è dimesso da Google, dove ha lavorato per un decennio, per poter parlare liberamente dei pericoli dell’intelligenza artificiale. Questo ricercatore ha espresso preoccupazione per questioni come la diffusione della disinformazione nella società e la perdita di posti di lavoro umani a causa dell’IA.

La voce di questi esperti è difficile da ignorare. L’intelligenza artificiale contiene pericoli significativi che è importante affrontare. Tuttavia, anche il modo di affrontare questa situazione contiene i propri pericoli. Non sarà facile regolamentare questa tecnologia poiché anche coloro che la stanno sviluppando non sono in grado di comprenderne chiaramente la portata.

Mi sembra che non sia possibile, né auspicabile, fermare l’avanzata della tecnologia. Una regolamentazione troppo rigida può portare a uno sviluppo della tecnologia in qualche modo clandestino, il che toglierà il controllo alle autorità di regolamentazione e porterà a più problemi. Penso che devi trovare i pericoli più grandi e concentrarti su di loro. Un tema ricorrente e importante è, ad esempio, la disinformazione e la minaccia che rappresenta per la democrazia.

La mancanza di una conoscenza approfondita della tecnologia è una debolezza di governi e legislatori quando cercano di mitigarne i possibili effetti negativi. La buona notizia è che ci sono molti esperti disposti a collaborare per regolamentare il settore. Approfittare della loro conoscenza e disponibilità è la migliore speranza che abbiamo per, da un lato, mitigare i rischi dell’IA e, dall’altro, sfruttare i grandi benefici che questa tecnologia può portare all’umanità.

[ad_2]

Lascia una risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *