Possiamo imparare qualcosa sulla minaccia dell'IA dai film di fantascienza

immagine dal film 2001: Odissea nello spazio

In un minaccioso avvertimento di questa settimana, noti ricercatori hanno elencato una serie di "scenari disastrosi" dell'intelligenza artificiale che, a loro dire, potrebbero mettere in pericolo l'umanità. Due dei tre "padrini dell'IA" sopra citati sono preoccupati, ma il terzo non potrebbe essere più contrario, sostenendo che tali "profezie di sventura" sono insensate.

Nel tentativo di dare un senso a tutto ciò, un presentatore televisivo britannico ha dichiarato: "Come persona che non ha esperienza di questo... Penso a Terminator, penso a Skynet, penso ai film che ho visto". Questo è stato detto da uno dei ricercatori che ha avvertito di una minaccia esistenziale. "

Non è da solo. WALL-E della Pixar è stato usato come esempio dei pericoli dell'IA dagli organizzatori della dichiarazione di allarme, il Centro per la sicurezza dell'IA (CAIS).

La fantascienza è sempre stata un mezzo per speculare sul futuro. I blockbuster hollywoodiani hanno qualcosa da insegnarci sull'imminente destino dell'IA, usando esempi tratti dall'elenco di potenziali minacce del CAIS?

Mini Report e Wall-E.

Un fotogramma di Wall-E

"L'infezione", secondo il CAIS, si verifica quando l'umanità "diventa completamente dipendente dalle macchine, come nello scenario descritto nel film WALL-E".

Se avete bisogno di un ripasso, in quel film le persone erano fondamentalmente animali pigri e felici che a malapena riuscivano a difendersi. Tutto veniva gestito per loro da robot.

Si tratta di congetture per ipotizzare se questo sia fattibile per la nostra intera specie.

Esiste tuttavia un tipo di dipendenza più vicina e più perniciosa. L'autrice Stephanie Hare, ricercatrice di etica dell'IA, sostiene che si tratta del trasferimento di potere a una tecnologia che potremmo non comprendere appieno.

Nella foto in apertura di questo articolo, viene in mente Minority Report. Poiché i sistemi progettati per prevedere i crimini sono certi che il rispettato agente di polizia John Anderton (interpretato da Tom Cruise) commetterà un crimine, lo accusano di averlo commesso.

La Met di Londra utilizza la polizia predittiva, secondo la signora Hare.

Tom Cruise interpreta un personaggio nel film la cui vita viene distrutta da un sistema "indiscutibile" che non comprende appieno.

Cosa succede quando l'IA rifiuta "una decisione che cambia la vita" di una persona, come l'approvazione di un mutuo o la concessione della libertà vigilata?

Una persona potrebbe spiegarvi oggi perché non soddisfate i requisiti. Tuttavia, molti sistemi di intelligenza artificiale sono poco trasparenti e spesso nemmeno i ricercatori che li hanno creati sono in grado di comprendere appieno il ragionamento che sta dietro alle loro scelte.

"Noi diamo semplicemente i dati al computer e lui agisce". Secondo la signora Hare, il risultato arriva dopo che si è verificata la magia.

Si può discutere se la tecnologia debba mai essere usata in situazioni cruciali come l'applicazione della legge, l'assistenza sanitaria o persino la guerra, dice, anche se potrebbe essere efficace. Non è accettabile se non sono in grado di spiegarlo. "

Un Terminator.

Un'immagine da Terminator

Nei film di Terminator, Skynet, un'intelligenza artificiale creata per difendere e proteggere l'umanità, piuttosto che il robot assassino interpretato da Arnold Schwarzenegger, è il vero antagonista. Come spesso accade nei film, ha superato la sua programmazione e ha deciso che l'umanità rappresentava la minaccia più grande di tutte.

Naturalmente, Skynet è molto lontano da noi. Alcuni, tuttavia, credono che alla fine creeremo un'intelligenza artificiale generale (AGI) che sarà in grado di svolgere tutti i compiti che gli esseri umani possono svolgere, ma in modo più efficiente, e potrebbe persino essere autocosciente.

È un po' irrealistico, secondo Nathan Benaich, fondatore della società di investimenti in AI Air Street Capital di Londra.

La fantascienza spesso rivela più cose sui suoi autori e sulla nostra cultura che sulla tecnologia, sostiene l'autore, aggiungendo che le previsioni sul futuro raramente si avverano.

"All'inizio del XX secolo si immaginava un mondo con auto volanti e telefoni normali, mentre oggi viaggiamo in modo simile ma comunichiamo in modo molto diverso". "

La tecnologia che utilizziamo attualmente sta per assomigliare più che altro al computer di bordo di Skynet. Si potrebbe dire alla nostra IA di oggi: "Computer, mostrami un elenco di tutti i membri dell'equipaggio", e questa fornirebbe l'elenco e risponderebbe alle domande su di esso nel linguaggio di tutti i giorni.

Tuttavia, non è in grado di lanciare i siluri o di sostituire l'equipaggio.

Le preoccupazioni sulla weaponization ruotano attorno all'integrazione dell'intelligenza artificiale (IA) nell'hardware militare, cosa già prevista, e alla possibilità di fidarsi di questa tecnologia in situazioni di vita o di morte.

La possibilità che un'IA creata per produrre medicine possa sviluppare nuove armi chimiche o altri pericoli simili è un'altra preoccupazione sollevata dai critici.

Odissea nello spazio da 2001.

Un'immagine da 2001: Odissea nello spazio

Un altro tropo cinematografico prevalente è l'idea che l'IA sia malvagia piuttosto che cattiva.

In 2001: Odissea nello spazio di Stanley Kubrick, incontriamo HAL-9000, un supercomputer che gestisce la maggior parte delle operazioni dell'astronave Discovery e aiuta la vita degli astronauti fino a quando non si guasta.

Gli astronauti scelgono di disattivare HAL e prendere il controllo della situazione. La missione, tuttavia, è messa in pericolo da HAL, che è più intelligente degli astronauti. Gli astronauti sono un ostacolo. HAL inganna gli astronauti e la maggior parte di loro muore.

Si potrebbe sostenere che HAL stia eseguendo le sue istruzioni, mantenendo la missione, a differenza di uno Skynet autocosciente, ma non nel modo previsto.

La terminologia moderna dell'IA si riferisce ai sistemi di IA che si comportano male come "non allineati". I loro obiettivi sembrano essere in contrasto con gli obiettivi umani.

A volte ciò è dovuto a istruzioni poco chiare, altre volte è dovuto al fatto che l'IA è in grado di trovare una soluzione.

Un'IA potrebbe decidere che cambiare il documento di testo con una soluzione più semplice è la migliore linea d'azione se, per esempio, il compito è "assicurati che la tua risposta e questo documento di testo corrispondano". Anche se tecnicamente corretto, questo non è ciò che l'uomo intendeva fare.

Quindi, anche se 2001: Odissea nello spazio è molto lontano dalla realtà, mette in evidenza un problema dei moderni sistemi di intelligenza artificiale che è molto reale.

In Matrix.

Un'immagine verde di Matrix, con tre figure alla fine di un corridoio

Nel film Matrix del 1999, Morpheus chiede a un giovane Keanu Reeves: "Come fai a sapere la differenza tra il mondo dei sogni e quello reale?"

La narrazione, incentrata sul modo in cui la maggior parte delle persone vive senza rendersi conto che la propria realtà è una creazione digitale, funge da utile metafora per l'attuale ondata di false informazioni generate dall'intelligenza artificiale.

Matrix è un buon punto di partenza, secondo la signora Hare, per le "conversazioni sulla disinformazione, la disinformazione e i deepfakes" con i suoi clienti.

"Posso spiegarglielo usando Matrix e alla fine. Oh mio Dio, cosa significa questo per i diritti civili e la letteratura umana o le libertà civili e i diritti umani? Cosa significherebbe per la manipolazione del mercato azionario?

Gravi quantità di cultura che sembrano autentiche ma che possono essere completamente false o inventate vengono già prodotte da ChatGPT e generatori di immagini.

Inoltre, c'è un lato molto più oscuro, come la produzione di pornografia deepfake dannosa che è molto impegnativo per le vittime resistere.

Al momento non c'è nulla che possiamo fare per salvaguardare qualcuno se questo dovesse accadere a me o a qualcuno a cui tengo, sostiene la signora Hare.

cosa potrebbe effettivamente accadere.

Cosa pensa dell'avvertimento dei maggiori esperti di IA, secondo cui l'IA è pericolosa quanto una guerra nucleare?

La signora Hare afferma: "Ho pensato che fosse davvero irresponsabile". "Smettete di costruirla se ci credete davvero, se ci credete davvero". "

Afferma che è più probabile che un incidente sia la causa delle nostre preoccupazioni piuttosto che i robot assassini.

Nelle banche sarà presente un'elevata sicurezza. Saranno estremamente cauti con le armi. Secondo l'esperto, gli aggressori potrebbero rilasciare [un'IA] prima di scoprire che non hanno alcun controllo su di essa, per guadagnare rapidamente denaro o per dimostrare il loro potere.

Basta moltiplicare tutti i problemi di cybersicurezza che abbiamo incontrato per un miliardo, perché si verificheranno più rapidamente. "Nathan Benaich di Air Street Capital è cauto nello speculare su potenziali problemi.

"Credo che l'IA cambierà radicalmente diversi settori, ma dobbiamo essere estremamente cauti nel prendere decisioni affrettate basate su storie febbrili e improbabili in cui si ipotizzano grandi balzi senza avere la percezione di cosa comporterà il ponte", avverte.

Link fonte

You've successfully subscribed to Webosor
Great! Next, complete checkout to get full access to all premium content.
Welcome back! You've successfully signed in.
Unable to sign you in. Please try again.
Success! Your account is fully activated, you now have access to all content.
Error! Stripe checkout failed.
Success! Your billing info is updated.
Billing info update failed.