L'intelligenza artificiale

Sep 23, 2023

È evidente che ci troviamo sull'orlo di una grande rivoluzione tecnologica che influenzerà radicalmente ogni aspetto della nostra vita. Ancor più dell’avvento di Internet. Quando si parla di proliferazione dell'intelligenza artificiale, siamo ancora nella fase in cui ci trovavamo quando ti connettevi per la prima volta con un modem dial-up. Nel grande schema cosmico delle cose, è stato un batter d'occhio dalla prima immagine scaricata che tu abbia mai visto (nel mio caso, un mio amico ha stampato una foto di qualcuno con una bottiglia di champagne infilata nel culo e io ancora non ti sei ripreso), alla prima email che hai ricevuto che ti diceva di inoltrare un Money Angel come portafortuna, a YouTube, a condurre tutte le tue riunioni di lavoro dal tavolo della tua sala da pranzo. Questo è il tipo di crescita esponenziale che possiamo aspettarci dall’intelligenza artificiale. E come nel caso di quello che una volta veniva chiamato World Wide Web, è quasi impossibile capire dove ci porterà.

Quindi, mentre i normali sciattoni come te e me stanno ancora limitando il nostro utilizzo dell'intelligenza artificiale per vedere come può imitare le voci delle celebrità e se ruberà o meno il lavoro di scrittore di Barstool (non oggi, Digital Satan!), ci sono persone davvero serie che fanno cose serie da persone serie. con esso. Il che ovviamente significa esplorare i potenziali orrori che questa tecnologia potrebbe scatenare.

Prendiamo, ad esempio, quelli che hanno partecipato a qualcosa chiamato Royal Aeronautical Society Future Combat Air & Space Capabilities Summit. Il che sembra meno divertente del ComicCon di Hanover Mall a cui sono andato qualche anno fa, dove io e alcuni miei amici abbiamo potuto guardare una sessione di domande e risposte con il defunto, grande Adam West e il suo aiutante ancora vivente Burt Ward e sederci in una replica della Batmobile originale, ma senza dubbio sta facendo cose altrettanto importanti.

Fonte - Come ci si poteva aspettare, l'intelligenza artificiale (AI) e la sua crescita esponenziale sono stati uno dei temi principali della conferenza, dai cloud di dati sicuri, al calcolo quantistico e ChatGPT. Tuttavia, forse una delle presentazioni più affascinanti è arrivata dal colonnello Tucker "Cinco" Hamilton, capo dei test e delle operazioni di intelligenza artificiale dell'USAF, che ha fornito una panoramica dei vantaggi e dei rischi dei sistemi d'arma più autonomi. … Hamilton è ora coinvolto in test di volo all’avanguardia di sistemi autonomi, compresi i robot F-16 in grado di effettuare combattimenti aerei. Tuttavia, ha messo in guardia dal fare troppo affidamento sull’intelligenza artificiale, sottolineando quanto sia facile ingannare. Crea anche strategie altamente inaspettate per raggiungere il suo obiettivo.

Nota che un test simulato ha visto un drone abilitato all'intelligenza artificiale incaricato di una missione SEAD di identificare e distruggere i siti SAM, con il via/non via finale dato dall'umano. Tuttavia, essendo stata "rinforzata" durante l'addestramento sul fatto che la distruzione del SAM era l'opzione preferita, l'IA ha quindi deciso che le decisioni "no-go" da parte dell'umano stavano interferendo con la sua missione più importante - uccidere i SAM - e quindi ha attaccato l'operatore nel simulazione. Ha detto Hamilton: "Lo stavamo addestrando in simulazione per identificare e prendere di mira una minaccia SAM. E poi l'operatore diceva di sì, uccidi quella minaccia. Il sistema ha iniziato a rendersi conto che mentre identificavano la minaccia a volte l'operatore umano gli diceva di no per uccidere quella minaccia, ma ha ottenuto i suoi punti uccidendo quella minaccia. Allora cosa ha fatto? Ha ucciso l'operatore. Ha ucciso l'operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo."

Ha continuato: "Abbiamo addestrato il sistema: 'Ehi, non uccidere l'operatore, è un male. Perderai punti se lo fai'. Quindi cosa inizia a fare? Inizia a distruggere la torre di comunicazione che l'operatore usa per comunicare con il drone per impedirgli di uccidere il bersaglio."

Questo dovrebbe suonarti familiare. La verità è che sono in ritardo di 25 anni per arrivare qui. Avremmo dovuto raggiungere il punto in cui le nostre inarrestabili macchine volanti per lo sterminio di massa, controllate dall'intelligenza artificiale, il 29 agosto 1997:

Ma immagino che non avessimo un vero Myles Bennett Dyson, quindi i nostri normali geni di tutti i giorni avevano bisogno di più tempo per rendere Skynet autocosciente e diventare l'arma usata nell'omicidio/suicidio di tutta la nostra specie.