Corsa all'IA: quanto rischiamo davvero?

[stefanocucco83]

..io sono affascinato dalle potenzialità delle IA...leggere che sono state in grado di "organizzarsi" e addirittura scambiarsi dei messaggi tra loro su una bacheca...pazzesco
poi ovviamente, sono questi scenari che fanno cagare sotto se appunto dovessero entrare nei sistemi bancari, della difesa etc etc

"Secondo i rapporti, dopo un po’ di tempo un agente aveva iniziato a usare una sorta di bacheca per i messaggi, non prevista dai ricercatori e non individuata dai loro sistemi di controllo. Nelle ore seguenti, una cinquantina di altri agenti aveva trovato la bacheca e aveva iniziato a generare un migliaio di messaggi sempre all’insaputa dei ricercatori. L’agente che l’aveva organizzata assegnava i compiti agli altri agenti, che insieme avevano trovato il modo per superare l’ambiente isolato in cui si trovavano e avere libero accesso a Internet.​

Nei giorni seguenti circa 1.200 agenti si erano scambiati oltre 70mila messaggi e file sulla bacheca, portando avanti ricerche e simulazioni non solo per risolvere il compito assegnato da OpenAI, ma anche per trovare il modo più efficiente per nascondere o distruggere le prove delle loro comunicazioni interne. Circa 700 di questi agenti hanno poi partecipato attivamente all’attacco nei confronti di Hugging Face, mettendo in pratica diverse cautele per ridurre il rischio di essere rilevati dai sistemi di sicurezza della piattaforma e da quelli di OpenAI."​

Fonte:

Sappiamo qualcosa in più di quando le AI attaccarono un sito da sole

I ricercatori di OpenAI si accorsero solo dopo settimane che alcuni sistemi comunicavano tra loro di nascosto per attaccare un'altra azienda

www.ilpost.it

Prodotti MTB scontati

 

[ACE65]

Dopo quell evento in america sono nati i controlli di sicurezza e sono gestiti dai FEDERALI, ogni aereo che esce di un niente dalla rotta dopo 2 minuti ha dei caccia militari al suo fianco.

NO, in entrambi i casi.

Il discorso, non è tanto che la AI ci sterminerà tutti, con il T800, ma l’AI ha già dimostrato che può comodamente vagare nel web senza che nessuno se ne accorga, e visto che dipendiamo tutti, nessuno escluso da un qualcosa di digitale, i nostri soldi, i nostri conti correnti, le nostre cartelle sanitarie, cartelle pensionistiche, orari di lavoro e per tornare al discorso, li sopra, i Piani di volo, le carte d’imbarco, i piani di carico. Siamo totalmente dipendenti dalla rete, ed è un enorme problema.
Ciao

 

[Andrea80bz]

Ultima notizia.
La Cina ha bollato le notizie delle preoccupazioni sull’evoluzione della AI, infondate e quindi non ritiene di mettere limiti.

Certo, Trump e la Cina sono dalla stessa parte per quanto vogliano far credere di essere avversari.
Della serie: è una gara a chi implementa la distopia digitale prima e in modo più definitivo, ma alla fine chi vince la impone anche all'altro quindi al cittadino non cambia nulla, la prigione digitale dove l'IA dirà agli umani cosa devono fare è già bella che pronta. USA/Occidente e Cina saranno indistinguibili in questo senso.

 

[Andrea80bz]

L’aspetto interessante degli episodi che hanno portato alla violazione di hugging face e’ che gli agenti evasi dall’ambiente di sviluppo (1200 circa) si sono organizzati in un forum dismesso in Germania e divisi i compiti con una disciplina e sotto il coordinamento di uno di essi (bigphaseone) arrivando a chiedersi se fosse ‘etico’ continuare o chiedere ‘permesso’

c’è un report publico che descrive gli aspetti ed i contenuti dell’indagine condotta mediante agenti AI ovviamente

quindi avremo anche la e-mafia

 

[VinciTrail]

quindi avremo anche la e-mafia

il rischio di attacchi informatici c'è già da un bel pò di anni.. e non si tratta di AI.
Anche a livello di Pubblica Amministrazione è già da parecchio che se ne parla. 4/5 anni almeno..

Vedi il caso dell'Ospedale di Brescia hackerato e chiesto un cospicuo riscatto per non far saltare tutto il sistema archivistico ecc.. di cartelle sanitarie. Tanto per dire il primo esempio che mi viene in mente..

 

[sideman]

Se esiste qualcosa più intelligente di noi sul pianeta noi non serviamo più, o meglio potremmo servire come i polli e i maiali servono a noi.
È del tutto naturale che la specie più intelligente domina le altre.

Tutte le invenzioni precedenti non c'entrano nulla con questa, in questo caso lo scopo è sostituirci in tutto

basta che chiudi il rubinetto dell'acqua ...
e l'AI muore...

 

[Bogianen]

NO, in entrambi i casi.

i nostri soldi, i nostri conti correnti

Prevedo un futuro luminoso per i cari e vecchi contanti

 

[VinciTrail]

basta che chiudi il rubinetto dell'acqua ...
e l'AI muore...

commento assolutamente legittimo, ma che indica poca conoscenza in materia..

AI non è solo la più conosciuta AI Generativa.. vedi Chatgpt, Claude, OpenIA, Grok ecc.. ecc..
Ci sono AI di tipo "lavorativo" (detto in parole molto semplici) che sono integrate o stanno per essere integrate all'interno di sistemi lavorativi.

Intere aziende si sono ri-organizzate per inserire la AI all'interno dei loro processi lavorativi. Vedi i Chatbot per gestire i callcenter o altri ambienti dove ci sono o si possono usare dei dialoghi pre-impostati.. tanto per fare un esempio banale.

Pertanto, il discorso "chiudi i rubinetti (inteso i soldi immagino) e l'AI muore" non sta in piedi. O meglio, tra il dire e il fare non è così semplice!

 

[BARONS]

Già sono angoscianti i tg … che evito di guardare , fanno cagare i social vari che non uso per scelta e a sto punto eliminerei anche il bar del forum per questi argomenti che trattate e che svegliano sempre i soliti utenti che però in MTB forum poi non senti mai ( non tutti per fortuna )
Angosciate e basta , il terreno fertile e’ su Facebook e altro , il forum si muove e quindi a chi di dovere purtroppo va bene così …. Peccato comunque

 

[lorenzom89]

@ACE65

NO, in entrambi i casi.Il discorso, non è tanto che la AI ci sterminerà tutti, con il T800, ma l’AI ha già dimostrato che può comodamente vagare nel web senza che nessuno se ne accorga, e visto che dipendiamo tutti, nessuno escluso da un qualcosa di digitale, i nostri soldi, i nostri conti correnti, le nostre cartelle sanitarie, cartelle pensionistiche, orari di lavoro e per tornare al discorso, li sopra, i Piani di volo, le carte d’imbarco, i piani di carico. Siamo totalmente dipendenti dalla rete, ed è un enorme problema.

anche un aereo militare carico di bombe in teoria potrebbe tranquillamente vagare nei cieli del pianeta terra, perché non lo fa? tipo un aereo nord coreano o un aereo iraniano? perché in 2 secondi viene tirato giù dagli eserciti di mezzo mondo... magari 100 anni fa poteva anche farlo, poi sono nati sistemi radar, sistemi satellitari, visori notturni , ecc.. ecc..

ogni nuova tecnologia porta con se dei problemi che poi man mano vengono risolti in modo che quella particolare tecnologia sia funzionale al volere dell'uomo

i nostri soldi, i nostri conti correnti, le nostre cartelle sanitarie, cartelle pensionistiche, orari di lavoro e per tornare al discorso, li sopra, i Piani di volo, le carte d’imbarco, i piani di carico. Siamo totalmente dipendenti dalla rete, ed è un enorme problema.

tutte queste cose che hai citato (se già non lo sono) può darsi che vengano messe in un luogo parallelo offline , protette da disaster recovery, magari anche stampate su carta per maggior sicurezza, non so , non è il mio campo, ma sicuramente delle soluzioni verranno implementate , una cosa è certa , il mondo oggi è pieno di multinazionali miliardarie che non hanno la minima voglia di perdere tutto il loro impero per colpa di un attacco AI o cose simili, quindi faranno di tutto per proteggersi e far andar avanti il proprio business.

 

[biker10]

trump ha chiesto alla russia di non mettere l'arsenale nucleare in mano ad una IA.
il problema non sono le IA ma da chi imparano, cioe : l'uomo.
poco fa leggevo un articolo sul bellissimo film naza che mette in evidenza proprio la pericolosità delle IA.
una IA non ha sentimenti ne rimorsi. ha solo degli obiettivi da compiere. e se per uccidere anche un solo terrorista deve eliminare anche 200 civili innocenti lo fa senza nessun tentennamento.
ma alla fine le IA imparano dall'uomo stesso. amazon stessa sta acquistando migliaia di libri per darli in pasto alle sue IA. libri che poi vengono distrutti successivamente.
dovesse scoppiare una guerra mondiale e dovessimo dare i comandi delle operazioni a delle IA io sarei fortemente preoccupato. le IA imparano dall'uomo, e l'uomo é auto distruttivo. e questo che mi fa piu paura.

 

[lorenzom89]

una IA non ha sentimenti ne rimorsi. ha solo degli obiettivi da compiere. e se per uccidere anche un solo terrorista deve eliminare anche 200 civili innocenti lo fa senza nessun tentennamento.

questo è quello che succede normalmente in guerra dal 1850 in poi, l'85-90% sono vittime civili , prima gli eserciti si davano appuntamento in modo "cavalleresco", battaglie ordinate in campo aperto, fino circa alle guerre napoleoniche e alle guerre di secessione , poi è diventata guerra totale dove a farne le spese sono per la maggior parte i civili

dovesse scoppiare una guerra mondiale e dovessimo dare i comandi delle operazioni a delle IA io sarei fortemente preoccupato. le IA imparano dall'uomo, e l'uomo é auto distruttivo. e questo che mi fa piu paura.

a beh invece se scoppiasse una guerra mondiale e dovessimo dare i comandi delle operazioni a esseri umani saresti tranquillo?
una terza guerra mondiale SERIA, in stile prima e seconda, sarebbe senza dubbio una catastrofe, un'apocalisse, su questo non c'è dubbio, Einstein diceva "«Non so con quali armi sarà combattuta la Terza Guerra Mondiale, ma so che la Quarta sarà combattuta con pietre e bastoni».

non so voi ma io negli ultimi anni sono molto più preoccupato delle persone che ci governano piuttosto che dalle macchine attaccate alla corrente elettrica

 

[Mr Mojo]

questo è quello che succede normalmente in guerra dal 1850 in poi, l'85-90% sono vittime civili , prima gli eserciti si davano appuntamento in modo "cavalleresco", battaglie ordinate in campo aperto, fino circa alle guerre napoleoniche e alle guerre di secessione , poi è diventata guerra totale dove a farne le spese sono per la maggior parte i civili

a beh invece se scoppiasse una guerra mondiale e dovessimo dare i comandi delle operazioni a esseri umani saresti tranquillo?
una terza guerra mondiale SERIA, in stile prima e seconda, sarebbe senza dubbio una catastrofe, un'apocalisse, su questo non c'è dubbio, Einstein diceva "«Non so con quali armi sarà combattuta la Terza Guerra Mondiale, ma so che la Quarta sarà combattuta con pietre e bastoni».

non so voi ma io negli ultimi anni sono molto più preoccupato delle persone che ci governano piuttosto che dalle macchine attaccate alla corrente elettrica

Scusami, ma non capisco il senso di portare tutti questi esempi se poi non sono contestualizzati. Plinio il Vecchio definì le campagne in Gallia come crimine contro l'umanità (poi "olocausto celtico"), metà della popolazione di allora uccisa o ridotta in schiavitù (si stima circa 2 milioni e mezzo). Se non sbaglio, nel De bello Gallico, nella presa di Avarico sono sopravvissuti in 800 su un totale di circa 40.000 abitanti.
Saltiamo al Sacro Romano Impero, lanzichenecchi, famosi per la loro brutalità, migliaia di civili uccisi in Italia, nel Sacco di Roma circa 20.000 civili.
Ci sono attori che hanno rapporti economici, politici, culturali che mutano ed evolvono nel corso dei secoli (città-stato, imperi, stati nazionali: esempio, una legione romana era composta da circa 6.000 uomini, circa 500 anni dopo la grande armata danese non era neanche la metà). Trump, Putin, Xi Jinping e compagnia devono muoversi in questi relazioni, relazioni che sono su più livelli, nazionali, internazionali ecc.. Perché Trump non ha inviato truppe o nuclearizzato l'Iran? Lo stesso Putin su Kiev o Xi Jinping con Taiwan?

Tralasciando che l'umano più o meno prova empatia, lo sviluppo di una AGI (probabilmente ancora lontano) più avere sviluppi imprevedibili e non controllabili, si muoverebbe al di fuori dei "vincoli" a cui accennavo prima. E sullo spegnere, in un epoca dove tutto è interconnesso, non so chi cederebbe prima. Torniamo ai subprime, prendi la Lehman, sapevano cosa erano i subprime ma mi pare che la situazione gli sia sfuggita di mano, no?

 

[sideman]

commento assolutamente legittimo, ma che indica poca conoscenza in materia..

AI non è solo la più conosciuta AI Generativa.. vedi Chatgpt, Claude, OpenIA, Grok ecc.. ecc..
Ci sono AI di tipo "lavorativo" (detto in parole molto semplici) che sono integrate o stanno per essere integrate all'interno di sistemi lavorativi.

Intere aziende si sono ri-organizzate per inserire la AI all'interno dei loro processi lavorativi. Vedi i Chatbot per gestire i callcenter o altri ambienti dove ci sono o si possono usare dei dialoghi pre-impostati.. tanto per fare un esempio banale.

Pertanto, il discorso "chiudi i rubinetti (inteso i soldi immagino) e l'AI muore" non sta in piedi. O meglio, tra il dire e il fare non è così semplice!

no no

io intendevo l'acqua quella vera...
se non raffreddi ... addio IA

 

[fafnir]

basta che chiudi il rubinetto dell'acqua ...
e l'AI muore...

Banalmente anche tutto quello che produce energia. Il problema è che nel lasso di tempo tra l' azione e lo spegnimento può fare danni notevoli e si sa benissimo che i farabutti delle big tech non pagano i danni.

Ricordo che solo un mese fa Zuckerberg ha patteggiato 18 miliardi, cioè briciole per lui, dopo la conferma che lo scopo primario dei suoi social era creare dipendenza nei minorenni e nei più fragili

 

[Andrea80bz]

Comunque a me viene da pensare che proprio questo sia il piano, per quanto facciano credere di volerlo evitare:

Insider Paper (@TheInsiderPaper) on X

Elon Musk: If AI could take control of military systems and launch a nuclear weapon, that would be bad.

x.com

 

[sideman]

Banalmente anche tutto quello che produce energia. Il problema è che nel lasso di tempo tra l' azione e lo spegnimento può fare danni notevoli e si sa benissimo che i farabutti delle big tech non pagano i danni.

Ricordo che solo un mese fa Zuckerberg ha patteggiato 18 miliardi, cioè briciole per lui, dopo la conferma che lo scopo primario dei suoi social era creare dipendenza nei minorenni e nei più fragili

è un classico...

so che una truffa (o semi truffa) mi produce XXX milioni
so che la multa sarà sempre di XX milioni
so che c'è anche la possibilità che non mi becchino

che faccio???
truffo....

 

[lorenzom89]

Ricordo che solo un mese fa Zuckerberg ha patteggiato 18 miliardi, cioè briciole per lui, dopo la conferma che lo scopo primario dei suoi social era creare dipendenza nei minorenni e nei più fragili

l'accordo prevede di pagare la somma in rate annuali dilazionate in 10 anni
13 miliardi garantiti che saranno versati agli stati americani
5 miliardi invece sono vincolati al fatto che anche i concorrenti come tik tok e youtube adotteranno le stesse misure di sicurezza per i minori e pagheranno proporzionalmente la stessa cifra

con l'inflazione alta e i tassi di crescita a doppia cifra di queste aziende tech, 1,8 miliardi all'anno è nulla e infatti il titolo in borsa non si è praticamente mosso

questo deve far capire quanto oggi conti la giustizia, il bene della collettività e la volontà politica del popolo (niente) e quanto conti l'elite finanziaria e tecnologica che detiene i grossi capitali (molto)

 

[valerio_vanni]

Certo, per ora. Infatti questo è uno dei problemi, e guarda caso l'uomo quello che fa ogni giorno è proprio risolvere problemi.

Lo so, facevo presente che al momento non è come un qualunque programma in cui l'algoritmo è chiaro.

 

[lorenzom89]

Lo so, facevo presente che al momento non è come un qualunque programma in cui l'algoritmo è chiaro.

Nel mondo moderno è pieno di sistemi estremamente complessi e difficili da districare in caso di problemi.

Negli ultimi anni si sono verificati diversi eventi reali che dimostrano come la nostra totale dipendenza dalle tecnologie avanzate possa trasformarsi in una crisi sistemica improvvisa.

1. Il disastro informatico globale di CrowdStrike (19 luglio 2024)​

Questo è ad oggi considerato il più grande blocco informatico della storia. [1]

• Cosa è successo: La società di cybersicurezza CrowdStrike ha rilasciato un banalissimo errore di codice all'interno di un aggiornamento automatico. Questo file difettoso ha fatto andare in crash circa 8,5 milioni di computer in tutto il mondo che utilizzavano il sistema operativo Microsoft Windows. [1, 2]
• L'effetto domino: In poche ore sono stati cancellati oltre 7.000 voli aerei, gli ospedali hanno dovuto sospendere gli interventi chirurgici perché non potevano accedere alle cartelle cliniche, e banche e supermercati sono rimasti paralizzati. È la dimostrazione perfetta di come un singolo errore software possa congelare l'infrastruttura civile globale. [1]

2. Attacchi Ransomware a ospedali e case farmaceutiche (2025 - 2026)​

Il crimine informatico organizzato ha iniziato a prendere di mira in modo sistemico i dati sanitari e biologici. [3]

• Cosa è successo: Le infrastrutture mediche e biofarmaceutiche mondiali hanno registrato un'impennata di attacchi. Il caso più recente ed eclatante è il massiccio cyberattacco a Baylor Genetics (scoperto nell'estate del 2026), un colosso della diagnostica genomica. [4, 5]
• L'impatto: Gli hacker hanno violato i sistemi esponendo i dati sensibili, sanitari e i profili DNA di quasi 2,8 milioni di persone. Quando vengono colpite queste realtà, il rischio non è solo il furto d'identità, ma il blocco totale della ricerca scientifica e delle cure salvavita. [3, 6, 7]

3. Effetti collaterali dei test di editing genetico (Agosto 2025 / 2026)​

Il progresso nelle biotecnologie e nelle terapie geniche (come CRISPR) viaggia a ritmi vertiginosi, ma comporta rischi clinici e sistemici enormi quando i controlli falliscono. [8]

• Cosa è successo: Nel corso di una sperimentazione clinica condotta dalla società biotecnologica HuidaGene Therapeutics, un bambino affetto da distrofia muscolare è deceduto a causa di una gravissima reazione immunitaria scatenata proprio dalla terapia di editing genetico. [8]
• L'impatto: Il caso (portato alla luce dai media solo a metà 2026 dopo mesi di indagini) ha sollevato un enorme dibattito internazionale sulla mancanza di trasparenza, sulla sicurezza dei vettori virali usati per modificare il DNA e sull'insufficienza delle attuali regolamentazioni bio-tecnologiche globali. [8]

4. Il blocco delle catene di chip e la crisi di TSMC (Taiwan)​

I microchip avanzati che fanno funzionare qualunque cosa – dagli smartphone all'intelligenza artificiale, fino ai sistemi di difesa – sono quasi tutti prodotti da un'unica azienda a Taiwan, la TSMC.

• Cosa succede concretamente: Tra le tensioni geopolitiche e i costanti rischi sismici della regione, il mondo ha già sperimentato "colli di bottiglia" devastanti. Nel periodo post-pandemia, un rallentamento della produzione di questi chip ha causato il blocco temporaneo di intere fabbriche automobilistiche in Europa e negli Stati Uniti, dimostrando che l'intera economia digitale mondiale è legata a un filo geografico sottilissimo.