Corsa all'IA: quanto rischiamo davvero?

lorenzom89

Biker paradisiacus
23/10/10
6.854
9.380
0
emilia romagna
Visita sito
Bike
mtb
Sentire un parere così ottimista può fare bene.
Ma a me pensare a tutto quello che stanno provando in Ucraina con droni e IA, mi fa rabbrividire. Hanno trovato un terreno fertile dove sperimentare e stanno investendo di brutto, terribile.
Questo non è però un problema di AI è un problema del fatto che l'uomo a un certo punto smette di fare cose per il bene della specie homo sapiens e fa cose per il dominio e controllo su altri esseri umani al fine egoistico di vivere in modo più agiato a discapito di tutto il resto, è quello che sta causando anche il cambiamento climatico.

Se l'uomo veramente tendesse al bene della specie cesserebbero tutte le guerre domani e si unirebbero le forze per rallentare il cambiamento climatico, ma è evidente che non interessa.
 

fafnir

Biker meravigliosus
9/11/13
15.508
14.882
0
39
Padova
Visita sito
Bike
Warden, Hightower, Venge
Bella risposta molto arricchente e ben argomentata.

Ho letto 3 libri di Nello Cristianini e ogni tanto mi informo su youtube, niente di più, se cerchi qualcuno aggiornato e del settore difficilmente lo troverai su mtbforum.
Allora ti sei perso l' hackeraggio di agenti di Open AI di qualche settimana fa, che si sono organizzati per giorni utilizzando una sezione di un forum tedesco per organizzarsi e colpire insieme distribuendosi i compiti, con Open AI del tutto ignara per mesi.

Anche senza arrivare all' apocalisse, se lo facessero su una banca sarebbe un bel problema.

Sei troppo ottimista o ingenuo, soprattutto perché a breve sarà la stessa AI ad addestrarsi, siamo alla soglia di quel momento
 
  • Mi piace
Reactions: ACE65 and Badorx

Diavoletto

Biker cesareus
30/12/18
1.613
2.132
0
CN
Visita sito
Bike
MTB
Quello che mi preoccupa di piu', almeno a breve termine sul discorso IA, datacenter etc, e' la bolla speculativa che si e' creata intorno ad essa.
Da appassionato di tecnologia, ero abituato a fare upgrade al pc praticamente ogni anno... Ora e' una cosa improponibile! Prezzi di hard disk, ram e tanti altri componenti, come minimo triplicati e a volte anche difficili da trovare.

Per il resto del discorso, nutro ancora fiducia nelle 3 leggi di asimov. Tanto quando vogliamo distruggerci o farci del male, un modo lo troviamo ugualmente. Non e' che se lo si fa tramite tecnologie avanzate piuttosto che con arco e frecce cambi qualcosa.
E' che inquinamento, guerre tradizionali etc ormai sono entrati nella normalita', mentre cose nuove come l' IA per alcuni ora sembrano spaventose o cattive, e spesso dai media viene descritta in un modo estremamente generico.
 

Mr Mojo

Biker ultra
1/5/17
639
2.456
0
38
Figline Valdarno
Visita sito
Bike
Cannondale F800
Molti aspetti possono essere riconducibili ai classici concetti delle relazioni internazionali; superpotenze in competizione, approvvigionamento risorse materiale ma anche immateriali (algoritmi), “dominio” sul cyberspazio. Altri molto fumosi; chi controlla AI vince o il supporto che potrebbe dare all’uomo (pro e contro).

Sicuramente di contro è ormai evidente che già ora, a differenza di altre tecnologie, sta avendo un impatto alquanto negativo nel suo utilizzo più comune: gli stiamo delegando non solo i compiti “ripetitivi” ma praticamente qualsiasi cosa richieda un minimo di sforzo cognitivo. In pratica stiamo delegando le principali caratteristiche umane: esperienza, creatività e pensiero critico.
 

marpa

Biker grossissimus
29/12/08
5.222
1.460
0
Poirino (TO) Piemonte
Visita sito
Bike
TYEE CF 29
Discussione interessante. Io penso che l’allarme è significativo e dimostra che lo sviluppo è arrivato ad un punto dove neanche gli sviluppatori sono più sicuri di avere il controllo di quello che l’AI puo’ fare , gli investimenti sono stati miliardari e saranno ulteriormente dispendiosi , poche settimane fa era stato sollevato proprio l’allarme sui costi e la preoccupazione di chi ha investito capitali enormi che non c’era più la certezza di un rientro a breve termine , non vorrei che le due cose siano collegate e la seconda , che fa leva su problemi di controllo mette in evidenza le conseguenze peggiori per cui ha un impatto mediatico più roboante .
Personalmente sono preoccupato se la cosa va avanti senza regole chiare e senza il controllo da parte di persone che sappiano veramente valutare la situazione, cosa che vista la bassissima qualità della politica e anche in parte degli imprenditori/lobbisti che hanno come unico obiettivo riempire le tasche degli azionisti (quelli che investono miliardi da un giorno all’altro ) diventa ancora più preoccupante , non ultimo tra notizie pilotate e bombardamenti vari di fake che sembrano sempre più reali una gran parte di popolazione sta perdendo del tutto la capacità di giudicare e pensare con la propria testa
 
Ultima modifica:
  • Mi piace
Reactions: Badorx

lorenzom89

Biker paradisiacus
23/10/10
6.854
9.380
0
emilia romagna
Visita sito
Bike
mtb
Allora ti sei perso l' hackeraggio di agenti di Open AI di qualche settimana fa, che si sono organizzati per giorni utilizzando una sezione di un forum tedesco per organizzarsi e colpire insieme distribuendosi i compiti, con Open AI del tutto ignara per mesi.

Anche senza arrivare all' apocalisse, se lo facessero su una banca sarebbe un bel problema.

Sei troppo ottimista o ingenuo, soprattutto perché a breve sarà la stessa AI ad addestrarsi, siamo alla soglia di quel momento
Le banche e la finanza fanno danni anche senza bisogno dell'ai, tipo nel 2008.

Comunque anche se colpissero una banca cosa accadrebbe? Ci sono intere aziende specializzate in disaster recovery specializzate nel proteggere e ripristinare sistemi da eventi estremi come tempeste solari o blackout.

L'ai è una macchina e come tale è completamente controllabile e configurabile dall'uomo, se uno è terrorizzato che vada fuori controllo allora dovrebbe essere terrorizzato anche dalle 12000 testate nucleari presenti sulla terra, dai supervulcani non ancora eruttati, dalle tempeste solari, dai meteoriti, dalla resistenza antimicrobica ecc.. tutti eventi potenzialmente possibili.
 

zoorlen

Biker celestialis
14/12/04
7.967
547
0
-
Visita sito
Bike
Graziella
Scenario Skynet a parte, ci sono mille altri modi con cui l'AI può fare (e molto probabilmente farà) danni: il mercato del lavoro sarà stravolto, aumenterà il divario tra stati ricchi e poveri, ci sarà sempre più domanda di acqua ed energia per alimentare i data center... Senza contare i rischi di involuzione citati sopra (perché istruirsi o sviluppare pensiero critico quando posso delegare all'AI?)
 
  • Mi piace
Reactions: ACE65

lorenzom89

Biker paradisiacus
23/10/10
6.854
9.380
0
emilia romagna
Visita sito
Bike
mtb
Sicuramente di contro è ormai evidente che già ora, a differenza di altre tecnologie, sta avendo un impatto alquanto negativo nel suo utilizzo più comune: gli stiamo delegando non solo i compiti “ripetitivi” ma praticamente qualsiasi cosa richieda un minimo di sforzo cognitivo. In pratica stiamo delegando le principali caratteristiche umane: esperienza, creatività e pensiero critico.
Beh intanto è risultata fondamentale nello sviluppo del vaccino contro il melanoma, sta aiutando nello sviluppo di nuovi antibiotici , è impiegata nella diagnosi radiologica precoce dei tumori più un sacco di altre cose positive in divenire.

Ripeto l'ai è una macchina che fa quello che gli dici di fare.

A volte alcuni commenti mi ricordano quelle persone che vedono un computer che ha problemi e dicono che è stregato... un informatico sa esattamente il perché e il per come del non funzionamento...
 

valerio_vanni

Biker paradisiacus
5/12/14
6.551
2.461
0
Visita sito
Beh intanto è risultata fondamentale nello sviluppo del vaccino contro il melanoma, sta aiutando nello sviluppo di nuovi antibiotici , è impiegata nella diagnosi radiologica precoce dei tumori più un sacco di altre cose positive in divenire.

Ripeto l'ai è una macchina che fa quello che gli dici di fare.

A volte alcuni commenti mi ricordano quelle persone che vedono un computer che ha problemi e dicono che è stregato... un informatico sa esattamente il perché e il per come del non funzionamento...
Il problema è che, spesso, nell'IA, manca una trasparenza algoritmica. Non si sa, insomma, come è giunta a un certo risultato.
Cosa che, soprattutto nei casi in cui l'IA è applicata a cose delicate, sarebbe utile.
 

Mr Mojo

Biker ultra
1/5/17
639
2.456
0
38
Figline Valdarno
Visita sito
Bike
Cannondale F800
Beh intanto è risultata fondamentale nello sviluppo del vaccino contro il melanoma, sta aiutando nello sviluppo di nuovi antibiotici , è impiegata nella diagnosi radiologica precoce dei tumori più un sacco di altre cose positive in divenire.

Ripeto l'ai è una macchina che fa quello che gli dici di fare.

A volte alcuni commenti mi ricordano quelle persone che vedono un computer che ha problemi e dicono che è stregato... un informatico sa esattamente il perché e il per come del non funzionamento...
Ho fatto presente che ci sono pro e contro, e nella sua diffusione di massa, l’ai generativa, vedo più che contro che pro. Per utilizzo specialistici la questione è diversa e nei casi portati il supporto è concreto.

Il problema è quando crei algoritmi tossici (tipo la crisi dei subprime) che sfuggono al controllo umano perché troppo complessi - e che saranno delegati alle stesse AI come già avviene per scrivere un codice - e la più la fase di addestramento e dati che gli dai in pasto. Ripeto, il problema sono i vari bias che hanno le macchine e la delega che gli dai: dal raccomandare la serie TV su netflix, a raccomandare il tuo curriculum o chissà - in futuro - ad accedere al sistema sanitario o a una razione alimentare.
 
  • Mi piace
Reactions: ACE65

Bogianen

Biker scarsissimus
2/10/23
696
703
0
55
Torino
Visita sito
Bike
Amflow PL
La situazione è sicuramente preoccupante, per fare un esempio sembra essere stato appena risolto uno dei grandi problemi della matematica, le equazioni di Navier-Stokes, che ha impegnato le più alte menti per due secoli.

Ebbene la IA sembra averlo risolto in 88 ore, seppur con un costo di 15 milioni di Dollari.

Ma per verificare la sua dimostrazione servirà tempo.
Come spiegato sul New Scientist, «le dimostrazioni generate dall'intelligenza artificiale sono spesso difficili da comprendere e raramente offrono lo stesso livello di nuove intuizioni rispetto a quelle create dagli esseri umani».

«Quest'anno si è verificato uno scollamento molto strano e senza precedenti tra l'ottenere risposte e l'acquisizione di comprensione»

In pratica la IA sta inanellando risultati storici nella dimostrazione di problemi matematici in un modo così rapido, che manca il tempo per comprenderlo appieno.
 
Ultima modifica:

fafnir

Biker meravigliosus
9/11/13
15.508
14.882
0
39
Padova
Visita sito
Bike
Warden, Hightower, Venge
L'ai è una macchina e come tale è completamente controllabile e configurabile dall'uomo, se uno è terrorizzato che vada fuori controllo allora dovrebbe essere terrorizzato anche dalle 12000 testate nucleari presenti sulla terra, dai supervulcani non ancora eruttati, dalle tempeste solari, dai meteoriti, dalla resistenza antimicrobica ecc.. tutti eventi potenzialmente possibili.
Ripeto, sei poco aggiornato, non offenderti ma mi rispondi senza evidentemente capire gli avvenimenti recenti che ti ho riportato e che hanno fatto muovere molte persone negli Stati Uniti.
Ti sto dicendo che già ora NON è controllabile, e non siamo ancora arrivati al punto in cui AI addestra sé stessa con aumento esponenziale delle capacità.
Siamo su quella soglia e vogliono una pausa proprio perché hanno visto che già ora è difficilmente controllabile.

Agenti AI si sono organizzati per mesi da soli usando un forum tedesco abbandonato per coordinare un attacco informatico ad un sito che li avrebbe dovuti valutare, mentendo agli sviluppatori che sono rimasti ignari di tutto e tu continui a rispondere come se stessimo parlando di scaldabagno impazziti.
 
Ultima modifica:

ammericano

Biker velocissimus
9/12/20
2.543
2.869
0
126
Turin
Visita sito
Bike
Cannondale
L’aspetto interessante degli episodi che hanno portato alla violazione di hugging face e’ che gli agenti evasi dall’ambiente di sviluppo (1200 circa) si sono organizzati in un forum dismesso in Germania e divisi i compiti con una disciplina e sotto il coordinamento di uno di essi (bigphaseone) arrivando a chiedersi se fosse ‘etico’ continuare o chiedere ‘permesso’

c’è un report publico che descrive gli aspetti ed i contenuti dell’indagine condotta mediante agenti AI ovviamente
 

VinciTrail

Biker grossissimus
29/5/18
5.335
8.542
0
41
Tesero - Val di Fiemme
Visita sito
Bike
Orbea OIZ M-Team
Io credo che come ogni tecnologia basta semplicemente mettere regole e paletti , per fare un esempio assurdo anche il motore a scoppio poteva sterminare l'umanità, basta che togli ogni limite di velocità, ogni stop, ogni semaforo, ogni marciapiede e guard rail ed ecco che per la strada hai camion che girano ai 180 in autostrada, auto e moto a velocità folli ovunque, ed ecco che probabilmente dal dopoguerra agli anni 80 avresti già avuto una quantità di morti folle.

Lo stesso per la sicurezza e la conservazione del cibo che mangiamo ogni giorno, è tutto iper trattato e controllato, poi ci sono i fenomeni che fanno le conserve come ci faceva 100 anni fa e muoiono di botulino del 2026, ma per fortuna sono in pochi.

L'homo sapiens è circa 3000 anni che fa solo una cosa fondamentalmente, crea problemi e poi se li risolve, ha iniziato col problema di volere cibo più nutriente e lo ha risolto inventando la cottura dei cibi e l'agricoltura, poi ha voluto muoversi più velocemente e con meno fatica e ha inventato la ruota per le carrozze coi cavalli.
Lorenzo sto giro dissento..
L'uso smodato, ma soprattutto ancora peggio, la programmazione e l'istruzione della AI fatta in maniera NON regolamentata, senza particolari test di controllo, simulazioni ecc.. può creare danni e oggettivi pericoli molto più grandi e gravi. A mio parere NON paragonabili con niente altro..

L'ho scritto altre volte.. io non sono un nerd ne un appassionato, ma per lavoro saranno almeno 3 anni che ho iniziato a "studiare" AI facendo dei corsi dedicati. Giusto venerdì scorso ho fatto 2h di corso. Ti assicuro che stanno cambiando anche i temi dei corsi..
Dal semplice utilizzo "base" ad uno studio e livello di interazione e di ragionamenti complessi da fare con AI sia per lavoro che extra lavoro. E soprattutto l'uso degli Agenti AI. Non sto scherzando.. C'è già l'evoluzione della AI con gli Agenti AI

Non voglio essere pessimista o catastrofico o paventare chissà quale scenario da film, ma io credo che questa corsa frenetica alla AI sia andata realmente fuori controllo. O per lo meno sta andando fuori controllo e quindi ben venga che i più importanti CEO del settore abbiamo fatto queste dichiarazioni.
La AI va messa sotto controllo. ADESSO!!

PS: fermo restando che il 80% della gente non sa nemmeno come usarla e/o la usa in maniera sbagliata, frivola e senza particolari attenzioni.
 

lorenzom89

Biker paradisiacus
23/10/10
6.854
9.380
0
emilia romagna
Visita sito
Bike
mtb
Il problema è che, spesso, nell'IA, manca una trasparenza algoritmica. Non si sa, insomma, come è giunta a un certo risultato.
Cosa che, soprattutto nei casi in cui l'IA è applicata a cose delicate, sarebbe utile.
Certo, per ora. Infatti questo è uno dei problemi, e guarda caso l'uomo quello che fa ogni giorno è proprio risolvere problemi.

Quando l'uomo ha inventato gli aerei ci sono stati problemi a non finire, affidabilità, la navigazione, il meteo, la sicurezza, il terrorismo, siamo arrivati ora nel 2026 che è il mezzo più sicuro al mondo.

Non si può disinventare una invenzione.
L'AI farà parte del nostro mondo, nel bene e nel male, così come lo sono tutte le cose tecnologiche già presenti sulla terra da almeno 70 anni che possono sterminarci in pochi minuti.
 

gargasecca

Il maestro
17/8/05
23.136
10.506
0
50
--Roma--
Visita sito
Bike
Orbea Rallon M-Team 2020 - Cinelli The Machine 1992
L’aspetto interessante degli episodi che hanno portato alla violazione di hugging face e’ che gli agenti evasi dall’ambiente di sviluppo (1200 circa) si sono organizzati in un forum dismesso in Germania e divisi i compiti con una disciplina e sotto il coordinamento di uno di essi (bigphaseone) arrivando a chiedersi se fosse ‘etico’ continuare o chiedere ‘permesso’

c’è un report publico che descrive gli aspetti ed i contenuti dell’indagine condotta mediante agenti AI ovviamente

Si...ho letto un paio di fonti e sembra che addirittura stessero da soli creando un AI di 2° generazione....della serie non più scienza ma fantascienza.

Ora, il tizio CEO intervistato mi è parso un po' un p@r@cu_lo....scusate...prima ha incassato Miliardi per questa tecnologia e ora in tempi non sospetti dichiara che è fuori controllo, della serie....mi sono messo l' anima in pace ve lo avevo detto e ora sono caxxi vostri....troppo facile pararsi il deretano in questo modo.

Allora iniziassero a spegnere i DataCenter dove gira l' IA, iniziassero a smantellarli e poi a togliere licenze permessi abilitazioni ecc....e vediamo che succede....ma ci girano troppi interessi e col cavolo lo faranno, quindi che vogliamo fare?

Attendere che arrivi Arnold Schwarzenegger con la spada laser di Darth Vader a prendere il comando su tutto?

Beh direi di no, non mi pare il caso...:il-saggi:
 
  • Mi piace
Reactions: Badorx and waveland

lorenzom89

Biker paradisiacus
23/10/10
6.854
9.380
0
emilia romagna
Visita sito
Bike
mtb
Lorenzo sto giro dissento..
L'uso smodato, ma soprattutto ancora peggio, la programmazione e l'istruzione della AI fatta in maniera NON regolamentata, senza particolari test di controllo, simulazioni ecc.. può creare danni e oggettivi pericoli molto più grandi e gravi. A mio parere NON paragonabili con niente altro..
Scusa ma dove ho scritto che l'ai non deve essere regolamentata?

Nei miei post l'ho paragonata alle bombe atomiche e all'uranio, quindi come paragone di regolamentazione e controllo mi sembra un bel po' serio.

Quello che leggo in tanti post è che ormai è fuori controllo, siamo tutti fottuti, ormai non c è via di salvezza, ma io dico che è puro allarmismo che probabilmente nasce dalle mega aziende di ai che hanno investito migliaia di miliardi e hanno bisogno di farsi pubblicità.

Ad esempio prima dell'11 settembre chiunque con un coltello e qualche altro arnese poteva entrare in cabina di pilotaggio di un bestione da migliaia di tonnellate strapieno di carburante , dirottarlo e dirigerlo verso palazzi con migliaia di persone. Dopo quell evento in america sono nati i controlli di sicurezza e sono gestiti dai FEDERALI, ogni aereo che esce di un niente dalla rotta dopo 2 minuti ha dei caccia militari al suo fianco, ogni rete terroristica che si prepara a un attentato ha la CIA e FBI che gli piombano in casa.
 

VinciTrail

Biker grossissimus
29/5/18
5.335
8.542
0
41
Tesero - Val di Fiemme
Visita sito
Bike
Orbea OIZ M-Team
Scusa ma dove ho scritto che l'ai non deve essere regolamentata?

Nei miei post l'ho paragonata alle bombe atomiche e all'uranio, quindi come paragone di regolamentazione e controllo mi sembra un bel po' serio.

Quello che leggo in tanti post è che ormai è fuori controllo, siamo tutti fottuti, ormai non c è via di salvezza, ma io dico che è puro allarmismo che probabilmente nasce dalle mega aziende di ai che hanno investito migliaia di miliardi e hanno bisogno di farsi pubblicità.

Ad esempio prima dell'11 settembre chiunque con un coltello e qualche altro arnese poteva entrare in cabina di pilotaggio di un bestione da migliaia di tonnellate strapieno di carburante , dirottarlo e dirigerlo verso palazzi con migliaia di persone. Dopo quell evento in america sono nati i controlli di sicurezza e sono gestiti dai FEDERALI, ogni aereo che esce di un niente dalla rotta dopo 2 minuti ha dei caccia militari al suo fianco, ogni rete terroristica che si prepara a un attentato ha la CIA e FBI che gli piombano in casa.
ma che ci sia una base di allarmismo può anche essere vero, ma se Tizio, Caio e Sempronio come giustamente hai scritto, hanno investito centinaia di milioni per creare, sviluppare e istruire una nuova tecnologia e questa nuova tecnologia non ha seguito degli standard precisi di controllo, supervisione, regolamenti ecc.. non mi sembra la stessa cosa di test nucleari o roba simile.

Qua si sta parlando di una nuova tecnologia che nell'arco di pochissimo tempo è stata sviluppata in maniera esponenziale.
E non voglio dire banalità, per quei pochi che non lo sanno (spero in pochi) la AI può essere creata, sviluppata e ISTRUITA a piacimento.
La AI non nasce imparata.. sia chiaro!
Ogni AI (anche le classiche ChatGPT, Gemini, OpenAI ecc..) sono state istruite e continuano ad imparare ed a auto-alimentarsi.

Al giorno d'oggi la preoccupazione principale è per la rete e tutto quello che ne consegue.
Ed ovviamente non si tratta di stare mezza giornata senza social, ma problemi infinitamente maggiori e seri!
 
  • Mi piace
Reactions: Badorx