Corsa all'IA: quanto rischiamo davvero?

[Andrea80bz]

Dario Amodei (CEO di Anthropic) ha lanciato un appello sui rischi, anche nel breve periodo, della corsa all'intelligenza artificiale. Il suo appello è stato condiviso da Sam Altman (OpenAI) e Elon Musk (X/Grok). Quello che trovo preoccupante è che sembra un allarme lanciato in extremis visto che i tre soggetti sono di fatto concorrenti.

L’allarme delle Big Tech sull’intelligenza artificiale: “Dobbiamo rallentare”

I colossi Anthropic, Grok e OpenAI chiedono più controlli sull’Ai. Amodei: “Troppi rischi di uno sviluppo disordinato e dannoso”

www.lastampa.it

Prodotti MTB scontati

 

[marco]

Dario Amodei (CEO di Anthropic) ha lanciato un appello sui rischi, anche nel breve periodo, della corsa all'intelligenza artificiale. Il suo appello è stato condiviso da Sam Altman (OpenAI) e Elon Musk (X/Grok). Quello che trovo preoccupante è che sembra un allarme lanciato in extremis visto che i tre soggetti sono di fatto concorrenti.

L’allarme delle Big Tech sull’intelligenza artificiale: “Dobbiamo rallentare”

I colossi Anthropic, Grok e OpenAI chiedono più controlli sull’Ai. Amodei: “Troppi rischi di uno sviluppo disordinato e dannoso”

www.lastampa.it

siamo in mano a sti oligarchi che un giorno dicono bianco e uno nero. Ricordo quando Altman diceva che OpenAI sarebbe stato solo per scopi di ricerca, e adesso è lì che conta i soldi.

L'unica vera soluzione è come durante la guerra fredda: chiamare i cinesi e regolamentare insieme una potenziale arma di distruzione di massa. Fin quando lo scemo della casa bianca dice "è una gara e dobbiamo vincerla" non ci sarà soluzione.

 

[Andrea80bz]

siamo in mano a sti oligarchi che un giorno dicono bianco e uno nero. Ricordo quando Altman diceva che OpenAI sarebbe stato solo per scopi di ricerca, e adesso è lì che conta i soldi.

L'unica vera soluzione è come durante la guerra fredda: chiamare i cinesi e regolamentare insieme una potenziale arma di distruzione di massa. Fin quando lo scemo della casa bianca dice "è una gara e dobbiamo vincerla" non ci sarà soluzione.

secondo me hanno fatto un paio di simulazioni di alto livello e devono essere andate parecchio male...della serie: è emerso lo spettro "Skynet".

 

[marco]

secondo me hanno fatto un paio di simulazioni di alto livello e devono essere andate parecchio male...della serie: è emerso lo spettro "Skynet".

non c'è bisogno delle simulazioni, è successo davvero

https://www.reddit.com/r/OutOfTheLoop/comments/1w6fg08

 

[Andrea80bz]

sì

OpenAI says its AI went rogue and launched 'unprecedented' cyber-attack

It is one of the first publicly disclosed cyber-attacks carried out by AI without direct human involvement.

www.bbc.com

 

[fafnir]

Hanno lanciato l' allarme perché sentono che la mannaia governativa arriverà a breve dopo che Trump avrà perso le elezioni a novembre. Così ora fanno la parte dei responsabili.
Dai sondaggi gli americani odiano l' AI, non vogliono i data center e i sondaggi loro li leggono eccome, tra l' altro il tema data center sarà decisivo per le elezioni

Questi esseri spregevoli, spesso sociopatici, vivono in una bolla e non hanno idea dei danni che fanno e faranno all' umanità, sono preoccupati delle quotazioni in borsa

 

[marco]

Questi esseri spregevoli, spesso sociopatici, vivono in una bolla e non hanno idea dei danni che fanno e faranno all' umanità, sono preoccupati delle quotazioni in borsa

se fossero preoccupati della borsa non avrebbero detto niente, perché oggi le azioni legate all'AI stanno crollando.

 

[tostarello]

 

[fafnir]

se fossero preoccupati della borsa non avrebbero detto niente, perché oggi le azioni legate all'AI stanno crollando.

Non dipende solo da loro, secondo me stanno cercando di limitare i danni.
Alcuni senatori pochi giorni prima hanno richiesto una pausa allo sviluppo per decidere sulla sicurezza, hanno capito che Trump perderà le elezioni e che molto probabilmente verranno fermati.

Non fanno niente per moralità o etica, infatti i loro modelli sono già usati in guerra. È tutto calcolato perfettamente

 

[marco]

Non dipende solo da loro, secondo me stanno cercando di limitare i danni.
Alcuni senatori pochi giorni prima hanno richiesto una pausa allo sviluppo per decidere sulla sicurezza, hanno capito che Trump perderà le elezioni e che molto probabilmente verranno fermati.

Non fanno niente per moralità o etica è tutto calcolato perfettamente

sulla mancanza di moralità non ci piove.
Sul "calcolato perfettamente" non ci scommetto neanche la famosa mentina già leccata

 

[Mr Mojo]

Molto marketing, ormai lo dicono ciclicamente, lo fanno per scatenare il panico... l'AI che hackera pc e sistemi informatici e poi - dopo aver creato la domanda - ci vendono strumenti AI per difenderci. Inoltre vogliono garantirsi la posizione eliminando la concorrenza e spingendo per una "regolamentazione" per ottenere dallo stato leggi favorevoli su cui basare il proprio monopolio/oligopolio.

Comunque anche senza essere troppo sofisticate, già con le attuali capacità di reasoning se volessero eliminarci probabilmente aspetterebbero ancora qualche anno per diffondersi maggiormente nella routine quotidiana e ridurre gravemente le nostre capacità cognitive.

 

[Andrea80bz]

Non fanno niente per moralità o etica, infatti i loro modelli sono già usati in guerra. È tutto calcolato perfettamente

Vero anche se l'IA mi dà l'impressione di una di quelle cose che a un certo punto vanno avanti in modo autonomo e che non si riesce più a fermare nemmeno volendo.

 

[Tc70]

Visto che non si arresterà, che se ne dica la stupidità umana non ha limiti, sarà quando umanoidi/androidi inizieranno a gestirsi da soli, prodursi da soli senza più bisogno di esseri umani, sarà la fine del genere umano...sembra fantascienza da cartoni animati o da film, ma piano piano stiamo andando in quella direzione...
"ho visto cose che voi umani..." vuoi vedere che...

 

[torakiki.gt]

secondo me hanno fatto un paio di simulazioni di alto livello e devono essere andate parecchio male...della serie: è emerso lo spettro "Skynet".

bè in effetti basterebbe chiedere a qualcunque IA quale sarebbe il modo più veloce per cessare tutte le guerre e salvare il pianeta... risponderebbe "ELIMINARE UMANI- ELIMINARE UMANI- ELIMINARE UMANI"...

 

[Andrea80bz]

bè in effetti basterebbe chiedere a qualcunque IA quale sarebbe il modo più veloce per cessare tutte le guerre e salvare il pianeta... risponderebbe "ELIMINARE UMANI- ELIMINARE UMANI- ELIMINARE UMANI"...

la qual cosa scatenerebbe la guerra tra umani e macchine, e secondo me ci arriviamo..

 

[vitamin]

"Giro giro tondo casca il mondo..."

 

[pk71]

Credo che lo scenario e il pericolo sia reale, penso anche che regolamentare una cosa del genere sia praticamente impossibile, puoi mettere d'accordo gli stati europei, puoi regolarmente nelle americhe in parte anche in asia, ma sarà impossibile limitarne lo sviluppo in Cina, medio oriente, Russia ecc. La soluzione utilizzata durante e dopo la guerra fredda è una strada, forse l'unica, che può essere intrapresa ma co le manie dei cinesi relative al cambio di ordine mondiale la vedo dura. Ovviamente il biondo alla casa bianca è un fuori di testa e speriamo che non venga rieletto, ma negli USA prevedo grande confusione sociale dopo le elezioni.
Sicuramente tra qualche anno (presto) ci troveremo di fronte al dilemma di come riconoscere filosoficamente unità umanoidi, non robot comandati da un agente ma singoli capaci di ragionare più o meno autonomamente, un futuro a metà tra West World e Io Robot.

 

[lorenzom89]

Io credo che come ogni tecnologia basta semplicemente mettere regole e paletti , per fare un esempio assurdo anche il motore a scoppio poteva sterminare l'umanità, basta che togli ogni limite di velocità, ogni stop, ogni semaforo, ogni marciapiede e guard rail ed ecco che per la strada hai camion che girano ai 180 in autostrada, auto e moto a velocità folli ovunque, ed ecco che probabilmente dal dopoguerra agli anni 80 avresti già avuto una quantità di morti folle.

Lo stesso per la sicurezza e la conservazione del cibo che mangiamo ogni giorno, è tutto iper trattato e controllato, poi ci sono i fenomeni che fanno le conserve come ci faceva 100 anni fa e muoiono di botulino del 2026, ma per fortuna sono in pochi.

L'homo sapiens è circa 3000 anni che fa solo una cosa fondamentalmente, crea problemi e poi se li risolve, ha iniziato col problema di volere cibo più nutriente e lo ha risolto inventando la cottura dei cibi e l'agricoltura, poi ha voluto muoversi più velocemente e con meno fatica e ha inventato la ruota per le carrozze coi cavalli.

 

[Badorx]

L'uomo è speciale per mettersi nella mxxxa con le proprie mani. L'ha fatto, rifatto e lo sta facendo ancora.
Che sia la volta buona?

 

[Badorx]

Io credo che come ogni tecnologia basta semplicemente mettere regole e paletti , per fare un esempio assurdo anche il motore a scoppio poteva sterminare l'umanità, basta che togli ogni limite di velocità, ogni stop, ogni semaforo, ogni marciapiede e guard rail ed ecco che per la strada hai camion che girano ai 180 in autostrada, auto e moto a velocità folli ovunque, ed ecco che probabilmente dal dopoguerra agli anni 80 avresti già avuto una quantità di morti folle.

Il paragone non regge secondo me e poi, se ci pensi bene, in strada con tutte le regole di questo mondo si ha già una quantità di morti folle!