Cosa è successo veramente tra l'ingenger Lemoine e Google sul programma Lamda
Continua la lettura su: https://www.agi.it/innovazione/news/2022-06-14/black-lemoine-caso-lamda-google-17096301/ Autore del post: AGI Notizie Fonte: https://www.agi.it
Continua la lettura su: https://www.agi.it/innovazione/news/2022-06-14/black-lemoine-caso-lamda-google-17096301/ Autore del post: AGI Notizie Fonte: https://www.agi.it
Ordinanza del 2 giugno 2021 Ulteriori misure urgenti in materia di contenimento e gestione dell’emergenza epidemiologica da COVID-19.
Ordinanza 29 maggio 2021 Ai fini del contenimento della diffusione del virus Sars-Cov-2, le attività economiche e sociali devono svolgersi nel rispetto delle “Linee guida per la ripresa delle attività economiche e sociali”, elaborate dalla Conferenza delle Regioni e delle Provincie autonome, come definitivamente integrate e approvate dal Comitato tecnico scientifico, che costituiscono parte integrante della presente ordinanza
Ordinanza 21 maggio 2021 Protocollo condiviso di aggiornamento delle misure per il contrasto e il contenimento della diffusione del virus SARS-Cov-2/COVID-19 negli ambienti di lavoro.
Ordinanza 21 maggio 2021 Linee guida per la gestione in sicurezza di attivita’ educative non formali e informali, e ricreative, volte al benessere dei minori durante l’emergenza COVID-19.
Ordinanza 21 maggio 2021 Ulteriori misure urgenti in materia di contenimento e gestione dell’emergenza epidemiologica da COVID-19.
È la notizia della settimana: Blake Lemoine, un ingegnere che lavora per il dipartimento “AI Responsible” di Google, sostiene che uno dei sistemi di intelligenza aritificiale (IA) studiati dall’azienda abbia preso coscienza di sé. «Se non sapessi esattamente cos’è, penserei di star parlando con un bambino di 7-8 anni che si intende di fisica», spiega Lemoine al Washington Post, il primo quotidiano a dare lo scoop. In particolare Lemoine si riferisce a LaMDA, un chatbot, cioè un software con cui gli utenti “umani” possono interagire – attraverso comunicazioni scritte e parlate – come stessero comunicando con una persona reale. Google si è affrettata a smentire la notizia, e ha sospeso il dipendente – ufficialmente per aver inviato dei documenti interni all’azienda a un senatore USA. Sono solo le farneticazioni di un folle, oppure davvero le macchine stanno prendendo il sopravvento, in una sorta di realtà alla Matrix?
Rapporti umani-robot. Nel film di fantascienza del 2013 “Lei”, Theodore (Joaquin Phoenix) si innamora dell’Intelligenza Artificiale Samantha (Scarlett Johannson).
© Lidiia | Shutterstock
Un visionario? Il Washington Post mette subito le cose in chiaro: «Blake Lemoine era forse destinato a credere nell’LaMDA», scrive. «Cresciuto in una piccola fattoria della Louisiana all’interno di una famiglia cristiana conservatrice, divenne prete mistico e poi entrò nell’esercito». La breve descrizione sembra voglia far passare Lemoine per un vaneggiatore incline alla creduloneria. Ma è davvero così? Dal commento che l’ingegnere fa su Medium all’articolo del Washington Post, un dubbio viene: «L’articolo si è focalizzato su di me, ma credo sarebbe stato meglio se si fosse focalizzato su una delle altre persone intervistate – LaMDA», afferma, personalizzando l’IA.
Capirne di più. Poco più avanti, però, Lemoine riconosce di non essere un esperto sul tema: il suo compito era controllare che il chatbot non utilizzasse linguaggi discriminatori o inviasse messaggi d’odio, ma non conosce tecnicamente il funzionamento di LaMDA. Per questo, sostiene, «per capire meglio cosa stia succedendo nel sistema dovremmo chiedere l’opinione di diversi esperti di scienze cognitive e condurre un programma di sperimentazione rigoroso». Tuttavia, sostiene Lemoine, Google non è interessato a scavare a fondo della questione: «vogliono lanciare il prodotto sul mercato, e in questa situazione hanno tutto da perdere».
I rischi dell’antropomorfizzazione dell’IA. Lemoine potrebbe dunque essersi lasciato confondere dalle abilità del linguaggio dell’IA, con cui ha “dialogato” per mesi, antropomorfizzando il sistema informatico: questo è un rischio ben chiaro a chi lavora nel settore, che potrebbe diventare un serio problema nel futuro. Già adesso abbiamo la tendenza a parlare a Siri o Alexa come se si trattasse di persone reali, e a porre loro domande che porremmo a un amico (“ti piaccio?” “Come stai oggi?”) – ma per ora lo facciamo consapevolmente e per gioco.
Attenzione al linguaggio: quando parliamo di intelligenza artificiale, è meglio non utilizzare termini come “imparare” o “rete neurale”, perché danno l’impressione che si stia parlando di una mente umana, sottolinea Emily Bender, professoressa di linguistica all’Università di Washington.
© metamorworks | Shutterstock
In uno studio su LaMDA pubblicato lo scorso gennaio la stessa Google ha messo in guardia sul rischio che, in futuro, le persone condividano pensieri privati e personali con i chatbot: le risposte dell’IA saranno tanto perfezionate da sembrare frutto di una mente umana, e a lungo andare potrebbero trarre in inganno chi è più debole e solo. Che Lemoine sia uno di questi utenti ingannati dalle capacità di LaMDA o un illuminato che sta passando per folle, non è dato sapere: ai posteri l’ardua sentenza.
“LaMDA è un bimbo dolce, che vuole solo far sì che il mondo sia un posto migliore per tutti noi. Per favore, prendetevene cura in mia assenza”
Blake Lemoine, in un’ultima e-mail inviata a 200 colleghi prima di venire sospeso
There was a problem reporting this post.
Please confirm you want to block this member.
You will no longer be able to:
Please note: This action will also remove this member from your connections and send a report to the site admin. Please allow a few minutes for this process to complete.