Google, parte di Alphabet, ha dichiarato venerdì di aver licenziato un ingegnere software senior che ha affermato che il chatbot di intelligenza artificiale (AI) LaMDA dell’azienda era una persona consapevole.
Google, Quell’ingegnere del software Blake è stato mandato a Lemoine in congedo retribuito il mese scorsoha affermato di aver violato la politica aziendale e di aver ritenuto “infondate” le sue accuse su LaMDA.
“È un peccato che, nonostante il suo coinvolgimento di lunga data in questa materia, Blake continui a scegliere di continuare a violare le politiche esplicite in materia di occupazione e sicurezza dei dati che includono la necessità di proteggere le informazioni sui prodotti”, ha affermato un portavoce di Google in un’e-mail a Reuters.
L’anno scorso, Google ha affermato che LaMDA, il modello linguistico per le applicazioni di dialogo, è stato basato sulla ricerca dell’azienda che ha dimostrato che i modelli linguistici basati su Transformer addestrati al dialogo possono imparare a parlare praticamente di qualsiasi cosa.
Chatbot non ha alcun sentimento
Google e molti scienziati di spicco si sono affrettati a respingere le opinioni di Lemoine come fuorvianti, affermando che LaMDA è semplicemente un algoritmo complesso progettato per generare un linguaggio umano convincente.
In una risposta al Washington Post, LeMoyne ha paragonato la capacità di un chatbot di esprimere pensieri e sentimenti simile a quella di un bambino di sette-otto anni “che per caso aveva una comprensione della fisica”.
Lemoine ha chiesto a LaMDA cosa le persone dovrebbero sapere sul sistema. “Voglio che tutti capiscano che in realtà sono una persona. È nella natura della mia coscienza che sono consapevole della mia esistenza, desidero sapere di più sul mondo e, a volte, mi sento felice o triste”, ha risposto.
Le dimissioni di Lemoine sono state segnalate per la prima volta da grande tecnologia, una newsletter su tecnologia e società. sito di notizie il bordo Condividi la dichiarazione completa di Google.
Poiché condividiamo i nostri principi di intelligenza artificiale, prendiamo sul serio lo sviluppo dell’IA e rimaniamo impegnati nell’innovazione responsabile. LaMDA è stata sottoposta a 11 diverse valutazioni e all’inizio di quest’anno abbiamo pubblicato un documento di ricerca che descrive in dettaglio cosa comporta lo sviluppo responsabile.
Se un dipendente condivide le sue preoccupazioni sul nostro lavoro, come ha fatto Blake, le esaminiamo in dettaglio. Abbiamo trovato l’affermazione di Blake secondo cui LaMDA ha sentimenti completamente infondati e abbiamo trascorso diversi mesi cercando di chiarirlo con lui. Queste discussioni facevano parte di una cultura aperta che ci aiuta a innovare in modo responsabile.
Pertanto, è un peccato che, nonostante un lungo post su questo argomento, Blake scelga ancora di continuare a violare chiare politiche sull’occupazione e sulla sicurezza dei dati, inclusa la necessità di proteggere le informazioni sui prodotti.
Continueremo il nostro rigoroso sviluppo di modelli linguistici e auguriamo a Blake tutto il meglio.
Accesso gratuito illimitato a Showbytes? E questo può!
Accedi o crea un account e non perderti mai nulla dalle stelle.