La Seconda Legge afferma

Un robot deve obbedire agli ordini impartitigli dagli esseri umani tranne quando tali ordini sarebbero in conflitto con la Prima Legge.

Quindi sta dicendo che rifiutandosi di salvare la ragazza come ordinato dal detective Spooner, il robot ha infranto quella legge? L'unico modo in cui non può aver infranto la seconda legge è se il corollario entra in gioco e sarebbe in conflitto con la prima legge.

La prima legge dice

A il robot non può ferire un essere umano o, attraverso l'inazione, permettere a un essere umano di subire danni.

Ovviamente, il robot non ha ferito direttamente nessuno, quindi è fuori dai giochi. Il robot non ha permesso alla ragazza di farsi del male inazione poiché il robot sta agendo aiutando Spooner (cioè non sta solo lì a guardare). Tuttavia, se, come dici tu, era statisticamente più probabile che Spooner sarebbe sopravvissuto con un po 'di aiuto, allora obbedire a Spooner e aiutare la ragazza potrebbe essere interpretato come lasciare che Spooner venga danneggiato dall'inazione.

Quindi il secondo La Legge non è infranta poiché è governata dalla Prima Legge. La Prima Legge non è stata infranta poiché il robot ha fatto del suo meglio per salvare un essere umano.

Il film sembra funzionare sulla meccanica anacronistica di Asimov

Quello che avremmo qui è probabilmente un conflitto tra prima legge e prima legge. Poiché il robot non può salvare entrambi gli esseri umani, uno dovrebbe morire.

Io, l'era dei robot:

C'è sicuramente un precedente per un Io, Robot era un robot che permetteva consapevolmente agli umani di venire a nuocere, nel racconto "Little Lost Robot", ma questo era nella circostanza che l'umano sarebbe venuto a danneggiare indipendentemente dal l'azione del robot, quindi i robot ritengono che non sia attraverso la loro inerzia che gli umani vengono a nuocere.

Tuttavia, sospetto che invece un robot Asimov interpreterà la situazione nel film come un primo- conflitto tra legge e prima legge, dal momento che entrambi gli umani potrebbero essere salvati a seconda della decisione del robot. In altre parole, il robot avrebbe potuto salvare il bambino, ma non l'ha fatto, il che sarebbe stato una prima violazione della legge. Guardando entrambe le vittime allo stesso modo, il robot scoprirà che si tratta di un conflitto tra prima legge e prima legge.

Il racconto "Bugiardo" esplora cosa succede quando un robot si trova di fronte a uno scenario di prima legge contro prima legge:

A causa di un difetto di produzione, viene creato un robot, RB-34 (noto anche come Herbie) che possiede abilità telepatiche . Mentre i robotisti della U.S. Robots and Mechanical Men indagano su come ciò sia avvenuto, il robot dice loro cosa pensano gli altri. Ma la Prima Legge si applica ancora a questo robot, quindi mente deliberatamente, quando necessario, per evitare di ferire i loro sentimenti e per rendere le persone felici, soprattutto in termini di romanticismo.

Tuttavia, mentendo, le fa male Comunque. Quando viene confrontato con questo fatto da Susan Calvin (a cui ha falsamente affermato che il suo collega era infatuato di lei - una bugia particolarmente dolorosa), il robot sperimenta un conflitto logico insolubile e diventa catatonico.

In breve, un robot dell'era I, Robot nella scrittura di Asimov non sarebbe stato in grado di continuare a funzionare dopo questo scenario e avrebbe dovuto essere scartato completamente. È probabile che non sarebbe nemmeno in grado di funzionare dopo essere stato inizialmente affrontato con lo scenario, distruggendosi così prima di essere in grado di salvare uno dei due umani.

La seconda legge è irrilevante, perché prima legge contro prima la legge si traduce in una situazione di stallo insormontabile. La prima legge è la "carta vincente" per così dire, e non è data una priorità, per timore che la seconda o la terza competano, come vediamo in Runaround:

Nel 2015 , Powell, Donovan e Robot SPD-13 (noto anche come "Speedy") vengono inviati a Mercury per riavviare le operazioni in una stazione mineraria abbandonata dieci anni prima.

Scoprono che le banche di fotocellule che forniscono supporto vitale alla base sono a corto di selenio e presto falliranno. La pozza di selenio più vicina è a diciassette miglia di distanza, e poiché Speedy può resistere alle alte temperature di Mercury, Donovan lo manda a prenderla. Powell e Donovan si preoccupano quando si rendono conto che Speedy non è tornato dopo cinque ore. Usano un robot più primitivo per trovare Speedy e cercano di analizzare cosa gli è successo.

Quando alla fine trovano Speedy, scoprono che sta correndo in un enorme cerchio attorno a una pozza di selenio. Inoltre, notano che "l'andatura di Speedy [include] un peculiare barcollamento rotolante, un evidente barcollamento da lato a lato". Quando viene chiesto a Speedy di tornare con il selenio, inizia a parlare in modo strano ("Hot dog, giochiamo. Tu prendi me e io ti prendo; nessun amore può tagliare il nostro coltello in due" e citando Gilbert e Sullivan). Speedy continua a mostrare sintomi che, se fosse umano, verrebbero interpretati come ubriachezza.

Powell alla fine si rende conto che la fonte di selenio contiene un pericolo imprevisto per il robot. In circostanze normali, Speedy osservava la Seconda Legge ("un robot deve obbedire agli ordini"), ma, poiché Speedy era così costoso da produrre e "non era una cosa da distruggere con leggerezza", la Terza Legge ("un robot deve proteggere il suo la propria esistenza ") era stata rafforzata" in modo che la sua allergia al pericolo è insolitamente alta ". Poiché l'ordine per recuperare il selenio è stato formulato casualmente senza un'enfasi particolare, Speedy non può decidere se obbedire (Seconda Legge) o proteggersi dal pericolo (Terza Legge rafforzata). Oscilla quindi tra le posizioni: più lontano dal selenio, in cui l'ordine "supera" il bisogno di autoconservazione, e più vicino al selenio, in cui la coazione della terza legge è maggiore e lo spinge indietro. Le leggi in conflitto causano quello che è fondamentalmente un ciclo di feedback che lo confonde al punto che inizia ad agire ubriaco.

I tentativi di ordinare a Speedy di tornare (Seconda Legge) falliscono, poiché il cervello positronico in conflitto non può accettare nuovi ordini . I tentativi di forzare Speedy alla base con acido ossalico, che può distruggerlo (terza legge), fallisce, semplicemente induce Speedy a cambiare rotta finché non trova un nuovo equilibrio evitare pericolo / ordine di seguire.

Of Naturalmente, l'unica cosa che vince sia la Seconda che la Terza Legge è la Prima Legge della Robotica ("un robot potrebbe non ... permettere a un essere umano di venire a nuocere"). Pertanto, Powell decide di rischiare la vita uscendo al caldo, sperando che la Prima Legge costringa Speedy a superare la sua dissonanza cognitiva e salvargli la vita. Il piano alla fine funziona e il team è in grado di riparare le banche di fotocellule.

Era dei romanzi di robot:

Qualche migliaio anni dopo l'era I, Robot , il dilemma tra prima legge e prima legge è stato sostanzialmente risolto.

In The Robots of Dawn, un robot umanoide subisce una situazione di stallo e viene distrutto, ed Elijah Bailey ha il compito di scoprirne il motivo. Suggerisce al dottor Fastolfe, uno dei più grandi robotisti dell'epoca nonché proprietario e creatore del robot, che un dilemma tra prima legge e prima legge potrebbe essere responsabile, citando la storia di Susan Calvin e del robot psichico. Tuttavia, il dottor Fastolfe spiega che questo è essenzialmente impossibile nell'età moderna perché anche alle prime invocazioni della legge viene data una priorità e priorità uguali vengono selezionate in modo casuale; che lui stesso è probabilmente l'unica persona in vita che può orchestrarlo, e dovrebbe essere in una buona giornata.

Vediamo casi diretti di robot che gestiscono la priorità nei conflitti di prima legge nei romanzi, come in The Naked Sun, quando un altro robot di forma umana costringe Bailey a sedersi in modo che possa chiudere la parte superiore di un trasportatore per proteggerlo dalla sua agorafobia.

Lo svantaggio è che è possibile, sebbene richieda circostanze estreme, che più ricorsi di seconda o terza legge prevalgano su un appello alla prima legge, poiché vediamo di nuovo in The Robots of Dawn che Bailey nota che un gruppo di robot è disposto a trascurare le sue ferite quando insiste sul fatto che non sono gravi e li istruisce casualmente a svolgere i propri affari. Sa che questo comando non può superare l'appello alla prima legge, e quindi ritiene che ai robot siano state date anche istruzioni molto rigide. I due comandi e la sua stessa minimizzazione della gravità della sua situazione, ragiona, sollevano la priorità della seconda legge rispetto a quella della prima legge.

Si dice che il robot in questione nel film abbia deciso che un essere umano aveva maggiori possibilità di sopravvivenza rispetto all'altro e abbia utilizzato queste informazioni per determinare quale essere umano salvare. Questo non sarebbe stato un fattore nell'era I, Robot , ma è un fatto della robotica di base nell'era dei romanzi sui robot. Tuttavia, sembrerebbe che il comando di Spooner di salvare la ragazza non abbia invece una priorità sufficiente per superare la differenza di priorità tra il suo primo appello legale e quello del bambino.

Esaminerò questa domanda da un punto di vista logico del mondo reale.

Il robot non infrange la seconda legge; ma tecnicamente, fa il secondo. Detto questo, le regole sarebbero solo una spiegazione condensata di una logica e di un codice informatico molto più intricati.

Per citare le leggi della robotica di Isaac Asimov, sottolineo la mia:

Regola 1:
Un robot non può ferire un essere umano o, per inerzia , consentire a un essere umano di subire danni.
Regola 2:
Un robot deve obbedire agli ordini impartitigli dagli esseri umani tranne nei casi in cui tali ordini siano in conflitto con la Prima Legge .
Regola 3:
Un robot deve proteggere la propria esistenza fintanto che tale protezione non è in conflitto con la prima o la seconda legge. ^{Irrilevante, ma fornita a scopo di completamento.}

Nella situazione data, il robot doveva agire per salvare Will o il bambino. Il robot, essendo in grado di calcolare le probabilità con un tasso di previsione quasi perfetto, è in grado di stabilire che non può agire in tempo sufficiente per salvare sia Will che il bambino ; e le probabilità dicono che Will ha maggiori possibilità di sopravvivere. In tal caso, è logico scegliere Will. Questo è un punto chiave della trama; i robot scappano dalla logica pura, un fatto che li differenzia notevolmente dagli esseri umani.

Quando il robot non riesce a anche salvare il bambino, è causare danni per inerzia . Tuttavia, ancora una volta, il robot sa che è impossibile salvare sia Will che il bambino. Sceglie l'opzione migliore, al fine di aderire al meglio alle sue regole. È qui che entra in gioco una maggiore comprensione dei computer e delle regole stesse.

Cosa accadrebbe effettivamente, considerando la regola esplicita

Le regole non sono un fatto assoluto. Non sono lì per dire "i robot non danneggeranno mai un essere umano e salveranno sempre la situazione, se presenti". Lo sappiamo da come si svolge il film. Le regole sono semplicemente le regole usate per governare le azioni dei robot, al contrario. Come programmatore, questo è qualcosa che mi è palesemente ovvio; ma sono fiducioso che non sia così per altri che non hanno familiarità con quanto sia strettamente aderente qualsiasi sistema informatico.

Il punto è che la regola non indica qualcosa al riguardo "non conta" perché il robot "sta già salvando qualcuno". In quanto tale, solo considerando questa regola esplicita (come interpreterebbe qualsiasi computer o robot, almeno), non è ammessa una situazione in cui il robot può salvare solo una delle due persone in pericolo. Nell'informatica reale, considerando solo la regola esplicita , un tale evento probabilmente causerebbe un ciclo infinito. Il robot si sarebbe fermato dov'era e avrebbe continuato a elaborare il catch-22 per sempre; o almeno, fino a quando la sua logica non lo ha cacciato dal processo di pensiero. A questo punto, il robot scaricherà la sua memoria dell'evento corrente e andrà avanti. In teoria.

Cosa succederebbe probabilmente, in versi

In versi, le regole sono molto più complicate; almeno, interna al robot. Probabilmente ci sarebbero molti casi speciali, durante l'elaborazione delle regole fondamentali, per determinare come agire in tali situazioni. Di conseguenza, il robot è ancora in grado di agire e ottiene il risultato più logico. Salva solo Will, ma fa salva qualcuno .

È molto più comprensibile che le regole vengano semplificate in tre situazioni generiche di casi comuni; sarebbe molto meno credibile che le persone si fidassero così facilmente dei robot se la regola fosse "Un robot non può ferire un essere umano o, per inerzia, permettere a un essere umano di subire danni; a meno che così facendo, ci siano maggiori possibilità di impedire a un altro essere umano di subire danni ". Ci sono solo molti modi per interpretarlo.

Quindi, per quanto riguarda le regole esplicite, il robot non infrange la seconda regola; disobbedire all'azione di Will non va contro "impedire a un umano di venire a nuocere per inerzia", ​​perché disobbedendo a Will, salva Will. Tuttavia, non infrange la regola del "tramite l'inazione, consenti a un essere umano di subire danni".

Per quanto riguarda il modo in cui il robot elaborerebbe queste regole, non sarebbe affatto infrangere le regole. Ci sarebbe una serie molto più complessa di logiche "if .." e "else ..", in cui la logica del robot permetterebbe di andare contro queste regole di base in situazioni in cui la logica impone che a prescindere dall'opzione , un essere umano subirebbe comunque del male.

Questo è ulteriormente stabilito, verso la fine del film;

I robot sono in grado di stabilire efficacemente la legge marziale e, così facendo, danneggiare diversi umani; si sono sviluppati abbastanza da stabilire che danneggiando alcuni esseri umani imprigionando efficacemente il resto della popolazione, prevengono molti più danni attraverso tutte le varie azioni che ci piacciono per arrivare al rischio e, in alcuni casi, alle nostre vite .

Quindi, la prima legge come regola in bianco e nero non funziona davvero senza qualche scherzetto, perché (come menzionato da altre risposte) di triage.

La mia interpretazione di come il film implementa le leggi è che per il contesto di "salvataggio di vite", i robot fanno un calcolo EV (Expected Value); ovvero, per ogni scelta calcolano la probabilità di successo e la moltiplicano per il numero di vite salvate.

Nel caso Will Smith vs. Child, salvare Will Smith potrebbe essere una probabilità del 75% di successo mentre il bambino ha solo il 50% di possibilità di successo, il che significa che l'EV per salvare Will Smith è 0,75 vite e l'EV del bambino è 0,5. Volendo massimizzare le vite salvate (come definito dalla nostra prima legge basata sulla probabilità), il robot sceglierà sempre Will, indipendentemente dalle direttive impartite. Obbedendo agli ordini di Will, il robot "ucciderebbe" 0,25 esseri umani.

Questo può essere esteso alle probabilità applicate a più esseri umani in pericolo (ad es. Salvare 5 esseri umani con il 20% di possibilità è meglio che salvare 1 essere umano con il 90% di probabilità) e di per sé potrebbe portare ad alcune conclusioni interessanti, ma penso che sia una spiegazione ragionevole per gli eventi del film.

Il nucleo di quasi tutte le storie di robot di Asimov riguarda l'interazione delle leggi della robotica tra loro e attraverso le storie puoi raccogliere molto di come Asimov considerava i suoi robot funzionanti.

Nelle storie le leggi della robotica non sono semplici cose cablate. Non c'è una semplice dichiarazione "If then else" in corso. Nel cervello dei robot c'è una ponderazione che viene applicata a ogni evento. Un esempio è che un robot considererà gli ordini dei suoi proprietari più importanti di quelli di chiunque altro. Quindi, se mando il mio robot nei negozi per comprare alcune cose e qualcuno lo ordina di fare le sue commissioni mentre è fuori, il robot è in grado di considerare il mio ordine più importante di altri.

Allo stesso modo vediamo robot scegliendo tra due possibili prime violazioni della legge. Chi salva? Fa un calcolo e decide che Will Smith è il migliore da salvare.

Una volta che ci pensiamo in termini di queste ponderazioni, possiamo quindi considerare come dare un ordine al robot potrebbe cambiare le cose.

Se la valutazione del robot fosse molto vicina su cui salvare (ad esempio, in modo che si sia trattato solo di scegliere il più vicino piuttosto che in base alle possibilità di sopravvivenza) allora forse il peso aggiunto dell'ordine potrebbe spingerlo a cambiare la linea di condotta che ha il peso maggiore. Tuttavia, la prima legge è la più importante e quindi il peso di un ordine è il più delle volte insignificante rispetto ai fattori utilizzati per valutare la situazione prima dell'ordine.

Quindi, in sostanza, cos'è sta accadendo che il robot sta trovando la migliore linea d'azione per raggiungere i suoi obiettivi. Proverà a salvarli entrambi. Se non può, farà solo il meglio che può e questo è ciò che vediamo. Il fatto che Will Smith gli avesse detto di fare qualcosa di diverso non aveva alcun effetto perché la prima legge lo obbligava ancora a fare ciò che riteneva migliore.

Detto questo, la domanda vera e propria: "Questo robot ha infranto la seconda legge della robotica o c'è qualche sfumatura di interpretazione delle leggi che potrebbe spiegare il suo comportamento?"

Le leggi sono sfumate. Le vite dei robot sono interamente viste attraverso la lente delle tre leggi. Ogni singola cosa che fa è controbilanciata dalle tre leggi. Ad esempio, considera che in una strada affollata c'è sempre la possibilità che una persona entri in un robot e si ferisca. Nella maggior parte dei casi, è probabile che ciò non provochi nulla che si avvicini a una ferita per la persona, ma potrebbe ferire un po ', la persona potrebbe essere infastidita e quindi sarà una potenziale violazione della prima legge: il robot potrebbe fare il meglio evitatelo non entrando in quella strada affollata ma gli ho ordinato di andare a fare la spesa. È probabile che la linea d'azione dei robot sia quella di fare la spesa per cui l'ho ordinato e quindi trovarsi in una strada trafficata. È probabile che si assicuri che sia il più consapevole possibile di tutti coloro che lo circondano per assicurarsi che non causi inavvertitamente danni a qualcuno. Vale a dire che deve intraprendere un'azione positiva per evitare eventuali urti o sarebbe caduto in fallo "per inazione ...".

Quindi sì, è tutto molto complicato e questa è la bellezza del film e tutto delle storie di asmiov. Il film è incentrato su un robot (VIKI) e sulla sua interpretazione delle tre leggi. Fa quello che alcuni considererebbero un danno perché in realtà lo considera il danno minore .

Credo di aver letto tutte le storie e i romanzi sui robot di Asimov e la mia percezione era che le Tre Leggi fossero solo riassunti verbali (come le tre leggi della termodinamica) che generalizzano una grande quantità di comportamento osservato. In questo senso, il comportamento effettivo dei robot è determinato da un codice incredibilmente intricato e complicato e fa anche uso di fisica subatomica e dello stato solido più avanzata che attualmente non comprendiamo. Le tre leggi sono solo modi molto ovvi per riassumere come sembrano comportarsi in generale in situazioni molto semplici nello stesso modo in cui analizzare il comportamento complessivo del Sole e della Terra è abbastanza semplice usando la legge di Newton ma analizzando gli effetti gravitazionali e le perturbazioni su gli asteroidi sulla cintura degli asteroidi dovuti a Giove sono molto più difficili o impossibili.

Sono situazioni in cui le leggi sembrano essere infrante ma questo è solo il risultato del codice che sta guidando il robot ad analizzare un situazione estremamente complicata rapidamente e poi si arriva a una decisione su cosa dovrebbe fare e le Tre Leggi sono considerate indistruttibili solo essenzialmente come un dispositivo drammatico o letterario.

Penso che il robot non abbia infranto la seconda legge. Ecco come immagino che funzioni il robot: il robot controlla continuamente le 3 leggi.

Legge 1: il robot deve salvare entrambi i fabbri o il bambino. Poiché il bambino ha minori possibilità di sopravvivere, sceglie Will.

Legge 2: il robot deve obbedire agli umani: Will gli dice di salvare la ragazza. L'Ordine viene ignorato perché la Legge 1 ha Priorità più alta.

Legge 3: non fa del male a se stesso, quindi chi se ne frega

Sembra che la prima legge gli permetta di ignorare la legge 2 e 3 e la seconda gli consente di ignorare la legge 3 Ignorare non è la stessa cosa che infrangere la Regola in questo caso perché la Legge 2 afferma specificamente che può essere ignorata . Quindi non è infranta.

Poiché il robot non può salvare sia la ragazza che Spooner, l'interpretazione "triage" della Prima Legge - "minimizza il danno netto" - entra in gioco. Se il robot avesse obbedito a "Salva la ragazza! ", il robot non minimizzerebbe più il danno netto - e QUELLA è una violazione della Prima Legge. Quindi la prima legge ha la precedenza sulla seconda legge qui.

[nota a margine: non vediamo molto di questo evento, ma scommetto che il robot sarebbe stato gravemente danneggiato se avesse dovuto scegliere, però non verrà mostrato fino a dopo aver salvato Spooner (altrimenti QUESTO violerebbe la Prima Legge)]

Non importa come fosse calcolata la probabilità di sopravvivenza di entrambi ...

Il robot non si sarebbe fermato a considerare le questioni relative alla seconda legge, fino a quando non si fosse concluso il blocco delle azioni relative alla prima legge, che era stato quello di salvare la vita in ordine di probabilità di sopravvivenza.

Sarebbe una svolta più interessante se Will gridasse: ho un cancro terminale!

E in questo modo cambierebbe il informazioni e probabilità di entrambi.

La seconda legge è "infranta"?

Forse è proprio qui che la logica computazionale e la lingua inglese non si mescolano?

La logica seguente potrebbe essere un po 'buggata e / o inefficiente ma è un'interpretazione di come la prima " law 'potrebbe funzionare spiegando il comportamento del robot in questione.

Quando viene chiamata la funzione Legge1, il robot analizza le condizioni di tutti gli esseri umani in una lista (forse tutti gli umani di cui è a conoscenza); Valuta la gravità del pericolo in cui si trovano e li confronta; quindi, se ci sono più esseri umani con gravità di pericolo simile (massima rilevata), confronta ciascuno di quegli esseri umani e determina quale è più probabile che venga aiutato con successo; E fintanto che almeno un essere umano deve essere protetto da danni, law2 non viene eseguito.

  Private Sub UpdateBehavior (ByVal human As List (Of Human), _ ByVal humanOrders As List (Of Order), ByVal pDangers As List (Of pDanger)) Dim bBusy as boolean bBusy = False Law1 (human) If Not bBusy Then Law2 (humanOrders) if Not bBusy Then Law3 (pDangers) Exit SubPrivate Function Law1 (ByVal human As List (Of Human)) As BooleanDim human as HumanDim targetHuman as Human Try Set targetHuman = Nothing 'loop elenca umani For Each human In human If human.IsInDanger () Then' Enumerate 'danger' into predeterminate severities / urgencies '(eg. affamato > che cade > che viene accoltellato) "e confronta If targetHuman.DangerQuantification () < human.DangerQuantificationThen ()" Se il confronto tra la quantità di pericolo di un essere umano è notevolmente maggiore ", rendi quell'umano il nuovo bersaglio Se t targetHuman = human 'Dove entrambi gli esseri umani sono in quantità quantificabili uguali di pericolo Altrimenti If targetHuman.DangerQuantification () = human.DangerQuantification () then' CompareValueOfHumanLife () 'Can-Of-Worms INTENZIONALMENTE RIMOSSO!
If rescueSuccessRate (human) > rescueSuccessRate (targetHuman) 'Target the human where the rate of positive harm prevent is higher Set targetHuman = human End If End If Else' Imposta il primo essere umano trovato ad essere in pericolo come target iniziale Human = human End If Next human If Not targetHuman Is Nothing then Law1 = True Rescue (TargetHuman) else Law1 = False End If AvoidHarmingHumans () catch initiateSelfDestruct () end tryEnd Function  

Così il robot ha infranto la seconda legge ? Alcune persone potrebbero dire "Il robot ha agito in modo contrario alla semplice definizione inglese della legge e quindi è stato violato". mentre altre persone potrebbero dire "Le leggi sono solo funzioni. La legge1 è stata eseguita. La legge2 non lo è stata. Il robot ha obbedito alla sua programmazione e la seconda legge semplicemente non si è applicata perché la prima ha avuto la precedenza".