Avem nevoie de un cod moral pentru roboti

Sorin84k, on 16th June 2012, 21:30, said:

Hm.. Si ce entitate mai inteligenta ca tine va accepta legile tale discriminatorii la adresa ei ?
Ce entitate va accepta sa moara (ca stergerea programului asta ar insemna pt. ea) ca nu ti-a placut tie cum a zambit si n-ai chef s-o intretii in puscarie ?

Sesizezi partea din evul mediu intunecat ? Revolutii alea alea..

@theMisuser nu e vorba de zambit.
E vorba de incalcari ale legilor.
Iar in cazul oamenilor, exista brain washingul.
Astfel cand ar iesi un fost infractor din puscarie, dupa cateva luni de reprogramare, nu ar mai comite infractiuni, pentru ca ar fi un alt om.

Edited by Sorin84k, 16 June 2012 - 22:06.

Sorin84k, on 16th June 2012, 01:12, said:

aici au implementat ei un oarecare mecanism prin care robotii erau capabili sa minta si un mecanism prin care sa spuna adevarul. prin algoritmi genetici s-a selectat caracteristica care duce catre un profit cat mai bun(e evident ca daca-ti pacalesti camarazii vei manca cat mai mult din cascaval). deci experimentul nu e bun. pentru tabloide/reviste e bun...
daca robotii sunt programati sa spuna intotdeauna adevarul e clar ca nu vor ajunge niciodata sa minta..

(descopera.ro e site de pseudostiinta. recomand sa nu mai cititi, formeaza o imagine gresita/deplasata..)

Edited by Isildor, 17 June 2012 - 00:05.

si inca ceva: chiar si cercetatorii cunoscuti/seriosi cand isi prezinta rezultatele au obiceiul de a amplifica, de a arata mai mult decat e in realitatate. daca ati observat aproape toate articolele se termina asa: "descoperirile noastre vor ajuta in viitor bolnavii de..." si insira o gramada

Sorin84k, on 16th June 2012, 22:03, said:

Am exagerat pe motiv retoric.

Sorin84k, on 16th June 2012, 22:03, said:

Amesteci formatarea HDD cu modificarea unor optiuni intr-un fisier.
Confunzi moartea cu trecutul de la bere la vin.

Poate gresesc, dar imi pari un om odios.

Isildor, on 16th June 2012, 23:50, said:

Chestiile astea sint mult mai putin simple decit la prima vedere. In primul rind exista programe despre care nu stim si nu putem stii niciodata ce fac (asta e o certitudine matematica nu o afirmatie despre cit de incapabili sint programatorii de la microsoft de exemplu). Exista programe de citeva linii despre care nu stie nimeni acum ce fac (si nu ma refer la nu stiu ce cod "ascuns", ma refer la chestii scrise in ce limbaj vrei, inclusiv pseudocod). Iar practic vorbind e imposibil sa determini exact ce face orice program mai complicat, chiar daca e din clasa programelor pentru care poti sa determini ce fac. De aia ploua cu updateuri, nu neaparat pentru ca programatorii sint idioti ci pentru ca intr-adevar nu poti sa stii ce face un program. De aia nu a facut nimeni un antivirus "final" care sa poata sa determine ce e virus si ce nu, pentru ca pur si simplu nu poti sa determini ce face un program, decit in cazurile simple.

Asa ca astea cu o sa programez robotul sa faca asta si exact asta va face sint vise si nici macar vise de genul "o sa am o masina zburatoare peste 30 de ani" ci vise de genul "o sa gasesc un numar par care se termina cu 3".

Si inca n-am ajuns la probleme de "lumea reala", erori intimplatoare de memorie/CPU, buguri (persistente) CPU, diferite erori umane, etc.

@theMisuser imi faci impresia ca ala de e beat si comite infractiuni, are o scuza.
Si deci sa nu i se faca un brain washing, ca sa nu mai bea niciodata peste masura.
Destui astfel de tampiti au comis crime, violuri, au lovit cu masinile oameni care au murit, lor de ce sa nu le fie teama de ceva?
Iar cand robotii or sa fie parte din justitie, ma astept ca astfel de indivizi sa nu mai scape nepedepsiti.
Multi infractori, dupa ce ies din puscarie, fac ce au facut si inainte.
Reprogramarea prin brain washing, le da o noua sansa reala la viata.
Cred ca multi patroni nu vor mai avea teama sa ii angajeze, stiind ca a fost folosita pe ei o solutie care functioneaza, si nu o sa se trezeasca cu un topor in cap pentru ca ii reproseaza ceva fostului infractor, sau pentru ca il concediaza, daca nu se descurca la locul de munca.
Si la robot si la om, interventia ar fi in acelasi loc, la creier, unul biologic, altul computerizat.
PS: Se face formatarea hard disk-ului, pentru a fi siguri ca nu raman diverse programele daunatoare, de la fostul sistem de operare (nu neaparat virusi, dar programe care vor schimba in rau scopurile robotului, si create sau instalate de robot).
Plus ca exista si varianta unor teste, pentru a detecta cat de grav este afectat un robot, daca e nevoie de formatare, sau doar de un update/upgrade (asta va tine de posibilitatile de testare si diagnosticare din acel moment).
Exista indivizi periculosi, care nu sunt scosi la munca, nici daca vor.
Si daca mai au si condamnare pe piata in puscarie, practic sunt niste gauri negre pentru bugetul national.
Mai bine un brain washing si sa iasa de acolo in cateva luni, schimbati ca oameni, decat sa manance banii poporului ce munceste, zeci de ani, pana mor.

Edited by Sorin84k, 17 June 2012 - 13:12.

We are the Borg.     .....   Resistance is futile.

Edited by loock, 17 June 2012 - 13:04.

@loock "We are the borg. Resistance is fuetile. Prepare to be assimilated."

Edited by Sorin84k, 17 June 2012 - 13:06.

Cine isi pune problema asta, in mod cert nu are notiuni de programare sau/si cunostinte de IT&C.

S-a pus mai devreme intrebarea "daca faci legi, cine iti garanteaza ca robotul le respecta? ca romanii fura in draci". Da, romanii fura in draci pentru ca intelectul fiintei umane ii permite sa aleaga intre a respecta sau a nu respecta o regula.

O masinarie o poti OBLIGA sa respecte o regula. Si aici nu vorbesc de faptul ca ii scrii 5 linii de cod si trebuie sa se incadreze in alea, ca ar putea sa si le rescrie si sa faca ce vrea ea.

La modul cel mai simplu, poti sa stochezi instructiunile esentiale (legile) intr-o memorie fara posibilitate de alterare. Adica read-only, dar brut, nu ca atribut, aka sa nu aiba fizic si tehnic posibilitate de suprascriere.

Ai chipul 1 cu instructiunile esentiale, pe care robotul le poate doar citi, nu si suprascrie, si chipurile 2, 3, 4 etc. care reprezinta inteligenta/memoria/experienta robotului. Orice face robotul trebuie sa treaca prin chipul 1, problem solved.

Arhitectura sistemului poate fi conceputa astfel incat chipul 1 sa actioneze ca o siguranta electrica centrala. Daca il scoti/arzi, nu mai functioneaza nimic.

Si sunt convins ca daca iei ideile de mai sus si le adaugi cateva miliarde de euro, vreo 500 de creiere educate tehnic si cativa ani de cercetare, o sa rezulte un sistem infailibil.

Serios, nu ma poti convinge ca un soft (IA, virus, ce vrei tu) poate sa evolueze intr-atat incat sa imi deschida tavita de la CD-ROM, sa scaneze dupa moaca mea si sa-mi traga o raza cu cititorul laser direct in retina pentru ca NU ESTE PROGRAMAT SA FACA ASTA si, mai important, NU POATE PROGRAMA ROM-UL unitatii sa faca asta.

Eu sunt convins ca un soft poate evolua intr-asemenea maniera incat sa isi scrie singur orice linii de cod, adica sa "invete" orice si sa poata face orice, insa daca il limitezi hardware, cam aia a fost pentru el.

tchoara, on 13th August 2012, 16:10, said:

O da, asa cum poti obliga un OS (ce OS vrei tu) sa nu aibe probleme de stabilitate sau securitate. Nu, nu s-au bagat bani si creiere in asta, deloc, de aici e problema.

f300, on 13th August 2012, 17:26, said:

Depinde ce intelegi prin OS. Daca prin OS intelegi niste linii de cod si o serie de instructiuni software care permit unui dispozitiv electronic sa functioneze, atunci exista cu siguranta OS-uri foarte stabile si foarte sigure.

Televizorul meu functioneaza de ani de zile fara sa se blocheze vreodata si fara sa fie nevoie sa reinstalez sau sa rescriu nimic.

Telefoanele generatie mai veche (Nokia 3310 de exemplu) functionau fara probleme ani la randul, iar cand se strica ceva "software" la ele, de obicei era o piesa hardware din cauza careia nu mai functiona bine softul (bateria dusa, condensatori umflati etc.).

DVD player-ul la fel, si multe alte exemple.

De ce astea merg si OS-ul de pe un calculator sau de pe un smartphone da rateuri? Exact din motivul pe care l-am mentionat. Pentru ca ceva (virus, alte softuri) sau cineva (Gigel, expertul in programe) modifica colectia de instructiuni care este esentiala rularii stabile si sigure a OS-ului.

Unde nu permiti sa se faca modificari, merge brici.

Daca viitorul inseamna roboti/androizi capabili sa invete sau chiar sa aibe sentimente atunci viiroul este sumbru... in ziua de azi un simplu virus iti "omoara" un calculator fara probleme si fara sa lase urme, ce va impiedica in acel moment ca anumite minti diabolice sa creeze un virus care va face un android oarecare sa kilareasca fara probleme dupa care acel virus sa dispara fara urme... nimeni nu va sti ce si cum... va fi era robotilor asasini... asta e doar un scenariu bazat pe faptul ca nu exista sistem de operare "incoruptibil".
Eu unul sper ca robotii sa ramana la nivelul indeplinirii doar anumitor taskuri specifice sau chestii imposibile pt un om.

E doar o parere.

Necazurile pot fi mai apropiate decît ne asteptăm. Nu se pune problema roboților inteligenți viitori Terminatori. Până acolo mai este cale lungă. Eu mă gândesc la ceva gen " Odiseea spațială 2001 ". Acolo toată treaba
a făcut-o un computer inteligent. Și a făcut-o bine. Supercalculatoare avem deja destule. Depinde când vor apare cele inteligente.

Edited by SylexMM, 16 August 2012 - 15:13.

Roboti si roboti:
[ https://www.youtube-nocookie.com/embed/cj83dL72cvg?feature=oembed - Pentru incarcare in pagina (embed) Click aici ]

[ https://www.youtube-nocookie.com/embed/hYo2EPYXGhU?feature=oembed - Pentru incarcare in pagina (embed) Click aici ]

Edited by poadol, 29 December 2013 - 15:53.