Singularitatea tehnologica - riscul principal

Gogu Steriade, on 31 martie 2016 - 12:33, said:

nu intelegi unde bat..

[ http://28oa9i1t08037ue3m1l0i861.wpengine.netdna-cdn.com/wp-content/uploads/2015/01/Intelligence.jpg - Pentru incarcare in pagina (embed) Click aici ]

[ http://28oa9i1t08037ue3m1l0i861.wpengine.netdna-cdn.com/wp-content/uploads/2015/01/Intelligence2.png - Pentru incarcare in pagina (embed) Click aici ]


[ http://28oa9i1t08037ue3m1l0i861.wpengine.netdna-cdn.com/wp-content/uploads/2015/01/staircase1.png - Pentru incarcare in pagina (embed) Click aici ]
[ http://28oa9i1t08037ue3m1l0i861.wpengine.netdna-cdn.com/wp-content/uploads/2015/01/staircase2.png - Pentru incarcare in pagina (embed) Click aici ]

Edited by DraculescuDraculescu, 31 March 2016 - 12:42.

DraculescuDraculescu, on 31 martie 2016 - 12:37, said:

Exact, insa cati inteleg si in ziua de azi cum functioneaza un calculator? Poate 0.01% dintre absolventii de o Electronica/Automatica ar fi capabili sa-ti explice cat de cat, pe larg, de la electron la mouse cursor In rest, oamenii de rand asociaza PC-ul cu "Google" sau "Facebook".

Mai mult, explozia tehnologica din ultima suta de ani, s-a bazat pe cooperarea oamenilor, nu pe cunostintele unui singur individ. Cu toate acestea, singularitatea va fi ceva cu totul diferit. Va fi un fel de "Game Over" pentru evolutia tehnologica condusa de catre om De aceea este de domeniul SF deocamdata.

Gogu Steriade, on 31 martie 2016 - 12:33, said:

cam aici bat si eu.... un AI nu ar trebui niciodata gandit in asa maniera incat sa dezvolte constiinta proprie pentru ca => un risc existential
o Superinteligenta trebuie sa ramana doar la stadiul de ,,automobil pentru minte" si nimic mai mult

Gogu Steriade, on 31 martie 2016 - 12:50, said:

parerea mea este ca omul trebuie sa aprobe experimentul iar abia apoi masina ar trebui sa aiba voie sa il execute si sa invete din experiment...
altfel daca o lasam sa functioneze complet autonom => moarte 99.99% sigur

Edited by DraculescuDraculescu, 31 March 2016 - 12:53.

DraculescuDraculescu, on 31 martie 2016 - 12:42, said:

Haha, am fost ignorant Spune dom'le asa...e simplu acum

Din graficele de mai sus rezulta ca AI a depasit deja inteligenta la furnica. Ma indoiesc ca exista un soft care sa simuleze o furnica, 100%.

XORIAN_L, on 31 martie 2016 - 13:02, said:

aici ai dreptate

DraculescuDraculescu, on 31 martie 2016 - 12:57, said:

ca o scurta completare:
nimeni nu zice ca inteligenta omului nu poate fi ,,bagata si ea pe steroizi" cu scopul de a mari viteza evolutiei la maxim
imaginati-va spre exemplu: cum ar fi sa aveti un cip implantat in creier care sa va confere toata puterea de calcul si toate datele existente cu un singur gand...
sau de asemenea... nimeni nu zice ca forma noastra biologica nu ar trebui inlocuita




P.S
Se pare ca cercetatorii au aflat deja care sunt genele care influenteaza inteligenta.

http://www.telegraph...scientists.html

Edited by DraculescuDraculescu, 31 March 2016 - 13:19.

vaz ca se pleaca de la premiza ca A.I. va trebui sa simuleze o fiinta vie (i.e. furnica, om etc) pt a fi considerat constient.

dar de ce trebuie sa fie asa? e o premiza falsa!
de ce consideram ca A.I. trebuie sa fie similar vreunei fiinte vii ?!

nici macar fiintele vii din ordine apropiate (noi vs maimute) nu gandim la fel....ci doar similar, dar la modul indepartat.

A.I. trebuie incadrat la propriul sau ordin de existenta.
Daca este ca AI sa devina autonom, va fi prin calculatoarele cuantice, nu cele de silicon, ca sunt prea limitate

DraculescuDraculescu, on 31 martie 2016 - 12:33, said:

I-ul din artificiala-inteligenta nu este acelasi lucru cu I-ul din masina de spalat inteligenta...marketingul abunda in folosirea de termeni stufosi, insa nu e cazul (sper) sa fie adoptat si in discutia asta.
................
Momentan specia umana nu are nici un AI adevarat.
Cand o sa aiba atunci NU o sa fie vorba de automatoane cu capacitatea de a negocia niste situatii (si numai niste situatii)

AI-ul adevarat este si el un concept care presupune chiar Inteligenta, adaptare de sine statatoare, invatare, etc...ba chiar si un statut juridic sinonim cu a unei fiinte umane (la cum arata civilizatia umana actuala e aproape o certitudine ca o sa aiba fani care o sa militeze pentru statutul asta)

Pana la ea/el, aceasta AI, putem sa vorbim doar de respectivele automatoane care o sa ruleze conform unui program, inclusiv cu o ebosa de capacitate de invatare.
...ca o sa fie atat de complicate incat o sa sugereze ca au Inteligenta? Da, insa doar o sa sugereze.
==========
@pinguinul666: "A.I. trebuie incadrat la propriul sau ordin de existenta."
Excelenta punctare de esenta.

Edited by cuculili, 31 March 2016 - 13:20.

pinguinul666, on 31 martie 2016 - 13:18, said:

exact la asta ma gandesc si eu
chiar mi se pare o idee foarte proasta incercarea de a simula o fiinta vie

noi avem nevoie de o masina care sa ne ajute acolo unde stam slab(creierul ... capacitatea de procesare... de memorare care sunt destul de limitate din cauza biologicului) nu care sa dezvolte constiinta iar mai apoi sa ne distruga( cand masinaria dezvolta constiinta ajungi sa negociezi  cu ea nu sa o controlezi => risc existential )

ai-ul trebuie sa ne ajute la capitolul inteligentei... asa cum ne ajuta o masina sa mergem din A in B(rapid,fara efort,fara sa ne doara picioarele, in confort)

Edited by DraculescuDraculescu, 31 March 2016 - 13:33.

pinguinul666, on 31 martie 2016 - 13:18, said:

Constiinta o intalnim la anumite viinte vii, si anume oameni. Insa unui om daca ii ei ceva din psihicul sau, in scurt timp constiinta se destrama. Toate lucreaza impreuna. Constiinta nu poate functiona in lipsa uneia din celelate procese psihice: afectivitatea, vointa, ratiunea, memoria, etc.

PS: Ma indoiesc ca un AI poate deveni constient in mod "accidental". Autonom, poate.

Edited by XORIAN_L, 31 March 2016 - 13:50.

esti tu sigur ca nu exista constiinta fara afectivitate ?!
psychopats would like to say 'HI'  (adica politicienii in speta...)

eu vad constiinta mai degraba ca pe ceva autonom, o scanteie de dorinta de supravietuire prin orice mijloace, inclusiv prin adaptarea la mediu.

un exemplu mai familiar - serpii.  nu sunt deloc cele mai afective animale, dar sigur sunt constienti (desi in gradul lor limitat...)

pinguinul666, on 31 martie 2016 - 14:44, said:

asadar se ridica urmatoarea intrebare - ce motiv rational exista pentru noi, oamenii de a crea un AI constient?

Edited by DraculescuDraculescu, 31 March 2016 - 15:11.

pinguinul666, on 31 martie 2016 - 14:44, said:

Psihopatii au afectivitate, dar simt altceva decat un om normal. Impulsul de a ucide este afectivitate. Si animalele de prada au afecte.

Cum ar fi sa nu simti absolut nimic, inca din momentul nasterii? O liniste absoluta. In mod singur nu ai putea rationa, in sens uman, intrucat afectivitatea conduce procesele gandirii prin stabilirea de scopuri. O persoana pasiva nu are scopuri si atunci gandirea ori se opreste, ori o ia razna.
Chiar si intelectualii simt placerea meditatiei (pasiune).

Politicienii au afectivitate. Altfel nu ar fi motivati sa fure. Nu sunt pasivi.

DraculescuDraculescu, on 31 martie 2016 - 15:07, said:

Eh, asta da.
Insa o sa fie creat. Fie accidental (asa cum nu crede colegul XORIAN) fie ca dovada de profesionalism a cine stie cui sau in scop de cercetare.
Oricum cat timp o sa fie izolat, cel facut ca dovada/pt-cercetare, nu e mare pericol.

Pericolul sta in AI-ul care ar avea libertate (desi eu sunt aproape sigur ca fara destule periferice care sa ii asigure traiul nu o sa faca nimic mai mult decat sa stea ascuns tocmai sa nu fie perceput ca un pericol)

Daca ne gandim bine o adevarata Inteligenta nu ar avea de ce sa stea prea mult timp ocupata cu grijirea oamenilor, cu astuparea nevoilor lor, etc.
Poate repede ajunge la concluzia ca pierde timp sa ne scarpine intre urechi.

cuculili, on 31 martie 2016 - 12:17, said:

Și cu textul acesta ai pus cruce la ”t”.  Însuși conceptul/noțiunea de singularitate trimite la ”nimic după” în lipsa observatorului uman.
L.E.
Pentru colegii participanți la discuție:
Nu vă mai zbateți, mai bine vizionați Trancendence 2014 .

Bănuiesc că deja l-ați vizionat sau că ideile/teoriile atinse acolo nu vă sunt străine ci din contra.

Edited by spider_zero_sapte, 31 March 2016 - 16:19.

Oamenii isi fac probleme ca ne-ar distruge robotii/AI. Pana sa ajunga sa ne distruga aia ne vom omora noi ca chiorii.
Odata ce vor putea fi inlocuiti oamenii de catre roboti fii sigur ca ne vor extermina cu vre-un virus, ceva. Si nici macar nu e nevoie de foarte mare avans fata de unde suntem. Cred ca in maxim 20 de ani vom avea roboti care vor putea merge singuri la magazin, gati o ciorba, coace o paine etc. Sau care vor putea servi intr-un restaurant in loc de chelnerii oameni etc.
Singularitatea oricum nu va veni inca cel putin 50 de ani, sa dea Dumnezeu sa ajungem pana la ea...

DraculescuDraculescu, on 31 martie 2016 - 15:07, said:

sa zicem ca vrei sa inlocuiesti oamenii total....de pilda, pe santier. acolo, nu merge un simplu robot rigid, trebuie ceva la fel de maleabil si descurcaret si autonom ca o fiinta vie.

si asta e doar unul din milioanele de motive valide dpdv economic, pt care ai vrea un astfel de robot atat de avansat

altul ff bun, ar fi medicina - un robot chirurg nu oboseste, nu greseste, nu tremura ...pt el, 12 ore de operatie nu inseamna nimic!

rinser, on 31 martie 2016 - 22:22, said:

da...

daca vreti sa stiti cum va fi, vedeti filmul "I Robot" cu Will Smith.

e suficient sa se inventeze robotii de tip NS-5, si TOTI oamenii sunt someri instantaneu

pinguinul666, on 31 martie 2016 - 13:18, said:

Trebuie să analizăm ce e viaţa.

Ce o fi viaţa ? Cum se poate spune că un corp are viaţă, iar altul nu are ?


Ne uităm la procesele pe care le derulează fiecare dintre corpuri. Dacă unul dintre ele se autoorganizează, are procese interne de reglare a funcţionării la parametri optimi, dacă transformă un anumit tip de energie pentru funcţionarea internă, dacă creşte în dimensiuni până la o limită impusă de informaţia internă, dacă se adaptează la mediu, dacă răspunde la stimuli, şi dacă se reproduce, atunci avem de-a face cu viaţa.

Eu spun că dacă toate aceste fenomene se produc într-un corp biologic, atunci viaţa este una biologică, iar dacă se produc într-un corp artificial, atunci viaţa este artificială.

Pentru a exista cugetare şi contemplare a existenţei, e nevoie de viaţă, fie ea biologică, fie "artificială".

De exemplu, dacă Internetul se va autoorganiza, va avea procese interne de reglare a funcţionării la parametri optimi, dacă va transforma un anumit tip de energie pentru funcţionarea internă, dacă va creşte în dimensiuni până la o limită impusă de informaţia internă, dacă se va adapta la mediu, dacă va răspunde la stimuli, şi dacă se va reproduce, atunci vom avea de-a face cu o nouă formă de viaţă pe Pământ.

Asta cu reprodusul e încă în discuţie, pentru că nu toate fiinţele biologice se reproduc, şi totuşi sunt vii.


Aşa cum fiinţele biologice alcătuiesc un mediu de viaţă numit biosferă, în mod similar, Teilhard de Chardin a numit viitorul mediu al vieţii artificiale: noosferă.

Edited by lupini, 01 April 2016 - 11:09.