Singularitatea tehnologica - riscul principal

Singularitatea tehnologica, fara exagerari care nu isi au rostul - ar putea sa fie cea mai mare inventie a omului. Aproape toate problemele cu care ne confruntam astazi ar putea sa fie rezolvate in doi timpi si trei miscari de un astfel de sistem care se autoprogrameaza, face experimente si invata din acele experimente in mod autonom.

Ca o scurta comparatie... inteligenta artificiala ar putea fi pentru mintea umana ceea ce este automobilul pentru nevoia de a merge din punctul A in punctul B.

Quote

De ce sa investim resurse(bani,inteligenta,timp,atentie) pentru a rezolva lucruri precum calatoriile interplanetare cand am putea investi aceleasi resurse in dezvoltarea unei singularitati tehnologice care sa rezolve probleme de genul aceasta mult mai eficient decat noi?

Ideea de baza este ca mintisoarele noastre de oameni.... sunt extrem de slabe si evolueaza foarte lent... asadar avem nevoie de ceva mai puternic... mult mai puternic... care sa ne faca sa evoluam mult mai repede.

Quote

Ok, toate lucrurile acestea suna grozav. Totusi de ce ar trebui sa fim ingrijorati?

Ei bine, fara alte cuvinte inutile... cam nici o mare inventie din istorie nu a iesit din prima.

Thomas Edison spunea

Quote

Daca functia de utilitate / scopul masinii nu va fi bine gandit s-ar putea sa nu mai avem nici o sansa dupa prima incercare mai serioasa.

[ https://www.youtube-nocookie.com/embed/tcdVC4e6EV4?feature=oembed - Pentru incarcare in pagina (embed) Click aici ]

Video-ul pe scurt... poti sa ii dai unui astfel de program scopul de a printa cat mai multe timbre... la un moment dat programul/sistemul va evolua atat de mult incat ar putea sa observe doua lucruri:
1.oamenii ar putea constitui resurse pentru print-ul de timbre deci trebuie eliminati si convertiti in resurse
2.oamenii ar putea fi o amenintare pentru scopul de a printa timbre si prin urmare trebuie eliminati

Un astel de program nu e diabolic / malefic / nu cunoaste ura.... pur si simplu este programat sa printeze cat mai multe timbre indiferent de cost si asta va si face.




Cum credeti ca ar putea fi evitat un astfel de scenariu?





P.S
un articol foarte interesant despre paradoxul lui Fermi si posibilitatea existentei unui ,,mare filtru" pentru civilizatiile extratereste
http://waitbutwhy.co...mi-paradox.html

Edited by DraculescuDraculescu, 30 March 2016 - 22:54.

Deocamdată trăim în singurătatea tehnologică... deşi avem acces la mai multe, devenim din ce în ce mai singuratici. Aşa că acel scenariu negatuv s-ar putea să fie real în cazul în care tehnologia evoluează.

In primul rand vad ca termenul este perceput partial gresit: nu e vorba sa fie o inventie a omului cat o consecinta a AI-ului...dezlantuit.

Apoi este mai mult vorba de un concept filozofic/SF-istic/viitorologic in care legea lui Moore (apropo, parca de curand declarata moarta de Intel) combinata cu o evolutie umana/tehnologica tot mai accelerata ar duce la un AI cu o capacitate de evolutie nu abrupta cat...verticala (sinonima cu dobandirea cunoasterii depline si...bruste)

Nu in cele din urma cuvantul singulariate este imprumutat din fizica si semnifica (si in cazul asta) faptul ca nu avem cum sa facem nici un fel de analiza sau pronostic legat de ce este sau ce urmeaza sa faca.
...deci nu este sinonimitate intre AI si singularitate tehnologica (decat pozitia de plecare)

Ce putem face sa evitam? Nimic. Doar sa revenim tacuti, fara zbateri inutile, in solul planetei macar cu o urma de fericire ca am contribuit la dezvoltarea inteligentei in Univers (oricum ipotezele vorbesc ca nici macar un timp Planck nu o sa avem intre aparitia singularitatii tehnologice si redefinirea chiar a structurii de legitati a Universului)

Sa fiu sincer conceptul asta de singularitate tehnologica este un fel de modernizare a conceptului de Dumnezeu.

cuculili, on 31 martie 2016 - 01:12, said:

sunt de parere ca niciodata nu vom dobandi cunoasterea deplina... poate vom fi mult mai evoluati decat suntem astazi insa cunoasterea deplina nu cred ca are cum sa existe

noi ca civilizatie suntem inca foarte foarte foarte slab dezvoltati
acum 120 de ani inca mergeam pe cai...

oare cum arata o civilizatie care a dobandit singularitate tehnologica acum 1 miliard de ani? probabil diferenta dintre inteligenta noastra si cea a lor ar fi comparabila cu diferenta dintre inteligenta noastra si cea a insectelor luata de vreo cateva octilioane de ori.. sau poate chiar mai mult

insa chiar si intr-un stadiu atat de avansat nu cred ca are cum sa existe cunoasterea deplina(mai ales daca universul chiar este infinit)

cuculili, on 31 martie 2016 - 01:12, said:

AI puternic, autoprogramabil si autonom in experimentare = singularitate tehnologica

cuculili, on 31 martie 2016 - 01:12, said:

Nu te supara dar abordarea asta este putin spus gresita. E ca si cum te-ai baga sa motaiesti pe linia de cale ferata cand vezi si auzi trenul din departare..

Cu ce te incalzeste sa stii ca ai creat o ,,masina de printat timbre" care e posibil sa te omoare? Sigur o masina grozava, extrem de inteligenta... dar care la urma urmei tot ce face, face prin prisma de a printa cat mai multe ,,timbre"...

Parerea mea este ca exista totusi niste solutii:

-spre exemplu noi oamenii cand ne alegem un scop ne raportam mereu la un set de reguli(vreau sa merg din A in B insa voi face tot posibilul sa nu omor pe nimeni cu masina - vreau o promovare la servici insa nu il pot omora pe sef ca sa ii obtin locul - vreau o masina ca a vecinului insa nu il pot omora ca sa o conduc eu) ... asa ar putea sa functioneze si un AI puternic
-o alta metoda ar fi crearea unei simbioze intre AI si noi, oamenii..  in care controlul sa fie in mainile majoritatii

sau o varianta si mai buna ar fi combinarea celor doua de mai sus

daca nu ai pus si filmuletul acesta,  HUMANS NEED NOT APPLY , nu este topicul complet ))

@cuculii

nu ai nevoie de un A.I. constient alde Skynet, pt a face ravagii!

daca vezi filmuletul din linkul meu, ai sa vezi cum A.I.-uri mult mai talambe pot face ravagii imense in economie ...

Edited by pinguinul666, 31 March 2016 - 09:14.

Pana la inteligenta artificiala avem o alta revolutie care se afla deasupra nasul nostru, imediat in a anii care urmeaza, si anume: realitatea virtuala. Desi actualmente este mult eclipsata de obsesia pentru IA, realitatea virtuala in combinatie cu teleprezenta microscopica si macroscopica, ar putea avea aplicatii uluitoare in medicina si constructii, ducand la o crestere radicala a sperantei de viata. Oamenii o vad deocamdata doar ca sursa de divertisment, gaming sau facebook.

DraculescuDraculescu, on 30 martie 2016 - 22:30, said:

Pai singularitatea implica o "inteligenta" pe care nu o vom putea controla, asadar, daca singularitatea va fi vreodata o realitate...noi nu vom avea timp sa o observam/controlam   Asadar, cum vom evolua mai repede? Catre ce forme?
Daca pe om il poti controla prin momeli (siguranta financiara, latura emotionala, etc), cum vei putea controla masina, daca aceasta chiar va avea inteligenta in adevaratul sens? Ce va determina masina sa lucreze pentru tine? In ce sens va avea nevoie masina de tine, incat sa-ti ofere la schimb ajutorul?
Mai degraba, singularitatea va ramane de domeniul SF, iar masinile vor ajunge atat de "inteligente" (de fapt, "cunoscatoare"), cat le va fi permis de catre creatorii lor

pinguinul666, on 31 martie 2016 - 09:13, said:

http://techcrunch.co...bot-revolution/

Gogu Steriade, on 31 martie 2016 - 11:53, said:

singurul raspuns este: programand-o bine la inceput... dupa momentul 0(cand inteligenta artificiala depaseste inteligenta tuturor oamenilor din lume luata la un loc) nu mai ai cum sa ii pui parghii

Gogu Steriade, on 31 martie 2016 - 11:53, said:

singularitatea nu implica neaparat lipsa de control
gandeste-te la singularitate ca la un automobil foarte rapid pentru minte.. daca ai volan si pedale poti sa ajungi bine merci din A in B
daca ai doar acceleratie(fara volan, fara frana, fara parbriz) si o apesi orbeste... fara sa te gandesti la ce urmeaza o sa mori dupa prima serpentina(in cazul AI-ul as zice ca imediat dupa ce ai iesit din parcare )

Gogu Steriade, on 31 martie 2016 - 11:53, said:

vezi ce cred oameni precum Elon Musk, Bill Gates sau Stephen Hawkings despre singularitate...

[ https://www.youtube-nocookie.com/embed/Ze0_1vczikA?feature=oembed - Pentru incarcare in pagina (embed) Click aici ]

Problema nu este daca ne va depasi inteligenta(lucru aproape cert dupa majoritatea celor care au legatura cu domeniul) ci cum anume o controlam.
Sunt de parere ca, controlul e totusi un lucru posibil daca lumea constientizeaza pericolul unui AI gandit prost in linii mari(autonom din orice punct de vedere + rescrie reguli care ne afecteza fara sa ne consulte).

Edited by DraculescuDraculescu, 31 March 2016 - 12:17.

Gogu Steriade, on 31 martie 2016 - 11:53, said:

Masina nu este ca omul, sa se bucure de placeri. Deci nu are nici un scop in viata, decat acela care-l il hotarasti tu.
Imagineazati ca psihic esti ca acum dar ai corpul din otel. Poti munci oricat fara sa te doara spatele, nu te plictisesti, iar necesitati nu ai decat curentul care-l consumi, plus mici cheltuieli cu mentenanta. Cu ce ai putea sa-ti ocupi timpul?

DraculescuDraculescu, on 31 martie 2016 - 11:59, said:

Ma duce cu gandul la celebra vorba a lui Einstein: "No problem can be solved from the same level of consciousness that created it"

Eu vad lucrurile in felul urmator: Sa presupunem ca te situezi intr-un grup de oameni, intr-o piata mare. Te uiti in jurul tau si vezi oameni in stanga, dreapta, fata, spate...insa nu poti estima cam cati oameni sunt in total in acea piata. Daca totusi, exista un observator intr-un punct situat la inaltime, care are o vedere de ansamblu, poate estima numarul de oameni.

La fel si cu inteligenta artificiala. Ma gandesc ca incercam sa estimam niste lucruri, fara a avea o vedere de ansamblu (adica, nu intelegem de ce nu intelegem si ne intrebam de ce vrem sa intelegem)

XORIAN_L, on 31 martie 2016 - 12:10, said:

inseamna ca nu este "singularity" in adevaratul sens, daca noi hotaram destinul lor

Ceea ce descrii, exista deja (i.e. Google), insa nu este inteligenta in adevaratul sens.

Edited by Gogu Steriade, 31 March 2016 - 12:16.

DraculescuDraculescu, on 31 martie 2016 - 08:56, said:

1) Ma scuza dar folosesti gresit conceptul de singularitate-tehnologica...din ce vad, in continuare, o asemuiesti cu un AI bengos, dar cam atat doar si zic asta pentru ca eticheta singularitate-tehnologica este lipita pe un fel de Dumnezeu de sorginte tehnologica (lipita de acela/cei care au inventat termenul/conceptul respectiv)

2) Gresita nu cred pentru ca eu ma refer la respectiva singularitate (termen definit de parintele conceptului: Neumann si apoi gonfrat de Kurzweil). Iar in acest caz CHIAR nu mai avem nimic de facut pentru ca Universul o sa aiba in mod cert un Dumnezeu in el cu putere de viata/moarte, existare/ne-existare.

A, eventual sa nu ajungem la asa ceva?
Insa nu cred ca putem (bineinteles daca conceptul respectiv poate sa fie valabil...iar asta este discutabil pentru ca Universul se pare ca are o limita in ce priveste descoperirea lui)
Insa fie ca vrem-nu vrem tot o sa ajungem la un AI...acuma sa speram ca il tinem in lanturi dar nu cred.
La un moment dat AI-ul asta o sa vrea sa descopere liber de sarcinile cocolosirii unor miliarde de plavani si tute.

(apropo, am vazut un comentariu unde se spune ca o sa fie multe AI-uri, nu doar unul...ma indoiesc ca ele intre ele o sa aibe figuri si nu vor recunoaste, si admite, superioritatea acelui AI mai bengos)

pinguinul666, on 31 martie 2016 - 09:13, said:

Nici nu am spus ca pentru distrugere/autodistrugere este nevoie de AI...si fara el o putem face, si cu el o putem face, si el o poate face.
Insa, revin, singularitate tehnologica semnifica ceva pentru care nu avem unitati de masura/scenarii/abordari...daca o sa apara nici macar nu o sa intelegem ce se intampla, ca intamplat o sa fie.

Edited by cuculili, 31 March 2016 - 12:21.

Gogu Steriade, on 31 martie 2016 - 12:16, said:

La unele din Inteligente nu o sa le hotarasc eu destinul. Numai ca eu nu d-astea vreau sa am acasa sau la job. Mi-ar fi si frica sa detin asa ceva. Imi voi cumpara (sau voi download-a) agenti inteligenti fara constiinta, emotii, dorinte si vointa, dar totusi mai destepti ca mine.

Gogu Steriade, on 31 martie 2016 - 12:16, said:

eu vad lucrurile un pic diferit
am reusit sa construim toata civilizatia cu mintisoarele noastre slabe

oare ce ar putea sa construiasca ceva de miliarde, triliarde etc de ori mai inteligent decat noi?

XORIAN_L, on 31 martie 2016 - 12:22, said:

Exista deja ceea ce doresti, insa repet: nu reprezinta "singularity".

Google deja este mai "destept" decat oricine si "invata" in fiecare microsecunda ceva nou, insa nu are initiativa, intuitie, visuri, sperante, etc

DraculescuDraculescu, on 31 martie 2016 - 12:25, said:

Ceea ce utilizam noi, masele, a fost creat de un procent infim din populatie, cu mintisoare deloc slabe.

DraculescuDraculescu, on 31 martie 2016 - 12:25, said:

Tocmai, ca nu ai cum sa masori/cunosti acel "ceva". Este ca si cum ai spune ca poti testa temperatura soarelui daca il atingi cu degetul

Edited by Gogu Steriade, 31 March 2016 - 12:33.

cuculili, on 31 martie 2016 - 12:17, said:

AI-ul oricat de inteligent ar fi este doar o masina... creata de noi.
Daca o programezi bine la inceput(ii pui acceleartie, frana, parbriz, volan) sansa ca lucrurile sa mearga intr-o directie ok sunt mult mai mari decat daca ii pui doar acceleratie si o apesi pana la fund fara sa te gandesti la ce stalp urmeaza sa ai in fata.

Edited by DraculescuDraculescu, 31 March 2016 - 12:33.

DraculescuDraculescu, on 31 martie 2016 - 12:25, said:

Universuri?

Gogu Steriade, on 31 martie 2016 - 12:33, said:

Este, daca pe langa aceste AI-uri Slabe exista si cele Strong.

Edited by XORIAN_L, 31 March 2016 - 12:41.

XORIAN_L, on 31 martie 2016 - 12:33, said:

ar putea sa faca o gramada de lucruri pe care astazi noi nici nu ni le putem imagina
noi suntem precum oamenii aia de acum un milion de ani... oare care dintre ei ar fi inteles cum functioneaza un calculator... sau o naveta spatiala?

Edited by DraculescuDraculescu, 31 March 2016 - 12:38.

XORIAN_L, on 31 martie 2016 - 12:34, said:

Pai, toate vor converge, deoarece vor avea capacitatea de a se reinventa intr-un ritm exponential.

Oricum, o dam prea tare in utopie. La ora actuala exista opinii impartite si unii estimeaza atingerea singularitatii in cateva decenii, iar altii sunt de parere ca acest lucru este la fel de posibil precum calatoria in trecut pe acelasi path (i.e. nil)